ChatGPT 应用近期推送懒加载更新,长对话提速10倍
ChatGPT 桌面端近期优化了长对话的加载方式,不再一打开聊天就读取全部历史内容,而是先加载最近几轮,需要时再继续读取。工程师 Brent Traut 表示,这让长对话的加载时间和内存占用都减少了 90% 以上,新对话已经生效,旧对话之后也会逐步升级。
ChatGPT 最近优化了长对话的加载方式。
过去打开一段很长的聊天记录时,应用会一次性读取此前的全部内容,对话越长,打开速度越慢,占用的内存也越多。
现在改成了按需加载:进入对话时只先读取最近几轮消息,只有继续往上翻时,才加载更早的内容。
负责这项改动的工程师 Brent Traut 表示,更新后长对话的加载时间和内存占用都减少了 90% 以上,打开长聊天大约可快 10 倍,从某条消息另开对话等操作也会更快。
相关优化已应用到 Mac、Windows、Linux、CLI、VS Code 扩展以及基于开源 app server 构建的应用。
目前新对话已经使用这套机制,旧对话之后会逐步迁移;长时间聊天时的输入卡顿等问题还在继续优化。


相关链接:


