果然任何公司都会有技术债,只是这次 OpenAI 选择了把技术债留给未来的 AI 来还。
OpenAI 刚公开了 ChatGPT 背后的存储系统 Habitat。
它现在每秒处理超过 7000 万次请求,保存 500PB 以上数据,服务每周超过 10 亿用户。但它最早只是一个连接数据库的小型 Python 库。
有意思的是,OpenAI 很早就知道 Python 扛不住未来的规模,也知道迟早要重写,但当时没有立刻动手。他们做了一个很大胆的判断,先用 Python 快速扩张,等必须重写时,未来的 Codex 和 GPT 会让迁移便宜很多。
后来这笔赌注真兑现了。
2026 年第二季度,两名工程师加上 Codex 和 GPT‑5.5,把整个服务重写成了 Rust。现在新版本已经承接 95% 的生产流量,CPU 效率提高 6 倍,内存效率提高 15 倍。
过去我们说技术债,是把今天省下来的时间,留给未来的工程师加班偿还。
OpenAI 这次做的是把债留给未来更强的模型。
这可能会改变软件开发里一个很基础的判断。 以前选错语言、架构不够完美,意味着以后要付一笔很贵的迁移费;如果 AI 能让大规模重写越来越便宜,公司就可能更愿意先用最快的方法把产品做出来,再让未来的模型收拾残局。
当然,这不是鼓励大家随便写。OpenAI 敢这么干,是因为系统边界、测试和监控都足够清楚。
没有这些,AI 重写的不是系统,可能是事故。