AI 时代重新重视硬件效率

约于 2026 年 11 月 1 日首发于 LinkedIn

软件工程
AI 编程
性能优化
回顾软件开发如何用硬件资源换取开发效率,以及 AI 如何改变 CPU、内存、存储和带宽优化的投入产出比。
发布于

2026年11月1日

技术博客 · English

AI 时代,我们可能需要重新重视一项老本领:把硬件用好。

几十年前,硬件资源紧张,程序员习惯了精打细算。

在 FC、Game Boy 上,开发者通过复用图块、限制调色板,用很少的图形内存拼出完整的游戏世界。《Doom》的引擎大量使用定点运算和预先计算的查找表,减少实时计算的负担。到了 PS2,开发者还需要仔细安排向量单元的计算与数据传输,尽可能减少硬件等待的时间。

CPU cycle、内存空间、存储容量、传输带宽,都是需要认真分配的预算。

后来,处理器越来越快,内存和存储越来越充足,硬件资源的单位成本整体下降,而程序员的时间越来越贵。行业逐渐把更多注意力放在 developer productivity 上,用更多的计算、内存、存储和通信开销,换取更快的开发速度和更低的维护成本。

自动内存管理减少了手动释放内存的负担,也带来了垃圾回收的工作。Electron 让团队能用网页技术快速开发跨平台桌面应用,同时接受浏览器运行时带来的内存开销。ORM 减少了手写 SQL,却也可能让额外查询、无用数据和大量临时对象藏在简单的接口后面。微服务方便团队独立开发和部署,也增加了序列化、数据复制和网络通信的成本。

这些取舍有其经济合理性:多用一点 CPU、多占一些内存、多存几份数据,往往比多投入几周工程师时间便宜。久而久之,许多资源开销也就变成了默认接受的成本。

现在,这笔账可能又要变了。

AI 可以协助阅读代码、分析性能数据、重构实现和编写基准测试,让尝试优化方案的成本下降。与此同时,近期部分硬件价格的上涨,也让提高硬件资源利用效率变得更有价值。

例如,把循环里的逐条数据库查询改成批量查询,减少数据库往返;消除反复解析的 JSON 和不必要的数据副本,降低 CPU 与内存开销;采用更紧凑的数据表示,减少存储占用和传输量;调整热点代码的数据布局,提高缓存利用率,让处理器少花时间等待数据。

在 AI 应用中,为合适的任务选择更小的模型、采用量化或批量推理,也可能降低计算与显存需求,让同样的硬件服务更多请求。

这些优化一直有价值。AI 带来的机会,是让更多优化值得投入工程时间,并能更快地通过真实负载验证收益。

这也意味着,程序员值得把更多精力从业务逻辑的实现,延伸到关键路径的资源效率:对象如何分配,数据如何布局,缓存为何失效,并行任务如何调度,数据的存储与搬运又消耗了多少资源。

那些被层层抽象掩盖的底层细节,需要重新进入我们的视野。

当 AI 让“写出代码”变得更容易,理解这些代码如何高效地使用硬件,会成为越来越有价值的工程能力。