Google Alerts RSS:数据中心· SmartHey·· 55 分钟前
奥尔特曼:DRAM供应紧张下,集中化数据中心比本地AI推理更高效
奥尔特曼:DRAM供应紧张下,集中化数据中心比本地AI推理更高效 - SmartHey
AI 导读
OpenAI CEO萨姆·奥尔特曼在YouTube播客Cheeky Pint中表示,在DRAM供应紧张背景下,应优先将算力集中到高利用率的数据中心,而非在个人电脑等终端分散运行本地AI推理。他称大量PC内存日均使用率可能不足5%,同等容量经云端智能调度可服务数十倍以上并发请求。
正文
2026-11-01 09:38
字号
SmartHey11月1日消息,OpenAI CEO 萨姆・奥尔特曼昨日在 YouTube 播客节目 Cheeky Pint 中强调,降低AI计算成本的关键在于提升硬件资源利用率,尤其在DRAM内存芯片全球供应持续紧张的背景下,应优先推动算力向高利用率的数据中心集中。
奥尔特曼指出,当前AI行业正面临严峻的全球算力基础设施约束,并以个人电脑运行本地大模型为例,剖析了资源分散使用的低效性。
尽管开源模型的普及让越来越多用户尝试在本地设备上部署AI推理,以增强数据自主性和隐私保护,但奥尔特曼提醒:在关键存储资源(如DRAM)严重受限的前提下,将有限内存分散至数以亿计的终端设备,反而加剧整体资源浪费——大量PC内存日均使用率可能不足5%,而同等容量若部署于云端并经智能调度,可服务数十倍以上的并发请求。
他进一步解释,AI供应链的优化逻辑并不符合直觉。许多人误以为‘开源模型+本地运行=问题终结’,却忽略了底层硬件的物理瓶颈与全局配置效率。真正的可持续路径,不是让每台电脑都变成小型数据中心,而是构建更高吞吐、更优调度、更强共享能力的集中式智能基础设施。
来源:Google Alerts RSS:数据中心 · smarthey.com