MIT Technology Review · AI· Tim Rausch·· 3 小时前AI 评分42
AI隐性存储账单:推理留下了什么
AI’s hidden storage bill: What inference leaves behind
AI 导读
AI推理持续产生日志、缓存、备份等后端数据,使存储成为易被忽视且持续增长的基础设施成本。WD内部测算显示,8秒AI视频向用户返回3.97MB文件,后端留存超过500MB数据,约为输出文件的130倍。WD赞助IDC对763名决策者的调查显示,近95%称过去12个月生成式AI推高数据量,96%预计需更快归档检索以支持推理或RAG。
来源:MIT Technology Review · AI · technologyreview.com