跳到正文
MIT Technology Review· Tim Rausch·· 3 天前

AI 推理的隐性存储账单:模型响应后留下什么

AI’s hidden storage bill: What inference leaves behind

事实摘要

WD 内部测量显示,一段返回给用户的 8 秒 720p 视频(3.97MB)在后端留下超过 500MB 关联数据,是输出文件体积的 130 倍。WD 委托 IDC 对 763 名 IT 与业务决策者的调查显示,近 95% 受访者称过去 12 个月生成式 AI 导致数据量增长,约 61% 增幅达 25% 或以上。

原文与核验

这条信号在站内保留事实摘要与战略研判。完整内容和上下文请以原文为准;融资、并购与技术效果以原始披露为准。

打开原文
正文 · 原文摘要

Ask most executives to picture the cost of AI and they’ll likely see GPUs—racks of accelerators with gigawatts of power—and a waitlist for silicon. But that picture leaves something out: Data storage costs. What happens to data after a model responds? Much of the back-end data that’s generated—from billions of daily prompts, images, and videos—needs…

来源只提供摘要,完整内容请打开原文。

来源:MIT Technology Review · technologyreview.com