Anthropic首席执行官Dario Amodei日前在播客中表示,目前开发的人工智能模型的训练成本可能高达10亿美元。目前像ChatGPT-4o这样的模型只花费了大约1亿美元,但他预计训练这些模型的成本将在短短三年内上升到100亿美元甚至1000亿美元。
图源:网络
Dario Amodei称,通用智能(AGI)的发展将是一个渐进的过程,而不是说在一个固定的节点我们突然就能达到AGI,新的更好的模型建立在过去模型的发展之上,就像人类儿童的学习方式一样。
同时,Dario Amodei还预测,如果AI模型每年变得强大10倍,那么训练它们所需的硬件也需要强大10倍以上。硬件将成为人工智能训练中最大的成本因素。
据报道,截至2023年,ChatGPT的训练需要多达3万个GPU,OpenAI和微软计划投资1000亿美元建设一个AI数据中心。
去年,超过380万个GPU被交付给数据中心,英伟达最新的B200 AI芯片成本约为3万至4万美元,而Elon Musk的AI初创公司xAI则透露将购买大约30万个B200。
有了这些需求,如果英伟达和其他供应商能够跟上市场的步伐,我们将可以看到明年GPU数据中心的交付量将激增至3800万。