知识块 #T1EY48
大模型训练对算力的需求
Robin  |  2023-04-23

The Economist 基于 OpenAI 披露的数据,绘制了一张图,展示了不同的大模型及应用在算力需求上的变化。

纵轴是 OpenAI 用于描述 AI 计算量的算力单位 petaflop/s-days (每天执行 one petaflop per second)。OpenAI 定义一次乘法或一次加法为一个操作。如果每秒钟可以进行 10 的 15 次方运算,也就是1 peta flops,那么一天就可以进行约 10 的 20 次方运算,这个算力消耗被称为 1 个 petaflop/s-day。

从整体看上,摩尔定律时代大约两年算力翻一番;而当前用于 AI 大模型训练的算力需求大约每 3.4 个月算力翻一番。

数据来源 The Economist OpenAI
分享链接 http://robin5G.com/T1EY48
延伸阅读
Gen AI Garnter

在 2024 Gartner CIO 生成式 AI 调研中,一个有趣的发现是:越来越多的 CIO 开始将 GenAI 视为一个提升职业发展的机会。 87% 的 CIO 将 GenAI 视为关键的职业发展机会,44% 的精通 AI 的人强烈肯定这一观点。

一个大的潮流来临时,证明自己 “正好” 擅长这一块,对于组织中的个体很重要。

OpenAI Bay Area Times

Bay Area Times 汇总了 OpenAI 在 2022 到 2024 年 6 月的年化收入 ARR 和估值数据。

值得关注的是,2023 年 12 月和 2024 年 6 月的对比,ARR 从 20 亿美元提升到了 34 亿美元,但估值变化不大。

反映了资本市场对生成式 AI 看法的变化。

ChatGPT Capital IQ

Battery Ventures 绘制了两个饼图,展示了 ChatGPT 上线前美股科技股的市值 1000 亿美元以上的俱乐部成员,以及截止到 2024 年 10 月 31 日的变化。

这些公司的总市值从 8 万亿美元提升到了 16 万亿美元。

而 OpenAI 是唯一一家未上市的 1000 亿美元估值(市值)的公司。