GPU
#A8R5NT
AI 训练的加速器数量与算力互联网络的关系
Marvell 认为,如果以 2023 年为分水岭,AI 算力集群的互联网带宽在之前年份大约每隔 4 年会翻倍;而之后年份会提升到每隔 2 年翻倍。
带宽速度是一方面,互联的连接数量也会急剧增加。ChatGPT 在 GPT-3 模型训练时,大约使用了 1,000 个加速器的集群,这需要大约 2,000 个光纤互联连接;而 GPT-4 模型的训练则需要使用 2.5 个加速器的 GPU 集群,这需要大约 7.5 万个光纤互联连接。
光纤互联的连接增长速度将比 XPU/GPU 要块,比例达到 5:1,甚至 10:1。


数据来源
Marvell
分享链接
http://robin5G.com/A8R5NT
延伸阅读
广告
2022-10-20
GroupM
二十年来广告行业与 GDP 的增速对比
附图是 GroupM 和世界银行的数据,全球广告行业收入和 GDP 二十年来的增速对比。可以看到 2000 年后的大部分时间,广告行业和 GDP 呈现很大的相关性;而且在 2000 年互联网泡沫破灭和 2008 金融危机,广告行业的下行远超 GDP。...
安全
ESET
2022-10-20
GSMA
电信运营商消费者用户的安全增值需求
GSMA 之前有过调研,围绕消费者用户是否有意向在移动套餐中包含安全类增值服务。有 50% 的反馈已经或有意愿采用安全服务。附图是 ESET 的一个方案简介,在用户访问互联网时,会对不安全站点进行一系列的过滤。...
零售
星巴克
2022-10-20
SVPG
The Supermarket of Software: Changing How You Decide Which Problems To Solve
Consider your neighborhood supermarket. When you walk in, you see somewhere between 40,000 – 50,000 products. How do you decide. By Jon Moore and Marty Cagan This is the second of a three-part sequence on defining transformation. Changing how you...
