知识块 #D7Y8LP
生成式 AI 带来的风险格局
Robin  |  2023-09-22

IBM 认为企业在运营和产品中使用生成式 AI 有可能会带来新的风险和威胁,例如,与传统数据科学相同的一些问题,如预测准确性差、缺乏公平性和公正性、解释能力不足、模型不确定性、中毒攻击、逃避攻击、推理攻击以及模型缺乏透明度等。

此外,基础模型还带来了一些全新的风险,例如幻觉、缺乏事实性、缺乏数据沿袭和来源、 毒性、无法推理、隐私泄露和提示注入攻击。

在 IBM 2023 高管调研中,受访高管最关心的问题包括:增加法律责任的运营风险、引入新漏洞的网络安全风险,以及未识别数据源时形成的可解释性风险。

数据来源 IBM
分享链接 http://robin5G.com/D7Y8LP
延伸阅读
AI IDC

IDC 咨询公司研究显示,2023 年全球会话式 AI IT 工具收入体量为 53 亿美元。Microsoft、Google 和 Qualtrics 是排名前三的厂商。

注:Microsft 集成了 OpenAI 的 GPT 模型。

2015 年亚马逊推出 Echo 系列智能音箱以及语音技术后,希望打造为一个完整的生态系统,变成立了一只 2亿美金的风险投资基金,聚焦围绕 Alexa 语音技术的终端及外围应用创新。

五年过去了,亚马逊 Alexa 生态已经相当完善,成为近年少有的围绕 2C 领域自成体系的一个生态系统。Apple iOS 和 Android 当然更成功,但它们都是十多年前的创新。

Alexa Fund 在这个过程发挥了很大的作用,但也面临一些质疑;一些 Alexa Fund 投资或者沟通过的企业指责亚马逊后来的自研产品抄袭了他们的思路等。

Alexa Fund 表示其和亚马逊产品研发部门之间有一道防火墙。此类问题,在投行的研究部门与 IBD 部门之间,四大会计师事务所的审计部门与咨询部门之间均面临类似争议问题。

数据中心 Voronoi

通过建筑面积来衡量数据中心的大小越来越不合时宜,因为越来越多高性能服务器,尤其是用于 AI 计算的机柜是极高计算密度的。通过用电的功耗来度量数据中心的能力是更加科学的指标。

2024 年全球 Top 40 数据中心市场中,美国 Virginia(弗吉尼亚州)的数据中心达到了 4,694 Megawatts,是全球最高的数据中心。北京以 1,864 Megawatts 排名第二。

需要留意的是变化增速,2023 年 Virginia 的数据中心总功耗为 2,552 Megawatts,而北京为 1,799 Megawatts。

注:数据中心在中国大城市的发展会受到节能减排的限制。