又来了一封“众星云集”的信，警告AI的风险。这封信内容简短但措辞破解:降低AI带来的灭绝风险应该成为全球优先事项，就像控制流行病和核战争等其他社会规模的风险一样。
5月30日，这份只有22个字的声明出现在美国非营利组织“人工智能安全中心”(Center for AI Safety)的官方网站上，上面有350多位人工智能领域的名人签名。
与两个半月前生命未来研究所发出的上千人签名呼吁“暂停大模特培训六个月”的信* *相比，最引人注目的是，这一次，OpenAI、Google DeepMind和Anthropic的CEO都签了名。
值得注意的是，在签署“22字声明”之前，OpenAI、Google和Anthropic的负责人都出席了5月4日由白宫发起的AI风险治理会议。面对风险管理，这几天AI三巨头似乎比政府更着急。
最近这三家公司的CEO频繁会见欧洲各国首脑，试图影响欧盟的《人工智能法案》，该法案很可能影响OpenAI等公司的大规模机型进入欧洲市场，这是新流量神话的创造者OpenAI尚未拿下的一块“处女地”。
寻求控制AI风险的背后，是AI公司满满的市场“生存欲望”。
三巨头称最新的人工智能风险声明
“减轻人工智能灭绝的风险应该是全球优先考虑的问题，其他社会规模的风险如流行病和核战争也是如此。”
22个字构成了一纸《人工智能风险声明》，直接用“灭绝”四个字来形容AI带来的风险，严重程度堪比“大流行”、“核战争”，把控制的紧迫性表述为“应该是全球优先”。
5月30日，包括科学家和商界领袖在内的350多人在非营利组织“人工智能安全中心”官网打印的声明下签名。
三大AI的CEO的名字出现在列表中。
“我们必须将这个问题公之于众，因为很多人只是默默地相互交谈。”在谈到声明的目的时，人工智能安全中心的执行主任丹·亨德里克斯(Dan Hendrycks)表示，一句话的声明简洁是经过深思熟虑的，目的是让更多的科学家建立一个“广泛的联盟”，因为一些科学家可能尚未就AI有哪些风险以及防范这些风险的最佳解决方案达成一致。
在350个签名中，前两位是图灵奖得主杰弗里·辛顿和尤舒亚·本吉奥，接下来是戴密斯·哈萨比斯、萨姆·奥特曼和达里奥·阿莫迪，他们是谷歌DeepMind。
国内一些知名学者也签了名，如清华大学智能产业研究院院长、中科院自动化所教授、清华智能产业研究院副教授詹等。
如果把“用知识服务人类”视为知识分子的社会责任，专家学者的签名就很好理解了。被称为“AI教父”的辛顿今年4月从谷歌辞职，此后一直在公开场合表达对人工智能失控的担忧；本吉奥在非营利组织“未来生命研究所”今年3月发表的“暂停巨型AI实验”的信件上签名。
然而，在两个月前的信中，谷歌DeepMind、OpenAI和Anthropic的负责人都没有签字。与这份“22字声明”相比，信中还详细阐述了AI可能带来的各种具体风险，甚至给出了明确的风险管理原则。截至目前，已征集到31810个签名。
最后一个字母引起的AI圈明显的分歧是，是否应该为了风险而暂停AI实验。
当时，人工智能领域的学者吴恩达在LinkedIn上表示，完全暂停人工智能训练6个月的想法是一个糟糕且不切实际的想法。后来OpenAI的CEO Sam Altman更直观的表达了停顿的无意义性。“我们暂停六个月，然后呢？我们会再暂停六个月吗？”
但这一次，三大AI公司的领导人率先签署了这份措辞模糊但严厉的“22字声明”，从他们对声明的认可中透露出控制AI风险的紧迫性。
短短两个半月，是什么原因导致AI公司转变态度？
OpenAI流量增长放缓
现在，即使人类没有被AI灭绝，但“阴暗面”还是被作恶者驱动的生成性AI揭露出来了。
例如，AI的模仿功能正在被用作欺诈工具。AI生成图片和文字的能力不仅被用于伪造新闻，还被用于制造直接伤害普通个人名誉的“黄色谣言”。
相比于生成式AI对常识的“胡说八道”、陷入逻辑陷阱、不擅长解决数学问题、数据隐私安全等缺陷，受害者案例所展现出的AI破坏力对大众来说更为具体和直观。对于AI开发公司来说，最直接的影响就是那些刚刚向大众开放AI应用的开发公司能获得多少增量市场？
例如，提供流量规模增长最快的文本生成应用ChatGPT的OpenAI，其网页流量从去年秋季的每月约2000万次增长到2023年4月的18亿次，刷新了互联网流量增长的神话。然而，根据网络分析公司SimilarWeb收集的数据，OpenAI的网页访问增长率正在放缓。
OpenAI的网页流量增长放缓。
OpenAI网页的流量贡献主要来自美国，占比10.25%，其次是印度(8.82%)、日本(7.48%)、印尼(3.84%)和加拿大(3.06%)，月度增量也来自这些国家，其中日本的访问量增幅最大，达到28.86%。而俄罗斯、中国、欧洲国家基本没有为其贡献光明流量，因此这些国家和地区的网民对OpenAI的访问受限。
OpenAI自己切断了这些市场，最大的原因是各国对互联网的管理政策不同。与俄罗斯和中国相比，欧洲似乎是人工智能公司更渴望的市场。但是，欧盟已经明确了对人工智能的立法。
此后，OpenAI、DeepMind和Anthropic的CEO都出现在欧洲。
这三位CEO都是在欧盟立法之前出现在欧洲的。
4月27日，欧洲议会议员就《人工智能法案》提案达成临时政治协议。5月11日，欧洲议会两个委员会通过了《人工智能法案》(以下简称“法案”)提案谈判授权草案。这份草案将于6月12日至15日提交欧洲议会全体会议表决，之后欧洲议会将与欧盟理事会就该法律的最终形式进行谈判。
该法案的立法者根据风险等级对不同的人工智能工具进行分类，从最低到有限，高和不可接受。使用这些工具的政府机构和企业会根据风险等级承担不同的义务。该法案还将严格禁止“对人类安全构成不可接受的风险的人工智能系统”，包括故意操纵技术、利用人类弱点或根据行为、社会地位和个人特征进行评估的系统。
如果该法案顺利颁布，这将是人类历史上第一部反对人工智能的法律。由于该法案适用于所有在欧盟运行的人工智能系统，领先AI技术的美国公司如果想进入欧洲市场，显然会受到限制。
例如，该法案要求开发生成性人工智能工具的公司披露他们是否在其系统中使用了受版权保护的材料。对于用各种来源的海量数据训练大型模型的AI公司来说，这个要求会直接把他们挡在欧洲之外。
OpenAI、DeepMind、Anthropic都开始关注欧洲的动向。
5月下旬，OpenAI首席执行官Sam Altman多次前往欧洲，与西班牙、波兰、法国和英国政府首脑举行会谈，讨论人工智能的发展潜力、威胁和监管问题。DeepMind首席执行官戴密斯·哈萨比斯和Anthropic首席执行官达里奥·阿莫迪也会见了英国首相苏纳克。
英国首相苏纳克会见AI三巨头CEO。
人工智能技术公司与欧洲国家元首沟通，试图影响该法案的进程。不止如此，山姆·奥特曼还通过演讲、采访等多种方式向欧洲公众发声，希望“舆论”与他们站在一起。
奥特曼在伦敦大学学院的演讲中坚持自己的观点，认为人们对AI的担忧是有道理的，但AI的潜在好处要大得多。谈到AI监管，奥特曼表示，OpenAI欢迎监管，但它需要“正确的监管方式”，因为“过度监管可能会损害小公司和开源运动”。
5月25日，奥特曼向英国媒体表达了对该法案的看法。“很多词都不合适，”他说。“目前的欧盟AI法案草案会导致监管过度”，但我们听说会调整，他们还在讨论。"
距离法案最终投票不到半个月，奥特曼的“游说之旅”仍在继续。公开信息显示，奥特曼将与欧盟工业主管蒂埃里·布雷顿(Thierry Breton)会面，讨论欧盟应如何实施人工智能领域世界领先的规则。
经过一系列的欧洲之行，AI三巨头的三位CEO签署了“22字声明”，并同意全球优先控制AI风险的理论。姿态背后是AI公司试图在控制下扩大市场的“生存欲望”。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信，我们会及时处理和回复。
原文地址"签名支持全球管控AI，三巨头侧漏“求生欲”"：http://www.ljycsb.cn/qukuailian/213414.html。
微信扫描二维码投放广告
▲长按图片识别二维码
