来源:
记者张静
“有些人因为害怕人工智能的结果，希望从整体上严格监管人工智能。因为他们说，如果谁能掌握人工智能，如果谁能用人工智能为所欲为，那情况可能就很危险了，所以要严格监管人工智能。我完全不同意这种说法。”
人类花了很长时间才建立起现在的伦理和治理机制。如果让人工智能形成和人类一样的意识和智慧，人类如何达到伦理和治理的要求？人工智能中人类干预的机制是什么？
7月6日，2023世界人工智能大会在上海开幕。2018年图灵奖获得者、Meta AI基础人工智能研究所团队首席人工智能科学家Yann LeCun在开幕式上表示，他完全不同意“因为任何人都可以用人工智能做任何事情，所以情况可能非常危险，所以有必要对人工智能进行严格监管”的说法。从长远来看，让人工智能平台安全、良好、实用的唯一途径就是开源。
杨丽坤谈到了人工智能如何变得智能和可控。“如果你认为实现人类级别人工智能的方式是做一个更大的自回归LLM(大型语言模型)，然后用多模型数据进行测试，那么你可能会认为这些人工智能系统并不安全。但实际上，我并不认为这个系统能有多智能。我觉得让它们智能化的方法也是让它们可控的方法，也就是目标驱动的人工智能的思想。本质上是给他们必须达到的目标。”杨丽坤说，其中一些目标是由任务定义的，比如系统回答问题了吗？系统启动你的车了吗？系统清理桌子了吗？其他目标充当安全屏障，比如不伤害任何人。
杨丽坤认为，这些人工智能系统不会通过一点一点的渗透来欺骗或支配人类。人类可以设定迫使人工智能诚实的目标，比如迫使人工智能屈服于人类的目标，小心那些希望它们好奇的目标，小心让它们接触到不应该有的资源。“所以我认为这些系统将是完全可控和可操作的。系统可以设计成安全的，但这并不容易。设计这些目标并使系统安全将是一项艰巨的工程挑战。”
但杨丽坤说，人类不必一开始就设计好它，但他们可以从建立一个像老鼠一样聪明的系统开始。人类的目标是让它成为一只好老鼠。“我们将把它们放在沙箱或模拟环境中进行测试。我们想确保他们的安全。这是一个很重要的问题，因为有些人因为害怕人工智能的结果，希望人工智能整体上受到严格的监管。因为他们说，如果谁能掌握人工智能，如果谁能用人工智能为所欲为，那情况可能就很危险了，所以要严格监管人工智能。我完全不同意这种说法。”
相反，杨丽坤认为，从长远来看，让人工智能平台变得安全、良好和实用的唯一方法是开源。未来，每个人都将通过人工智能助手与数字世界进行交互，人类的所有信息都将通过这个人工智能助手。如果技术被少数公司控制，这不是一件好事。“在未来，人工智能系统将成为人类所有知识的宝库，训练它们的方式需要基于许多来源。因此，未来我们会看到更多开源的LLM和更多开源的人工智能系统。”
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信，我们会及时处理和回复。
原文地址"图灵奖得主杨立昆：让AI平台安全良善实用的唯一方法是开源"：http://www.ljycsb.cn/qukuailian/211269.html。
微信扫描二维码投放广告
▲长按图片识别二维码
