在2024世界人工智能大会的全球治理图灵圆桌环节，姚期智在与原微软执行副总裁、美国国家工程院外籍院士沈向洋等对话时谈及AI的风险话题。

   姚期智表示，AI风险来自于三个方面。首先，随着AI能力出现，传统的数据和网络安全风险被放大，AI会将管理数据安全的困难放大100倍。
   其次是难以意识到的社会风险，AI非常强大且有很多种使用方式，存在短期内颠覆现有社会结构的可能性，比如，AI可能带来大规模的失业。

   第三是生存或者存在的风险，强大的AI技术在改变世界，这一次颠覆性的力量可能比核生化威胁更具威胁性。“所有这些风险都需要很多专家来解决，不仅是科学家，还可能需要政府、律师、经济学家来参与，几乎涉及到每一个行业。”
    姚期智指出，AI相当于把网络风险放大。“AI可以说有些是无法解释，在数学上无法掌握，对我们来说是一个挑战。”
他说，“简单来说，突然发现了一个方式，创造一个新的物种，这个物种比我们强大很多倍，我们是不是确定能跟它共存？如果无动于衷，就会被灭亡，这也是毫无疑问。这也是计算机的本质，或者是恶意行为者所带来的情况。”
     姚期智表示，“一方面我们把AI控制好，毕竟这是我们设计出来的；另外一方面，也不希望它被我们给破坏了，权衡是非常困难的。正如图灵所说，这是无法预测的，预测不了机器有了足够算力之后会做什么。”

此文内容为第三方自媒体作者发布的观察或评论性文章，所有文字和图片版权归作者所有，且仅代表作者个人观点，与物联网供应链无关。文章仅供读者参考，并请自行核实相关内容。