沈向洋对话图灵奖得主：这个时代的治理挑战与机遇并存

7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议召开，在全球治理图灵圆桌环节，原微软执行副总裁、美国国家工程院外籍院士沈向洋对话三位图灵奖得主罗杰·瑞迪（RajReddy）、曼纽尔·布卢姆（ManuelBlum）、姚期智。

谈及对AI的观点与担忧，罗杰·瑞迪表示，自己很惊喜也很高兴，第一是看到了大家都对AI治理方面的风险问题、安全性问题有所担心，但具体需要做哪些研究？需要做哪些投资？目前还没有明确做到。第二，正如联合国发言人讲到的“能力建设”，我们可以尽力让AI帮助每个人把自己工作做好。

罗杰·瑞迪认为新技术会产生新的机会，也会带来问题，但不应只想着负面影响就不继续了，未来，世界上每个人的生产效率将上涨10倍，GDP也将从100万亿生长到1000万亿。

曼纽尔·布卢姆在过去几年重点研究AI意识问题，他与雷诺尔·布朗创立了意识的模型，即“有意识的图灵机（CTM）”。大脑里有100多亿神经元，100亿的处理器，CTM模型可以告诉人们如何让很多处理器同时工作。

姚期智认为AI风险主要来自三方面：一是网络风险延伸和扩大，随着AI能力出现，传统的数据和网络安全方面风险会被放大；二是没有意识到的社会风险，如AI非常强大，且有很多使用方式，沈向洋对话图灵奖得主：这个时代的治理挑战与机遇并存所以颠覆现有社会结构在短时间内发生的可能性是存在的，AI带来大规模失业的可能性也存在；第三是所谓生存或存在的风险。

姚期智表示，所有这些风险都需要很多专家来解决，不仅是科学家，还需要政府、律师、经济学家来参与，几乎涉及每一个行业。

在姚期智看来，AI相当于网络风险的放大，AI的风险也与计算性相关，目前的算力能解决很多以前不知道如何解决的问题，但这也是让人感到非常恐惧的地方。因此，行业需要将AI控制好，也不希望AI进行破坏，这样的平衡是非常困难的。

(本文来自第一财经)