AI教父:开发更强大AI技术 或带来有害影响

zhgmg

(巴黎法新电) 被誉为“人工智能(AI)教父”的2018年图灵奖得主本吉奥警告，科技巨头为开发更强大的AI技术而展开的疯狂竞赛可能会带来有害影响。
也是加拿大蒙特利尔大学教授的本吉奥(YoshuaBengio)星期四(2月6日)在巴黎高等师范学校发布在他监督下编写的首份国际AI安全报告。
本吉奥指出，AI的风险已广为人知，例如它被用于制造虚假或误导性的在线内容。但证据也显示，AI存在更多风险，如被用来发动生物攻击或网络攻击。从长远来看，他担心人类可能会对AI系统失去控制，而这可能源于A的“自身生存意图”
本吉奥说，低成本、高性能的中国AI模型深度求索(DeepSeek)的出现，“加速了竞赛，而这对安全性是不利的”。
他呼吁加强国际监管，并对AI的安全性进行更广泛的研究，因为这方面的研究目前仅占AI领域巨额投资的一小部分。
美国目前仍是全球领先的AI国家，但1月就任的总统川普已放弃前总统拜登试图对AI发展制定一些规则的努力。
本吉奥说，当OpenAl的ChatGPT两年前首次面也时，他感受到了思考AI安全问题的紧迫性，
他指出:“我最害怕的是人类可能在10年内消失的可能性。这太可怕了，我不知道为什么没有更多人意识到这一点。”