发展AI是否安全？

本期辩题】AI会对人类构成生存威胁吗？

【嘉宾介绍】

主持人 ：王晟，英诺天使基金合伙人

正 方 ：邓佳文，清华大学交互式人工智能课题组博士后

反 方：甘如饴， IDEA研究院 封神榜大模型开源团队负责人

①AI是否具备“犯罪能力”？正方认为，AI发展到现在，已经展示出了一定的自主性，优化速度之快远超想象，AI做决策的依据，是基于开发技术和数据，而不是人类社会的道德伦理原则，AI 容易“三观不正”。；反方认为，AI还没有展现出真正的自主学习能力，要先给AI喂数据，它才能学习。此外，基于深度学习的AI还没有达到能够进行交互式学习，也没有进化出更高级智能水平的程度。

②AI是否会产生“犯罪动机”？正方认为，虽然AI的动机是由开发者赋予的，但在实现人类目的的过程中，AI会抛弃道德标准。反方认为，人类作为开发者，可以对动机进行一个最基本的规范。

③人类是否要限制AI的应用？正方认为在进一步的推进AI的应用层面的发展之前，必须把研究的重点放到真正“理解”AI上来，在此之前，应该限制AI的大规模的应用和实验；反方认为没有必要对AI的应用和实验进行特别的限制，可以对AI的物质基础，也就是算力和能源等“物理”资源控制来应对风险。