AI大咖联合声明：“警惕AI灭绝人类”

日前，人工智能安全中心（Center for AI Safety CAIS）发布了一份由350位人工智能领域的科学家与企业高管联名签署的《人工智能风险声明》。该声明的核心内容是，应该将降低人工智能导致人类灭绝的风险与其他社会规模的风险，如流行病和核战争，放在全球优先事项的位置。

这封公开声明集结了当今世界上最权威的人工智能专家、核科学家和流行病学家等专家学者的意见，对人工智能带来的风险进行了最全面的梳理。签署者包括OpenAI首席执行官山姆·奥特曼、DeepMind首席执行官戴米斯·哈萨比斯和Anthropic首席执行官Dario Amodei等三位人工智能公司高管；还包括AI教父杰夫瑞·辛顿和另外两位与他同为“AI三巨头”之一，并且都曾获得图灵奖的约书亚·本吉奥。同时，还有两位中国科学家中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅以及清华智能产业研究院助理研究员詹仙园。

人工智能技术的发展推动了社会科技的进步，这是不言而喻的。但与此同时，人工智能的负面作用和给人类带来的心理压力也越来越明显。例如，越来越多的学生利用人工智能完成作业和论文，导致抄袭变得难以界定；犯罪分子利用人工智能开发新的黑客攻击方式，窃取敏感数据进行勒索。

人工智能还将对人们的工作方式产生巨大冲击。预计到2030年，将有7500万至3.75亿人需要“可以想象，人类只是智能进化的一个过渡阶段。”

当越来越多的人认为“人工智能可能比我们更聪明”时，对无节制发展人工智能技术的广泛担忧变得合理。尽管像ChatGPT这样的尖端人工智能还主要依靠训练数据中的模式进行复制学习，但它的学习能力和发展速度仍让人惊叹不已。

目前，越来越多的立法者、倡导团体和科技行业内部人士开始对AI聊天机器人传播错误信息和取代人类工作的可能性提出警告。Center for AI Safety的主任Dan Hendrycks指出，全社会应该共同解决其他类型的AI风险，如算法偏见和误导信息。在风险管理的过程中，只关注当前的危害是鲁莽的，忽视它们也同样是鲁莽的。因为像其他新生事物一样，人工智能的快速普及既带来机遇，也带来风险。人们在充分利用其优点的同时，必须警惕潜在的风险。只要善加利用并防范风险，人工智能就能为我们所用。