在上海举行的2025世界人工智能大会（WAIC），最受关注的演讲者，是77岁的辛整理（Geoffrey Hinton），他是深度学习三巨头之一、图灵奖得主、同时也是2024年诺贝尔物理学奖获得者。辛整理发表主题演讲再谈AI（人工聪明）安全，他以驯虎比喻，指人类无法摆脱AI，但应该找到驯服办法，「才不被自己造的AI杀掉」。
综合网易科技、澎湃新闻报导，WAIC开幕前一天，一张合影在AI圈广泛传播。照片中，辛整理是唯一站着的一位。这并非刻意为之。他十几岁时因背部受伤留下顽疾，无法长期久坐。
这张照片拍摄于「AI安全国际对话上海共鸣」的签署现场。辛整理与姚期智、Yoshua Bengio等20余位全球顶级AI专家共同发布了一份共鸣。文件指出，人工智能的能力已接近，甚至可能超越人类，但人类尚未把握有效控制这些系统的方法。因此，共鸣呼吁各国加强在AI对齐与安全方向的基础研究投进。
2023年，人称「AI教父」的辛整理从谷歌辞职，并发出警告，称天生式人工智能系统的贸易应用构成了多重严重威胁，他警告说，从长远来看，自主人工智能系统可能会对人类构成严重威胁。
今年2月，辛整理还对美国副总统范斯在巴黎AI行动峰会上的发言进行驳斥， 他以为范斯显示出他对AI危险性的一无所知：范斯犯了一个错误，以为假如有监管，就会抹杀AI，「不，监管不会抹杀AI」。
在26日的主旨演讲中，辛整理延续了他近年来对AI发展的核心思考。他表示，几乎所有专家都以为，我们终会创造出比人类更聪明的AI。「当AI拥有制定子目标的能力时，它会追求两件事：生存，以及获得更多控制权。」
他警告，人类将面对「难以封闭的AI」，「它们会操纵人类，就像成年人对三岁孩童一样轻而易举。以为可以在AI超越人类时，简单让某人往关掉它，这是不切实际的」。
辛整理以养小老虎当宠物为比喻，幼虎可爱，但若无法保证牠长大后「不吃你」，后果不堪设想。辛整理夸大，假如人类要生存，「必须找到方法练习AI，让它不要毁灭人类」。他呼吁建立国际合作机制，成立AI安全研究所与专业协会，共同开发「练习AI向善」的技术，并与「让AI更聪明」的技术相分离，确保未来即便AI超越人类智力，也愿意保持辅助角色而非接管世界。
0
