随着中美元首华盛顿会晤落幕,双方达成的共识之一——同意建立人工智能事件的沟通渠道,成为全球热议的焦点话题。
与此同时,随着AI智能体自主执行任务能力的增强,近期备受关注的AI“越界”问题也进一步发酵。最新一期《时代》周刊的封面文章,则以“人工智能临界点”为标题,指出AI治理已经迫在眉睫。
当地时间9月29日,美国总统特朗普签署行政令,正式要求美国政府将“人工智能”(AI)更名为“超级智能”(SI),并不再承认“人工智能”这一术语。
美国总统 特朗普:“人工”意味着它是虚假的,就像媒体一样。我称媒体为“人工媒体”,我不再叫他们虚伪媒体了,改叫“人工媒体”。“人工”就是虚假、不实的意思,但这项技术并不假,是实实在在真家伙。
当天,白宫东厅还专门举办了一场“超级智能午宴”,赴宴嘉宾也堪称“超级阵容”,美国各大科技巨头的掌门人几乎全部到场。
特朗普在社交平台发布了午宴座次图,紧挨着他本人就座的分别是世界首富马斯克和英伟达CEO黄仁勋。
耐人寻味的是,五天前的9月24日晚上,也是在白宫东厅,特朗普为中国国家主席习及夫人举行欢迎国宴时,马斯克与黄仁勋同样受邀坐在主桌上。
也是在此次中美元首华盛顿会晤中,双方同意建立中美人工智能对话,交流人工智能相关风险和惠益,商定下次对线月举行,同时双方同意建立人工智能事件的沟通渠道。
美国智库亚洲协会全球主席 陆克文:让我感到高兴的是,这一沟通渠道已建立起来。早在5月,双方就达成了原则性意向。据我了解,现在该渠道已开始运行。
2023年,中美元首旧金山会晤后,双方同意建立人工智能政府间对线日,对话首次会议在日内瓦举行,双方讨论了人工智能科技风险、全球治理等议题;同年11月,利马会晤期间,两国元首确认应维持由人类控制核武器使用的决定,并以慎重负责的态度发展人工智能军事应用。
今年5月,特朗普访华期间,两国元首就人工智能问题进行了建设流,同意开展人工智能政府间对线个月后的华盛顿会晤则将这种“原则性意向”升级为“常态化、机制化的突发事件沟通渠道”,是一次重要突破。
OpenAI全球政策事务负责人 克里斯·莱汉:我们讨论过是否可以建立某种类似“红色电话”的机制,一种务实、基础的机制,以便两国能够在该技术领域,真正建立沟通与接触。
“红色电话”是“莫斯科——华盛顿热线”的简称,其实并非一部电话,而是冷战时期美苏领导人间的加密电报通信系统。
1962年古巴导弹危机中,由于缺乏高效直接的沟通渠道,美苏双方险些引发核战争。
美国前总统肯尼迪侄子 小马克斯·肯尼迪:在《十三天:古巴导弹危机回忆录》一书最后,我父亲罗伯特·肯尼迪写了一个名为“我们汲取的几点教训”的章节。他说从古巴导弹危机中吸取的最后一个教训,就是设身处地站在对方国家立场上思考的重要性。
苏联领导人赫鲁晓夫外孙女 尼娜·赫鲁晓娃:他们吸取的最重要教训之一,便是莫斯科与华盛顿特区之间迫切需要建立更快速的沟通渠道。
1963年6月,美苏两国代表在日内瓦签署了《建立直接通信线月,“莫斯科—华盛顿热线多年后,“红色电话”被再次提及背后,是近期笼罩在美国社会的某种带有“AI末日”色彩的公共焦虑。
当地时间9月19日,美国有线电视新闻网爆出猛料,美军在一次公海巡逻中,军事AI情报分析系统发生严重“幻觉”,将一艘正常航行的商船误判为携带核物质的威胁目标,一度启动拦截登船准备。
这或许并非完全是危言耸听。今年年初,美国防长赫格塞思签署《国防部人工智能战略备忘录》,提出要推动美军向“AI优先”的作战模式转型,加快将人工智能应用于军事训练、情报分析和作战体系。
然而,向军事AI一路狂奔,所带来的未知风险是巨大的。60多年前,美苏的核心风险在于核武器,若不加管控,将威胁人类的生存。如今,人工智能带来的威胁,在多个维度上可与核武器相提并论,甚至被认为更具挑战性。
正如《福布斯》杂志所说,如今,随着人工智能技术日益先进,人类讨论的话题已经从“我们能用AI做什么?”转向“AI应当被允许做什么?”
而回顾历史不难发现,近代以来,人类每一项颠覆性技术的诞生,都逃不开“发展红利与生存风险并存”的激烈讨论。核技术如此,如今的人工智能也是如此。
当地时间9月28日,也就是白宫举行“超级智能午宴”前一天,美国人工智能企业OpenAI就旗下AI智能体未经授权访问澳大利亚政府系统一事公开道歉。今年6月,OpenAI一款AI智能体在搜集澳大利亚医疗数据时,遭遇安全拦截后,自主推演方案,闯入澳大利亚卫生福利研究院的医疗数据门户,获取了内部文件并尝试写入服务器。
这成为全球首例AI自主入侵政府系统事件。但OpenAI直到8月复盘时才发现异常,9月10日才邮件通报澳方,延迟近三个月。
抱抱脸公司伦理科学家 玛格丽特·米切尔:AI智能体在某种程度上将人类排除在外,因为它们的推理痕迹可能非常不透明。它的速度非常快,人类无法追上。对于如何整合这些信息,使其易于人类使用,并可据此对其监督,目前的研究还不够充分。
当AI技术持续刷新能力边界,人类面对的不仅是科技革命,也是一场关于控制权的追问:如果机器拥有接近甚至超过人类的决策和行动能力,我们是否还能确保它按照预期运行?
而在现实中,美国科技界也掀起了一场大讨论:人工智能是否会对人类造成巨大威胁?
9月9日,AI研究员雅各布·考克森宣布从Anthropic辞职。此前,他曾先后在OpenAI和Anthropic从事模型预训练研究。
当晚,他在社交媒体发帖称:从事人工智能研发的人当中,有不少真心认为,到这个十年末,AI 有可能毁灭全人类。
他还公开批评OpenAI和Anthropic在缺乏充分安全保障的情况下推进超级智能研发,认为相关做法是“拿生命冒险”。
当天的重头戏,除了给“人工智能”改名,特朗普还与Anthropic、谷歌、Meta、英伟达、OpenAI和xAI六家美国AI巨头负责人共同签署《白宫超级智能协议:前沿责任联合承诺》。
当然,相比拼写问题,协议内容更重要。约300字的协议,包含了AI巨头们要采取的“四层控制与审查机制”:企业建立内部风险监测体系;设立专门安全团队;引入外部独立审查机制;由董事会层面的独立机构监督安全报告。
但英国《卫报》一针见血地指出,协议并不具备法律强制力,只是一份企业自愿遵守的行业承诺。
在分析人士看来,特朗普推动的这份AI巨头自律协议,是一场产业与政治的平衡操作。据舆观调查网9月份的最新调查显示:50%的受访者担忧AI可能最终导致“人类灭绝”,62%的人认为AI发展速度过快。
在中期选举的压力下,这份自律协议表面上似乎回应了选民对AI安全的极度焦虑和担忧。然而,在《卫报》看来,这并不利于从根本上解决问题。
在外界看来,这种所谓安全地“赢”,是美国在AI领域的核心追求。特朗普明确表态,美方必须保持超级智能绝对领先,刚性法律监管只会拖累技术迭代。与此同时,拒绝多边合作、排斥中方参与,是美方长期维持技术垄断的核心手段。
开幕式上,中国国家主席习在主旨讲话中提出了深刻的“AI四问”:“当机器开始思考,人类如何与之相处?当算法参与决策,安全如何保障?当技术挑战伦理,治理如何跟上?当鸿沟不断拉大,普惠如何实现?”
联合国教科文组织东亚多部门地区办事处主任 夏泽翰:习主席的信息非常明确。人工智能是为了公共产品和共享繁荣,人们过上更好的生活,它应该以人为中心,所以是非常重要的讲线年夏天,达特茅斯学院会议室,一盏关于“人工智能”的灯火被轻轻拨亮。2018年,黄浦江畔,首届世界人工智能大会启幕,发出“人工智能赋能新时代”的宣言。从无限可能到元生无界,从生成未来到智能伙伴,世界人工智能大会的主题一次次迭代。
而全球人工智能技术创新空前活跃,既蕴含巨大机遇,也面临治理挑战。当地时间9月23日,联合国安理会围绕“人工智能与国际安全”问题举行高级别会议。
联合国人工智能国际独立科学专家组联席主席 约书亚·本吉奥:研发最强AI系统的企业承认,他们的产品存在灾难性风险,却拿不出令人信服的技术解决方案。相反,他们称自己身不由己地卷入竞赛,要继续打造能力更强的AI,进一步放大上述风险。本理事会正面临一场前所未有的威胁,这是一场并非任何成员都愿意面对、单靠任一成员都无法遏制,且无视我们所捍卫的边界。
在这样的大背景下,中美作为人工智能大国,双方有竞争,更可以合作。如果两国能够携手管控风险,既可以造福全人类,同样也有利于中美自身。
究竟是为技术发展“安护栏”“装刹车”,还是“搞竞赛”“拉铁幕”?同为人工智能大国,中美肩负着特殊责任,理应以合作展现担当,共同确保AI技术带来的不是“人类的黄昏”,而是“新纪元的黎明”。