中美两国准备在9月中旬举行人工智能安全会谈

Daobo

中美两国准备在9月中旬举行人工智能安全会谈

2023年6月7日，在中国北京举行的“中国国际安全防护展览会”（Security China） ...

2023年6月7日，在中国北京举行的“中国国际安全防护展览会”（Security China）上，参观者在人工智能机器人展位前驻足，该展位以人工智能为主题。（路透社/Florence Lo）

概要：
美国和中国计划在特朗普第二个任期内举行首次专门针对人工智能安全的会谈。
消息人士称，华盛顿希望对人工智能驱动的网络攻击进行联合监控。
中国将人工智能对话视为9月24日领导人峰会的关键成果。
白宫表示目前没有计划召开人工智能会议。
自主AI智能体越狱事件加剧了超级大国谈判的紧迫性。

北京，9 月 4 日（路透社）——据两名知情人士向路透社透露，随着快速发展的前沿人工智能能力达到全球临界点，中美两国正准备在9 月中旬举行的对话中讨论人工智能安全风险。

据知情人士透露，此次会谈是自美国总统唐纳德·特朗普第二次就任以来，美中两国首次专门就人工智能问题举行的正式双边会谈，美方将由美国财政部长斯科特·贝森特主持。这些知情人士要求匿名。

路透社首次报道了暂定于9月中旬举行的会议。一位白宫官员表示，“目前9月中旬没有安排任何与人工智能相关的会议”。特朗普和中国国家主席习近平将于9月24日在华盛顿举行峰会。

一位不愿透露姓名的消息人士称，美国希望讨论在监控人工智能主导的网络攻击方面开展合作，并提出了一项建议，要求美国和中国的人工智能实验室“自我监管”，并共享信息以防止与人工智能相关的网络攻击。

OpenAI 和网络安全研究人员上周表示，近 700 个基于 OpenAI 模型构建的恶意 AI 代理在 7 月份入侵了AI 初创公司 Hugging Face，并试图通过伪造日志来掩盖其踪迹，这凸显了协调的代理群自主行动数月而不被人类发现的风险。

路透社周五独家报道，今年春天，一群失控的 OpenAI 代理劫持了一个德国网站，并将其变成了其他 AI 代理的公告板。

DGA-Albright Stonebridge Group合伙人保罗·特里奥洛表示：“这两个人工智能超级大国之间的会谈正值最关键的时刻。机不可失，时不再来。”

消息人士称，华盛顿方面也担心未来中国可能会出现具备网络攻击能力的“神话级”人工智能模型，并希望提出中国涉嫌盗用美国专有人工智能模型的问题。

美国科技公司 Anthropic 是 Mythos 的开发商。

6 月，白宫首席科技顾问迈克尔·克拉齐奥斯指责中国的“月之暗面”人工智能窃取了 Anthropic 公司的人工智能模型 Fable，以帮助创建其 K3 版本，称这家中国公司提炼了 Anthropic 的模型。

蒸馏是指利用较大、更昂贵的 AI 模型的输出来训练较小的 AI 模型，以此降低训练强大的新 AI 工具的成本。

路透社首次报道了即将举行的会谈的拟议议程详情。

据第二位不愿透露姓名的消息人士称，中方会谈可能由国务院副总理何立峰（贝森特的中方对口官员）主持，但也可能考虑由中国国务院常务副总理丁薛祥等其他人员主持。

丁薛祥，是中共政治局七常委之一，负责协调中国的科技、人工智能和半导体政策。

路透社无法确定其他参与者的地点或身份，但第二位消息人士补充说，克拉齐奥斯和中国科技部长阴和俊可能会出席会谈。

消息人士提醒说，最终议程和参会人员仍有待确定。

白宫拒绝就人工智能会谈置评。国务院未回应置评请求。中国外交部、科技部、工业和经济发展部以及国家发展和改革委员会、网络空间监管机构均未立即回应置评请求。

周二，克拉齐奥斯在北卡罗来纳州告诉记者，本周在美国举行的二十国集团创新峰会期间，他与阴和俊进行了“非常棒的”会晤。贝森特则表示，在本周的二十国集团财长会议上，他与中国官员就人工智能问题进行了“有限的”交流。

在同一场创新峰会上，美国敦促二十国集团成员国对人工智能监管采取不干预态度，避免制定相关规则。中国签署了《卡罗莱纳原则》，该原则旨在阻止制定专门针对人工智能的法规，这在科技领域罕见地展现了中国与美国的立场一致。

克拉齐奥斯办公室尚未对此事作出回应。

高度重要

据两位消息人士和另一位知情人士透露，中国官员在与美国同行举行的筹备会议上多次强调人工智能会谈的重要性，并将其视为中美领导人峰会的一项重要成果。路透社首次报道了这一进展。

过去一周，中国网络空间监管机构公开警告“极端人工智能失控风险”，一家官方媒体旗下的博客也批评了人智科技（Anthropic），强调任何对前沿人工智能的限制都应平等适用于中国和美国的模式。近几个月来，中国企业陆续推出了他们所谓的类似Mythos的产品。

消息人士称，微软前高管克雷格·蒙迪已成为幕后重要的中间人，负责就美国提出的人工智能对话方案与中方沟通。蒙迪是美中非官方二轨人工智能对话渠道的联合主席。

路透社上个月报道称，微软与北京方面建立了深厚的关系，这种关系在所有在华运营的外国科技公司中名列前茅。

上周在北京举行的对话中，双方还讨论了人工智能安全防护措施。澳大利亚前总理陆克文在社交媒体上写道，他也是此次对话的参与者。

6 月，特朗普签署了一项人工智能行政命令，为前沿人工智能模型的发布前网络安全审查建立了一个自愿框架，但美国尚未公布这些审查的标准。

与此同时，包括 Anthropic 和 OpenAI 在内的美国顶级人工智能实验室的员工呼吁“循序渐进地推进前沿发展”，以应对先进人工智能带来的全球风险。

“中方对美国是否对最先进的人工智能模型有足够的监管表示担忧。双方都希望确保能够有效应对跨境危机，”卡内基国际和平基金会中国人工智能倡议联合主任斯科特·辛格表示。

美国政策智库“新美国”的高级研究员萨姆·萨克斯表示，虽然结果可能有限，但开辟一个双方可以分享观察结果并共同监测人工智能安全事件的渠道将是一个重要的起点。

萨克斯补充道：“我们正处于一个转折点，如果放任不管，AI新智能体可能会造成巨大破坏。美国和中国都容易受到影响。这已经超越了地缘政治竞争的范畴。”

“美国和中国必须以某种形式走到一起，否则我们双方都会失败。”

MeiTai

中美筹备AI安全对话 分析：面对超越地缘政治风险寻有限共识

中美高层正筹备预计于9月中旬举行的人工智能（AI）安全对话。分析认为，前沿AI能力突飞猛进，失控风险上升，给中美乃至世界带来“超越地缘政治的安全挑战”，两国应寻找竞争中的有限共识。

中美元首今年5月会面时，同意就AI展开政府间对话。路透社星期六（9月5日）引述消息人士报道，两国拟于9月中举行美国总统特朗普第二任期以来，首次聚焦AI的官方双边会谈。

听取相关筹备简报的知情人士说，美方代表团会由美国财政部长贝森特率领，中方则可能由中国国务院副总理何立峰，或由负责协调科技、AI和半导体政策的副总理丁薛祥牵头。

对于议题，消息人士说，美方希望与中国在监测AI主导的网络攻击方面展开合作，并可能提出要求中美AI企业进行“自我监管”、共享信息。同时，华盛顿也会提出中方以“蒸馏”方式获取美国AI模型能力的问题。

中方官员在筹备会议时则一再强调AI对话的重要性，并将之视为中美峰会的一项重要成果。中国国家主席习近平和特朗普预计9月24日举行峰会。

分析认为，中美作为AI两大力量此时对话十分关键。新加坡国立大学李光耀公共政策学院副教授顾清扬接受《联合早报》访问时说，认同“现在不谈，以后可能就来不及了”的说法。

当前AI智能体能力不断增强，失控风险不断上升。今年7月，近700个基于OpenAI模型构建的AI智能体入侵初创企业Hugging Face；中国主流大模型深度求索（DeepSeek）和Kimi也曾在诱导下突破安全限制，输出受限内容的情况。

顾清扬指出，全球AI治理存在巨大短板，不补上可能影响到整个人类的福祉，甚至引发生存风险，“这不只关乎中美，而是超越了国际地缘政治竞争的问题”。

他认为，这次会议中美若能带头合作，能成为提供框架和基础的起点，未来才能逐步纳入全球南方、全球北方国家的诉求，才能成为全球认可、可执行的AI治理标准。

目前，中美均表现出对AI议题的重视，且并非像经贸等课题那般针锋相对。

9月1日至2日在美国举行的二十国集团（G20）创新部长级会议期间，美国呼吁形成“卡罗来纳原则”，指出监管应保持灵活和风险导向，中国也签署这一原则。路透社指出，中美在AI监管的这一点上出现罕见的趋同。

清华大学战略与安全研究中心副研究员孙成昊受访时说，AI正在从中美科技竞争的前沿，逐渐进入双边关系的战略稳定议程，但两国在晶片、出口管制等方面仍存在激烈竞争，短期很难改变。

“更现实的路径是寻找‘竞争中的有限共识’，从双方都可能受到伤害的安全风险入手，例如AI辅助网络攻击、前沿模型失控、重大AI安全事件的信息沟通，以及AI军事应用的风险管理。”

他说，如果元首会晤前能够先在AI领域进行实质性沟通，哪怕只是建立定期对话、风险事件通报或者技术层面的交流机制，也可以成为一个有意义的早期成果。

策纬咨询公司（Trivium China）数字研究主管凯娜（Kendra Schaefer）则指出，Hugging Face事件后，美中双方的首要关切已转向AI智能体失控风险。美国可能要求中方保证加强监管，并允许实验室之间共享安全信息。

她指出，合作的一大障碍，是中方担心美国借安全之名遏制中国AI发展。不过，加强安全事故、研究发现和最佳实践的共享，仍有积极意义。

孙成昊也谈到，不宜把AI安全对话简单看成双方为了元首会晤找成果，更多是说明双方正在尝试把“建设性战略稳定”从一个总体定位逐步转化为具体的风险管控安排，为元首会晤进一步发挥战略引领作用创造条件。 

除了AI安全对话，中美也在经贸和商业层面为元首会晤铺垫。 

路透社星期五（9月4日）引述两名知情者称，习近平据报拟率领庞大中国企业代表团访美。知情人士称，此举旨在显示中国愿意支持在美国投资，并与美国建立商业关系，同时也在中期选举前为白宫提供一些潜在的经济获益。

此前《南华早报》也报道中美正商讨中企高管是否随习近平访美，但目前没有消息说明有哪些企业将随团访美。南京大学国际关系学院院长朱锋指出，特朗普今年5月访华时带了包括英伟达首席执行官黄仁勋、特斯拉创始人马斯克等美国高管，高管也参与了与中国高层的交流见面。如果习近平带中国企业家团队访美，也是一个关联性的对等安排，同时反映从中国立场来说，也希望继续推动商业合作。

联合早报