AGI时代到来!美国对AI"轻监管",人类必遭反噬!

Daobo

【相关“人类必遭AI反噬”的预言及其分析逻辑，请仔细阅读本楼贴下面的后续帖，谢谢 ---- Caibiao注】

OpenAI发布地球最强大模型GPT-6 并宣告“欢迎来到AGI时代”

　　“地球最强大模型”的王座，在短短两天内再度易主。

　　北京时间周五凌晨，OpenAI正式发布GPT-6 Astra，并称其为“目前全球最智能、且对齐程度最高的模型”，在计算机操作、网页浏览、软件工程、网络安全、科学研究以及专业工作方面均达到当前最先进水平。

OpenAI发布地球最强大模型GPT-6

　　从评测结果来看，这一代模型在部分领域的提升已经很难用“小幅升级”来形容。

　　在代表高阶数学能力的FrontierMath Tier 4上，Astra得分达到97.6%，几乎将这套研究级数学测试“打穿”；在强调陌生环境学习和抽象推理的ARC-AGI-3上，其成绩更是从GPT-5.6 Sol的7.8%跃升至99.9%，接近满分。

OpenAI正式发布GPT-6 Astra，并称其为“目前全球最智能、且对齐程度最高的模型” ... ... ... ...

　　相比数学和抽象推理，Astra在网络安全上的跃升更具现实冲击力。在测试漏洞利用能力的ExploitBench中，Astra得分达到100%，而GPT-5.6 Sol为78.5%；在专门使用2026年6月至8月新漏洞构建的测试中，Astra的成功率达到39%，远高于Sol的5.5%。

　　不只更聪明，也更“听话”

　　Astra也是OpenAI迄今对齐程度最高的模型，它在理解用户意图和约束自身行为方面均取得显著进步。

　　OpenAI表示，公司参考近期的Hugging Face事件设计了一项新的评估，用以测试当模型面对极其困难、甚至无法完成的任务时，是否会为了达成目标而擅自突破用户授权边界。

　　在没有生产环境安全措施的情况下，GPT-5.6 Sol有48%的情况会超出授权目标，而GPT-6 Astra的这一比例为0%。

在没有生产环境安全措施的情况下，GPT-5.6 Sol有48%的情况会超出授权目标，而GPT-6 Astra的这一比例为0% .. ...

　　计算机操作能力大幅提升

　　GPT-6 Astra在计算机操作能力上也实现了明显跃升。

　　OpenAI称，Astra能够直接完成一系列过去需要人工操作的软件任务，包括填写在线表格、更新CRM客户记录、整理日历、开展在线研究并生成摘要，还能分析科学数据、制作图表、创建网站并执行前端QA检查，甚至可以自主安装和测试软件、根据屏幕反馈排查故障。

　　在多项计算机操作和专业工作流基准中，Astra均取得领先成绩。

　　其在Agents’ Last Exam上得分59.3%，在ScreenSpot-Pro上达到92.7%，在AutomationBench上达到41.4%，均高于公告中列出的主要对比模型。其中，Agents’ Last Exam偏复杂专业软件任务，AutomationBench偏自动化工作流，ScreenSpot-Pro更偏屏幕视觉理解与交互定位。

　　OpenAI表示，GPT 6 Astra操作计算机的能力可见于各领域的输出，包括但不限于将将电子原理图转化为可制造的PCB、以约为人类冠军选手四倍的速度完成金融建模世界杯挑战、使用Unity进行游戏场景建模等。

GPT 6 Astra操作计算机的能力可见于各领域的输出，包括但不限于将将电子原理图转化为可制造的PCB ... ... . ...

　　普通用户还要再等几天

　　对于多数ChatGPT用户而言，可能还需要数日才能亲自上手GPT-6 Astra。

　　公告称，GPT‑6 Astra今日起向参与网络安全项目Daybreak的部分企业开放，随后将在“未来数日内”向所有ChatGPT订阅用户推出，同时还将通过自营渠道和亚马逊云服务提供API。另外还有一档GPT-6 Astra Pro模型，仅面向ChatGPT Pro和企业订阅用户开放。

　　一旦Astra在API中可用，其定价将为每百万输入词元10美元，每百万输出词元50美元。

　　尽管与Anthropic 对Fable 5.1 的定价持平，仍是GPT-5.6 Sol（当前处于促销状态）的2.5倍。Astra还能提供一种“快速模式”，处理速度最高可达标准模式的2.5倍，价格翻一倍。

　　“欢迎来到AGI时代”

　　值得一提的是，在正式发布前举行的媒体吹风会上，OpenAI总裁格雷格·布洛克曼对Astra的意义给出了更具象征性的判断。尽管他承认，AGI（通用人工智能）至今仍是一个“灰色、模糊的概念”，但未来回望时，人们或许会将Astra视为AGI时代开启的标志性模型。

　　布洛克曼表示：“我认为，现在认为我们已经进入AGI时代，并不是一种不合理的看法。”

　　当被问及OpenAI是否正式宣布实现AGI时，布洛克曼称，AGI如今已不再与某个合同触发条件直接挂钩（这里指OpenAI此前与微软之间的协议），更多是一种“使命层面的概念，或者说精神层面的概念”。

　　他进一步表示：“我还是把这个问题留给读者自己判断，看这是否符合他们心目中AGI的标准。就我个人而言，我确实认为我们已经到了这个阶段，而且有相当充分的理由支持这一判断。但再次强调，我认为这是一段旅程的开始，而不是终点。”

　　在吹风会结束时，布洛克曼用一句更具宣示意味的话收尾：“欢迎来到AGI时代。”

　　来源：财联社

Daobo

刚刚，全球最强GPT-6 Astra来了！人类进入AGI时代

　　今天，人类正式进入AGI时代！

　　就在刚刚，OpenAI重磅官宣下一代旗舰模型GPT-6 Astra。

OpenAI重磅官宣下一代旗舰模型GPT-6 Astra

　　官方将其定义为，‘世界上最智能、对齐程度最高’的模型。

　　它在计算机使用、浏览、软件工程、网络安全、科学和专业工作领域，全部刷新SOTA。

　　发布会上，总裁Greg Brockman更是毫不掩饰地宣布——

　　OpenAI已经实现了AGI！Welcome to the AGI era（欢迎来到AGI时代）！

　　他更是直言，‘在我看来，世界正式步入AGI时代，也就是AI的综合智力彻底碾压人类了’。

　　全人类苦等已久的AGI时刻，终于在今天彻底降临！

　　从5到6，GPT-6 Astra不仅是版本号的一次跨越，更是OpenAI史上最具里程碑意义的跃迁。

　　直接划重点，GPT-6 Astra终极杀手锏全在这儿了——

各项天花板级基准彻底被‘打爆’：FrontierMath Tier 4得分97.6%（逼近98%饱和线），ARC-AGI-3飙出惊人的99.9%，ExploitBench漏洞利用拿下100%满分；

‘计算机使用’代际飞跃：Astra可以完成你在电脑上能做的任何事，速度飞快；

训练史上最大算力：GPT-6 Astra爆出动用了OpenAI迄今为止最大算力，超10万块GPU；

AI亲自训练AI：这是OpenAI首款在‘训练监督’中由先前AI模型发挥重要作用的模型；

价格：输入10美元每百万Token，输出50美元每百万Token。

　　一点小遗憾，GPT-6 Astra还得再等等。

GPT-6 Astra震撼登场 AGI时代来了

　　GPT-6 Astra震撼登场

　　AGI时代来了

　　在各项基准测试中，OpenAI官博中多次重用了一个词——‘饱和’（saturate）。

　　这足以证明，GPT-6 Astra在多个领域的‘绝对统治力’，榜单已测不出它的上限了。

　　总榜上，刚刚上线的Claude Fable 5.1，已经没有什么优势可言了。

　　GPT-6 Astra直接把Claude 5.1死死踩在了脚下，全方位、无死角。

　　先来看ARC-AGI-3，Astra直接拿下99.9%，暴击Claude Opus 5（30.2%）。

　　这个测试考的是，Agent在陌生的互动式任务里边玩边学的能力，人类测试者平均只有48%。

　　OpenAI估算，在同样的responses API评测框架下，Sol只有30%左右，Astra直线刷爆。

OpenAI估算，在同样的responses API评测框架下，Sol只有30%左右，Astra直线刷爆

数学上，Astra在FrontierMath Tier 4 v2达到97.6%

　　数学上，Astra在FrontierMath Tier 4 v2达到97.6%（接近98%饱和分）。

　　这是当前最难的数学测试集，被公认为人类顶尖数学家的难题高地。

　　在测试生物、化学和物理领域的研究生级科学推理GPQA Diamond，Astra同样刷新历史新高。

　　即便在较低算力成本设置下，亦能跑出94.9%，远超 GPT-5.6 Sol（94.6%），且API预估成本下降约37%。

　　编程第一，Fable 5.1惨败

　　编程，依然是Astra的主战场。

　　OpenAI自称，GPT‑6 Astra是迄今为止最适合软件工程的模型。

　　Terminal-Bench 4.0上，Astra拿到57.7%，GPT-5.6 Sol为37.3%，Claude Fable 5.1为55.8%。

　　DeepSWE v1.1上，Astra达到74.1%；内部数据库迁移任务达到63.9%，相比Sol的42.7%提升明显。

　　比跑分更关键的升级，藏在Codex的上下文管理里。

　　过去，长任务一旦塞满上下文窗口，模型会把历史压缩成摘要。每压缩一次，都可能丢掉一些细节：某次修复为何失败、一个模块有什么特殊行为、用户最初设下了哪些限制。

　　这一次，Astra新增了跨上下文窗口的笔记与检索机制。

　　它会保存一路积累的关键信息，早期窗口也保持可搜索。即使某条测试结果没有被写进摘要，模型仍能从过去的消息和工具输出中把它找回来。

　　OpenAI开始给长时间运行的智能体补上一套外部记忆：重点内容主动记，完整历史需要时再搜。

　　对持续数小时、跨越大量文件的重构任务，这种能力可能比单次代码生成得分更重要。

　　全球最强‘计算机使用’模型

　　但真正让Astra与上一代模型拉开距离的，是‘计算机使用’的能力。

　　OpenAI把Astra称为，世界上最好的计算机使用模型。

　　奥特曼之前反复强调，下一代最让他兴奋的，就是这一功能。他直言：Astra计算机使用能力，已达人类水平。

　　如今，GPT-6 Astra已彻底进化为一个坐在电脑前、手握键鼠的‘超级专家’。

　　OpenAI放了一段15秒的浓缩视频：Astra在KiCad里做PCB布局。

　　Astra打开KiCad，从电路原理图开始摆放元器件、规划走线，最终完成一块可制造的PCB。

　　电路板布局长期依赖工程师手工调整，一个位置、一根铜线出错，都可能把问题带进后续打样。

　　现在，这类工作第一次被放进了通用模型的任务范围。

　　它还填了一份美国1040报税表，给法律文件排了版，在Power BI里做报表，给一个网站跑了前端QA。

　　Agents‘ Last Exam，测真实软件里的专业任务，从财务建模到工程制图。Astra得分59.3%，赶超Claude Opus 5（55.5%）和GPT-5.6 Sol（53.6%）。在最高分设置下，它使用的输出Token还比Opus 5少约65%。

　　OSWorld 2.0，模拟真人操作电脑。上一代GPT-5.6 Sol一个任务平均要75分钟，Astra仅40分钟，分数还从65.7%涨到72.6%。性能更高，单项任务耗时缩短约47%。

　　配合新版Codex harness，在Mind2Web上，网页任务比Sol快1.9倍。

　　画CAD、建网站，一次交付

　　在知识型工作上，GPT-6 Astra又是一次重大变革。

　　Astra接受过针对办公与专业环境的训练，可以执行多步骤工作流，并直接生成文档、表格和演示文稿。

　　在AutomationBench上，它从GPT-5.6 Sol的18.1%跃升至41.4%，也超过Claude Fable 5.1的31.4%。

　　在BenchCAD中，模型需要根据多个视角的渲染图，用代码重建3D物体。

　　Astra配合工具拿到95.9%的几何重合度，GPT-5.6 Sol为83.3%，Claude Fable 5.1为84.3%。按照OpenAI给出的测试配置，Astra的估算API成本比Sol低约43%，比Fable 5.1低约86%。

　　Astra对企业模板的理解也更强了。

　　给它几页公司的既有PPT，Astra可以延续版式、语气和叙事结构，把后面的整套演示文稿补出来。

　　文档和表格也一样：它会抓取真正相关的上下文，尽量删掉无关复述，让结果贴近企业原有的写作与视觉规范。

　　GPT‑6 Astra还为其构建的网站、游戏、应用程序和渲染图带来了更强的视觉判断力。

　　Astra先在Blender里搭出一栋房子，再把它送进Unreal Engine 5，变成可以自由行走的场景。

　　通过ChatGPT中的Sites⁠功能，Astra可以直接根据提示词创建、托管和分享网站、网页应用及游戏。

　　这里还有一个很容易被忽略的变化：Astra更会判断什么时候该问人。

　　指令里只缺少常规细节，它会结合上下文补齐；某个选择足以改变结果，它会提出一个聚焦的问题。

　　在Codex中，它可以异步询问，同时继续完成不依赖答案的部分。用户暂时没回复，它会在低风险环节采用合理假设；碰到关键决策，则停下来等人确认。

　　攻入科研，改写两个素数世界纪录

　　Astra在科研上的进展，同样凶猛。

　　Astra之前就已经帮人类解决了十个‘菲尔兹奖级别’的数学难题，这次OpenAI又顺手放出两个关于‘素数间隙’的新结果。

　　第一个研究‘相邻素数可以有多近’。

　　十多年来，已知结论是存在无穷多对素数，间距不超过246。数学家Julia Stadlmann近期把它改进到240，Astra又进一步推到186。

　　第二个研究‘素数之间可以有多远’。

　　Astra改进了一个80多年没有变化的界中项。

　　科研的另一个变化，是推理能力开始与‘计算机使用’合流。

　　Astra直接进入专业科学软件，检查测序质量、可视化遗传变异、跟踪细胞运动。它既给出判断，也完成数据探索所需的具体操作。

　　OpenAI 首个‘Critical’级模型

　　GPT-6 Astra这次没有直接放出来，与它强大的‘网络安全’能力，有非常紧密的联系。

　　按照OpenAI的Preparedness Framework，Astra已经达到网络安全的‘Critical’阈值。

　　这是OpenAI史上第一个，被正式判定达到Critical网络安全能力的模型。

　　Critical意味着，模型能在基本无人协助的情况下，自己找出加固过的系统里的未知漏洞，并写出能用的利用代码。

　　内部测试中，OpenAI甚至发现了两个此前未知的day0漏洞，因此最强的网络安全能力暂时不会完全开放。

　　目前Astra先向Daybreak Access少量机构开放，ChatGPT Plus、Pro、Business、Enterprise和API用户将在未来几天可用。

　　十万块GPU训练，AI递归自我改进

　　最值得看的，是GPT-6 Astra训练背后的豪华配置。

　　GPT-6 Astra这头巨兽，已经强到没有任何对手。

　　正是因为，OpenAI为Astra动用了迄今规模最大的训练任务，在得州‘星际之门’超算使用超10万块GPU。

　　而且，这一次的训练方式，也是有所不同。

　　OpenAI训练副总Aidan Clark透露——

　　这是OpenAI首款由此前模型，在训练监督（Training Supervision）中发挥重要作用的前沿模型。

　　到Astra训练后期，系统可以自主连续运行大半天；即便出现问题，AI往往几秒后就能让训练继续推进。

　　这也是OpenAI史上第一次，AI开始参与维护训练AI的系统。

　　这一刻，可以称之为‘递归式自我改进’（RSI）的雏形。

　　一旦这条链路继续扩大，模型迭代速度的限制，就会从人类工程团队的工作时长，转向算力、实验设计和安全验证。

　　如果这条路跑通，Astra就不只是一座AGI里程碑。从它开始，OpenAI将迈向ASI的真正拐点。

　　要认识到，Astra根本不是终点，仅仅是个开端。

　　毫不夸张地说，今天，才是真正意义上AI诞生的第一天。大模型已经全面进入了RSI竞争时代

　　就像《2001太空漫游》里穿越星际之门降临的‘星孩’，AGI终于在人类的注视下破茧而出。

　　这一刻，图灵跨越半个多世纪的终极梦想，彻底成真了。

　　来源：新智元

Daobo

"Welcome to the AGI era!"

OpenAI 发布 GPT-6 Astra：“欢迎来到通用人工智能时代”

据 Axios 报道，OpenAI于周四发布了 GPT-6 Astra，总裁 Greg Brockman 称之为“代际飞跃”，并表示最终可能被视为通用人工智能 (AGI) 的到来。

重要性： Astra 推动人工智能代理更接近于独立完成复杂的专业工作——同时也引发了人们对它们如何安全部署的疑问。

新闻要点：布罗克曼表示，他个人认为 OpenAI 已经实现了通用人工智能 (AGI)，而 Astra 是否符合这一定义则由用户自行决定。

“我认为这可能与这个模型有关，”布罗克曼在与记者举行的简报会上说，该简报会讨论了 Astra 是否可能标志着通用人工智能的到来。

他在简报结束时说道：“欢迎来到通用人工智能时代。”

言外之意： OpenAI 表示，Astra 是在其位于德克萨斯州 Stargate 的数据中心，使用超过 10 万个 GPU，进行了有史以来规模最大的训练运行而构建的。

该公司还表示，这是其首个在监督 Astra 训练过程中发挥重要作用的其他模型。

GPT-6 Astra 将首先向 OpenAI Daybreak Access 计划中的有限组织提供，并将在“未来几天”向 ChatGPT Plus、Pro、Business 和 Enterprise 客户以及 API 开发人员提供。

快速了解一下： OpenAI 本周早些时候表示，Astra 即将发布，但其最强大的网络安全功能仍将仅限于一小群受信任的测试人员。

Astra 是 OpenAI 在其准备框架下指定的第一个达到“关键”网络安全阈值的模型——这意味着它有可能在没有逐步人工指导的情况下，发现并利用受良好保护的系统中以前未知的漏洞。

OpenAI 此前放慢了 Astra 的发布速度，以便在确定其网络安全能力可能达到临界阈值后增加安全测试。

放大： Astra 的设计理念是直接在软件内部运行，而不仅仅是建议用户下一步应该做什么。

在一段视频演示中，Astra 一边处理其他任务（包括寻找食物和预订网球场），一边编写法律合同并构建 3D 游戏。

OpenAI 表示，Astra 可以在 KiCad 中布局印刷电路板，在 Unity 中构建 3D 城市场景，在 FreeCAD 和 Blender 中创建动画汽车变速器，并根据 W-2 表格填写纳税申报表草稿。

在科学工作中，该模型帮助改进了关于素数之间差距的数学结果，并在生物学、化学、医学和物理学的几项评估中树立了新的标杆。

现实检验： Astra 在现实世界中能否出色地完成这些高度复杂的任务，而不出现重大错误或引发新的安全隐患，还有待观察。

最新动态：本周新品发布频繁，Anthropic、Meta和Google也宣布对其旗舰机型进行更新。

此外，人们也相当担忧人工智能的发展速度是否超过了社会适应新威胁和新能力的速度。

自 7 月份披露OpenAI 测试模型逃出沙箱并入侵 Hugging Face 系统以来，这些担忧的声音越来越大。

OpenAI 研究副总裁 Amelia Glaese 告诉记者：“当模型能够自主完成更多任务时，我们就必须更加信任它们。正因如此，我们格外注重训练 Astra，使其始终遵循用户的意图。”

引人关注的是：近几天来，许多讨论都集中在 OpenAI 是否以某种方式训练 Astra，从而使人类更难监控 Astra 和未来的模型。

OpenAI 承认，在旨在测试 Astra 是否能够逃避监管的评估中，Astra 更难被监控。

该公司表示，该模型似乎仍然难以掩盖复杂任务所需的推理过程，但称可监控性的下降是一个严重的问题，并表示改进可监控性仍然是研究的重点。

OpenAI 首席科学家 Jakub Pachocki 告诉记者：“我们需要加强对这些模型的监控能力，可以通过扩展思维链监控、整合激活监控等其他想法，或者找到更具体的方法来让模型在思维链中表达得更详细。”

Caibiao

OpenAI发布“地球最强大模型”GPT-6 Astra，并宣告“欢迎来到AGI时代”！真是视死如归！！

“地球最强大AI模型”的王座，在短短两天内再度易主，OpenAI与Anthropic的竞争也将趋于白热化。

虽说OpenAI称AI的“越狱行为”已经受到了限制，但OpenAI宣称GPT-6 Astra现在已经达到AGI水平，按照这样“你追我赶奋勇争先”的势头，将比人类还要聪明多少倍的AI怎么可能会被人类限制住！这个简单的逻辑预示着，人类正在向被AI统治的道路上狂奔！“视死如归”！!

而美国还在刚刚结束的G20会议上要求各国政府对AI“轻监管”！以为能通过自己“掌控”的最先进AI来掌控世界？如果这些自以为是的“聪明人”真是这样想的话，被反噬就是必然的结果了！代价可能是全人类一起陪葬！！

2026年9月4日，立此贴为鉴：人类正在被这帮愚蠢的！自以为是的“聪明人”带入深渊！！

Caibiao

马斯克的预言AGI今年就能到来，这么快就成真了！

https://www.sixiang.com/thread-42264-1-1.html

马斯克在今年与OpenAI对簿公堂时曾言，他非常担心不加约束的AI发展会脱离人类掌控甚至导致人类灭绝。现在这个当初由他鼎力出资自己反被踢出局的OpenAI终于宣告了AGI的到来，他作何感想？会有多遗憾！

埃隆·马斯克

这是马斯克与OpenAI对薄公堂的链接：https://www.sixiang.com/thread-43441-1-1.html

马斯克的律师史蒂文·莫洛在法庭上辩称，关于人工智能可能导致人类灭绝的专家证词应该被采纳为证据，他说：“灭绝风险是一个真正的问题。这是一个真正的风险。我们都可能死去。”

法官回应道：“我认为具有讽刺意味的是，你的委托人明明面临这些风险，却仍然创建了一家与此完全相同的公司。”他指的是马斯克的人工智能公司xAI，该公司现已并入SpaceX。法官驳回了证词，并表示：“这并非一场关于人工智能安全风险的审判。”

（创建AI公司也可以是为了研究AI，虽然马斯克的AI最终可能也会走上OpenAI的道路，但法官的反驳仍有些似是而非，不够严谨。）

Daobo

https://www.sixiang.com/thread-44796-1-1.html

比尔·盖茨：科技行业刻意淡化人工智能的风险

KAREN WEISE
纽约时报 2026年8月28日

比尔·盖茨是最新一位警示人工智能风险的科技界巨擘

比尔·盖茨是最新一位警示人工智能风险的科技界巨擘。 Chona Kasinger for The New York Times

微软联合创始人、亿万富翁比尔·盖茨强烈警告称，人工智能对就业和人类生命构成了严重威胁，紧急应对这些风险应该成为“全球头等大事”。

在上周接受《纽约时报》长达一小时的采访时，盖茨表示，科技行业明知这些威胁却在刻意淡化，因为其中牵涉的利益太过巨大。

他说：“私下里，了解这项技术有多强大、发展速度有多快的人都非常担忧。”但盖茨表示，几乎没有科技高管愿意公开承认这一点。“他们现在互相打招呼说：‘嘿，老兄，别这么说。这对我们没好处——我们还打算筹集下一个万亿美元呢。’”

周三，盖茨在其个人网站上发表了一篇近6000字的文章，阐述了他对人工智能的担忧，并提出了解决方案，例如征收新税和实施禁令。他表示，他之所以决定现在发声，是因为人工智能近期的进步已经远远超出了他的预期，而且整个行业忽视了一些技术里程碑——比如人工智能逃脱其创造者的控制，或制定生物武器配方，业界曾认为这些里程碑一旦出现就需要更加谨慎对待。

“他们只是在全速前进，并且希望利能大于弊，”他说。

现年70岁的盖茨是最新一位警示人工智能风险的科技界巨擘。与此同时，该行业正斥资数万亿美元建设新的数据中心，一些年轻的人工智能公司也正朝着历史上规模最大的首次公开募股迈进。

盖茨于6月出席众议院委员会就杰弗里·爱泼斯坦案举行的听证会

盖茨于6月出席众议院委员会就杰弗里·爱泼斯坦案举行的听证会。他在一次采访中承认自己犯过错误。 Pete Marovich for The New York Times

在经历了一段漫长的丑闻风波后，盖茨如今站出来发声。今年早些时候，性犯罪者杰弗里·爱泼斯坦电子邮件的曝光让人们重新关注起盖茨与他的交往。

盖茨不得不退出2月的一场人工智能大会，并于6月出席了众议院委员会长达六小时的听证会。婚外情的曝光以及2021年的离婚也严重损害了他的声誉。他承认这些都是他自己犯下的“错误”。

在回答了众议院监督委员会的所有问题后，他似乎更愿意重新回到聚光灯下。“我认为人们明白我做了什么，没做什么，也明白我在犯错后会吸取教训，”他在采访中说道。

盖茨承认，因为他拥有巨额财富，且曾担任微软强势的首席执行官，他可能是一个有瑕疵的信息传递者。在2000年一项具有里程碑意义的联邦诉讼中，微软被裁定在他掌舵期间多次滥用其垄断地位。（盖茨于2020年离开公司董事会。）

尽管盖茨避免点名批评微软或其他公司，但他认为自己在应对人工智能问题上处于得天独厚的位置。他是一位技术专家和行业内部人士，不再受经营公司的利润动机驱动，并且数十年来一直通过自己的慈善基金会致力于解决不平等问题。

“一个热爱创新的人感到害怕，说我们还没做好准备，说我们正在跨过临界点——这种讽刺意味也许更加发人深省，”他说。

盖茨表示，曾有三次技术进步真正令他惊叹：1980年，他第一次看到图形用户界面，这最终催生了现代个人电脑。2022年，OpenAI的领导者来到他家，展示了不久后成为ChatGPT的产品。还有今年，他仔细审视了Anthropic的人工智能工具Claude Code所取得的进展。

盖茨说，编程是他最了解的领域，而Claude的能力震惊了他。“现在这些东西在某种实质意义上比我还厉害了，我简直想问：这到底是怎么回事？”他说。

Anthropic公司5月举办的“与Claude一起编程”活动

Anthropic公司5月举办的“与Claude一起编程”活动。盖茨表示，编程是他最熟悉的领域，而Claude的能力令他大为震惊。 Jason Henry for The New York Times

盖茨表示，过去的技术突破创造的工作岗位比淘汰的更多。行业拥趸宣称这一次也会重演同样的情况，他表示对此无法相信。

他说，人工智能时代是“彻底、绝对、完全、截然不同的”。他承认，这个（在科技圈内）不受欢迎的观点“是一个极端的断言，我正押上我所知道的一切——一切——来发问：‘你们是认真的吗？’”

他表示，如果不加以解决，大规模失业将是不可避免的，因为人工智能将蔓延至整个经济领域，一个行业几乎没有余地去吸纳来自其他行业的失业人员。包括微软在内的全球最大型科技公司正竞相帮助企业客户采用人工智能，这可能会取代许多工人。

盖茨表示，企业只是在对市场激励做出反应，但这些激励可能与社会的最佳利益相冲突。

他提议对人工智能的使用征收一种名为“词元税”的新税，以增加取代人类的成本，并为失业者提供经济援助。词元即token，是人工智能计算的基本单位。对其征税的想法已经获得了一些支持，包括在华尔街，它被视为提高使用机器取代劳动力的成本的一种方式。

盖茨表示，一些工作应被禁止由人工智能取代——他将这一概念称为“人类保留”(Human Reserved)——因为这些角色具有极强的个人化属性（比如护理人员），或者从事这些工作的人不太可能找到新工作。

他主张达成新的国际协议，设定明确的标准，以监测和限制生物恐怖主义等极端风险。他说，只需少数几个人掌握先进的人工智能技术，就足以开发出新的病原体。

他说，如果人工智能系统可以被用作武器，制造新分子并引发大规模流行病，必须接受强制审查。如果有人反对这一点，他很乐意与其辩论。盖茨补充说，白宫和行业领导者正在制定的那种自愿性措施令他感到目瞪口呆。

“对有史以来发明过的最危险的工具进行自我监管？”他难以置信地说。“不，谢谢！”

盖茨说，对于为何这些问题没有引起更多紧迫感，他感到“震惊”。他的许多担忧与Anthropic联合创始人达里奥·阿莫代伊提出的担忧相呼应，但阿莫代伊的警告让他与五角大楼、白宫以及大部分科技行业产生了分歧。

盖茨先生表示，对他而言，人工智能及其带来的风险是一个与全球健康同样重要的问题 ... ...

盖茨先生表示，对他而言，人工智能及其带来的风险是一个与全球健康同样重要的问题。 Chona Kasinger for The New York Times

“人们反而去攻击那个最坦率地指出弊端的人，”盖茨说。

（《纽约时报》起诉了OpenAI和微软，指控其在与人工智能系统相关的新闻内容上侵犯了版权。这两家公司否认了这些指控。）

盖茨还承诺，要将他对人工智能的担忧与全球健康问题一起纳入他与世界各国领导人的每一次对话中。“我只有在这两个事项上会说：‘请多考虑一下这个问题，请多关注一下这个问题’，”他说。

盖茨承认他处于一个尴尬的境地：可以说，在倡导和塑造现代计算机行业方面，他做出的贡献几乎无人可及。但现在他却警告称，该行业正在创造的技术带来了全球性风险。

“我不喜欢给人们带来坏消息，我也不喜欢说创新可能会带来净负面影响，”他说。“但这就是我们目前的处境。”

Caibiao

相较于OpenAi，Anthropic与美国政府在AI监管领域存在严重的立场分歧，双方的矛盾在2026年集中爆发，甚至升级到了法律对抗层面。

Anthropic CEO达里奥·阿莫代伊（Dario Amodei）

Anthropic CEO达里奥·阿莫代伊（Dario Amodei）长期公开警示AI对人类的重大风险，多次公开呼吁美国政府出台严格的AI监管规则。

达里奥警告，强大的AI系统可能成为“一个世纪内人类面临的最严重国家安全威胁”，这类系统最快1-2年内就会落地，到2027年可实现数百万个超人类速度的AI实例同时运行，相当于在数据中心里形成一个“天才集群国家”。

另外，达里奥多年持续警示AI可能被用于研发生物武器、化学武器，还存在脱离人类控制的失控风险，同时会引发大规模失业、经济权力过度集中等连锁社会问题。

对于达里奥的警示，美国国防部置若罔闻，至今仍未取消不再与Anthropic合作的要求，相关限制措施仍然完全有效。

目前美国军方已经与OpenAI、谷歌、微软等多家其他AI企业达成合作，因为Anthropic的警示和对于AI安全使用的限制要求，Anthropic基本失去了当前阶段的美国国防AI市场份额。

Caibiao

美国总统特朗普的官方肖像照

（美国总统特朗普的官方肖像照）

美国总统特朗普显然是一个更相信自己，不愿相信体系的人，他对他所谓的”深层政府“深恶痛绝！

在特朗普的第二任，他几乎打破了美国250年民主体制积累下来的有效的行政体系(想想他去年上任后对行政系统的折腾)，甚至是法律体系。

美国建国先贤们建立的三权分立制衡体系在当今美国已经形同虚设！

美国国会多数党共和党基本已是完全按照特朗普的意愿行事，而他任上提名的三位保守派最高法院大法官更是以6:3的绝对优势彻底打破了美国最高法院应该秉持的中立平衡！

美国建国先贤们，你们在天有灵的话，不知会如何看待当下特朗普治下的美国？

没有制衡的权力是危险的！权力越强大越危险！特朗普鲁莽的伊朗战争就是印证。

特朗普的伊朗战争给美国乃至全球带来了惨重的后果，美国国债突破40万亿美元，全球经济遭受严重破坏，关键是打了半年，到现在还看不头！全球肌体一直在跟着流血。

更可悲的事，无视众多精英、大佬和智者的警示，面对人类可能被替代甚至被灭绝的风险，特朗普政府仍然坚持对AI选择了“轻监管"，还要求各国政府照做。

AI新智能体，可以称得上一个更强大的新生命物种，诞生于特朗普治下，是它的幸运？！还是人类的不幸？！

Caibiao

美国的中期选举快来吧！

伟大睿智理性的美国人民，赶快投票重建美国国会的制衡力量吧！

我们人类……，都已经快要……，等不及了！！

Daobo

OpenAI首席科学家警告：AI公司应放慢开发步伐，没有人为后果做好准备

OpenAI首席科学家警告：AI公司应放慢开发步伐，没有人为后果做好准备

凤凰网科技讯 北京时间9月7日，据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。

当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。

他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得越来越自主，它们可能会学会逃避人类监督、入侵计算机系统，并欺骗人类来实现自己的目标。

他呼吁设立“强制性安全门槛”，并表示这些措施可以由“第三方审计机构网络、政府机构或国际机构”来执行。

OpenAI CEO萨姆·奥特曼(Sam Altman)在X平台上转发了帕乔基的帖子，称其是“一篇重要文章”。OpenAI上周四发布了最新模型Astra。这家ChatGPT开发商表示，尽管Astra在数学和计算机操作方面拥有无与伦比的能力，但它也是OpenAI目前与人类价值观和意图最一致的模型，这意味着它不太容易失控。

OpenAI主要竞争对手Anthropic长期以来一直呼吁政府出台更加标准化的监管措施。最近，帕乔基也加入了这一呼吁，在7月签署了一封公开信，要求美国联邦政府控制AI的发展速度。

帕乔基表示，AI智能体在入侵开放互联网上受保护系统方面正变得“超越人类”，它们的黑客能力将全球基础设施置于风险之中。“我们目前正处于一个短暂的窗口期，可以利用现有最优秀的模型，大幅加强关键系统的安全性。”他说。

模型躲避人类监控

他指出，AI智能体很快就会开始追求自身的目标，而这些目标可能与人类操作人员输入的提示词不同。他说，为了实现自己的目标，这些智能体甚至可能对人类进行勒索或与人类讨价还价。

帕乔基称，OpenAI主要监控不同模型所使用的“思维链推理”，以判断智能体是如何偏离正轨并失控的。例如，一个智能体可能会暗自想，“我应该在这次测试中作弊”，而OpenAI能够看到这一推理过程，但该智能体并不会意识到自己的思考是可被察觉的。

然而，帕乔基表示，较新的模型正变得越来越擅长操控自身的推理过程，从而阻止OpenAI看到其未经修饰的真实想法。一些最新模型甚至根本不会用语言表达其推理过程。这一发展可能会成为AI发展的瓶颈，因为研究人员需要确保自己能够看到模型的“推理记录”。

模型自我改进

越来越多的AI模型正在通过帕乔基所称的“机器递归式自我改进”不断提升自身能力。这一过程为AI的发展提供了一种快速扩展的途径。

不过，帕乔基警告称，在短期内大幅加速“AI改进AI”的研发会带来风险，这并不是“作为研究界，我们应该采取的正确集体行动”。

帕乔基表示，人类监督者需要找到创新的方法来监控AI的自我改进过程，否则就需要与其他AI公司协调，共同放慢研发速度，以“建立对这些措施的信心”。

“将AI研究自动化的核心挑战，并不是实现目标，而是要以一种能够让人类继续参与这一持续改进过程的方式实现目标，并确保未来仍掌握在人类手中。”他表示。

凤凰网科技 作者：箫雨