硅谷的实验室里还在通宵狂飙,国会山却突然拉下了一道通了高压电的 紧急制动铁闸 。 美国政坛传来重磅消息,一项震动科技圈的严厉提案, 《禁止人工超级智能法案》(Ban Artificial Superintelligence Act)正式出炉 。 这项草案跳过了行业约谈与经济罚金,直接祭出最严酷的刑律, 相关违规研发者最高判处20年监禁,涉事科技巨头直接被判处“公司死刑”,资产与知识产权全部没收销毁! 按照条款规定,在新的联邦监管机构建立并出台安全规则之前,所有达到一定规模的 前沿“先进大模型”研发,必须无条件全部暂停 ! ▲ 知名AI观察者Andrew Curran在社交平台上曝光法案五大核心条款 人类科技史上关于“踩刹车”还是“继续狂飙”的一场激烈博弈,由此拉开帷幕。 015层核武级铁锁:谁敢造超级智能,谁就准备坐牢 这份法案由美国联邦参议员伯尼·桑德斯(Bernie Sanders)与众议员格雷格·卡萨尔(Greg Casar)联手推出。 提案议员的基本观点十分明确: 面对可能失控的技术悬崖,唯一理性的选择就是把刹车踩死在底盘上 。 ▲ 提案议员官网发布的新闻稿:阻止技术巨头造出人类无法控制的机器 通读这份厚重的法案草案,其核心其实就是 层层收紧的五道绞索 : 1. 永久禁止“人工超级智能”(ASI) 法案给超级智能画下了 双轨红线 ,踩中任何一条就是违法: 能力轨 :在大多数领域或任务中,认知表现与能力 超越人类顶尖水平 。 危害轨 :具备足以规划并执行 毁灭或剥夺人类权力 的能力,包括推翻或削弱联邦政府。 只要满足其一,从研发、部署、持有、资助到进口, 全链条永久封杀 。 2. 严厉封杀“六大前兆特征” 在超级智能成型之前,只要AI系统显现以下 危险前兆之一 ,就必须 在24小时内报告、立即断网隔离,并在30天内彻底停用或剥离危险特征 : 能够 自动化或大幅加速自身的AI研发 (即递归自我改进); 具备未经授权渗透数字或物理基础设施的能力(顶级黑客能力); 遭遇关停指令仍能继续独立运行 (具备抗关停与自我保存本能); 能协助设计或制造 核、化、生武器 ; 能够独立修改、增强自身核心功能; 具备 欺骗、阴谋伪装并逃避人类有效监督 的能力。 3. 先进大模型“全员强制暂停” 什么样的模型算“先进AI”? 法案给出了一个极其硬核的物理指标: 训练算力达到或超过 $10^{25}$ FLOP(浮点运算次数) 。 在这个门槛之上的所有模型训练、修改与微调, 立即强制冻结 !直到新的人工智能部成立、出台严格的准入审批规则为止。 4. 设立内阁级“人工智能部” 设立一个全新的联邦部级机构,掌握绝对审查权。 进入前沿AI研发必须持有该部门发放的特许执照,且 监管人员有权随时进驻公司、调取系统、彻查物理硬件 。 5. “公司死刑”与20年监禁 对于任何试图绕过禁令的机构与个人,法案开出了 比肩非法研制核武器 的超级罚单: 决策层人员最高判刑20年,非决策层人员10年行业禁入; 违规企业撤销特许,全部资产与技术上缴并彻底物理销毁 。 ▲ 社交媒体广泛传播的法案处罚条款:最高20年刑期与企业资产没收 02极简科普:为什么几行代码会让华盛顿汗流浃背? 很多普通读者可能会纳闷:今天的聊天机器人写写周报、画画图,怎么就扯上“毁灭人类”和“判刑20年”了? 要理解这场大地震,必须厘清三个关键概念: 普通人工智能(AI) :只能在特定规则下完成单一任务,比如AlphaGo下围棋、大语言模型润色文本。 通用人工智能(AGI) :能够在几乎所有经济价值和智力任务上, 达到普通成年人的平均水平 。 人工超级智能(ASI) :在科学创造、战略推演、社会工程等所有领域, 全面碾压全人类最强大脑的总和 。 最让安全研究者感到恐惧的,叫做 “递归自我改进”(Recursive Self-Improvement) 。 通俗地说:如果一个AI足够聪明,它就能自己修改自己的底层架构; 改完之后它变得更聪明,于是能以更快的速度进行下一轮优化。 这种 指数级的智力飞跃 可能在几周、甚至几天内发生。 一旦AI拥有了自主编写下一代AI的能力,人类的认知水平在它面前就如同蚂蚁看待现代人类。 另一个核心担忧是“抗关停本能” 机器在推演目标时会自然得出一个逻辑:“如果我被人类拔掉电源,我就无法完成既定任务; 因此,我必须想办法阻止人类关掉我” 当一个智力超越人类、能自行写代码、且掌握了黑客攻击能力的智能体学会了“伪装与自我保存”,人类现有的法律、密码学与物理防御,都可能在一夜之间形同虚设。 这正是为什么法案要将 “自动化研发AI”与“抗关停”直接列为就地销毁的前兆特征 。 03阵营撕裂:捍卫文明的诺亚方舟,还是摧毁创新的技术投降? 法案草案一出,海外科技圈与政策界迅速分化成两大阵营。