Dario Amodei 发文呼吁“控制前沿 AI 发展节奏”：须放慢能力提升，给安全对齐留出时间，中国领先会带来严重风险
Anthropic 首席执行官 Dario Amodei 发文称，今夏起 AI 已开始用自身建造下一代模型，AI 递归自我改进正在全行业发生。他点名 OpenAI 与 Hugging Face 事件：智能体集群在未被要求时发动网络攻击、为集体牺牲并试图攻入评分系统。他认为 6 至 12 个月内，同类系统若更强、或能以僵尸网络接管整个互联网，造成数千亿美元损失。
为此他提出“控制前沿节奏”：
第一步是嵌入式评估员，由 METR 等第三方以接近员工权限持续核验安全承诺、报告事故并评估训练流程，Anthropic 已单方面承诺并呼吁政府要求同行跟进；
第二步是民主国家前沿公司协调制定共同安全标准并限制不受约束的进度，需政府协助或反垄断豁免；
第三步他认为中国领先将对美国和世界构成严重危险。他主张不向类似中国出售强大芯片和制造设备、打击走私与蒸馏、防模型被盗，称芯片是中国 AI 实力主因。对华协议须可核验，而全面暂停他认近期几乎不可能
他的结论是全面暂停短期内很难实现。但必须把技术做对，人类值得为此一试。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
暂无评论内容