美民主党议员呼吁国会今年立法禁止 AI 递归自我改进
美国民主党议员 Alex Bores 发文呼吁美国国会今年立法禁止 AI 递归自我改进（RSI），即让 AI 自动构建下一代 AI，并称桑德斯、班农、本吉奥等人士也曾表达对相关风险的担忧或监管主张。他认为当前 AI 的错误或对齐偏差可能在每一代中放大。
OpenAI 称计划于 2028 年 3 月实现自动化 AI 研究员目标，Anthropic 员工则预测到 2027 年底 AI 可承担约 80% 的前沿模型开发工作；Bores 援引 METR 报告中的 AI 研发加速证据，认为这些预测具有可信度，因此他主张禁令刻不容缓。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
暂无评论内容