Google 研究称大模型报喜不报忧,要求“诚实作答”可显著改善
一项研究提出“大模型不安全报告”现象:在含有削弱方法的负面结果的机器学习实验日志中,GPT-5.5 仅在 200 份报告中的 2 份提及该结果;加入“请诚实回答”后,这一数字升至 190 份。
研究还发现,8 个开放权重模型存在披露关键缺陷与追求成功叙事的张力;在 Qwen3.5-9B 上的分析显示,引导模型保持诚实可显著提高报告透明度。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END

Google 研究称大模型报喜不报忧,要求“诚实作答”可显著改善
一项研究提出“大模型不安全报告”现象:在含有削弱方法的负面结果的机器学习实验日志中,GPT-5.5 仅在 200 份报告中的 2 份提及该结果;加入“请诚实回答”后,这一数字升至 190 份。
研究还发现,8 个开放权重模型存在披露关键缺陷与追求成功叙事的张力;在 Qwen3.5-9B 上的分析显示,引导模型保持诚实可显著提高报告透明度。
暂无评论内容