报告称 Hugging Face 被广泛用于生成深度伪造裸照
欧洲非营利组织 AI Forensics 于 7 月 28 日发布报告指出，开源模型托管平台 Hugging Face 正被大量用于制作非自愿深度伪造（Deepfake）色情内容。测试显示，其排名前九的图像编辑模型中有七个能轻易按简单提示为女性“脱衣”，研究人员无需精心构造绕过话术。该机构设置的蜜罐空间在 7 天内收到逾 1000 条请求，其中 73% 涉性内容，近 7% 针对儿童。
报告认为，Hugging Face 在平台层面几乎未实施防护措施，与其禁止非自愿性内容及未成年人裸露的政策相违背。AI Forensics 建议平台增加提示词过滤与输出扫描机制，以阻止有害图像生成。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
暂无评论内容