原标题：“特朗普被捕”假照片大肆传播 AI图像生成技术惹争议

参考消息网3月24日报道美国前总统特朗普上周末在他的“真实社交”网站上写道，他预计将在3月21日被捕，并让支持者准备看他被捕时的照片。没想到，现实中这一幕还未发生，在社交媒体中用人工智能（AI）合成的“特朗普被捕”假照片却大肆传播起来。

据美国《华盛顿邮报》网站23日报道，艾略特·希金斯是开源调查媒体响铃猫网站的创始人，本周当他看到有关特朗普可能被捕的消息时，他决定将其可视化。

他用了一个AI艺术生成器，为其提供简单的提示，例如“特朗普在被捕时摔倒了”。他在推特上分享了合成的结果——前总统被警察包围的照片，警察的徽章做了模糊处理。“在等待特朗普被捕时制作特朗普被捕的照片，”他写道。

“我只是在闹着玩，”希金斯在接受采访时说，“我想也许有5个人会转发它。”然而，两天后，他描述这件从未发生过的事件的帖子被浏览了近500万次。

报道称，这提供了一个案例研究，即人工智能生成的图像日益复杂化，发布起来具有便利性，并可能在混乱的新闻环境中造成混淆。当希金斯开始传播这张特朗普的合成照片时，他明确表示是假的。但假照片能够在互联网上传播的一连串视觉效果表明，“大量制作虚假但看似可信的图像的能力已经有了巨大进步，”人权组织“见证”组织的执行主任萨姆·格雷戈里说，“而且很容易看出这能够与欺骗的目的协调进行。”

该技术正在快速发展。希金斯说，他使用米德朱尼实验室（Midjourney）艺术生成器的5.0版本创建了关于特朗普被捕的图像。他说，他每月支付30美元的这一最新版本比之前的版本复杂得多，极大地改进了他创作的一组美国总统变成教皇的图片视觉效果。他说：“该工具似乎学习了更多关于图像连贯性的知识。”

报道称，最近几周，合成媒体产品被大量用来在网上传播虚假信息，有时来源不明，有时材料的创造者对此幸灾乐祸。

2019年，时任美国众议院议长南希·佩洛西的一段失真视频在社交媒体上迅速传播后，主要科技公司加强了打击“深度伪造”的政策。第二年，元宇宙平台公司（Meta）禁止用户发布高度修改的视频，但仍允许发布旨在模仿或讽刺的修改视频。推特还推出了一项新规定，禁止用户分享可能造成伤害的欺骗性和操纵性媒体内容，例如可能导致暴力、广泛内乱或威胁个人隐私的推文。

“监督美国媒体组织”主席安杰洛·卡鲁索内说：“从那以后，技术变得更加复杂，但更难监测。而且这些互联网巨头都没有在如何发现这些问题，以及如何执行针对这些问题的政策方面做出任何重大投资。”

布鲁金斯学会AI和新兴技术计划主任梅瑟罗指出，“特朗普被捕”的照片或许无法让人相信，但仍可以挑动公众的情绪，如果特朗普的支持者或反对者受到画面的刺激，可能做出冲动之举。这一事件再次表明，目前缺乏企业标准或政府法规来解决使用人工智能制造和传播谎言的问题。微软创始人比尔·盖茨3月21日发文称，AI是数十年来最重要的技术进步，他同时呼吁政府和业界合作，限制AI带来的风险。卡鲁索内说：“我在这里看到的是打击虚假信息新战线的第一枪。”（编译/王笛青）返回搜狐，查看更多

责任编辑：