继ChatGPT走红后，生成式AI技术的发展和应用，引发了新一轮热潮。

和迪丽热巴“接吻”、长得和特朗普“一模一样”、马斯克身陷“贫民窟”、乘地铁被“一键脱衣”……

一键“换脸”“脱衣”所生成的效果让人意想不到，屡屡冲上热搜。

1

AI技术已经变得让人难辨真伪。从文字、声音到图像、视频，没有什么是 AI 不能创造的。

但除了自娱自乐之外，不少人试图利用AI牟利，甚至做出违背伦理、触犯法律的事情。

据某地网警巡查执法消息，AI技术改变诈骗，新骗局来袭后，诈骗成功率竟接近100%。

除了AI换脸，还有就是声音合成，骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。

在犯罪分子看来，AI技术无疑是一件“如意金箍棒”。

福州市某科技公司的法人代表郭先生，就是经受AI诈骗“洗礼”的受害者之一。

有一天郭先生接到“好友”打来的一个视频电话。视频中的好友称自己在外地投标需要430万元保证金，且需要公对公账户过账，所以想借用郭先生公司的账户走一下账。

接着“好友”还向郭先生要了银行卡号，声称已经把钱打到郭先生的账户上，让郭先生通过公司账户把钱转还给他。

按照普通人的思维，对方打的视频电话，已然自证身份，那肯定不会有假。

再加上对“好友”的信任，郭先生在没有核实钱款是否到账的情况下，转出了430万元到对方的银行卡里，全程不到10分钟。

可令郭先生万万没想到的是，他视频里见到的“好友”居然是利用 AI 换脸、AI 拟声技术造出来的！

本该用于证实身份的视频电话如今反而成为了骗子们诈骗成功的关键一步。

曾经我们相信“有图有真相”，如今科技的发展令真相再次迷蒙。

近日，有网友点开直播间，却发现正在卖货的竟是当红女星。

然而这些带货“明星”身穿中式服装，其实只是使用了AI实时换脸技术的普通主播。

杨幂、迪丽热巴、angelababy等女星，成为了AI换脸的重点对象。有网站客服称，他们提供的AI实时换脸全套模型价格为3.5万元。

不久前，一名拥有百万粉丝的网红发文，称“有人盗了我的脸”，自己的脸被AI换到别人身上，并制作成色情视频传播。

当事人还发现这背后，似乎有一条完整的产业链。

不只是“一键换脸”，还有“一键脱衣”同种性质的恶性行为都触碰了法律和道德的底线。

今年3月，广东广州一女子在地铁上的照片被AI一键脱衣，造谣图在网络广泛传播引发关注。

事实上，照片上的女孩是小红书的一名博主，而所谓的“裸照”是她去年7月在平台分享的一张照片。原图中她衣着正常，完全没有任何不妥之处，但却被有心之人用AI软件一键脱衣，故意全网散播。

随后，网络上不知情的人针对女孩的恶语漫天飞，女孩也因此走上了维权路。

同时间段，特效师洪某通过AI换脸的方式，将女明星迪丽热巴出演的电视剧中激吻镜头的男主角替换为自己，该视频引发了不少争议，多位粉丝表示了不满，甚至找到他要讨说法。

近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，殊不知，趣味性背后暗藏不少法律风险和侵权纠纷。

明星刘昊然就曾在2021年8月26日发博打假，控诉网上流传的某淫秽视频为AI换脸技术伪造，并向警方报案。

“一键换脸”、“一键脱衣”等侵犯到当事人的多项权利，是严重触犯法律的，情节严重的行为已经达到可以追究刑事责任的程度。

如此“黑科技”，引发了很多女性的恐慌，在现今AI强大的算法下，时间、地点都对得上的情况下，伪造的黄图可能会让当事人百口莫辩。

2

AI除了捏造事实，更可怕的是会让人失去分辨真相的能力。

当前的AI技术可以根据任何歌手的声音，曲风以及唱歌习惯等进行模仿创作，即便死忠粉也很难分辨真假。

最近，B站音乐区up主掀起了一波AI翻唱团建热潮，其中“AI孙燕姿”在一众翻唱作品中杀出重围，成为备受up主和网友青睐的新晋顶流歌手。

尽管“冷门歌手”孙燕姿已经5年没有发行专辑，但“AI孙燕姿”在短短一个多月就发了超过1000首翻唱作品，远超过她职业生涯歌曲总和。

产出超过千首翻唱，“AI孙燕姿”成为B站流量。

对此， 5月22日晚，歌手孙燕姿在网站上发布了《我的AI》一文，回应了自己对AI技术的看法。

面对AI技术，孙燕姿形容自己就像一个吃着爆米花、坐在电影院最好的位置上的人。“在这无边无际的存在之海中，凡事皆有可能，凡事皆无所谓，我认为思想纯净、做自己，已然足够。”

这一回应很快冲上热搜，引起网友热议。网友纷纷对孙燕姿表示支持，赞其看得透彻、活得清醒。

或许，当大众认为技术正在快速影响人们生活的时候，要深刻意识到，技术带来的，不仅仅是正向的回馈，还有负面的效应，这把双刃剑，如何利用好，将是全人类最严峻的课题与挑战之一。

技术本身没有好坏，关键在于如何使用它。我们要遵守法律，坚决杜绝使用技术恶意造谣、中伤他人。

在一些提供换脸软件的教程或网站上，提供者均提醒要警惕使用AI换脸进行诈骗或者侵权的行为。对涉及用户隐私的信息必须做到充分保护，任何一个产品功能和营销手段都不能凌驾于法律和道德的底线之上。

科技的发展，是为了更好的造福人类，而不该成为违法犯罪的借口。

有关部门也需要严管严打严禁，尽快出台与AI相关的规定。

如果一直任由科技发展，却没有相应的法律政策跟上予以规范，不难想象在这个如此依赖网络的时代，人们面临的最坏后果是什么：

即便看到图片和视频，也不敢轻易相信新闻；

接到家人的电话，需要反复确认是不是真人；

拍摄满意的照片上传网络，隔天发现自己成了黄谣主角，百口莫辩……

人人畏惧虚假的楚门世界，人人却都成了主角。

李开复曾发表的文章中对人工智能和人类的未来做出了另一种预测：人工智能将成为人类的助手，而人类的人性光辉则用来弥补机器的冰冷。让机器做它们擅长的事情，让人类发挥我们的特质。

希望在那个未来到来之前，法律法规和人们的道德制衡，能跟上技术的脚步。要不然，我们面对的，可能是一个没有隐私的未来。

科技无罪，罪恶是人。别让无辜的科技，为人类的恶行买单。