起源：专家：美国创下二战后最危险里程碑作者： 回复：

AI深度伪造：必须防，若何防？

“的确让我更好看了
。”意大利总理梅洛尼近日在社交媒体上转发她的否决者所发的一则帖子，其中有一张人为智能（AI）天生的她的性感照片
。两天之后，欧洲议会议员和欧盟成员国就订正《人为智能法案》达成共识，赞成不容AI天生深度伪造的色情内容
。

欧盟立法明确不容

以意大利兄弟党党首身份上台、成为意大利首位女总理以来，梅洛尼一向奉杏装意大利优先”、守旧主义政策和严格的移民政策，被否决者再三使用AI天生的虚伪内容进行攻击
。

与此前一些移花接木的“手动P图”分歧，这次有关梅洛尼的AI合成照片，人物整体协调，光影成效天然
。哪怕在摄影或绘画领域有所造诣的人，也不定分辨得清照片中是否梅洛尼自己，除非与她出格亲切者
。

梅洛尼在转发帖子的同时暗示，“我可以为自己辩护，但很多其他人无法做到”
。有评论以为，梅洛尼这一表态不仅针对“幼我攻击”行为，更上升到对AI时期虚伪信息泛滥的公共警示
。此前她已在意大利推动通过有关司法，旨在进攻针对女性的AI深度伪造图像
。

AI谈天机械人“格罗克”被不容天生深度伪造的色情图像
。图源：GJ

两天之后，欧洲议会议员和欧盟成员国以订正《人为智能法案》的方式，为AI合成内容划定“红线”
。据新华社报路，欧洲议会议员麦克纳马拉在法案订正后暗示，这是欧盟初次通过立法明确不容“脱衣换脸”类利用法式，“欧盟今天划定了‘红线’，AI绝不能用于羞辱、剥削或风险他人”
。

也有评论以为，这次订正对已经产生的AI乱象的监管依然偏软，如推迟执行针对高风险AI系统的监管划定，令人遗憾
。据原打算，针对独立AI系统的监管划定应于2026年8月生效，针对嵌入其他产品的AI工具的监管划定应于2027年8月执行
。然而目前来看，上述生效功夫将别离推迟至2027年12月和2028年8月
。

但无论若何，欧洲确切实AI监管方面又迈出了一幼步
。欧盟轮值主席国塞浦路斯的欧洲事务副部长劳纳暗示，《人为智能法案》经过此轮订正后，“规定执行更顺畅统一，同时强化对儿童的；ぁ
。

伪造色情照片成灾

“深度伪造”依赖于AI深度进建技术，能够把人脸、声音、作为等换到另一个图像上，让它看起来像是真实发生的事件，如让某人“说”他从未说过的话，或者“做”他从未做过的事
。

早在欧洲通过《人为智能法案》的2024年，AI深度伪造就已呈此刻全球不少处所
。如在韩国娱乐行业，不少女性从业者发现自己的形象被犯法分子恶搞，甚至造作成色情内容，不仅在网络传布，也被用来勒索
。为此，韩国娱乐产业公司与警员局签署和谈，合作共同进攻AI深度伪造
。警方赞成加快有关案件调查过程，设立举报热线，方便公家汇报有关犯罪活动
。有关企业颁发加强对深度伪造内容的监控和处置，尤其在色情内容方面，将专门设立响应机造，已经发现就采取行动
。

韩国当局成立跨部门机构应对数字性犯罪
。图源：GJ

事实上，AI深度伪造之害已经不囿于娱乐产业，也波及社会层面
。2024年8月韩国某公益组织所发一组汇报显示，社交平台Telegram的谈天群组中，只需上传熟人照片，付费后5秒钟内就能天生不美观合成图
。令人震惊的是，这个谈天群组的参加人数高达22.7万
。其时美国一家名为“家安英雄”的网络安全公司的调查汇报显示，在互联网所有深度伪造视频中，险些98%为色情视频；前十个专门用于深度伪造色情内容的网站上，视频总接见量超过3亿次，总旁观次数超过3000万次
。

而尔后的情况越发不容乐观
。自2025年12月25日至今年1月1日，美国企业家马斯克旗下社交媒体平台X的AI谈天机械人“格罗克”被指以深度伪造方式天生2万张图像，55%的图像中人物穿戴露出，其中81%是女性；2%的图像中人物春秋不及18岁
。X平台随后不得不颁发，不再允许“格罗克”天生基于真人的深度伪造的性露出图像
。

亟待建构AI伦理

当今在AI领域发展较快的国度，美国是其中之一
。在美国联国调查局（FBI）颁布的“网络犯罪汇报2025”中，与深度伪造有关的犯罪远远不止虚伪色情视频之泛滥
。FBI下属机构2025年接获2.2万起AI犯罪案件，涉案总金额超过8.9亿美元，其中深度伪造技术结合AI造作垂钓邮件和语音克隆，大幅提升了诳骗“真切度”，显著提高了成功率
。

对冲基金经理琼斯为此忧心忡忡地称，当部门门应该要求在AI天生的内容上强造增长水印，以分辨真实内容与深度伪造内容
。在美国当局3月颁布全国性AI政策框架之后，琼斯参与了一场AI专家与模型开发者会议
。他发现，与会者中有约80%支持对AI技术进行强造监管
。而在2025岁首，哪怕看到欧洲启动《人为智能法案》，与会者中也只有20%以为当局必要染指AI领域
。短短一年，与会者的概想之所以出现逆转，很大水平上是由于各人意识到，AI在幼我安全、隐衷及国度安全层面存在潜在的持久风险
。

在中国，AI深度伪造问题也已经引起器重
。上海社会科学院上海国际经济互换中心专家郭进分析：“我国对滥用AI的景象一贯维持严格监管的态度，也积极采取各类措施严格进攻网络诳骗犯罪
。利用人为智能进行网络诳骗是新情况、新问题，必要世界列国共同努力，共同进攻利用AI换脸、拟声、智能黑客等网络犯罪状为，严格不容AI兵器化
。”

郭进指出，AI深度伪造有违人类社会“真实性”的根基伦理，用深度伪造内容从事色情、诳骗，不仅有违公序良俗，并且违反司法，涉及犯罪
。只管列国社会文化和政治造度迥异，对AI伦理的理解千差万别，其中还掺杂很多意识状态的内容和要求，但总体上都认同“智能向善”的根基准则
。“列国司法和造度都明令不容AI过问政治，好比划定AI不得鼓励暴力、不得鼓励颠覆政权等，这是列国为AI划定的伦理底线和司法红线
。从守护公民人格权、隐衷权、名望权、肖像权等权势的角度启程，换脸、拟声、算法歧视等都属于应被严格监管的行为
。”

郭进以为，欧盟对AI历来秉持“严格监管”的态度，对AI治理和规范的诸多理想得到关注
。欧盟2019年在《可信人为智能伦理准则》中提出的“人类自主权与监督、技术稳重、隐衷；ぁ⑼鞫取⑵秸浴钡茸荚，以及2020年《人为智能白皮书》中提出的对AI分级监管的思路，至今仍值得列国借鉴
。相信在不久的将来，全球对AI的监管将从伦理提倡走向硬性约束，并跃升为造度规范
。

栏目编纂：王若弦

起源：作者：姜浩峰