「深伪色情」网站伪造1200人不雅影像 曼哈顿地检扣12网域

曼哈顿地区检察官宣布查扣12个网域，这些网域所关联的网站涉嫌利用AI「深伪」技术伪造1200名知名人物的不雅影像并贩售获利。图为其中一个非法网站的首页截屏。(曼哈顿地区检察官办公室提供)

曼哈顿地区检察官办公室14日宣布查扣12个涉嫌利用AI技术非法制作「深伪」(Deep Fake)内容的网域，成为迄今为止针对此类违法行为规模最大的一次执法行动。根据已经证实的调查结果，共有约1200人成为被查扣网址的「深伪」受害者。

「深伪」(或称「深度伪造」)是运用人工智能(AI)学习真人容貌、声音和动作，再按照用户要求生成或篡改目标对象的影像或录音。该技术能高度伪造一个人、尤其是公众人物的影像，并让观看者相信目标任务说出了他们其实从未说过的话、或做出了其实从未发生过的事，其在非法色情、名誉抹黑或政治攻讦等行为上有广泛运用。

调查发现，本次查扣的12个网域曾被不法人士用于发布、传播和贩售未经当事人同意的「深伪」影片，虚假呈现这些目标名人的性行为等伪造内容。被查的网站共训练了有关1200名真人的「深伪」模型，能生成高度逼真的虚假影像，然后造假者再利用这些「深伪」内容不法传播并获利。

曼哈顿地区检察官白艾荣(Alvin Bragg)介绍，这些网站在宣传中明确将其自身定位为「深伪色情」创作者，约1200名受害人中绝大多数为女性公众人物，包括演员、政客、运动员、音乐家、网红和社会活动人士等，受害者的个人隐私已被封存保护，不会出现在公开法律文档上。白艾荣说，这些「骇人听闻」的隐私侵犯行为与受害者的职业生涯如影随形，对他们的精神健康构成极大伤害。

据史料记载，在公开网络上的「深伪色情」行为最初出现于2017年，并在2023年AI技术普及化以后开始泛滥，并开始被诈骗等犯罪集团广泛使用。同年，纽约州将未经他人同意而生成「深伪」内容的行为列入刑法，两年后，联邦立法将此类行为定义为犯罪。今年5月至6月间，联邦检方先后针对「深伪色情」嫌疑人实施逮捕和查封网域的执法行动。

检方表示，针对「深伪」违法的案件仍在持续调查中，如有公众怀疑自己成为受害人，可拨打网络犯罪部门热线(212)335-9600。

纽约州和联办分别在2023年和2025年将「深伪色情」行为入刑，曼哈顿地检称，本次查扣行动是「迄今已知规模最大」的一次执法。图为网域被查扣后的网站页面，已无法登录。(曼哈顿地区检察官办公室提供)