成千上万的无辜女性在未经允许的情况下，被网上流传的私密照片所捉弄。新的人工智能应用程序可以将社交媒体上发布的普通图片变成编造的色情视频，这使这种嘲弄变得更加严重。
但本周，人工智能制作的泰勒·斯威夫特(Taylor Swift)攻击性照片在X(以前称为Twitter)上疯传后，打击深度造假和复仇色情的努力进入了超速状态。在数十张图片累积了数百万浏览量后，这家社交媒体服务商屏蔽了对这位流行歌手名字的搜索。facebook大幅削减了内容审核人员。
这个问题不仅仅是假色情图片。新的人工智能应用程序可以用来欺骗各种各样的图像和声音。在新罕布什尔州初选之前，一些选民收到了带有假录音的自动电话，其中有拜登总统告诉他们不要投票。越来越多的针对老年人的骗局依赖于年轻亲戚打来的深度假电话。
只有包括弗吉尼亚和加利福尼亚在内的少数几个州颁布了打击深度假冒和复仇色情的法律，目前尚不清楚这些法律禁令是否产生了多大影响。在马萨诸塞州，安多弗民主党参议员巴里·菲尼戈尔德(Barry Finegold)提出了一项法案，禁止在政治竞选广告中使用深度造假。这些法律尚未得到最高法院的检验，最高法院可能会限制援引第一修正案的保护。(2002年，该法院推翻了一项禁止电脑生成儿童色情内容的禁令。)
根据网络安全组织家庭安全英雄(Home Security Heroes)的一份报告，去年网上流传了近10万个深度造假视频，其中98%是色情视频。该组织表示，自2019年以来，这一数字增长了六倍多。
纽约州民主党众议员乔·莫雷尔(Joe Morelle)一直在推动由他起草的联邦立法，禁止在全国范围内传播未经同意的、经过数字处理的私密照片。该法案是在泰勒·斯威夫特被攻击之前提出的，但莫雷尔抓住这个新闻来争取支持。
“深度造假不仅仅发生在名人身上——每天都发生在世界各地的女人和女孩身上，”莫雷尔在X上的一篇帖子中写道。
然而，在线倡导团体担心，新法律将侵犯言论自由权。电子前沿基金会(Electronic Frontier Foundation)法律主管科琳?麦克谢利(Corynne McSherry)表示:“政策制定者必须注意，他们的提议不会造成比解决的问题更多的问题，尤其是在自由表达和新创意方面。”她补充说:“他们还应该确保甚至需要一部新的法律。”她指的是反对诽谤、虚假陈述和不正当竞争的法律。
另一种方法是依靠技术解决方案。网站StopNCII.org最初的建立是为了帮助人们消除网上未经同意传播的真实图片。包括Facebook、Reddit和Snap在内的9家社交媒体服务以及色情网站Pornhub都与该网站合作，帮助删除未经同意的照片。
同样的技术也可以用来对付人工智能制造的深度虚假色情。受害者可以使用该网站创建冒犯图片的数字指纹。然后，社交媒体网站可以使用指纹识别并删除该图像的副本。
该服务表示，自2015年以来，它已经帮助删除了20多万张图片。
拜登的白宫有另一个想法。它正在推动人工智能公司在所有人工智能创建的内容上添加数字水印，这样就可以很容易地识别出它是假的。404 Media的一份报告称，这可能有助于处理Swift的假货，这些假货是用微软的Designer应用程序制作的。
但不法分子可能会找到一种方法来避免水印，甚至在真实媒体上添加数字警告。
因此，就目前而言，社交媒体网站及其用户必须保持高度警惕。
Aaron Pressman可以通过aaron.pressman@globe.com联系到他。关注他@ampressman。
