周三，包括meta、TikTok和X(前身为Twitter)在内的五家社交媒体公司的首席执行官接受了参议员的盘问，询问他们如何防止在线儿童性剥削。
参议院司法委员会召开了这次会议，要求首席执行官们对他们所说的未能防止虐待未成年人的行为负责，并询问他们是否会支持委员会成员提出的解决这一问题的法律。
根据国家失踪和受虐儿童中心的数据，这个问题正在变得越来越严重。据《华盛顿邮报》报道，该中心表示，去年有关儿童性虐待材料的报告达到了创纪录的3600多万份。国家失踪和受虐儿童网络热线中心是美国一个报告在线儿童性侵的集中系统，该中心在2022年收到了超过8800万份文件的警报，其中近90%的报告来自国外。
meta的马克·扎克伯格、TikTok的周秀和X的琳达·雅卡里诺与Snap的杰森·斯皮格尔和Discord的杰森·西特伦一起出席了参议院司法委员会的提问。虽然扎克伯格和周是自愿出庭的，但委员会必须向斯皮格尔、香橼和亚卡里诺发出传票。
来自伊利诺伊州的民主党参议员、委员会主席理查德·德宾(Richard Durbin)在听证会上以一段视频开场，视频中显示了网络儿童性剥削的受害者，其中包括一些在被网络掠夺者攻击后自杀身亡的儿童家庭。
来自南卡罗来纳州的共和党参议员林赛·格雷厄姆(Lindsey Graham)向与会者讲述了南卡罗来纳州众议员布兰登·古菲(Brandon Guffey) 17岁的儿子加文·古菲(Gavin Guffey)在Instagram上遭到性勒索后自杀的故事。“你们的手上沾满了鲜血，”格雷厄姆对ceo们说，并特别点名扎克伯格。
与会的许多议员对社交媒体公司在解决这一问题上所做的努力不足表示失望，并肯定了他们自己采取行动的渴望。在过去的一年里，除了举行了一些听证会，司法委员会还向参议院提交了一些旨在保护在线儿童的法案，其中包括《EARN IT法案》(EARN IT Act)，该法案将取消科技公司在儿童性虐待材料法下的民事和刑事责任豁免权。
在他们的证词中，首席执行官们都列出了他们正在采取的措施，以防止在线伤害儿童。但是，当被问及是否会支持司法委员会提交的法案时，许多人表示反对。
密苏里州共和党参议员乔希·霍利(Josh Hawley)一度问扎克伯格，他是否愿意向出席听证会的受在线CSAM影响的孩子的父母道歉。扎克伯格说:“我对你们所经历的一切感到抱歉。“这是可怕的。没有人应该经历你们的家人所经历的事情。”
在多个场合，首席执行官们强调了他们公司使用人工智能来解决在线CSAM问题。在他的证词中，香橼强调了Discord收购Sentropy的交易，后者是一家开发基于人工智能的内容审核解决方案的公司。扎克伯格表示，99%的meta删除内容都是人工智能工具自动检测到的。然而，立法者和科技公司的老板们并没有讨论人工智能在CSAM扩散中所扮演的角色。
可生成人工智能的出现加剧了人们对儿童在网上受到伤害的担忧。世界各地的执法人员一直在忙于处理大量涉及人工智能生成的儿童性虐待材料的案件，这在许多法院都是前所未有的现象。
1月10日，17岁的漫威女演员Xochitl Gomez(在2022年的电影《疯狂多元宇宙中的奇异博士》中饰演青少年超级英雄America Chavez)谈到了清除X人工智能生成的她的色情图像是多么困难。
戈麦斯在接受演员泰勒·洛特纳和他的妻子的播客采访时表示，她的母亲和她的团队一直在尝试删除这些照片，但没有成功。她说:“她收到了一封又一封的邮件，但是有很多，她都处理好了。”“对我来说，这并不是什么令人难以置信的事情，而更像是，‘为什么这么难把它拿下来?’”
随着人工智能技术的快速发展，以及所谓的裸体应用程序等工具的使用变得越来越容易，甚至在儿童自己中间，有关部门面临着阻止人工智能生成的CSAM传播的复杂任务。
英国互联网观察基金会(Internet Watch Foundation, IWF)首席技术官丹·塞克斯顿(Dan Sexton)表示，随着人工智能模型的改进和易用性的提高，如果它们被用于非法目的，比如创建CSAM，监管难度也会加大。他说，世界需要尽快就解决方案达成一致:“我们为这些明天可能发生的潜在问题提出解决方案的时间越长，最大的可能是，这些问题已经发生了，然后我们在后面追赶，你在试图消除已经发生的危害。”
在大多数情况下，制造任何形式的CSAM都已经被广泛认定为犯罪，包括使用人工智能。国际失踪与受剥削儿童中心在其最新报告中发现，在196个国家中，有182个国家有专门针对儿童性暴力的立法，或者有足够的立法来打击儿童性暴力。例如，美国联邦法律将CSAM定义为任何涉及未成年人的露骨性行为的视觉描述——可能包括“与实际未成年人无法区分的数字或计算机生成的图像”，以及“创建、改编或修改的图像，但似乎描绘了可识别的实际未成年人”。在爱尔兰，法律要严格得多:CSAM是非法的，无论是否模拟。
一些罪犯已经根据此类法律被定罪。今年9月，韩国一家法院判处一名40多岁的男子2.5年监禁，原因是他使用人工智能绘制了数百张栩栩如生的儿童色情图片。去年4月，魁北克的一名法官判处一名61岁的男子三年监禁，罪名是使用深度伪造技术制作合成的儿童性虐待视频。同月，在纽约，一名22岁的男子因涉嫌制作和传播十几名未成年女性的色情图片而被判性犯罪者6个月监禁和10年缓刑。
但这些案件的解决并不总是直截了当的。今年9月，20多名年龄在11岁至17岁之间的女孩的人工智能裸照在网上流传，这一事件震惊了西班牙。但执法当局花了一段时间才确定被指控的罪犯的刑事责任，据信他们也是未成年人。马德里自治大学的刑法教授曼努埃尔·坎西奥告诉《时代周刊》，“如果这是一个明确的案例，每个人都知道在[西班牙]刑法的哪个章节中可以找到它，那么指控早就提出了。”英国安全互联网中心主任大卫·赖特也告诉《时代周刊》，儿童保护组织也收到了学校学生制作和传播同龄人人工智能生成的裸照的报告。
今天的人工智能技术可以使用任何毫无戒心的儿童的肖像，或者创建一个不是基于真实儿童的图像，只需点击几下就可以生成性虐待材料，尽管许多开发人员不允许使用此类材料。斯坦福互联网观察站发现，一些人工智能模型是在包含至少3000张已知csam图像的数据集上进行训练的，这些数据集来自X和reddit等主流平台，尽管这些平台的政策禁止发布此类内容。Reddit和X没有回应对该报道发表评论的请求。塞克斯顿说，国际野生动物基金会还收到报告说，以前的儿童受害者的图像被重新用来制造更多的CSAM。
斯坦福互联网观测站(Stanford Internet Observatory)的首席技术专家戴维·蒂尔(David Thiel)表示，人工智能生成的CSAM已经超过了用于跟踪和删除内容的解决方案。蒂尔说:“这只是新材料的不断流动，而不是已知材料的再循环，这使得视觉指纹部分非常困难。”
人工智能模型开发人员表示，他们的工具有特定的护栏，可以防止滥用。OpenAI禁止使用其图像生成器DALL-E处理色情图像，而Midjourney则要求内容必须为PG-13级。稳定人工智能更新了软件，使制作成人内容变得更加困难。但据互联网安全组织ActiveFence称，一些用户已经找到了破解这些模型的方法。OpenAI的领导层呼吁政策制定者介入，并为人工智能模型的使用设定参数。
清除互联网上所有现有的虐待材料需要大量的计算能力和时间，因此科技公司和像Thorn这样的反性交易组织开发了机器学习技术，可以检测、删除和报告CSAM。使用的一种技术被称为哈希匹配:这是一种使平台能够标记视觉上相似的文件的过程。另一个是使用分类器，机器学习工具来指示内容是CSAM的可能性。
另一个正在研究的解决方案是限制对这项技术的获取。开源人工智能模型的倡导者认为，开源促进了用户之间的协作，通过放弃对运营它们的公司的控制来提高透明度，并使访问民主化。塞克斯顿说，虽然所有人都能获得医疗服务在原则上听起来是有利的，但也存在风险。“在现实中，我们看到，把这样强大的技术交给每个人的影响意味着你把它交给了儿童性犯罪者，你把它交给了恋童癖者、犯罪者和有组织犯罪。他们将会并且正在从中创造有害的内容。”
然而，Thorn的数据科学主管丽贝卡?波特诺夫(Rebecca Portnoff)表示，关于访问的争论在开源模型和封闭模型之间制造了一种错误的二元对立，她认为，阻止人工智能生成的CSAM传播的最大机会是与开发人员在一起。她说，开发人员应该把重点放在创建“设计安全”模型上，以减轻对儿童的损害，而不是采取对现有威胁作出反应的预防措施。
波特诺夫强调时间至关重要。“它不会慢下来，”她说。“这让我回到了使用我们手头上的每一个工具来正确解决这个问题的概念。这些工具包括我们实际开发的工具，包括与监管机构的合作，也包括与科技公司的合作。”
