这种情况已经发生过很多次了:使用人工智能技术的视频声称，有权势的政客会说或做他们从未说过或做过的事情，比如前总统唐纳德·特朗普拥抱安东尼·福奇(Anthony Fauci)，或者参议员伊丽莎白·沃伦(Elizabeth Warren)说让共和党人投票可能会破坏选举。
这两个所谓的深度假视频都已被广泛揭穿，但在明年总统大选的白热化阶段，一个颠覆性的广告出现在一个关键的摇摆州，可能会造成两党议员都希望避免的那种混乱。
由参议院规则和行政委员会主席、明尼苏达州民主党人艾米·克洛布查尔领导的一个两党立法者小组，其中还包括密苏里州共和党参议员乔希·霍利;克里斯·库恩斯，特拉华州民主党人;苏珊·柯林斯，缅因州共和党;皮特·里基茨，内布拉斯加州共和党;迈克尔·班纳特，科罗拉多州民主党人。-上个月提出了一项立法，该立法将禁止“传播人工智能生成的具有欺骗性的音频或视频媒体”，这些媒体是关于寻求联邦公职的个人的。
该立法将允许受到此类虚假广告影响的人起诉负责制作和分发虚假广告的个人或实体，但如果广告放置在网络平台上，则不能起诉。它也不会惩罚广播、电视和印刷新闻媒体，只要它们明确指出所讨论的广告是假的，或者使用这种技巧是模仿和讽刺。
在众议院，纽约州民主党众议员伊维特·d·克拉克(Yvette D. Clarke)说:今年5月，美国提出了一项立法，要求政治广告的分销商披露是否使用了ChatGPT等生成式人工智能技术来生成广告中的任何音频或视频。
在上月底的参议院规则委员会听证会上，克洛布查尔表示，她希望禁止欺骗性广告的立法能在今年年底前取得进展，因为“考虑到我们民主的利害关系，我们不能再等了。”
参议院多数党领袖查尔斯·舒默(Charles E. Schumer)也出席了听证会，他支持克罗布查尔的提案。他说，如果国会不采取行动禁止欺骗性广告，民主党和共和党都将受到影响，“没有选民能幸免，没有选举能不受影响。”
民权组织、政治顾问、言论自由倡导者和各政治派别的立法者一致认为，使用人工智能生成的欺骗性广告会误导选民，给民主进程带来风险。然而，问题在于如何界定什么是欺骗，以及如何执行禁令。即使欺骗性广告可以在美国被禁止，外国对手也可以瞄准美国选民，这引发了人们对社交媒体平台在传播这些广告方面所起作用的质疑。
克洛布查尔和克拉克在10月5日写给meta首席执行官马克·扎克伯格和X(原名Twitter)首席执行官琳达·亚卡里诺的信中，询问他们要求创作者披露人工智能生成的广告的政策，以及平台打算如何提醒用户。
meta的发言人拒绝置评，记者无法联系到X的代表。
更复杂的是，包括明尼苏达州和怀俄明州在内的一些州正在考虑立法，禁止制作人工智能生成的冒充真人的广告。
尽管克洛布查尔、霍利等人提出了两党一致的建议，但国会内外仍有很多人持怀疑态度。
田纳西州共和党参议员比尔·哈格蒂。上个月，参议院规则委员会委员金议员在听证会上表示:“克洛布查尔法案中规定的禁止人工智能制作的欺骗性视听媒体是一个模糊的概念。”
哈格蒂说，广泛禁止使用人工智能修改图像，可能会排除使用使用人工智能工具使一个人看起来比实际年龄年轻的照片编辑软件。“国会和拜登政府不应该采取具有不确定影响的严厉监管，我认为这对限制政治言论构成了巨大风险。”
一些主张言论自由的人说，政治竞选已经在使用欺骗手段来宣传他们的候选人或削弱他们的对手。
专注于互联网自由和技术的非营利组织TechFreedom的言论自由顾问阿里·科恩(Ari Cohn)表示，即使在人工智能工具出现之前，竞选活动就已经使用了其他方法来欺骗性地编辑图像、音频和视频。
科恩在接受采访时说:“如果你认为(欺骗性广告)是个问题，那么解决它就有意义了，不管它是不是由人工智能创造的。”“我不确定只有当广告是由人工智能生成的时候才解决这个问题是否有意义。”
犹他州立大学(Utah State University)增长与机遇中心(Center for Growth and Opportunity)的高级研究员尼尔·奇尔森(Neil Chilson)在听证会上作证说，即使是老式的化妆和工作室灯光，也可能被视为欺骗性地使用某些工具，让候选人看起来比实际年龄年轻。
Chilson还作证说，人工智能工具可以用于将候选人的信息翻译成多种语言。
科恩说，一种可能通过法院审查的立法方法可能是在“选举后两周内”禁止人工智能生成的广告，因为选民和监督组织可能没有时间揭露广告的真相。他说，“只要有人成为联邦公职候选人或正在考虑成为候选人”，就适用的立法范围太广了，可能会导致无聊的诉讼，从而限制政治言论。
在Instagram上关注哥伦比亚人
公民与人权领导会议主席玛雅·威利(Maya Wiley)在接受采访时表示，在这个问题上制定联邦立法的目标不是禁止所有形式的人工智能生成的广告，而是只禁止那些具有误导性的广告，目的是“保护政治进程不受欺骗，以免破坏选举的公正性和人们做出真实评估的能力”。
她引用了美国智库兰德公司(Rand Corp.)的一项研究，该研究发现，三分之一到一半的样本人无法区分真实和深度伪造的视频。2022年的这项研究发现:“所有人都容易受到深度造假的影响，但脆弱性因年龄、政治取向和对信息来源的信任而异。”
根据兰德公司题为“深度造假和科学知识传播”的研究，学生和年轻人不太容易受到深度造假的影响，而成年人和老年人更有可能无法区分真实视频和人工智能生成的视频。
威利说，她担心meta、X和谷歌等大型科技平台的裁员，包括许多在信任和安全岗位上工作的人，这些岗位负责清除虚假信息。威利说，如果没有足够的保障措施，这些平台可能再次被外国对手利用，用欺骗性广告瞄准美国选民。
数字宣传和广告公司Trilogy Interactive的合伙人、美国政治顾问协会(American Association of political Consultants)主席拉里·黄恩(Larry Huynh)表示，政治广告和信息的创造者同样担心人工智能生成的欺骗性广告的传播，但希望确保明确划定可接受和不可接受的界限。
黄在接受采访时表示，例如，使用人工智能工具平滑图像或视频中的背景，使其看起来统一，是对这种技术的良性使用，但他说，更邪恶的用途，如把话放进人们的嘴里，应该被禁止。
“我们都应该非常关注和警惕(深度造假)，因为这不仅仅是在误导一名选民。我认为这是对民主进程的侮辱。”“作为一名政治顾问，如果有什么东西伤害了民主，它就会伤害到企业和你的生计。我们不想参与降低人们对我们选举信心的事情。”
