一名律师就一场精心设计的人工智能语音克隆骗局发出警告，该骗局差点骗过他的父亲，让他交出了3.5万美元。
你可能听说过选举干预骗局，使用人工智能来重现候选人的声音，传播有关投票的虚假信息，但同样的人工智能也被用来在电话中制造家庭成员的恐慌。
骗子冒充杰伊·肖斯特打电话给他的父亲弗兰克，让他相信他的儿子出了严重的车祸，被捕了，需要保释金。
尽管他是一名受过教育的退休律师，但这位70岁的老人吓坏了，不知道那不是他的儿子。
“我接到一个电话，是我儿子杰伊打来的。他歇斯底里，但我立刻听出了他的声音。
“他说自己出了车祸，鼻子骨折，缝了16针，还因为酒精测试呈阳性而被警方拘留，他把这归咎于之前服用的止咳糖浆。”
他34岁的儿子正在博卡拉顿佛罗里达州第91区竞选国会议员，他认为骗子设法从他15秒的电视竞选广告中制造了假声音。
9月28日，这位模仿者恳求弗兰克不要告诉任何人这件事。过了一会儿，另一名自称律师“迈克·里弗斯”的男子说，杰伊需要3.5万美元的现金保释金，才能避免被关在监狱里几天。
当“里弗斯”指示弗兰克通过加密货币机器支付债券时，骗局升级了——这一非常规的要求加剧了弗兰克的怀疑。
“当他让我去Winn-Dixie的Coinbase机器时，我开始怀疑了，”弗兰克说。“我不明白这是法律程序的一部分。”
弗兰克拜访的女儿告诉他，人工智能语音克隆骗局正在兴起，弗兰克最终意识到事情有些不对劲，于是挂断了电话。
弗兰克说：“接到这样的电话真是毁灭性的打击。“我儿子工作非常努力，我当时都快疯了，以为他的事业和竞选活动可能会毁于一旦。”
作为一名律师，周杰伦经常在消费者欺诈案件中出庭，他惊讶地发现自己成为了目标。
杰伊说：“我一直在关注人工智能及其对消费者的影响，但当它发生在你身上时，你没有什么准备。”
“他们做了研究。他们没有使用我的电话号码，这符合我在监狱里无法使用手机的说法。”
这个骗局的复杂程度让杰伊感到震惊，他说：“只需要几秒钟的声音——技术如此先进，他们可以很容易地从我的15秒竞选广告中提取我的声音。”
周杰伦主张改变人工智能监管，以防止此类骗局伤害他人。
另一个骗局曝光：英雄邮局工作人员拯救了老人，使他免于向骗子寄去数千美元
“我们需要三个关键的政策解决方案，”他说。“首先，如果人工智能公司的产品被滥用，它们必须承担责任。
“其次，公司在克隆任何人的声音之前应该要求认证。第三，人工智能生成的内容应该打上水印，这样很容易被发现，无论是克隆的声音还是假视频。”
如果当选为佛罗里达州众议院议员，杰伊计划采取行动，反对日益严重的人工智能技术滥用，包括语音克隆骗局。
他的目标是通过立法，让人工智能公司对滥用行为负责，确保它们实施语音认证和水印等必要的保障措施。
“我们需要制定明确的法规来阻止这类犯罪的发生，”杰伊说。“这不仅仅是技术问题，也是为了保护人们免受这些骗局可能造成的创伤和经济损失。
惊人的结果：?银行认为应该防止老年痴呆症储户被骗，因此恢复了她一生的积蓄?一位女士遇到了她的网络骗子，帮助他放弃了犯罪，并支付了他的大学学费
“我想推动对人工智能开发人员提出更严格的要求，以确保他们的工具不被恶意使用。”
随着人工智能技术的迅速发展，杰伊和弗兰克希望他们的故事能给其他人敲响警钟，让他们保持警惕。
弗兰克指出：“这表明保持冷静和仔细考虑事情是多么重要。”“如果有什么不合理的地方，你必须倾听并提出问题。像这样的骗局变得越来越复杂，但我们不能放松警惕。”
请与朋友和家人分享，这样他们就可以避免上当受骗…
