HodlX特邀嘉宾发帖 提交你的帖子
人工智能(AI)在消费者和企业中引起了狂热的兴奋——人们热切地相信，llm(大型语言模型)和ChatGPT等工具将改变我们学习、工作和生活的方式。
但就像互联网早期一样，用户们没有考虑他们的个人数据是如何被使用的，也没有考虑这可能对他们的隐私产生的影响。
在人工智能领域已经有无数数据泄露的例子。2023年3月，OpenAI在一个“重大”错误导致用户能够看到陌生人的对话历史后，暂时关闭了ChatGPT。
同样的漏洞意味着用户的支付信息——包括姓名、电子邮件地址和部分信用卡号——也在公共领域。
2023年9月，一名员工无意中泄露了惊人的38tb微软数据，网络安全专家警告称，这可能会让攻击者用恶意代码渗透到人工智能模型中。
研究人员还能够操纵人工智能系统泄露机密记录。
在短短几个小时内，一个名为“稳健情报”(Robust Intelligence)的组织就能够从英伟达的软件中获取个人身份信息，并绕过了旨在防止系统讨论某些话题的保护措施。
我们从所有这些情况中吸取了教训，但每一次违规都有力地说明了人工智能要成为我们生活中可靠和值得信赖的力量需要克服的挑战。
谷歌的聊天机器人Gemini甚至承认，所有的对话都是由人工审核人员处理的——这突显出其系统缺乏透明度。
“不要输入任何你不希望被评论或使用的东西，”一条提醒用户的提醒说。
人工智能正迅速超越学生用来做作业的工具，或游客在罗马旅行时依赖的推荐工具。
敏感的讨论越来越依赖于它——从医疗问题到我们的工作日程，它提供了一切。
正因为如此，有必要退后一步，反思一下当今人工智能面临的三大数据隐私问题，以及为什么它们对我们所有人都很重要。
1. 毕业舞会PTS不是私有的
像ChatGPT这样的工具可以记住过去的对话，以便稍后引用它们。虽然这可以改善用户体验并帮助培训法学硕士，但也有风险。
如果一个系统被成功入侵，那么在公共论坛上就会出现提示的真正危险。
当人工智能被用于工作目的时，用户历史中可能令人尴尬的细节以及商业敏感信息可能会被泄露。
正如我们从Google看到的，所有提交的内容最终都会被其开发团队仔细审查。
三星在2023年5月采取了行动，禁止员工使用生成式人工智能工具。这是在一名员工将机密源代码上传到ChatGPT之后发生的。
这家科技巨头担心，这些信息很难检索和删除，这意味着知识产权最终可能会被分发给广大公众。
苹果(Apple)、威瑞森(Verizon)和摩根大通(JPMorgan)也采取了类似的行动。有报道称，在ChatGPT的回应与其内部数据相似之后，亚马逊发起了打击行动。
正如你所看到的，人们担心的不仅仅是数据泄露会发生什么，而是输入人工智能系统的信息可能被重新利用并分发给更广泛的受众。
像OpenAI这样的公司已经面临多起诉讼，因为他们的聊天机器人被指控使用受版权保护的材料进行训练。
2. 由组织训练的定制人工智能模型并不是私有的
这就引出了我们的下一个问题——尽管个人和公司可以基于自己的数据源建立自己的定制法学硕士模型，但如果它们存在于ChatGPT这样的平台范围内，它们就不会完全私有。
最终没有办法知道输入是否被用于训练这些庞大的系统，或者个人信息最终是否会被用于未来的模型。
就像拼图一样，来自多个来源的数据点可以汇集在一起，形成对某人身份和背景的全面而令人担忧的详细洞察。
主要平台也可能无法提供有关这些数据如何存储和处理的详细解释，无法选择退出用户不喜欢的功能。
除了对用户的提示做出反应，人工智能系统越来越有能力从言外之意，推断出从一个人的位置到个性的一切。
一旦发生数据泄露，可能会产生可怕的后果。令人难以置信的复杂网络钓鱼攻击可能是精心策划的——用户将他们秘密输入人工智能系统的信息作为攻击目标。
其他可能的情况包括，这些数据被用来冒充某人的身份，无论是通过开设银行账户的应用程序还是深度伪造视频。
消费者需要保持警惕，即使他们自己不使用人工智能。人工智能越来越多地用于公共场所的监控系统和增强面部识别技术。
如果这些基础设施不是建立在一个真正私人的环境中，那么无数公民的公民自由和隐私可能会在他们不知情的情况下受到侵犯。
3. 私人数据被用来训练人工智能系统
有人担心，主要的人工智能系统通过浏览无数的网页来收集智能。
据估计，训练ChatGPT使用了3000亿个单词，即570千兆字节的数据，其中包括书籍和维基百科条目。
众所周知，算法也依赖于社交媒体页面和在线评论。
对于其中一些来源，您可能会争辩说，这些信息的所有者应该对隐私有合理的期望。
但问题是，我们每天使用的许多工具和应用程序已经受到人工智能的严重影响，并对我们的行为做出反应。
iPhone上的Face ID使用人工智能来追踪你外表的细微变化。
TikTok和Facebook的人工智能算法会根据你过去看过的视频片段和帖子提出内容推荐。
像Alexa和Siri这样的语音助手也严重依赖机器学习。
人工智能创业公司的数量令人眼花缭乱，每家公司都有一个特定的目标。然而，在如何收集、存储和应用用户数据方面，有些公司比其他公司更透明。
这一点尤其重要，因为人工智能对医疗保健领域产生了影响——从医学成像和诊断到记录保存和制药。
我们需要从近年来陷入隐私丑闻的互联网企业身上吸取教训。
女性健康应用Flo曾被监管机构指控在2010年代向Facebook和谷歌(Google)等公司泄露用户的私密信息。
在哪儿我们从这里开始
未来几年，人工智能将对我们所有人的生活产生不可磨灭的影响。法学硕士一天天变得越来越好，新的用例不断出现。
然而，随着该行业以极快的速度发展，监管机构将难以跟上的风险确实存在。
这意味着消费者需要开始保护自己的数据，并监控数据的使用方式。
去中心化可以在这里发挥至关重要的作用，防止大量数据落入主要平台的手中。
去中心化物理基础设施网络(DePINs)有可能确保日常用户体验到人工智能的全部好处，而不会损害他们的隐私。
加密提示不仅可以提供更加个性化的结果，而且保护隐私的llm将确保用户在任何时候都能完全控制他们的数据，并防止数据被滥用。
Chris Were是Verida的首席执行官，Verida是一个分散的、自主的数据网络，使个人能够控制他们的数字身份和个人数据。Chris是一位澳大利亚的技术企业家，他花了20多年的时间致力于开发创新的软件解决方案。
