阿里·法哈蒂不是科技叛逆者。
这位42岁的计算机科学家是一位备受尊敬的研究员，也是华盛顿大学(University of Washington)的教授，也是一家初创公司的创始人，该公司已被苹果公司(Apple)收购，他在该公司工作到四个月前。
不过，今年7月成为艾伦人工智能研究所(Allen Institute for AI)首席执行官的法哈迪呼吁，要在人工智能的新浪潮中实现“彻底开放”，使研发民主化，许多人认为这是几十年来最重要的技术进步。
艾伦研究所已经开始了一项雄心勃勃的计划，要建立一个免费的人工智能替代品，以取代b谷歌等科技巨头和OpenAI等初创企业。在一个被称为开源的行业过程中，其他研究人员将被允许仔细检查和使用这个新系统以及输入其中的数据。
西雅图有影响力的非营利研究中心艾伦研究所(Allen Institute)采取的立场，让它直接站在了新人工智能应该有多开放或多封闭的激烈辩论的一边。开放所谓的生成式人工智能(为OpenAI的ChatGPT和b谷歌的Bard等聊天机器人提供动力)会带来更多的创新和机会吗?或者它会打开数字危害的潘多拉魔盒吗?
在生成式人工智能的背景下，对“开放”的定义各不相同。传统上，软件项目已经为程序打开了底层的“源”代码。然后任何人都可以查看代码，发现错误并提出建议。是否做出改变是有规则可循的。
这就是广泛使用的Linux操作系统、Apache网络服务器和Firefox浏览器背后流行的开源项目的运作方式。
但生成式人工智能技术涉及的不仅仅是代码。人工智能模型经过一轮又一轮的大量数据训练和微调。
专家警告说，无论艾伦研究所的初衷有多好，它所走的道路本身就存在风险。
“关于人工智能系统开放性的决定是不可逆转的，很可能是我们这个时代最重要的决定之一，”哈佛大学伯克曼·克莱因互联网与社会中心(Berkman Klein Center for Internet & Society)的研究员阿维夫·奥瓦迪亚(Aviv Ovadya)说。他认为需要国际协议来确定哪些技术不应该公开发布。
生成式人工智能很强大，但往往难以预测。它可以立即写电子邮件、诗歌和学期论文，并像人类一样流利地回答任何可以想象到的问题。但它也有一种令人不安的倾向，即在研究人员所谓的“幻觉”中编造事情。
领先的聊天机器人制造商——微软支持的OpenAI和谷歌——一直对他们的新技术保密，没有透露他们的人工智能模型是如何训练和调整的。尤其是谷歌，它在发布研究成果和分享人工智能软件方面有着悠久的历史，但在开发Bard的过程中，它越来越多地将技术留给自己。
两家公司表示，这种方法降低了犯罪分子劫持技术、让错误信息和骗局进一步充斥互联网或从事更危险行为的风险。
开放系统的支持者承认存在风险，但表示让更多聪明的人来对抗这些风险是更好的解决方案。
今年meta发布了一款名为LLaMA(大型语言模型meta AI)的人工智能模型，引起了轰动。法尔哈迪赞扬了meta的举动，但他认为这还不够。
“他们的方法基本上是:我变了魔法。我不会告诉你它是什么，”他说。
法哈蒂建议公开人工智能模型的技术细节、它们接受训练的数据、所做的微调，以及用来评估它们行为的工具。
艾伦研究所已经迈出了第一步，发布了一个用于训练人工智能模型的庞大数据集。它是由来自网络、书籍、学术期刊和计算机代码的公开数据组成的。该数据集经过整理，删除了个人身份信息和种族主义和淫秽短语等有毒语言。
在编辑过程中，需要做出判断。删除一些被认为有毒的语言会降低模型检测仇恨言论的能力吗?
法哈迪说，艾伦研究所的数据库是目前可用的最大的开放数据集。自今年8月发布以来，它在开源人工智能资源和协作网站“拥抱脸”(hugs Face)上的下载量已超过50万次。
在艾伦研究所，该数据集将用于训练和微调一个大型生成式人工智能程序OLMo(开放语言模型)，该程序将于今年或明年初发布。
法哈迪说，大型商业人工智能模型都是“黑匣子”技术。“我们正在争取一个玻璃盒子，”他说。“把整个东西打开，然后我们就可以讨论行为，部分解释内部发生了什么。”
只有少数几个核心的生成式人工智能模型是公开可用的，就像艾伦研究所所设想的那样。其中包括meta的LLaMA和由阿布扎比政府支持的Falcon项目。
艾伦研究所似乎是一个大型人工智能项目的合理所在地。卡耐基梅隆大学(Carnegie Mellon University)的计算机科学家扎卡里·利普顿(Zachary Lipton)说，“它资金充足，但运作具有学术价值，有帮助推进开放科学和人工智能技术的历史。”
艾伦研究所正与其他机构合作，推动其开放愿景。今年，非营利组织Mozilla基金会向一家初创公司Mozilla投入了3000万美元。该公司最初将专注于开发围绕开放人工智能引擎(比如艾伦研究所的引擎)的工具，使它们更容易使用、监控和部署。
Mozilla基金会(Mozilla Foundation)成立于2003年，其宗旨是促进互联网成为向所有人开放的全球资源，该基金会担心技术和经济实力的进一步集中。
“一小部分参与者，都在美国西海岸，甚至在生成人工智能真正问世之前，就试图锁定它，”基金会主席马克·苏曼(Mark Surman)说。
法哈蒂和他的团队花了很多时间试图控制开放战略的风险。例如，他们正在研究如何在训练阶段评估模型的行为，然后防止种族歧视和制造生物武器等某些行为。
法哈迪认为，大型聊天机器人模型上的护栏就像创可贴，聪明的黑客可以轻易撕下来。“我的观点是，我们不应该让这种知识被编码到这些模型中，”他说。
法哈迪说，人们会用这项技术做坏事，就像对待所有强大的技术一样。他补充说，社会的任务是更好地理解和管理风险。他认为，开放是寻找安全和分享经济机会的最佳选择。
“监管本身无法解决这个问题，”法哈迪说。
艾伦研究所的努力面临着一些巨大的障碍。一个主要的问题是，构建和改进一个大型生成模型需要大量的计算能力。
法哈迪和他的同事们说，新兴的软件技术效率更高。尽管如此，他估计艾伦研究所的计划在未来几年内将需要价值10亿美元的计算。他已经开始尝试从政府机构、私营公司和科技慈善家那里获得支持。但他拒绝透露自己是否有支持者，也拒绝透露他们的名字。
如果他成功了，更大的考验将是培育一个持久的社区来支持这个项目。
Mozilla基金会的苏尔曼说，“要真正削弱那些大公司，需要一个开放参与者的生态系统。”“这种比赛的挑战就是耐心和坚韧。”
Steve Lohr报道技术、经济和劳动力问题。他是2013年获得普利策解释性报道奖的团队成员之一。更多关于Steve Lohr的信息
