当律师乔纳森?索米尔在ChatGPT中输入一个法律问题时，它几乎立刻就会给出答案。
但有一个问题——生成式人工智能聊天机器人完全错了。
新斯科舍律师协会(Nova Scotia Barristers’Society)的法律服务支持顾问索米尔(Saumier)说:“这是一个很好的例子，说明我们在这些系统的准确性方面还没有做到这一点。”
人工智能可以成为一个有用的工具。在短短几秒钟内，它就可以完成通常需要律师几个小时甚至几天才能完成的任务。
但全国各地的法院都对此发出警告，一些专家表示，司法系统的完整性正受到威胁。
最常用的工具是ChatGPT，这是一个免费的开源系统，它使用自然语言处理来回答用户提出的问题。
索米尔说，律师们正在以各种方式使用人工智能，从管理他们的日历到帮助他们起草合同和进行法律研究。
但准确性是一个主要问题。索米尔表示，使用人工智能的律师必须检查其工作。
人工智能系统容易产生所谓的“幻觉”，这意味着它有时会说一些根本不真实的事情。
这可能会对法律产生寒蝉效应，索米尔说。
“如果突然间我们开始将不准确的信息引入到成为先例、成为参考、成为地方当局的事情中，这显然会使整个系统的完整性处于危险之中，”在自己的工作中使用ChatGPT的索米尔说。
去年，两名纽约律师就遇到了这样的情况，当时他们提交了一份法律摘要，其中包括ChatGPT生成的六个虚构案例引用。
史蒂文·施瓦茨(Steven Schwartz)和彼得·洛杜卡(Peter LoDuca)受到制裁，并被要求支付5000美元的罚款，因为法官发现他们的行为是恶意的，“故意回避，并向法庭做出虚假和误导性陈述”。
本周早些时候，卑诗省最高法院的一名法官谴责了律师Chong Ke，因为他在去年12月提交的一份申请中包括了两次人工智能幻觉。
曼尼托巴大学法律系助理教授凯蒂·西拉吉解释说，幻觉是人工智能系统工作方式的产物。
ChatGPT是一个大型语言模型，这意味着它不关注事实，只关注基于数万亿种可能性的序列中接下来应该出现的单词。输入的数据越多，它学到的就越多。
Szilagyi关注的是生成式人工智能呈现信息的权威，即使它是错误的。她说，这可能会给律师一种虚假的安全感，并可能导致自满。
“从一开始，语言就只来自其他人，所以我们给它一种信任感，也许我们不应该这样做，”西拉吉说。她的博士论文的主题是人工智能在司法系统中的应用及其对法律理论的影响。
“我们将这些系统拟人化，赋予它们人类的品质，我们认为它们比实际更人性化。”
Szilagyi不相信人工智能现在在法律上有一席之地，他打趣说，ChatGPT不应该被用于“除了派对把戏之外的任何事情”。
她说:“如果我们有一种想法，即把人性作为我们司法体系的核心价值，那么如果我们把过多的决策权外包给非人类实体，这种想法就会受到侵蚀。”
此外，她还表示，这可能会给作为社会组织力量的法治带来问题。
西拉吉说:“如果我们不相信法律在大多数时候或多或少地为我们服务，不相信我们有能力参与其中并改变它，就有可能把法治转变为法治。”
“在一个由机器人和机器控制的世界里，法律可能看起来有点权威或专制。”
像ChatGPT这样的开源聊天机器人的信息的可用性给哈利法克斯Cox and Palmer公司的首席信息官桑杰·康纳敲响了警钟。开源本质上意味着数据库中的信息对任何人都可用。
出于这个原因，该公司的律师还没有使用人工智能。他们担心无意中暴露了私人或特权信息。
卡纳说:“这是一种你不想本末倒置的情况。”
“根据我的经验，许多组织开始兴奋起来，跟随这些闪光灯并实施工具，而没有在数据如何使用，数据存储在哪里的意义上进行适当的审查。”
康纳表示，该公司的成员一直在参加会议，以了解更多专门为法律行业创建的人工智能工具，但他们还没有将任何工具应用到他们的工作中。
无论律师目前是否在使用人工智能，业内人士都认为，他们应该熟悉人工智能，这是他们保持技术能力的职责的一部分。
为此，监管该省律师行业的新斯科舍省律师协会(Nova Scotia Barristers’Society)制定了一份技术能力清单，这是一份人工智能律师指南，该协会正在修改其律师事务所标准，将相关技术纳入其中。
与此同时，新斯科舍省及其他地区的法院对在法庭上使用人工智能发出了尖锐的警告。
去年10月，新斯科舍省最高法院表示，律师在使用人工智能时必须谨慎行事，他们必须让“人类参与其中”，这意味着任何人工智能生成的文件的准确性都必须通过“有意义的人类控制”来验证。
该省法院更进一步，称任何希望使用人工智能生成的材料的一方必须说明人工智能是如何使用的。
与此同时，联邦法院已经通过了一些关于人工智能的原则和指导方针，包括它可以授权对任何人工智能辅助数据处理方法进行外部审计。
人工智能在加拿大仍然不受监管，尽管众议院工业委员会目前正在研究自由党政府的一项法案，该法案将更新隐私法，并开始监管一些人工智能系统。
但就目前而言，由律师来决定电脑是否能帮助他们维护法律。
更多头条新闻
