人类灭绝。
想一下。好好想想。将人类从地球上抹去。
这正是顶级行业领袖疯狂拉响警报的原因。这些技术专家和学者不断按下红色恐慌按钮，尽其所能警告人们人工智能对文明存在的潜在危险。
周二，包括OpenAI首席执行官Sam Altman和Google DeepMind首席执行官Demis Hassabis在内的数百名顶级人工智能科学家、研究人员和其他人再次表达了对人类未来的深切关注，他们签署了一封只有一句话的公开信，旨在明确指出快速发展的技术带来的风险。
“减轻人工智能带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球的优先事项，”这封信说，该行业许多最受尊敬的人物都在信上签名。
没有比这更直接和紧迫的了。这些行业领袖毫不夸张地警告说，应该像对待核战争威胁一样认真对待即将到来的人工智能革命。他们恳求政策制定者树立一些护栏，建立基准法规，在为时已晚之前削弱这种原始技术。
人工智能安全中心(Center for ai Safety)执行主任丹·亨德里克斯(Dan Hendrycks)称，这种情况“让人想起原子科学家对他们创造的技术发出的警告”。正如罗伯特·奥本海默(Robert Oppenheimer)所指出的那样，‘我们知道世界将不再一样。’”
“人工智能带来了许多重要而紧迫的风险，不仅仅是灭绝的风险;例如，系统性偏见、错误信息、恶意使用、网络攻击和武器化，”亨德里克斯继续说道。“这些都是需要解决的重要风险。”
然而，这些专家拼命向公众传达的可怕信息似乎并没有穿透日常生活的噪音。人工智能专家可能是在拉响警报，但他们对这项技术的恐惧程度——在某些情况下是纯粹的恐惧——并没有得到新闻媒体对大众的类似紧迫感的回应。
相反，总的来说，新闻机构把周二的信——就像我们最近几个月看到的所有其他警告一样——当作另一个标题，夹杂着各种各样的故事。一些主要新闻机构甚至没有在其网站主页上刊登关于这一令人不寒而栗的警告的文章。
在某种程度上，这让人想起了大流行的早期，在广泛的恐慌、关闭和超负荷的急诊室之前。新闻编辑室密切关注着这种病毒带来的日益严重的威胁，发布了有关它在世界各地缓慢传播的报道。但是，当人们充分认识到这种病毒的严重性并将其融合到涵盖它的本质中时，它已经有效地颠覆了世界。
随着人工智能的发展，历史有可能重演，而且风险更高。是的，新闻机构正在报道这项发展中的技术。但是，考虑到地球面临危险的可能性，围绕这个问题的紧迫性一直相当不足。
也许这是因为人们很难接受好莱坞式的科幻世界可能成为现实，先进的计算机技术可能达到逃逸速度，使人类灭绝。然而，这正是世界上最顶尖的专家警告可能发生的事情。
避免不舒服的现实要容易得多，把它们从前台推到后台，希望问题随着时间的推移会自行解决。但他们通常不会这么做——而且似乎越来越多的关于人工智能的担忧也不太可能自行解决。事实上，更有可能的是，随着技术的飞速发展，这些担忧会随着时间的推移变得更加明显。
正如杜克大学(Duke University)计算机科学教授、人工智能研究员辛西娅·鲁丁(Cynthia Rudin)周二告诉CNN的那样:“我们真的需要更多证据来证明人工智能的负面影响可能和核战争一样大吗?”
