人工智能会被用来作恶吗？

人工智能会被用来作恶吗？

尽管它有很多好处，但包括“ChatGPT”的创造者在内的全球 350 多位人工智能领域的专家都警告说，这项技术可能会导致人类灭绝。

在领先人工智能公司首席执行官的支持下，他们在一份联合声明中表示，减轻这种风险“应该与流行病和核战争等其他社会风险一起成为全球优先事项。”

许多专家对使用 ChatGBT 等模型传播错误信息和网络犯罪以及在社区层面造成工作中断的危险表示担忧。

文明崩溃

这份由美国人工智能安全中心 (CAIS) 协调的声明也承认了这些担忧，但表示还应该讨论更严重但可能性较小的威胁，包括加速人工智能可能导致文明崩溃的可能性。

一些计算机科学家担心，与人类利益不相容的人工超级智能可能会无意中取代或摧毁我们。

其他人则担心，如果出现问题，过度依赖我们不了解的系统会使我们面临灾难性的风险。

CAIS 主任 Dan Hendricks 解释说，该声明是许多研究人员的一种表达方式。 “人们太害怕了，不敢早点说出来，”他继续说道。

有些人质疑这些说法

相比之下，其他学者认为该声明没有帮助。 艾伦图灵研究所研究伦理研究员 Mahiri Aitken 博士称其为从 AI 带来的更紧迫威胁中“分心”。

她补充说，“超级人工智能的叙述是无数好莱坞大片中熟悉的情节。”

牛津大学人工智能伦理研究所的 Carissa Velez 博士对一些签署者的动机持怀疑态度。

“我担心专注于生存威胁会分散对更紧迫问题的注意力，例如民主的侵蚀或消亡，某些公司的首席执行官不想面对这些问题，”她说。 “人工智能可以在不冒生存风险的情况下造成大规模破坏，”她补充说。

生化武器

对 AI 最严重威胁的担忧范围从它被人类用来设计生物武器的可能性，到 AI 本身密谋文明的崩溃。

声明的签署者包括设计 ChatGPT 的 OpenAI 首席执行官 Sam Altman 和设计软件以击败围棋和国际象棋最佳玩家的 Google Deepmind 首席执行官 Demis Hassabis。 它由来自剑桥、牛津、哈佛、耶鲁和斯坦福的 Anthropic AI、Inflection AI 和 Stability AI 系统的负责人以及计算机科学教授签署。

Maguy Farah 的 2023 年星座运势预测