上千名科技专家呼吁暂停大型AI研究

上千名科技专家呼吁暂停大型AI研究

马斯克和1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。

未来生命研究所（Future of Life Institute）29日公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton）、人工智能专家盖瑞·马库斯（Gary Marcus）和马斯克均签署了这封公开信。未来生命研究所的这封公开信题为“暂停巨型AI实验：一封公开信”，于29日解封。未来生命研究所的公开信已有1079人签署。

信中写道：广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，这一观点得到了顶级人工智能实验室的承认。

信中写道：“当代人工智能系统现在在一般任务上表现与人类相当，我们必须扪心自问：我们是否应该让机器用宣传（尤指福狭、误导的）和谎言充斥我们的信息渠道？我们应该自动化所有的工作，包括令人满意的工作吗？我们是否应该发展最终可能超越我们并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？我们不应该将此类决定交给未经选举产生的技术领导者。”

“我们不应该将此类决定交给未经选举产生的技术领导者。只有当我们确信 AI 大模型的影响是积极的并且风险是可控的时，我们才能开发强大的人工智能系统。而且，这种判断必须有充分的理由，并随着系统潜在影响的大小而跟进。”

此前马斯克此前曾多次表达对人工智能的担忧，认为人工智能是未来人类文明最大的风险之一，威胁程度远高于车祸、飞机失事、毒品泛滥等，甚至比核武器都危险得多。