马斯克和史蒂夫沃兹尼亚克在请愿书上签名 呼吁停止人工智能发展

马斯克和史蒂夫沃兹尼亚克在请愿书上签名 呼吁停止人工智能发展

这是一份请愿书中的一些声明，该请愿书呼吁人工智能技术的开发者停止他们的努力六个月。

已经签署该协议的知名人士包括科技界大佬埃隆·马斯克和史蒂夫·沃兹尼亚克，以及前总统候选人杨安泽。

这份请愿书是生命未来研究所的作品，该组织表示，其使命是“引导变革性技术远离极端、大规模的风险，惠及生命。”

当然，请愿书描绘了一个可怕的未来，如果人工智能开发者，比如ChatGPT技术背后的开发者，被允许继续在不受限制的道路上前进。正如请愿书所述，“最近几个月，人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至包括它们的创造者——能够理解、预测或可靠地控制。”

这并不是说生命未来研究所的团队呼吁永远停止人工智能的发展。相反，请愿书主张暂停六个月，这将允许人工智能实验室和独立专家“共同开发和实施一套用于高级人工智能设计和开发的共享安全协议……这些协议应该确保遵守这些协议的系统是安全的，排除合理怀疑。”

最后，未来生命研究所将这种间歇称为“人工智能之夏”，“我们……为了所有人的明显利益设计这些系统，并给社会一个适应的机会。”

这项请愿是在ChatGPT技术变得越来越流行的时候提出的。但这项技术也遭遇了不少阻力。今年早些时候，《纽约时报》科技专栏作家凯文·卢斯报道了他与微软必应chatgpt驱动的聊天机器人的奇怪交流，聊天机器人向他表达了爱意。

更重要的是，ChatGPT背后的OpenAI公司首席执行官萨姆·奥特曼（Sam Altman）在最近的一次采访中敲响了警钟。具体来说，他对该技术“被用于大规模虚假信息”的可能性表示担忧。

尽管如此，奥特曼表示，任何科幻风格的场景，机器接管世界都是不可能的。他说，人工智能技术“是一种在很大程度上由人类控制的工具”。