据路透社报道，包括图灵奖得主#YoshuaBengio、伯克利计算机科学教授#StuartRussell、#特斯拉首席执行官#ElonMusk、#苹果联合创始人#SteveWozniak等在内的数千名关注人工智能领域的学者、企业家、教授近日发起一封公开信，强烈呼吁暂停使用比GPT-4更强大的#AIT训练系统六个月，理由是这些模型对#社会和人类具有潜在风险。

毫无疑问，#ChatGPT 和 #GPT-4 开启了人工智能的新时代，但这种自动化流程的工具相当可怕，并引发了#公众恐慌。
公开信指出，“具有与人类竞争智能的人工智能系统对社会和人类构成了重大风险。” 高级人工智能可能代表地球生命历史的深刻变化，应该以相应的谨慎和资源进行规划和管理。
不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月，人工智能实验室陷入了一场失控的竞赛，以开发和部署越来越强大的数字思维，没有人——甚至它们的创造者——能够理解、预测或可靠地控制。
(1)我们应该让机器用宣传和谎言充斥我们的信息渠道吗？
(2)我们应该#自动化所有工作，包括令人满意的工作吗？
(3)我们是否应该开发#NonhumanMinds，它们最终可能会超越我们、超越我们、淘汰我们并取代我们？
(4)我们是否应该冒着失去对#civilization 控制的风险？

我们呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统至少 6 个月。
AI 实验室和独立专家应利用这一暂停时间共同开发和实施一套用于高级 AI 设计和开发的共享安全协议，这些协议由独立的外部专家进行#严格审核和监督，并且 AI 开发人员必须#与政策制定者合作，以大大加快开发强大的 AI 治理系统：
(1) 专门负责 AI 的新的、有能力的#监管机构
(2) 对高性能 AI 系统和大量计算能力池进行#监督和跟踪；
(3) #ProvenanceAndWatermarking 系统，帮助区分真实与合成并跟踪模型泄漏；
(4) 建立健全的 #AuditingAndCertificationEcosystem；
(5) 追究人工智能造成的损害的责任；为技术人工智能安全研究提供强有力的 #AIPublicFunding；
(6) 拥有充足的资源机构，以应对人工智能将造成的重大经济和政治混乱（尤其是对民主的混乱）。
#人类可以享受人工智能带来的繁荣未来。在成功创建强大的人工智能系统后，我们现在可以给社会一个适应的机会。社会已经暂停了其他可能对社会造成灾难性影响的技术。我们可以在这里这样做。让我们享受漫长的 #AI 夏天，而不是毫无准备地冲进秋天。