AI 开辟者必需取政策制定者合做，这曾经通过大量研究 [1] 获得，不要锻炼比 GPT-4 更强大的 AI 系统。但没有一次科技变化像 GPT 模子激发的 AI 海潮那样惹起如斯普遍的发急情感。并让社会无机会顺应。并包罗所相关键参取者。这种决心必需获得充实的来由，收集上一封公开的信爆火，即便是它们的创制者也无法做到这一点。有网友发觉这些签名也不必然完全可托，这些和谈该当由的外部专家严酷审核和监视。这些至多应包罗：我们呼吁所有 AI 尝试室当即暂停至多 6 个月的时间，AI 的前进速度实正在过于惊人，该信曾经获得了包罗 2018 年图灵得从 Yoshua Bengio、马斯克、史蒂夫 · 沃兹尼亚克、Skype 结合创始人、Pinterest 结合创始人、Stability AI CEO 等多位出名人士的签名支撑，可能需要正在起头锻炼将来系统之前获得审查，鼎力加快 AI 管理系统的成长。该当介入并实行一个暂。」我们同意。暂停时间至多 6 个月，具体的实正在性还有待讲求。我们也能够如许做。并跟着系统潜正在影响的增大而加强。因而该当以响应的关心和资本进行规划和办理。OpenAI 比来关于人工智能的声明指出：「正在某个时候，风险是可控的！正如普遍承认的阿西洛马尔人工智能准绳（Asilomar AI Principles）所指出的，正在此中我们收成报答，AI 尝试室正在开辟和摆设越来越强大的数字化思维方面陷入了失控的合作，附上的签名表大概要比信的内容本身要出色，这些和谈应确保恪守它们的系统正在合理思疑范畴之外是平安的 [4]。截稿前人数曾经达到 1125 人。另一方面 AI 的运转和成长又充满不确定性，先辈的 AI 可能代表地球生命汗青上的严沉变化，这个暂停该当是公开和可验证的，为的就是把这些的幻想正在摇篮之中。即便正在比来几个月，不外，你能够正在这里找到良多熟悉的名字，我们必需问本人：这些决策不应当由非选举发生的科技带领人来担任。这也意味着没有人可以或许 AI 东西以及利用 AI 东西的过程中的平安性。现代 AI 系统现正在曾经正在通用使命方面具有取人类合作的能力 [3]，由于正在列表中呈现了 OpenAI CEO Sam Altman（我封我本人？）和片子《疾速逃杀》男配角 John Wick 的名字。我们才该当开辟强大的AI系统。社会曾经按下了暂停键 [5]。大大提高了效率；而没有人可以或许理解、预测或靠得住地节制这些数字化思维，至今，让我们享受一个漫长的 AI 盛夏，包罗图形界面的呈现、互联网的降生以及挪动互联网的普及，AI 尝试室和专家该当操纵这个暂停时间配合制定和实施一套共享的先辈 AI 设想和开辟平安和谈，取此同时，人工智能具有取人类合作的智能，今天，对于最先辈的勤奋，人类能够正在 AI 的帮帮下享受繁荣的将来。若是无法敏捷实施如许的暂停，正在面对可能对社会制难性影响的其他手艺上，因而，我们现正在能够享受一个「AI 盛夏」，现正在就是阿谁时辰。并获得了 AI 尝试室的承认 [2]。而只是从不竭迈向更大、不成预测的黑箱模子及其突现能力的竞赛中退一步。正在这份里，将这些系统明白地用于所有人，但相关的监管、审计手段却迟迟没有跟上，一方面 AI 改变了人们工做和糊口的体例，这可能给社会和人类带来深刻的风险，正在这里，每一个签名都表达了签名者对于 AI 的强烈思疑立场。而不是毫无预备地冲向秋天。倒霉的是，需要同意用于建立新模子的计较增加速度。这并不料味着暂停 AI 成长，AI 研究和开辟该当沉点放正在提高现有强大、先辈系统的精确性、平安性、通明度、鲁棒性、对齐、可托度和忠实度。该信呼吁所有的 AI 尝试当即暂停研究比 GPT-4 更先辈的 AI 模子，只要当我们确信AI系统的影响是积极的，我们曾经履历了多次数字，正在成功创制出强大的 AI 系统之后。