OpenAI 的使命

原文：https://blog.gregbrockman.com/the-openai-mission

写于2019年3月11日

在过去的三年里，我们一直在研究OpenAI。我们的使命是确保人工通用智能（AGI）——我们将其定义为在大多数经济价值领域胜过人类的自动化系统——惠及全人类。今天，我们宣布了OpenAI的新法律架构，名为OpenAI LP，以更好地追求这一使命——特别是在我们努力构建安全的AGI并分发其利益时筹集更多资金。

在这篇文章中，我们希望帮助其他人了解我们是如何看待这个使命的。

为什么现在？

人工智能领域的创立愿景是“基于这样一个猜想展开的，即学习的每一个方面或者智能的任何其他特征原则上都可以被如此精确地描述，以至于一台机器可以模拟它”，并最终建立一台具有思考能力的机器——即AGI。然而，在过去的60年里，进展多次停滞，人们开始认为AI是一个无法取得实质成果的领域。

自2012年以来，深度学习通过一套简单的小工具在许多领域取得了持续的进步，这些工具具有以下特性：

• 通用性： 深度学习工具简单，但适用于许多领域，如视觉、语音识别、语音合成、文本合成、图像合成、翻译、机器人技术和游戏。
• 竞争力： 如今，解决大多数“AI类型问题”取得有竞争力的结果的唯一途径就是使用深度学习技术。
• 可扩展性： 古老的AI能够产生令人兴奋的演示，但其技术难以扩展到更困难的问题。而在深度学习领域，更多的计算能力和更多的数据可以带来更好的结果。事实证明，快速（尽管代价高昂）地增加深度学习实验所使用的计算量是容易的。

这些属性的有用深度学习系统的快速进展使我们感到开始认真对待AGI是合理的——尽管很难知道它还有多远。

AGI的影响

就像今天的计算机一样，AGI将适用于各种任务——就像1900年的计算机或者1950年的互联网一样，很难描述（甚至预测）AGI将产生的影响。但为了给大家一个感性的认识，想象一个计算机系统，它可以在最少的人类输入下完成以下活动：

• 实现与顶尖科学家相当水平的科学突破
• 将这个突破产品化并建立一家公司，具备与顶尖企业家相当的技能
• 快速发展公司并在大规模管理

这样的计算机系统的潜在优势是巨大的——举一个说明性的例子，遵循上述模式的AGI可以生产出令人惊叹的大规模部署的医疗应用。想象一下一个由AGI驱动的计算机化医生网络，它积累了超人类水平的临床经验，使其能够进行出色的诊断，深入了解各种治疗在许多病症中的微妙影响，并大大减少医疗误差——所有这些都以非常低的成本并且对每个人都是可用的。

风险

我们已经生活在一个拥有超越个人能力的实体的世界里，我们称之为公司。如果在正确的目标和正确的方式上努力，公司可以创造巨大的价值并改善生活。但是，如果没有适当的监管，它们也可能造成损害，如砍伐雨林的伐木公司，让儿童吸烟的香烟公司或庞氏骗局等诈骗。

我们将AGI视为类似于超高效公司，具有相应的利益和风险。我们担心AGI追求操作者设定错误的目标，恶意的人类破坏已部署的AGI，或者失控的经济增长而不改善人类生活。而且，因为改变强大的系统是很困难的——想想给互联网增加安全功能是多么困难——所以我们认为在创建AGI之前解决其安全性和政策风险非常重要。

OpenAI的使命是弄清楚如何获得AGI的好处并减轻风险——并确保这些好处惠及全人类。

未来充满不确定性，我们的预测可能有很多错误。但是，如果我们的预测是正确的，那么这个使命将至关重要。如果您想参与这个使命，我们正在招聘！