我们已经越过了临界点，起飞已经开始。人类距离构建数字超级智能已经很近了，而且至少到目前为止，这一切远没有想象中那么奇怪。
机器人还没有在街头四处行走，我们大多数人也并没有整天和 AI 交谈。人类依然死于疾病，我们仍然无法轻松进入太空，而且关于宇宙还有许多是我们所不了解的
然而，最近我们已经打造出在许多方面比人类更聪明的系统，并且它们能够大幅提升人类借助其所能产生的成果。过去那些最不被看好的难关如今已经闯过；促成 GPT-4 和 o3 这类系统的科学洞见得来不易，但这些洞见将带领我们走向更远的未来。
AI 将在许多方面造福世界，但通过加速科学进步和提高生产力而提升生活质量的收获将是巨大的；未来可能会远远优于现在。科学进步是一切进步最强大的推动力；一想到未来我们可能拥有远超当今的各种成果，就令人无比振奋。
从某种重要意义上说，ChatGPT 已经比有史以来任何一个人都更强大。每天都有数亿人在依赖它完成日益重要的任务；一个微小的新能力就能产生巨大的正面影响；而一个细小的偏差乘以上亿用户则可能引发巨大的负面影响。
2025 年，能够完成真正认知工作的智能代理已经问世，写代码从此将不同往昔。2026 年可能会出现能够悟出全新洞见的系统。2027 年或许会诞生可以在现实世界中执行任务的机器人。
将有更多的人能够创作软件和艺术。不过，世界对这两者的需求也会大大增加，而且专家只要拥抱这些新工具，仍然会比新手强得多。总体来说，与2020年相比，2030年一个人能够完成的工作量将大幅增长，这将是一个引人注目的变化，许多人也将学会如何从中受益。
在最重要的方面，2030 年代可能并不会与现在有天翻地覆的区别。人们仍然会爱自己的家人，发挥创造力，玩游戏，到湖里游泳。
但在一些依然非常重要的方面，2030 年代很可能会与以往任何时代都截然不同。我们不知道智能能在超越人类水平的基础上走多远，但我们即将找到答案。
到了 2030 年代，智能和能量——也就是各种创意点子，以及将这些点子付诸实践的能力——将会变得异常充沛。这两者长期以来一直是限制人类进步的根本瓶颈；当智能和能量都极为充足时（再加上良好的治理），理论上我们想要什么都可以实现。
如今我们已经与令人难以置信的数字智能共处，并且在最初的震惊过后，我们大多数人很快就习以为常了。我们迅速地从惊叹 AI 能生成一段优美的文字，转而好奇它何时能写出一部优美的小说；从震惊于它能做出救命的医疗诊断，转而期待它何时能研发出治愈疾病的疗法；从惊讶于它能编写一个小型计算机程序，变为想象它何时能创造出一整个全新的公司。这就是奇点发展的方式：奇迹变成了日常，然后又成为了标配。
我们已经听到一些科学家表示，他们的工作效率相比有 AI 之前提高了两到三倍。高级 AI 引人注目的原因有很多，但或许最重大的意义在于：我们可以利用它更快地开展 AI 研究。我们可能因此发现全新的计算基质、更优的算法，以及其它现在无法预见的东西。如果我们能够用一年甚至一个月的时间完成以往十年的研究工作，那么进步的速度显然会大不一样。
从现在开始，我们已经开发出的工具将帮助我们获得更多科学新发现，并协助我们创造更优秀的 AI 系统。当然，这还不等同于让 AI 系统彻底自主更新自己的代码，但即便如此，这已经是递归式自我改进的雏形了。
还有其他一些自我强化的循环在发挥作用。AI 带来的经济价值创造已经引发了一个飞轮效应，推动着基础设施的复合式扩建，以运行这些日益强大的 AI 系统。而能够制造其他机器人的机器人（从某种意义上说，也就是能够建设其他数据中心的数据中心）也离现实不远了。
假如我们必须用传统方式制造出第一批一百万个人形机器人，但随后它们能够掌管整个供应链——开采和提炼矿石、驾驶卡车、运行工厂等等——来制造更多机器人，而这些机器人又可以建设更多芯片制造设施、数据中心等等，那么进步的速度显然会大不相同。
随着数据中心生产实现自动化，智能的成本最终应该会趋近于电力成本。（许多人常常好奇一次 ChatGPT 查询消耗多少能量；平均每次查询大约消耗 0.34 瓦时的电能，约等于烤箱运转一秒多钟的耗电量，或者高效灯泡工作几分钟的耗电量。每次查询还耗费约 0.000085 加仑的水（约 0.33 毫升），大约相当于十五分之一茶匙的水量。）
技术进步的速度将不断加快，而且人类依然能够适应几乎任何变化。未来也会出现非常严峻的挑战，比如整类整类的工作岗位消失；但另一方面，世界将变得极其富裕，我们将能够认真考虑一些以前根本无法实施的新政策想法。我们或许不会一下子就签订一份全新的社会契约，但在若干十年后回过头看时，这些渐进的改变将累计成巨大的变革。
如果历史可以作为借鉴，我们将找到新的事情去做、产生新的欲望，并迅速学会使用新工具（工业革命后的职业更替就是一个很好的例子）。人们的期望会提高，但能力也会同样迅速地提升，我们都将得到更好的事物。我们会为彼此创造出越来越多美妙的东西。在与 AI 的对比中，人类长期以来有一个重要而奇特的优势：我们天生会关心他人以及他人的所思所想所为，而我们并不会太在乎机器。
一千年前的一位自给自足的农民如果看到我们今天许多人从事的工作，会说那些是“假工作”，并且觉得我们只是在玩游戏自娱自乐，因为我们粮食富足，还有难以想象的奢侈品可享。我希望当我们看到一千年后的那些工作时，也会觉得那些工作非常“虚”；但我毫不怀疑，对于当时从事那些工作的人来说，它们将让他们觉得无比重要且令人满足。
创造新奇迹的速度将会快得惊人。如今我们很难想象到 2035 年我们会有怎样的发现；也许我们会从某一年还在攻克高能物理难题，到下一年就开始太空殖民；或者前一年材料科学取得重大突破，到了后一年就实现真正的高带宽脑机接口。许多人仍将选择以几乎相同的方式过他们的生活，但至少会有一些人可能决定“接入”。
展望未来，这一切听起来让人难以完全理解。但真正经历时，可能会觉得震撼之余仍可应对。从相对的视角来看，奇点是一点一点发生的，人机融合也是慢慢进行的。我们正沿着技术指数级增长的长曲线攀登；向前看，这条曲线似乎陡直向上，而往后看，它又仿佛平坦无奇，但实际上这是一条平滑连续的曲线。（回想 2020 年，如果那时有人说到 2025 年我们会出现接近 AGI 的东西，听起来会有多么疯狂；再看看过去 5 年实际发生了什么。）
巨大的前景也伴随着严峻的挑战。我们确实需要在技术和社会层面解决安全问题，但在那之后，鉴于超级智能对经济的影响，广泛地提供获取超级智能的途径就变得至关重要。未来最佳的道路可能是这样的：
- 解决对齐问题，也就是说，我们能够有力地保证让 AI 系统在长期内学习并朝着我们全体真正想要的方向行动。（社交媒体的信息流就是一个 AI 未对齐的例子；那些算法非常擅长让你不停地刷屏，并清楚地了解你的短期偏好，但它们是通过利用你大脑中的某些机制来压倒你的长期偏好来做到这一点的。）
- 随后致力于让超级智能变得廉价、广泛可及，并且不至于过度集中在任何个人、公司或国家手中。 社会具有韧性、创造力且适应迅速。如果我们能够汇聚人类的集体意志和智慧，那么尽管我们会犯很多错误，也会出现一些严重的问题，但我们将快速学习与适应，并且能够利用这项技术将好处最大化、坏处最小化。在由社会共同决定的宽泛界限内给予用户大量的自由是非常重要的。全世界越早开始讨论这些界限是什么，以及我们如何定义集体层面的对齐，就越有利。
我们（整个行业，而不仅仅是 OpenAI）正在为全世界构建一个“大脑”。这个“大脑”将是极度个性化的，人人都能轻松使用；我们未来的局限将只在于有没有好的主意。长期以来，初创领域的技术人士总爱取笑那些“点子家”——也就是只有一个想法却在寻找团队来实现的人。而现在在我看来，这些“点子家”似乎即将迎来他们扬眉吐气的日子了。
OpenAI 现在从事的领域有很多，但首先，我们是一家超级智能研究公司。我们面前有大量的工作要完成，不过我们前方的大部分道路如今已被照亮，黑暗未知的区域正迅速消退。能够从事我们所做的事情，我们感到格外感激。
廉价到无需计费的智能已在掌握之中。这样说或许听起来很疯狂，但如果我们在 2020 年时告诉你我们今天会达到这样的境地，那听上去可能比我们现在对 2030 年的预测还要更加疯狂。
愿我们能够顺利地、以指数级速度、不出意外地迈向超级智能时代。
信息来源：<a href=”https://blog.samaltman.com/”>Sam Altman</a>
