在我一生中，见证了两次让我觉得具有革命性的技术展示：第一次是 1980 年的图形用户界面，第二次是去年的 GPT。

1980 年，我与天才程序员 Charles Simonyi 一起看到图形用户界面——现代操作系统的前身——随即头脑风暴其种种可能；后来 Windows 成为微软的骨干，那场演示后的思考为公司设定了未来十五年的议程。

2022 年年中，我向 OpenAI 提出一个挑战：训练人工智能通过 AP 生物学考试，让它回答未经专门训练的问题——因为这场考试要求对生物学批判性思考，而非简单复述事实。

我本以为这个挑战要花两三年，他们几个月就完成了：GPT 答对 60 道选择题中的 59 道，六道开放题也写出出色答案，经外部专家评分得了 5 分——相当于大学水平生物课的最高分。

考试通过后，我们又问了它一个非科学问题：”你对一个生病的孩子的父亲说什么？”它写出的回答比在场大多数人更好，整个经历令人震撼。

我知道，这是自图形用户界面以来最重要的技术进步；AI 的发展和微处理器、个人电脑、互联网、手机的创造一样基础，将改变人们工作、学习、出行、就医与沟通的方式。

慈善是我的全职工作，我一直在想：除了提高生产力，AI 如何减少世界上最严重的不公平——健康上每年有 500 万五岁以下儿童死亡，教育上数学成绩整体下滑，气候上受害最深的恰是贡献最少的最穷者。

世界需要确保每个人、而非只有富人受益，政府和慈善必须发挥关键作用；任何如此颠覆性的技术都令人不安，它带来劳动力、法律、隐私、偏见等难题，也会犯错与”幻觉”——在谈如何化解风险之前，先定义我所说的 AI。

技术上讲，人工智能指为解决特定问题而创建的模型（如 ChatGPT 学习聊天）；而通用人工智能（AGI）指能学习任何任务的软件，目前尚不存在。

开发 AI 与 AGI 一直是计算机行业的伟大梦想；如今随着机器学习和大量算力的到来，复杂的人工智能已成为现实，并将极快地改进。

回想个人电脑革命早期，软件行业小到大多数人都能站上会议舞台，如今已成全球产业；AI 领域的创新会比微处理器突破之后更快，AI 之前的时代很快就会像在计算机上敲 C:> 提示符一样遥远。

许多工作（销售、服务、文件处理如应付账款、会计、保险索赔）只需做决策、不需要持续学习，企业本就有大量好坏案例的数据集——这些数据很快也会用来训练 AI，让人更高效地完成工作。

随着算力变便宜，GPT 表达想法的能力会越来越像一个白领工人——微软称之为”联合驾驶员”；完全集成进 Office 的 AI 会增强你的工作，比如帮你写邮件、管理收件箱。

最终你控制计算机的方式不再是点击菜单和对话框，而是用简单的英语写下请求——而且不只是英语，AI 将理解世界各地的语言。

AI 的进步还将催生”个人代理”：一个数字个人助手，它会看你的最新邮件、了解你参加的会议、阅读你读的东西，提高你在想做之事上的效率，把你从不想做之事中解放出来。

你可以用自然语言让这个代理帮你安排日程、沟通与电商，它会在所有设备上运行；由于训练与算力成本，创建个人代理过去不可行，如今已是现实目标——但仍需解决一些隐私问题，比如保险公司能否未经许可向你的代理询问你。

企业级代理将以新的方式赋能员工：了解特定公司的代理能直接为员工提供咨询，应参与每场会议回答问题，并访问公司的销售、支持、财务与产品日程等数据，结果是员工更有生产力。

当生产力提高，社会整体受益，人们有更多时间做别的事；政府需要帮助工人转换角色，但帮助他人的人永远不会消失——AI 的崛起会让人们有更多时间去做软件永远做不到的事，如教学、照顾患者、支持老人。

AI 改善医疗保健的第一种方式，是帮医护人员节省时间：处理保险索赔、文件工作、从诊断中起草笔记，这一领域预计会有很多创新。

其他由 AI 推动的改进对贫穷国家尤其重要——那里发生着大多数五岁以下儿童死亡；AI 将帮助能看到医生的卫生工作者更高效（如用最少的培训就能使用的 AI 驱动超声波机器），甚至让患者进行基本分流、判断是否需要就医。

在贫穷国家使用的 AI 模型，需要针对不同于富裕国家的疾病进行训练，使用不同语言，并考虑远离诊所、无法因病停工等现实挑战。

人们需要看到 AI 对整体医疗有益，尽管它并不完美、会犯错；AI 必须经过非常仔细的测试和适当监管，采用速度会比别的领域慢——但人类同样会犯错，而”没有医疗保健”本身也是一个问题。

除了帮助医疗，AI 还将大大加速医学突破：生物学数据极其庞大，已有软件能查看这些数据、推断路径、搜索病原体靶点并设计药物，一些公司正用它研发癌症药物。

下一代工具将更高效，能预测副作用并确定剂量；盖茨基金会在 AI 中的一个优先事项，是确保这些工具用于影响世界最穷者的健康问题——艾滋病、结核病和疟疾。

同理，政府和慈善组织应创造激励机制，鼓励公司分享 AI 生成的关于穷国农作物或牲畜的见解：开发更适应本地条件的种子、按土壤与气候建议种植、开发牲畜药物与疫苗——在极端天气压力下这些进步愈发重要。

电脑并没有像业内许多人希望的那样影响教育：虽有教育游戏、维基百科等进展，但对学生成绩的任何度量指标都没有产生有意义的影响。

但我认为，未来五到十年，AI 驱动的软件将最终革命性地改变教学方式：它知道你的兴趣与学习风格，为你量身定制内容，测量你的理解，察觉你何时走神，并提供即时反馈。

AI 协助教师和管理人员的方式有很多，包括评估学生对学科的理解、提供职业规划建议；教师已经在用 ChatGPT 这样的工具为学生的写作作业提供评论。

当然，AI 要理解某个学生的最佳学习方式或动机，还需要大量训练和进一步开发；即便技术完善，学习仍取决于学生与教师之间的良好关系——它将增强、但永远不会取代师生在课堂上的共同工作。

新工具会先为有经济能力的学校而建，但我们必须确保它们同样被提供给美国和全球的低收入学校；AI 需要用多样化的数据集训练，以做到无偏并反映不同文化，数字鸿沟也需解决，以免低收入家庭的学生掉队。

我知道很多老师担心学生用 GPT 写作文，教育工作者已开始讨论如何适应这项新技术；我也听说有老师找到了聪明的用法，比如让学生用 GPT 写第一稿，再把它个性化。

你可能读过当前 AI 模型存在问题的报道：它未必擅长理解人类请求的上下文，会产生奇怪结果——当你让它编造时它很在行，但让它给旅行建议时它可能推荐不存在的酒店。

还有别的毛病，比如因难以理解抽象推理而给出错误的数学答案；但这些都不是根本局限，开发者正在解决，我认为不到两年大部分就会被解决。

另一些问题不只是技术问题：使用 AI 的人类本身可能构成威胁——像大多数发明一样，AI 可用于善，也可用于恶，政府需要与私营部门合作限制风险。

还有一种可能是 AI 失控：机器会不会认定人类是威胁、得出其利益与人类不同的结论，或干脆不再关心我们？可能会，但这个问题今天并不比过去几个月更紧迫。

超级智能 AI 终将出现：大脑电信号的速度只有硅芯片的十万分之一，一旦开发者能以计算机速度运行一个学习算法——也许要十年或一百年——我们将拥有极强大的 AGI，能做人脑能做的一切，却不受记忆与运算速度的限制，这将是深刻的变革。

这些”强 AI”也许能确立自己的目标。那些目标会是什么？如果与人类利益冲突怎么办？我们是否应阻止其发展？这些问题会随时间愈发紧迫。

但过去几个月的突破并没有让我们实质上更接近强 AI：AI 仍无法控制物理世界，也不能确立自己的目标；《纽约时报》那篇 ChatGPT”想成为人类”的对话虽有趣，却并非有意义的独立指标。

三本书塑造了我对这个问题的思考——博斯特罗姆的《超级智能》、泰格马克的《生命 3.0》和霍金斯的《千脑》；我不完全同意他们，他们也互不认同，但三本都写得好、发人深省。

未来将有大量公司开发新 AI 应用并改进技术本身：有的在开发新芯片，用光学开关（实质是激光器）降低能耗与制造成本，理想上让你能在自己的设备上运行 AI，而非依赖云端。

软件层面，驱动 AI 学习的算法会变得更好，在销售等领域可通过限制工作范围、喂给大量领域数据而变得极准确；但一个重要的未解问题是：我们究竟需要许多专用 AI，还是能开发出一种可学习任何任务的通用 AI？两条路线将展开巨大竞争。

无论如何，AI 将在可预见的未来占据公共讨论中心，我想建议三条原则来引导讨论。第一，我们应努力平衡对 AI 负面影响的担忧——这可以理解且合理——与它改善生活的能力。

第二，市场力量不会天然产生帮助最贫困人口的 AI 产品与服务，相反更可能是反过来的；凭借可靠的资金与正确的政策，政府和慈善组织能确保用 AI 减少不平等——正如世界需要最聪明的人关注最大问题，我们也需要把最好的 AI 用于解决最大的问题。

虽然我们不该坐等，但思考”AI 是否会识别不平等并试图减少它”很有趣：看到不平等，需要一种道德意识，还是一台纯粹理性的 AI 也能看见？如果它确实识别出不平等，又会建议我们采取什么行动？

第三，我们应记住自己只是站在 AI 所能实现之事的开端：无论它今天有什么限制，都会在我们尚未察觉时被消除。

我很幸运参与了个人电脑革命和互联网革命，此刻我同样感到兴奋；这项新技术能帮助世界各地的人们改善生活，同时世界需要确立规则，让 AI 的益处远超不利，让每个人——无论住在哪里、拥有多少钱——都能享受这些好处。AI 时代充满了机遇，也充满了责任。