OpenAI CEO 奥尔特曼联合国演讲：AI 可能走向文艺复兴，也可能带来工业革命式动荡

IT之家 9 月 24 日消息，当地时间 9 月 23 日，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。 他表示，随着 AI 能力的快速提升，相关技术的潜在收益和风险都逐渐变得更加直接且显现。他提出，AI 可能更像一场充满创造力与发现的文艺复兴，也可能像一场引发动荡与混乱的工业革命。 奥尔特曼表示，最佳版本的 AI 不是让人成为机器中的齿轮，也不是优化生活直到需要人的部分消失，而是让人们在复杂世界中拥有更多能动性。许多事情 AI 不能也不应自动化。 他认为，AI 可以帮助人们学习、创造、发现和解决问题，但随着系统更加自主，也可能出现人类无法理解或控制其决策、权力过度集中的情况。 他在这里指出，AI 能力越强、越自主，就越可能跑得比制度快，把权力集中到少数人手中，或做出人们无法理解、无法控制的决定。 他特别提到递归自我改进（即 AI 参与 AI 开发的过程）。奥尔特曼称，如果 AI 开发过程进一步自动化，技术进步速度可能快速提升，因此需要对相关发展保持高度谨慎。 奥尔特曼将 AI 发展可能出现的严重问题概括为两个方向。第一种是失去对未来的控制：AI 进展太快，人们无法跟上，也无法在需要时干预。 他说，行业不能因为 AI 利益太大、太重要就接受过多技术风险，也不能因企业竞争而仓促决策。 OpenAI 过去曾单方面放缓，未来也会如此 。不应训练无法极强论证可受人类控制的模型。他称，无论人们把灾难风险估计为 10%、1%、12% 还是 0.1%，这些水平都不可接受。 第二个问题即老生常谈的权力集中：不应让最强的 AI 模型和相关权力集中在少数人手中，从而避免某个人、公司或国家用 AI 模型把自己的世界观强加给所有人。 奥尔特曼提到，必须拒绝这种逻辑，即便它对自己有利。OpenAI 试图在盲目乐观和末日论之间走中间道路，并遵循三条原则： 第一，随着 AI 能力提升，人类应继续处于 AI 决策的核心； 第二，科学进步和经济增长带来的收益应服务于人民（由人民创造、为人民创利）； 第三，技术必须赋能个人，使更多人能够利用技术实现自身目标。 他称，OpenAI 可能是技术建设者之一，但不是故事主角，其角色是赋能全球人类。OpenAI 不试图、也不应引导人类判断或人类价值。AI 应帮助（研究人员）发现、（医生）治疗、（教师）教学、（创业者）创办公司、（社区）解决难题。人类进步不是工具取代人的能动性。 奥尔特曼还谈到了 AI 在数学研究方面的进展。他表示，OpenAI 模型从三年前只能处理小学算数发展到两年前高中数学竞赛金牌水平，又到如今已达到国际数学竞赛水平。例如，几周前，OpenAI 的一个内部模