从OpenAI事件说起 AI若成脱缰野马人类何去何从？

OpenAI最近罢免总裁的事件峰回路转，简直是一场肥皂剧。尽管精彩，人们感兴趣的是，这到底是怎么一回事？也许，回顾OpenAI开业时的初衷，可厘清来龙去脉。

OpenAI的公司结构与一般商业机构不同。它成立于2015年，是一家非营利研究实验室，宗旨是安全、负责任地开发通用人工智能（Artificial General Intelligence，简称AGI），最终目标是让人工智能在思维方面能够相等甚至超越人类。

这用意良善，但现实逼人。

  

 

很快地，OpenAI发现，要实现目标，它需要很多很多钱。为了支付研发所需的费用，就需要销售产品赚取收入。于是，公司成立了一家盈利子公司来销售人工智能工具。

众所周知，它最出名的产品是在华尔街红透半边天的ChatGPT。微软就是看中了它，快手快脚地在OpenAI投资了130亿美元，换取这家子公司的49％股份。

OpenAI董事会目标是确保AGI能够惠及所有人类

从表面上来看，这家公司的控制权仍然属于在它之上的非营利组织董事会。而这个董事会的目标，就是要确保AGI能够惠及所有人类。

换言之，它不需要向股东负责的，它是要对“人类”负责。这次董事会罢免首席执行官奥尔特曼（Sam Altman），是担心AGI开发得太成功，最后超越人类，甚至可以威胁到人类的存在，可就是大问题了。

但在现实商业社会里，利益主宰一切。

  一名知情人士告诉路透社，奥尔特曼被开除的导火线之一，是公司内部研究人员致函董事会，警告奥尔特曼专注于构建通用人工智能（AGI）的Q*研究计划取得了突破性进展，他们担心继续发展下去将建构出超越人类智慧的电脑，对全人类构成威胁。（法新社）

 

在人工智能领域，奥尔特曼非常有价值，意味他推动的研究可以影响AGI的未来，研究人员拥护他，微软看好他的能力。最后，面对各方责难，董事会只得屈服，当初对人类负责的崇高理想，也只能束之高阁了。

仅靠公司结构来监管技术行不通

这次董事会学到，仅靠公司结构来监管技术行不通。如果只靠公司自己单薄的能力，是完全无法在推进人工智能、吸引人才和投资、评估人工智能的威胁和保障人类安全之间取得平衡。

  

   

    延伸阅读

   

  

   

      

   知情者：奥尔特曼被解雇因其人工智能研究进展会威胁全人类

  

  

   

      

   OpenAI风波延烧或影响全球AI监管

  

 

关于董事会解雇奥尔特曼先生的动机，目前仍无定论。不过，市场已在广传，两位知情人士告诉路透社，在奥尔特曼被罢免的前四天，OpenAI有几位研究人员写了一封信给董事会，警告他们的一项强大的人工智能研发可能威胁人类。

两位消息人士说，这份信件和人工智能的新发现，是董事会罢免奥尔特曼的关键因素之一。

其中一位知情人士称，OpenAI在答复自己员工的内部简讯里，承认公司确实有一个名为Q*（又称Q-Star）的计划。知情人士也说，OpenAI的一些人认为Q*可能是OpenAI探索通用人工智能的一个突破性计划。

消息人士表示，鉴于庞大的计算资源，新人工智能模型能够解决某些数学问题。虽然数学解答能力目前仅达到小学生的水平，但在测试中，这个人工智能模型能够取得好成绩。这让研究人员对Q*在未来取得成功感到鼓舞。

目前的生成式人工智能，只擅长于通过统计预测下一个单词来进行写作和语言翻译，同一问题的答案可能会有很大差异。但是如果现在生成式人工智能现在能征服数学能力，准确地给出一个正确答案，这意味着人工智能未来很可能拥有类似人类智能的推理能力。

AI发展速度与人类能够控制AI能力似乎已失衡

奥尔特曼最近在旧金山举行的世界领导人峰会说，他相信OpenAI的研究即将有重大进展。奥尔特曼曾努力使ChatGPT成为历史上增长最快的软件应用程序之一。如果Q*真的取得这么重大的突破，奥尔特曼相信也绝对不会把它藏太久。这也许就是董事会最大的顾虑。

现在又有报道称，ChatGPT背后的技术甚至可以伪造“看似真实”的试验数据，看上去能“支持”未经验证的科学假说。人工智能捏造看似合理的科学数据的能力，增加了学术界对科研诚信的担忧。这也不禁让人觉得人工智能发展的速度，与人类能够控制人工智能的能力，两者之间似乎已经失去了平衡。

奥尔特曼回归OpenAI，原本的董事会也进行了局部改组。新的董事会名单还包括电子商务平台Shopify董事会成员泰勒（Bret Taylor）、著名经济学家萨默斯（Larry Summers）。作为最大股东，微软相信会把自己的高管带进董事会。

理想敌不过商业利益？

解雇奥尔特曼事件，受伤最大的是OpenAI董事会。显而易见的是，理想敌不过商业利益，似是当今商业挂帅社会的定律。人才自由流动，任何人都无法阻止。

所以，我们大概要有这样的心理准备：人工智能的研发，或是脱缰的野马，跑得快，但也不确定会前往何处。

人工智能既有变革的创造性，也带来隐藏的、无法估计的破坏。大前提是，人工智能已是大势所趋，我们暂时大概只能接受企业高管、投资者“自由”决定科技的去向。

但就算OpenAI董事会认真对待“向人类负责”这个原则，OpenAI真能代表80亿人口决定人工智能应走的方向吗？