OpenAI董事会突然解雇CEO Sam Altman的谜团可能已经揭晓。最新报道称,多位研究人员向他们发出警告,称一个名为Q*(发音为Q-Star)的新技术突破可能对人类构成威胁——而Altman似乎未能及时通知他们。

研究人员在给董事会的一封信中提到,这一突破可能使人工智能在“大多数经济价值领域超越人类”。
迄今为止的故事 OpenAI在周五宣布,公司董事会的四名成员解雇了Altman,并将Brockman从董事会中移除。给出的理由非常模糊,只是称Altman“在与董事会的沟通中并不始终如一”。
科技界对Altman表示支持,OpenAI的主要投资者试图让他复职。董事会和高级管理层进行了谈判,但未能成功。
微软向Altman、Brockman以及其他想加入他们的OpenAI团队成员提供了工作机会。随后,几乎所有员工向董事会发出公开信,声明除非Altman复职并解雇董事会,否则他们将辞职。
OpenAI最初表示CTO Mira Murati将担任临时CEO,但在48小时内宣布Twitch联合创始人Emmett Shear将替换她,也是作为临时聘用。
随后进行了第二轮谈判。谈判结果是除了一名董事会成员外,所有人都被移除,Sam Altman重新被任命为CEO——但有一些显著的妥协。
Q*技术突破是什么? 目前,如果你让ChatGPT解决数学问题,它仍将使用其基于大型文本数据库的预测文本方法来编译答案,并逐字逐句决定人类会如何回答。这意味着它可能会也可能不会得到正确答案,但无论如何都没有数学技能。
OpenAI似乎在这一领域取得了突破,成功使人工智能模型能够真正解决它以前没有见过的数学问题。据说这一发展被称为Q*。不幸的是,团队没有使用足够智能的命名模型来避免看起来像脚注的东西,所以我将使用Q-Star版本。
据说Q-Star目前的数学能力相当于小学生,但预计这种能力将迅速提高。
Q-Star模型是否威胁到人类? 表面上看,一个能解决方程的AI系统似乎并不是反乌托邦梦魇的材料。要么人类去盐矿工作,要么Q-Star计算出哪四条线与2y=x+7平行。
但路透社的报告称,Q-Star研究可能指向AI的圣杯:通用人工智能(AGI)。
OpenAI中的一些人相信Q*(发音为Q-Star)可能是该公司寻找所谓通用人工智能(AGI)的一个突破,一位知情人士告诉路透社。OpenAI将AGI定义为在大多数经济价值任务中超越人类的自主系统。
据称,得益于巨大的计算资源,新模型能够解决某些数学问题,这位不愿透露姓名的人士说,因为该人士未获授权代表公司发言。尽管只在小学生水平上进行数学运算,但这种测试的成功使研究人员对Q*的未来成功非常乐观。
AGI是指一个足够智能的AI系统,能够执行人类可以执行的任何任务。如果这个目标真的实现,它将有效地导致几乎所有人类的工作被AI取代。
Altman被解雇现在可能有了解释 如果Q-Star突破确实使得开发AGI的可能性增加,且Altman未能将此事告知董事会,那么这将解释董事会关于他缺乏坦诚的评论,以及解雇的紧迫性。
然而,值得注意的是,这是——据我们所知——只有少数研究人员共享的担忧,由于大多数AI员工支持Altman对抗董事会,这表明聪明的钱(或聪明的人)似乎认为这是一种夸大的担忧。
尽管如此,保留现有的公司结构仍然是有意义的,在这种结构中,一个独立董事会——在AI商业部门没有财务投资——提供监督,并就盈利公司应该如何推进和速度做出决策。