自从2015年OpenAI发布以来,迈尔斯·布伦迪奇一直热情支持OpenAI的使命。即便如此,迈尔斯还是做出离开这家理想公司的决定,希望能有更多时间专注于整个AI行业的核心议题,保持独立性,并自由发表见解。他宣布将创建或加入一个非营利组织,专注于AI政策研究和倡导。他的研究方向涵盖AI进展的评估和预测、前沿AI的安全与监管、AI的经济影响、有益AI应用的加速、计算资源治理以及“AI宏观战略”等方面。
为什么选择离开OpenAI?
迈尔斯离开的原因主要在于,他希望从行业外部影响AI的发展。他提到,内部发布限制影响了他的研究效率,此外他希望摆脱在政策讨论中的利益冲突,客观地提出独立见解。迈尔斯认为,在外部继续他的AGI(通用人工智能)准备工作,更有助于其对OpenAI及行业的政策研究,尤其是关注如何管理和部署更高级的AI能力。
未来的研究兴趣
迈尔斯的研究主要聚焦以下六个领域:
- AI进展的评估和预测
他认为清晰地评估AI进展是理解其他领域的重要前提。迈尔斯希望在非营利领域进行更多客观分析,探索各国政策制定的紧迫性问题,借鉴历史上类似的政策案例,例如疫情防备等。 - 前沿AI的安全与监管
迈尔斯认为有必要在现有法律框架下快速采取行动,同时推动现有立法(如欧盟《AI法案》)的实施。他认为国际合作而非竞争,将更有利于应对安全和监管难题,尤其在不同国家AI发展水平逐渐拉近的背景下。 - AI的经济影响
他认为,AI的快速发展将带来工作机会的巨大变革,甚至可能引导人类步入“后工作”时代。迈尔斯关注如何通过政策确保经济增长红利的公平分配,以及是否应出台相关税收政策(如“机器人税”或“计算税”)来缓解收入不平等。 - 有益AI应用的加速
他指出目前AI的潜在优势并未得到充分利用,特别是在技术素养和资源有限的领域。他强调政策应更关注“有益AI”应用的普及,从而实现更广泛的技术红利共享。 - 计算资源治理
相较于软件和数据,计算硬件在AI治理中的独特性决定了其重要性。然而,目前美国政府的监管力度和资源远未达标。迈尔斯提出,通过提供更广泛的计算资源(尤其是对学术界),可以在全球范围内更加公平地分配AI资源。 - 整体的“AI宏观战略”
他认为,人类需要更系统的AI战略。比如,如何在权力集中与开发分散的利弊之间取得平衡?应如何在制定政策时考虑到可能的国家竞争或合作?这些都需要通过深思熟虑和公共辩论达成共识。
如何保持独立性?
迈尔斯计划保持研究的独立性,并与不同背景的行业、学术、民间和政府组织保持建设性互动。他提到,尽管OpenAI愿意提供资金、API积分和模型访问,但他将慎重考虑这些支持可能带来的独立性影响。此外,他表示愿意与各种不同观念的人合作,以展现更全面的AI政策观点。