【马斯克】马斯克、OpenAI决裂背后 - 大模型应该开源还是闭源？

　　马斯克起诉OpenAI事件已经发酵了一周。3月7日，马斯克在推特上称，如果OpenAI把名字改为ClosedAI他就撤消诉讼，暗讽OpenAI的不开源行为。

　　此前，OpenAI公布了马斯克与包含山姆· 阿尔特 曼在内的OpenAI联合开创人的邮件对话，逐一驳回马斯克的指控，并暗指其唯利是图。

　　此次纠纷的焦点之一是马斯克对OpenAI的开源要求。而这背后所折射出的也是AI浪潮下科学界的长期争论话题——到底应该开源还是闭源？

　　纽约大学坦登工程学院计算机科学与工程系副教授Julian Togelius在接受《每日经济新闻》记者采访时表示，开源是大势所趋。“开源对于防止权力集中很关键。到目前为止，每个大型模型都在某种水平上是‘可越狱的’。”

　　马萨诸塞大学洛厄尔分校计算机科学教授Jie Wang则对每经记者表示，“未来各主要参与者都会将其大模型的某些部分开源，但绝对不是最重要的部分，例如用于训练其大语言模型和预训练模型权重的完整数据集。这或多或少类似于Meta开源LLaMA的形式。”

　　AI巨头的决裂

　　2月29日，马斯克在旧金山法院对OpenAI及公司总裁 阿尔特 曼和总裁布罗克曼提起诉讼，震惊全球科技圈。在马斯克的起诉书中，他斥责OpenAI违背“初心”，要求OpenAI恢复开源并给予赔偿。

　　3月5日，OpenAI曝光了马斯克与他们的大量往来邮件，称马斯克提议 OpenAI 与 特斯拉 合并或由他完全控制，但双方未能就盈利性实体的条款达成一致。3月6日，马斯克在推特上回复，“如何OpenAI改名为ClosedAI，我就撤消诉讼。”

图片来源：每经制图

　　9年前，正是在AI上志同道合，马斯克和 阿尔特 曼等人携手开办了非营利性AI研究实验室“OpenAI”来对抗以谷歌为代表的科技巨头。而如今，马斯克与 阿尔特 曼及其所在的OpenAI完全决裂，双方旧日坚持的“初心”成为矛盾焦点。

　　在OpenAI的官方网站主页上写着，“我们的使命是确保通用 人工智能 （AGI）造福全人类。”最初，OpenAI的确身为一个非营利组织坚持着这样的路线。而自GPT-2后，OpenAI采取了闭源策略，公司出售大模型API访问权限，但不再发布有关其训练数据和模型架构的详细信息。

　　2019年， 阿尔特 曼还组建了一个由OpenAI非营利组织管理的营利性实体，以便从微软等外部投资者那里筹集资金。对此，OpenAI在5日发文时曾解释，这是因为“开发 AGI 所需的资源远超过最初预期”。

　　随着OpenAI核心技术不再开源，且与微软的关系越来越密切时，马斯克的不满不难想象。马斯克在起诉书中批判称：“OpenAI已经变成了全球最大技术公司微软其实的闭源子公司。在其新董事会的领导下，OpenAI不仅在开发，而且实际上正在完善一种AGI，以最大化微软的收益，而不是造福人类。”

　　背后是开源闭源路线之争

　　在双方的争端中，一个值得注意的点是，马斯克要求OpenAI恢复开源。这折射出的也是AI浪潮下的一个争议性话题——到底应该开源还是闭源？

　　在开源闭源之争上，马斯克坚定地选择了前者。

　　《每日经济新闻》记者了解到，马斯克旗下 特斯拉 的核心技术就已经在全球范围内开源。根据新加坡咨询公司GreyB的统计，截至2023年末，全球范围内 特斯拉 共拥有专利3304项（不包含审批中专利），其中有2397项仍然有效。据媒体统计，刨除重复的情景， 特斯拉 共有222项开放专利。从技术类别上看， 特斯拉 开放的专利属于比较核心的专利。

图片来源：GreyB网站

　　马斯克旗下另一家公司SpaceX也曾公开猛禽发动机图纸。在去年12月接受外媒采访时，马斯克曾透露，“SpaceX不使用（独占）专利，完全开放。”

　　而将视角放大到整个科技界，开源还是闭源也是一直争论不休的话题。2023年10月31日，“开源派”曾签署了一份呼吁AI研发更加开放的联名信，截至发稿，1821名专家都签下了名字。

图片来源：mozilla官方网站

　　“开源对于防止权力集中很关键，我们不希望未来只有少数财力雄厚的科技公司才能控制前沿模型。” 纽约大学坦登工程学院计算机科学与工程系副教授Julian Togelius在接受《每日经济新闻》记者采访时表示。“到目前为止，每个大型模型都在某种水平上是‘可越狱的’。（开源让）我们了解其弱点，才能知道如何更好地部署模型。”（注：“越狱”指的是通过提示注入技术更改模型的表现。）

　　马萨诸塞大学洛厄尔分校计算机科学教授Jie Wang也对每经记者称，“开源代码可以提升透明度并有助于推进技术，世界各地的相关方可以助推识别开发团队未能发现的代码中的潜在陷阱，并提供更正。这有助于降低代码可能执行有害操作的危险。”不过，他也指出，开源其实不是解决所有安全问题的灵丹妙药。

　　而反对开源的一派认为，开源AI会被不良行为者操作。去年10月20日，来自麻省理工学院和剑桥大学的科学家们发表了一篇论文，他们通过实验研究了持续模型权重的扩散是否会帮助恶意者利用更强大的未来模型来造成大规模伤害，结果发现，开源大模型的确可能存在风险。

　　Jie Wang对记者表示，“不一样的态度决定于不一样的身份。学术科研人员希望AI技术是开源的，以便可以评估和更改代码。另一方面，企业家可能为了保护投资和业务，而不愿意开放源代码。”

　　科技巨头与AI新贵在开源或闭源的问题上也采取了不一样的路线。前者最近在互联网上免费提供了其生成式AI的代码，例如，目前开源大模型被Meta的Llama主导，许多开源模型都是基于Llama而开发；后者如OpenAI和Anthropic则出售专有AI模型的API访问权限，但不共享代码。

　　OpenAI和Anthropic高管认为，政府应该监管最强大的AI模型，这样坏人就不能轻易利用它们。今年1月，Anthropic 公司科研人员还发表论文警告称，AI中毒可能造成开源大模型变成潜伏的卧底。

　　但在去年9月的美国参议院 人工智能 洞察论坛上，Meta首席执行官马克·扎克伯格等人却认为，开源模式对美国保持竞争力非常重要，科技行业可以解决对开源模式安全的担忧。

　　若实现AGI，是否需要开源?

　　“开源是大势所趋，我认为Meta正在引领这一趋势，其次是Mistral AI、HuggingFace等规模较小的企业。” Julian Togelius告诉《每日经济新闻》记者。

　　尽管Mistral AI最初推出了开源模型，随着规模的扩大，其作风似乎越来越像OpenAI靠近，采取了闭源路线。对此，Togelius表示，“他们需要以某种方式挣钱，但目前还不清楚怎样在这个领域最好地挣钱，但Mistral AI比 OpenAI 几乎不开源的情景要好得多。”

　　而大型科技巨头谷歌近日的动作似乎也是对Togelius言论的验证。今年2月，谷歌罕见地改变了去年坚持的大模型闭源策略，推出了“开源”大模型Gemma。有报道认为，Gemma代表谷歌大模型策略的转变——兼顾开源和闭源，开源主打性能最强大的小规模模型，希望战胜Meta和Mistral AI；闭源则主打规模大的效果最好的大模型，希望尽快追上OpenAI。

　　去年5月，一份谷歌的内部文件曾在互联网上激起千层浪。文件认为，开源大模型迅猛发展，正在侵蚀OpenAI和谷歌的阵地。除非改变闭源的立场，不然开源替代品将最终使这两家公司相形见绌。“虽然我们的模型在质量方面仍略占优势，但（闭源和开源模型）的差距正在以惊人的速度缩小。”文件写道。

　　“这（指的是谷歌的新举措）对研究和开发人员来说的确是个好消息。”Jie Wang对每经记者说道。“不过我怀疑谷歌是否会将一切开源。我认为未来各个主要参与者都会将其大模型的某些部分开源，以便科研人员和开发人员了解模型的架构和训练过程，但从业务角度来审视绝对不是最重要的部分，例如用于训练其 LLM 和预训练模型权重的完整数据集。这或多或少类似于Meta开源LLaMA的形式。”

　　而在对OpenAI的起诉书中，马斯克还提到了对AGI（通用 人工智能 ）的担忧。当被问及若达到AGI，是否需要开源时，Julian Togelius表示，“我不认为AGI是一个定义特别明确或有用的概念。假如你 5 年前向某人展示 Claude 3 或 GPT-4，他们可能会认为我们已经实现了 AGI。尽管如此，还有许多事情是大模型无法做到的。”

　　Togelius认为，OpenAI可能最终不会选择开源，“因为这将决定性地改变我们对风险计算的意见，并最终消除人们认为OpenAI具有某种秘密武器的倾向（事实其实不是如此，Google 和 Anthropic 都拥有相似强度的模型）。”

　　Jie Wang也向记者表示，“除非有一个可执行的国际法要求所有AI技术务必开源，而如何强制执行是另外一个具有挑战性的问题，我对OpenAI 是否会开源一切持怀疑态度。”