美国AI实验室应效仿中国进行模型蒸馏

Y Combinator 创始人 Garry Tan 认为,美国的开放权重 AI 实验室也应采用蒸馏技术,从国内外前沿模型中提取知识,形成多元化的本土模型生态,而非受制于监管或中国竞争者。

美国AI实验室应效仿中国进行模型蒸馏

背景:蒸馏技术在AI竞争格局中的崛起

在大模型时代,"蒸馏"已成为业界常用的技术手段。它通过大量提示和交互,让一个模型学习另一模型的推理路径与知识结构,从而在更小的模型上复现类似性能。中国的部分 AI 实验室正利用这一方法快速复制前沿模型的能力,引发了监管层和竞争者的关注。

Garry Tan 的立场:美国也应加入蒸馏行列

本周接受 CNBC 采访时,Y Combinator CEO Garry Tan 表示,他不希望监管机构介入模型蒸馏的竞争。他认为美国完全可以自行设立“蒸馏制度”,鼓励本土开放权重实验室对美国本土的前沿模型进行蒸馏,以构建更丰富的模型生态。

Tan 明确指出,他并不主张美国实验室使用非法手段——如盗取凭证或隐藏身份——进行“非法蒸馏”。相反,他希望行业能够在合法、公开的渠道下进行技术交流,让美国的中小实验室也能获得高质量的模型资源。

为什么强调“开放权重”

  • 开放权重模型可以被任何研究者自由下载、微调,降低了技术门槛。
  • 相较于封闭的商业模型,开放模型更易于审计和安全检测。
  • 通过蒸馏,较小的模型可以在保持计算效率的同时,获得与大模型相近的表现。

行业争议:从Anthropic的警告到美国监管呼声

Anthropic 本周发布报告,指控部分中国实验室进行“非法蒸馏攻击”,包括使用伪造身份和盗取凭证等手段。其 CEO Dario Amodei 公开呼吁美国监管部门对蒸馏行为进行严格监管。

然而,Tan 的观点与之形成鲜明对比。他认为过度监管会抑制创新,并可能让美国在模型开放权重领域失去竞争优势。相较于限制,Tan 更倾向于通过行业自律和透明的技术共享,形成健康的竞争环境。

美国可能的“蒸馏制度”框架

如果美国真的推出类似制度,可能包括以下要素:

  • 明确授权:只有获得模型所有者授权的实验室方可进行蒸馏。
  • 数据记录:蒸馏过程需要完整记录交互日志,以备审计。
  • 成果共享:蒸馏得到的模型权重需在开放平台上发布,供社区使用。

对中国AI实验室的启示

Tan 的言论间接提醒中国实验室,技术路线的合法性与透明度同样重要。即便蒸馏本身是合法且高效的手段,若采用不当手段获取模型信息,仍会面临法律与声誉风险。未来,行业或将更倾向于通过合作协议、授权共享等方式实现技术迁移。

结语:竞争与合作并存的时代

在全球 AI 竞争日趋激烈的今天,模型蒸馏既是技术突破的捷径,也是监管焦点。Garry Tan 的主张提醒美国业界,开放权重与合法蒸馏可以共同推动本土模型生态的繁荣。与此同时,行业需要在创新与合规之间找到平衡,才能在全球 AI 版图中占据一席之地。