纳德拉抨击人工智能行业的双重标准:允许自己抓取数据,却限制他人提炼模型
纳德拉抨击AI巨头双重标准,论坛热议模型蒸馏与条款限制。
关键信息
- 微软CEO纳德拉在X发表《反向信息悖论》,严厉批评OpenAI和Anthropic等模型提供商的双重标准:一边利用公共数据和用户交互训练自身模型,一边通过服务条款严格限制他人利用其模型进行蒸馏和提炼(#1)。
- Palantir CEO Alex Karp指出企业客户对token定价模式极其愤怒;前白宫AI主管David Sacks指责Anthropic采用“观察-复制-扩展”模式侵蚀应用层业务(#1)。
- Anthropic官方曾承认Claude Mythos Preview使用了“由其他模型生成的合成数据”进行训练(#2),被指出这本质上就是蒸馏,另有网友指出其具体实现是基于包括Fable 5在内的闭源模型合成数据进行"a small SFT bootstrap"(#3)。
争议或不同意见
- 有网友质疑,既然hard-label离线蒸馏的效率非常差,模型厂商为何还要严厉禁止(#7)。