过去国内模型公司能快速追上硅谷,靠的是一个公开的秘密,蒸馏。
拿最前沿闭源模型的输出喂给自己的模型是一条极致高效的捷径,但现在这条路正被逐渐封死。
最近海外巨头们不仅升级了反蒸馏的机制,甚至开始在底层框架上直接拒答,想要拿到高质量的完整推理数据,成本直接飙升了五到十倍乃至更高。
既然抄作业行不通了,只能自己从头推导,然而自己预训练一个能打的模型门槛高得令人窒息。
海外顶尖实验室明年的单次训练算力储备高达数十亿瓦,国内厂商手里能用的先进算力满打满算也就几万张卡。
他们原本想的是既然能力追平了,那就靠极致的性价比去抢占API市场。但就在准备收割的时候,硅谷直接掀翻了牌桌。
海外闭源巨头开始极其凶狠地下探价格,甚至把原本昂贵的长上下文费用直接取消。当最顶尖的模型把价格打到同一水位时,国产模型瞬间陷入了死局。
哪怕有些明星团队年初看准了编程的趋势抢跑了一段,但只要不建立绝对的架构代差,那点先发优势在绝对的算力碾压面前根本撑不了几个月。
飞轮转不动,融来的钱买不到足够的卡,下一代更大参数模型的训练成本只会把盈利周期无限期延后。
当智能变成基础设施,单纯卖智力就不再是一门好生意。无法提供真实商业闭环的玩家,无论跑分多高都只是在沙滩上建高楼。
这场喧嚣其实早就进入了淘汰赛的下半场,留给大模型公司的窗口期已经不多了。

@inside1024 #内幕消息