deepseek最强的,并不是训练模型,而是infra,就是基础设施。
在他们做量化的时候,就需要这种计算集群,然后建了萤火虫1号,2号。
当时看他们介绍萤火虫1号,2号的时候,他们的infra团队非常骄傲。
有一种睥睨天下英雄的气质。
后来搞大模型,最开始感觉有点玩票气质,反正infra这么强,就做一个模型玩玩。
没想到,后面一下子火了,这个可能连他们自己都想不到。
如果你们不同意我的看法,可以看看张小珺对vLLM游凯超的访谈。
vLLM作为大模型推理引擎中的扛把子,还是很厉害的。
游凯超的评价是,deepseek的infra团队,是世界上最顶级的团队。
没错,是世界上最顶级的。