赤兔

官方表示，当前开源的赤兔引擎在部署DeepSeek-R1-671B满血版时，在A800集群的测试中，相比部分国外开源框架，实现了GPU使用量减少50%的同时，推理速度的3.15倍提升。