
小米发布 1T 参数 MiMo-V2.5-Pro-UltraSpeed,推理速度达 1000 tokens/s
小米发布 MiMo-V2.5-Pro-UltraSpeed,在 1T 参数规模下首次实现 1000 tokens/s 的推理速度。该版本与 TileRT 深度合作,通过 FP4 混合精度量化和 DFlash 推测解码等技术在通用 GPU 上达成超高吞吐量;API 限时试用价约为标准版 MiMo-V2.5-Pro 的 3 倍,速度提升约 10 倍。
限时试用期为 6 月 9 日至 23 日,采用申请审批制,每日限排队 10 次、单次最多 30 分钟,优先面向企业用户开放。小米指出,这一速度让万亿参数模型能够进入量化交易、实时风控等对延迟极度敏感的决策场景。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END













暂无评论内容