IT之家5月28日音问，小米MiMo官方昨日文书，小米MiMo-V2.5系列API永远降价，比较原始API订价，新订价最高降幅可达99%，且不再鉴识高下文窗口长度。
小米MiMo持重东说念主罗福莉随后在X平台发文，谈到了MiMoAPI降价的工夫原因，IT之家附罗福莉原文翻译如下：
MiMoAPI价钱下调的背后：
最高降幅可达99%，针对的是输入（缓存掷中）。中枢原因在于咱们的推理框架现时支撑针对SWA的分层KV缓存优化。坐褥推理引擎测试标明，该优化将缓存的Token容量擢升了5倍，特殊于裁减了80%的缓存资本。再聚合Hybrid模子中多个FullAttention模块之间的缓存读取重迭（CacheReadOverlap），本体资本得到了进一步裁减。
输入（未掷中缓存）和输出的价钱也裁减了约60%至80%。这主要收获于模子架构带来的极致1:7Full:SWA寥落比（70层的MiMo-V2.5-Pro的prefill洽议论大要特殊于一个10层的GQA模子）。这使得咱们原始推理资本远低于行业平均水平，亚搏·体育世界杯(中国)官方网站在订价上圈套然留出了2到3倍的利润空间。这次价钱调养，仅仅咱们决定把这些结构性资本上风径直让利给修复者。
在新的、更低的API价钱之下，咱们的坐褥推理引擎已接近满负载脱手，况兼咱们基本上仍然不错看护相差均衡（wecanstillessentiallybreakeven）。咱们此前曾提倡大言语模子（LLM）公司不要“盲目降价”，恰是因为很少有模子架构和推理优化智力，不祥在API大幅降价后仍幸免失掉。淌若将来出现更多不祥省俭洽议论和KV缓存的架构，并勾通更好的推理基础要领（Infra）来裁减API资本，这将在行业内造成一个绝佳的良性轮回。
更要害的是，价钱合理、性能优异的模子API将驱动真确、握续且大限制的推理需求。这种上游需求拉动了扫数AI基础要领链的发展——包括芯片、作事器、光模块、PCB、液冷、电力、储能和数据中心——并看成AI硬件系统性重估的政策支点。从永久来看，这为考试和推理管线注入了更低价、更易取得的算力，从而加快了民众通用东说念主工智能（AGI）在多个地区和工夫路子上的并行演进。
火狐中国官方网站入口更多工夫细节，咱们后续会发布一篇详备的Blog。
本文源自：IT之家亚搏·体育世界杯(中国)官方网站