You need to enable JavaScript to run this app.
导航
xLLM发布记录
最近更新时间:2025.03.28 11:21:11首次发布时间:2025.03.28 11:21:11
我的收藏
有用
有用
无用
无用
  • 涉及地域:若无特别说明,以下功能都会在 华北2(北京)华北3(北京2)华东4(大同)华东2(上海)华南1(广州)亚太东南(柔佛) 几个地域发布。
版本说明更新日期上线状态

v1965

  • reasonning可配置

  • 日志对齐输出 requestid

  • 兼容 streaming response分隔符

2025/3/20

已发布

v1964

  • 支持chunk-wise prefill,prefill tps 提升 30%

  • 支持 prefix cache 能力

  • 修复低流量 crash 问题

2025/3/04

已发布

R1支持DeepSeek-R1模型推理。2025/2已下线