SkillAtlasAI 资讯
返回 AI 资讯
产品发布2026年8月22日 04:36

蚂蚁百灵为SGLang推出权重缓存守护进程

今天,我们为 SGLang 推出 Weight Cache Daemon。🚀 在 Ling-2.6-1T FP8 上,它将权重加载时间缩短至约 0.63 秒,比磁盘加载快约 780 倍,并将引擎总启动时间从 8.8 分钟缩短至约 0.53 分钟。其工作原理如下。 via AIHOT ·

来源:AI HOT 精选
阅读原文

相关文章

产品发布2026年10月1日 20:37

FLUX 3 Image 上线 OpenRouter,支持原生 4K 生成与多参考编辑

Black Forest Labs 的 FLUX 3 Image 现已上线 OpenRouter,是支持文生图与多参考编辑的旗舰图像模型,原生可渲染至 4K。原文提到可精确多轮编辑不动其他像素、用 bounding box 布局、最多用 10 个参考图合成,商业权重已开放,开放权重版将在未来数周发布。 via AIHOT ·

产品发布2026年10月1日 20:35

Suno 推出 Speech beta:语音与背景音乐一体生成

Suno 推出 Speech beta,称其为首个能把语音与原创背景音乐作为一条完整曲目生成的音频模型。用户输入文字并描述想要的声音和音乐风格即可创作,beta 已向所有用户开放,官方提示仍存在口音漂移、停顿过重等问题并将持续改进。 via AIHOT ·