全球 AI 快訊

主題分析（原日報全文）

llama.cpp 於 10 月 6 日 00:56 HKT 發布 v0.6.0，新增 mixed token／embedding batch API、GLM-5.3-Flash 同 Clef 支援、Qwen4Exp MTP speculative decoding，以及多模態 embedding 輸入同一批新 GPU kernels。對企業邊緣／私有部署而言，重點係本地推理引擎由『跑到模型』進一步處理 agent decision endpoint、多模態同吞吐優化；但部分 session 格式同 API 有改動，升級前要做相容性測試。