Aug 17th, 2026

今日记录

xdna推不出完整的模型部署还是意难平
- https://arxiv.org/html/2606.11357v2 ↗ 这个搞了e2e，不过怎么好像还不如flm……
  - 好耶开了 https://github.com/glassescrab/mlir-aie/tree/feature/update-mix-mm-int4-verification ↗
- https://arxiv.org/html/2504.03083v1 ↗ 还能跑训练（finetune）
- https://arxiv.org/html/2606.07586v2 ↗ 已经有搭建skills让LLM做deploy的了？虽然看起来依然比较tricky/trivial但也是证明了可行性。可惜没开源。
  - qwen3 0.6b-10tps, 1.7b-6.7tps 4b-2.6tps?
b200的glm今天下午被啥任务占满，遂部署了个qwen3.8-27b在srv11
- 也算是运行过vllm了，有些意料之外，比如它竟然基于pytorch，比如一堆参数的调节，比如默认竟然不开prefix caching。。。
买纪念币