端侧推理中的静态 Batch 与动态 Batch 形状有什么区别？

知识专题：模型服务、部署与交付题目类型：比较选型技术难度：进阶

题集来源：1 个

未标记

Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~

问 AI

Kimi 千问 ChatGPT

本题目录

收录题集

1 个来源，共1 份题集

模型部署基础概念

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

- 端侧静态多Batch和动态多Batch的区别