流式输出到一半预算归零,应继续输出还是截断?
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
问 AI
本题目录
相关面经
1 篇亚信安全
Agent 开发工程师(AI Native 工具)秋招一面
模型的输入会算钱,输出也会算钱。那输出到一半了,结果预算到零了,这个时候你是选择继续让它输出完,还是直接截断掉?
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
模型的输入会算钱,输出也会算钱。那输出到一半了,结果预算到零了,这个时候你是选择继续让它输出完,还是直接截断掉?