AI 怎么用函数调用让模型执行操作
模型只会生成文字,查库存、发消息它自己做不了。这篇讲工具清单怎么写、一轮调用怎么走完,以及为什么模型给的参数不能直接拼进命令。
模型只会生成文字,查库存、下单、发消息这些事它自己做不了。函数调用就是给它一份可调用的清单,让它先说要调哪个、参数填什么,再由你的程序去执行。这篇讲清单怎么写、一轮调用怎么走完、以及为什么不能把模型给的参数直接拼进命令。
入口在哪
- 在请求体里,一般是一个数组字段,每项包含工具名、用途描述和参数结构。字段名各家不同,有的叫工具列表,有的还沿用函数列表的旧名。
- 还有一个控制字段,限定这一轮必须调或禁止调工具。排查问题时设成禁止,能看出模型是不是在硬凑。
- 参数结构按 JSON Schema 写,至少要有类型、属性、必填项三层。
- 本地的编排工具会在界面上提供可视化编辑,不同版本入口名称略有差别,本质还是生成同一份结构。
具体步骤
- 写清每个工具的用途描述。模型靠这段文字决定选哪个,含糊就会出现该查订单却去查物流。
- 把参数的类型、取值范围、必填项都写进结构。能用枚举就别留自由文本,否则模型会造出不存在的状态值。
- 发第一轮请求。模型不直接回答,而是返回一个或多个待调用项,每项带工具名和一段参数。
- 你的程序执行真实操作,拿到结果。这一步必须做权限校验,模型说的不算。
- 把结果作为一条工具角色的消息追加回对话,再发第二轮请求,模型据此给出面向用户的答复。
- 如果模型又要求调工具就继续循环,但一定要设最大轮数,两到三轮足够,多了只是在烧钱。
- 整个过程的日志要落库:谁问的、调了什么、参数是什么、返回什么。
几个坑
- 把模型给的参数当成可信输入。参数是文本,可能包含注入片段,直接拼进查询语句或系统命令等于把执行权交出去。一律走参数化接口和白名单校验。
- 工具结果太长。整张表塞回对话会迅速占满上下文,只回填必要字段和条数。
- 失败不告诉模型。调用报错时也要把错误作为结果回填,否则它会在没有数据的情况下编一个答案。
- 权限跟着模型走。工具能做什么必须由服务端账号权限决定,而不是由模型判断用户该不该做。
怎么验证
- 看日志里工具名和参数是否合理。五个真实问题跑下来,选错工具的比例应该很低。
- 测边界输入:缺必填参数的、指向不存在记录的、越权的。正确表现是明确报错或拒绝,而不是猜一个值继续。
- 把工具关掉再问同样的问题。模型应该老实说无法查询,如果还是给出具体数字,说明它一直在编。
- 检查返回给用户的答复里,数字和状态是否与工具返回一致。
常见问题
函数调用和让模型输出 JSON 有什么区别
输出 JSON 只是格式约束,模型给你一段文本,执行与否全靠自己判断。函数调用多了一层协议:模型明确声明调哪个工具、参数是什么,服务端还会校验结构。前者适合取数据,后者适合做事。
模型总是选错工具怎么办
先改描述,不要先改提示词。把每个工具的适用场景和排除场景写进用途描述,并把名字起得能自解释。工具数量多到十几个时,考虑先让模型做一次分类,再进入具体工具。
一次能返回多个调用吗
多数实现支持一轮返回多个,适合互不依赖的查询。有先后依赖的必须串行,前一个的结果要作为后一个的输入。并发执行前先确认工具本身是幂等的。
一句话总结:函数调用是把执行权留在自己手里,模型只负责选工具和填参数,校验、权限、轮数上限一样都不能省。