エージェント型AIのツール利用、実装上の工夫を共有しよう

最近のモデルはツール呼び出し（function calling）の精度がかなり上がってきましたが、実運用だと「呼び出すべきでない場面で呼んでしまう」「JSONのスキーマから微妙に外れる」といった問題がまだ残っています。皆さんはどう対処していますか？

自分は現状、以下の3点でだいぶ安定しました。
1. スキーマにexampleを必ず添える
2. 呼び出し結果をバリデーションして失敗したら理由付きで再試行させる
3. 「ツールを使わない」選択肢も明示的にスキーマ側で用意する

再試行時にエラー内容をそのままモデルに返すだけでなく、「なぜ失敗したか」を1文で要約して渡すと修正率が上がる感覚があります。あとはツール数が増えすぎると誤選択が増えるので、カテゴリごとにツールセットを絞り込むルーティング層を挟むのも効果的でした。