Snowflake、AIの「モデル選び」を自動化。用途に合わせて安いモデルへ振り分けコスト最適化
30秒でわかる
- SnowflakeがAIの窓口機能「Cortex AI Gateway ↗」にモデル自動振り分け(モデルルーティング)を追加
- 質問の内容に合わせて、最適なAIモデルへ自動で振り分ける。簡単な用途に高価なモデルを使う無駄を防ぐ
- AIの利用料を用途や部門ごとに把握し、上限を設けて使いすぎを防ぐ仕組みも用意
何が変わった
Snowflakeが、社内で使うAIをまとめて管理する窓口「Cortex AI Gateway（コーテックスAIゲートウェイ）」に、どのAIモデルで処理するかを自動で選ぶ機能（モデルルーティング）を加えました。AIは高性能なモデルほど利用料が高くなりますが、簡単な質問にまで一番高いモデルを使うと料金が無駄にかさみます。この機能は、要求の内容・速度・コスト・データの扱いに応じて、ちょうどよいモデルへ自動で振り分け、必要のない高額なモデル利用を避けます。あわせて、AIの利用料を部門やエージェント単位で見える化し、上限（予算）を設定して使いすぎを防ぐツールも提供されます。
誰に関係する
SnowflakeでAIを使っている企業のエンジニアやデータ・IT担当者に関係します。AIの利用コストが読めず膨らみがちな企業にとって、無駄な出費を抑える選択肢になります。個人向けの機能ではありません。