NEC、機密情報保護とトークンコスト最適化のAI基盤「cotomi Gateway」提供開始

NECは11月5日、機密情報を保護しながら、処理内容に応じて適切なAI（人工知能）モデルを自動で選択することでトークンコストを最適化する基盤「cotomi Gateway（コトミ・ゲートウェイ）」の提供を開始すると発表した。機密情報の自動検知・マスキング、AIモデルの自動選択、プロンプト（指示文）の圧縮などに対応し、安全性を確保しながらAI利用時のトークンコストを抑える。11月からソフトウエア版を提供し、SaaS（ソフトウエア・アズ・ア・サービス）でも順次展開する。

「cotomi Gateway」は、AIへの入力内容の機密性やタスクの難易度、回答品質、コストなどを評価し、NECのLLM（大規模言語モデル）「cotomi（コトミ）」をはじめ、外部のAIモデルや特化型モデルの中から処理に適したモデルを自動で選択する。

また、プロンプトの冗長な部分や不要な情報を圧縮し、AIが処理するトークン量を削減する。プロンプトの内容に加え、過去の利用履歴や会話の流れ、キャッシュ状況など複数の要素を総合的に判断することで、トークンコストを最適化する。

機密情報は、AIへの入力時に自動で検知してマスキングし、情報を秘匿した状態で外部のAIモデルを利用できるようにした。マスキングした状態での処理が難しい場合は、オンプレミス環境で稼働するAIモデルに処理を振り分ける。

AIの利用実績やコスト削減効果をダッシュボード上でリアルタイムに確認する機能も搭載する。利用状況や費用面の効果を把握し、AIの運用状況の分析や利用方法の見直しに活用できる。

基盤は既存のシステムや業務アプリケーションとAPI（アプリケーション・プログラミング・インターフェース）で連携して利用する。複数のAIモデルへの接続を「cotomi Gateway」で一元管理し、既存の業務フローや運用を大きく変更せずに導入できるようにした。

価格はソフトウエア版で月額100万円（税別）から。NECのAI活用を支援する機能群「AI Platform Service（エーアイ・プラットフォーム・サービス）」の機能として提供し、DX（デジタルトランスフォーメーション）の提案モデル・支援サービス「BluStellar Scenario（ブルーステラ・シナリオ）」にも組み込む。