スマートフォンでも軽快に動く業務特化型AIエージェント

AIがお客様との会話をリアルタイムで理解し、営業活動を後押しするメッセージや、コンプライアンス上の注意を促すメッセージを表示するプロトタイプを「スマートフォンのような端末上でも、軽量AIによって、どこまで高い精度と応答スピードを両立できるか」を検証した

概要

  • 本取り組みは、営業担当者がお客様と対面でお話しする際に、「(仮称)AIアシスタント機能」がその場でサポートする場面を想定たものです。
  • AIがお客様との会話をリアルタイムで理解し、営業活動を後押しするメッセージ(①)や、コンプライアンス上の注意を促すメッセージ(②)を表示するプロトタイプを、SIerのR&D部署様(以下、「お客様」)と共同で開発しました。
  • 今回のチャレンジは、「スマートフォンのような限られた性能の端末上でも、特定の業務に特化した軽量AIによって、どこまで高い精度と応答スピードを両立できるか」という点です。
  • 実施期間は、2025年11月~2026年2月(4ヵ月)

取り組みのイメージ

①攻めの営業

スマートフォン上で動く「AIアシスタント機能」が、営業担当者とお客様の会話をその場で理解し、お客様の気持ちに寄り添った提案を画面に表示することで、営業活動をタイムリーにサポートします。

  • お客様の理解不足・不安などの検知
  • 関係性の強化や成約の可能性を示唆、など

②守りの営業

コンプライアンスの観点では、営業担当者の説明が業界のガイドラインに沿っているかをその場でチェックし、不適切な説明を未然に防げるよう、その場でアラートを表示します。

  • 過度の断定的な表現
  • 契約時の必須事項の伝達漏れなどの懸念、など

開発機能ブロック

 

開発のポイント

1. リアルタイム音声認識とチャット風UIへの即時自動表示制御

  • 音声の集音からテキスト化、そしてチャットUIへの反映までの一連の処理パイプラインを低遅延で最適化。
  • 対面営業の会話のテンポを損なうことなく、発言とほぼ同時に会話履歴を画面へ自動可視化する、ストレスフリーなUI/UXを実現しています。

2. 端末内への「ローカルLLMサーバ」の独立構築

  • Android端末内に独自のローカルLLMサーバを構築し、画面アプリと高度に連携させることで、限られたリソースのモバイル端末上でも低遅延かつ安定したオンデバイス推論環境を実現しています。

3. 電波状況に応じた「オンライン/エッジ」のシームレスな切り替え制御

  • ネットワークの通信状況に応じて、通信可能時は「オンライン推論」、オフライン時は端末内の「エッジ推論」へと自由に切り替え可能な制御ロジックを実装。

システム・ソフトウエア仕様など

項目説明
プラットフォームAndroid(スマートフォン/タブレット)
ユーザーインターフェース音声履歴のリアルタイム可視化・対話が可能なチャットベース独自UI
AI音声認識・話者分離Google Cloud Speech-to-Text / OpenAI Whisper によるテキスト化と発言者識別
AI推論エンジン切り替え可能なハイブリッドLLM対応
1.オンデバイスLLM(Gemma / Qwenの端末向け量子化カスタム)※ 顧客提供
2.クラウドLLM(ChatGPT / Claude等、顧客データセンター内カスタムLLM)
プロンプト・全体制御•コンプライアンス違反検知やアドバイス生成に最適化したプロンプト制御テンプレート
•アプリ全体の連携制御システム

お客様評価と次のステップに向けて

  • AIの精度と応答スピードについては、お客様のご期待どおりとの評価をいただいています。
  • 現在は、お客様社内での実演を通じて、営業担当者やコンプライアンス担当者からのフィードバックをいただいている段階です。