GPTモデルで苦情入電の分析をしてみる

 2024.05.22  2024.06.17

ChatGPTがビジネスシーンに一大センセーションを巻き起こしてから一年が経ちました。本記事ではいったん出発点にもどり、GPTモデルの特性に合った業務について考えてみます。具体的には苦情入電をGPT-4を使って分析をします。

GPTモデルで苦情入電の分析をしてみる

ここが知りたい!!~消費者アンケート調査レポート~ 消費者は生成AIでの顧客サービスを受け入れるのか?

環境の準備

Azure OpenAIについてはあちこちに情報があふれており、皆様ご存じのお話が多いとは思いますが、ごく簡単に説明します。事前手順は以下の通りとなります。

  1. Azure側でリソースを作成した後、Azure OpenAI Studioを立ち上げます。
  2. Azure OpenAI Studio上でGPT-4をデプロイします。32kを使うこともできますが、今回の検証では大きなデータを使わないため、通常のモデルを利用します。
  3. デプロイしたモデルをプレイグラウンド->チャットで開きます。

環境の準備

左の枠にプロンプト、右側に本文を入力します。プロンプトを変更したあとは「変更を適用する」ボタンの押下を忘れないようにしましょう。

「生成AIの業務への利用」というお話をすると、アプリケーションの開発まで含めた大きな構想をしてしまいがちですが、いったん手元で小さく実現可能性の検証をしてみることが大事です。この環境については、Azure OpenAIが使える環境でしたら基本的には誰でも使えるものですので、社内検証ではまずここからスタートしてみることをお勧めします。触ってみたほうが「できること」「できないこと」「やりたいこと」などもはっきりすると思います。

ChatGPTをコールセンター業務で活用するためのサンプルプロンプト集
ナレッジ管理とは?手法や目的も併せて解説

ダミーデータの用意と事前処理

お客様から実際にかかってきた通話をもとにブログを書くのは法的な問題が発生する可能性があります。しかし、ベルシステム24にはコンタクトセンターのプロフェッショナルとして、膨大な知見を保有しており、このデータを用いて実態に非常に近い模擬データを作成可能です。お客様にいただく苦情の入電について、ベルの知見を活かしてシミュレーションをしてみます。今回の検証に先立って、弊社スタッフがお客様からの通話に見立てた音声データを作成し、この音声データをAmiVoiceを使ってテキスト化しています。テキスト化されてCSVで出力された内容は以下の通りとなります。

ダミーデータの用意と事前処理 01

お電話の内容としては、「解約したはずのものが配送された」「お客様には解約時に最後の一回が届く旨の説明がされているはずだが、主張が食い違っている」という、二次クレームにつながりやすいシチュエーションを想定しています。

このデータを前処理して、生成AIが処理できるようにテキスト化します。
この処理はpandasなどのライブラリを使えば非常に簡単にできますので、コードは省略します。

ダミーデータの用意と事前処理 02

苦情処理の要約処理

生成AIのモデルは日進月歩で進化しているため、どういうプロンプトが正解か、という話を一般解として書くのは、この記事のスコープを超えたとても難しい話になります。とはいえ、大まかな正解の方向性というのはあります。
生成AIはあくまで「統計的に確率が高い出力をしている」という動作をとっています。
人間の回答に似たようなことを出力するため、「ユーザーフレンドリーに考えて答えてくれている」ように見えるかもしれませんが、これはあくまで確率的に導き出されている動作にすぎず、「正しいかどうか」は直接的な出力トリガーにはしていません。
つまり、一般解としては「機械が見て判断がしやすい文章」というのが間違いがないプロンプトです。簡潔に、端的に、誤解が生まれづらいような指示をし、あわせて入力や出力の形式についても指定をしましょう。

あまり指示が多すぎても生成AIの出力に想定外のバイアスがかかってしまう、などと話を広げると長くなりますし趣旨からもズレますので、総論としてはこちらのサイトをご参照ください。
https://www.promptingguide.ai/jp
こちらのサイトはベースとなった研究なども含めてとてもよくまとまっております。私もこちらで調べて勉強しています。

今回は簡潔にこのようなプロンプトを書いてみました。

コンタクトセンターに入電したクレームを入力する。

# 入力フォーマット
"op: "で始まる文はオペレータの発話である。
"user: "で始まる文はお客様の発話である。

# 出力フォーマット
お客様からのクレーム内容と、オペレータからの回答について、対応関係がわかるようにマークダウン形式で出力せよ。

出力結果は以下の通りです。

苦情処理の要約処理

お客様の主張と、オペレータからの回答を分けて出力してくれています。いったん状況の分析としては十分なレポートが出来上がりました。
ChatGPTをお使いの皆様はご存じのことかと思いますが、GPT-4は「感情的な文章からのくみ取り」というのが比較的得意であり、今回の
お客様の主張と回答との対応関係の部分はちょっともう少し書き方を工夫したいところですが、ここのチューニングについては今回はいったん切り上げます。

いたってシンプルなプロンプトでも、このレベルの出力が可能ですので、皆様のお手元でも是非試していただければと思います。

特にプロンプトについては「どう出力させたいか」より「何を出力させたいか」のほうがより重要です。今回の検証も「何のために何を出力させたいのか」というのが本来スタート地点であり、そこを達成した上で業務が改善できると考えます。つまり、生成AIの活用にあたっては運用の観点からアプローチするのがより効果的です。
ベルシステム24では「コンタクトセンターでの生成AI活用」というチャレンジを続けており、コンタクトセンターの運用効率アップと現場の負荷低減を目指し、今回検証したGemini以外のモデルも使って、技術的に何ができるかの検証を日々行っております。業務の効率化やコンタクトセンター業務での後処理の削減などにご興味がある方は当社にぜひご相談ください。また、AmiVoiceの音声認識の精度を上げることで、GPTの出力も精度を上げることができますので、音声認識の運用でお困りの際はぜひお声がけください。

執筆者紹介

本部 景一
本部 景一
新卒で通信業界の企業に入社し、社内インフラ整備からアプリケーション開発まで幅広い開発業務に参画。その後PMとして教育業界向けWebフィルタリングサービスの立ち上げを担当した。2023年にベルシステム24入社後は言語生成AIの実証実験などを担当している。高速な開発サイクルを実現できる小規模チームや社内環境の構築を得意としている。情報処理安全確保支援士(第22000号)
ここが知りたい!!~消費者アンケート調査レポート~ 消費者は生成AIでの顧客サービスを受け入れるのか?

RECENT POST「プロフェッショナル」の最新記事


プロフェッショナル

生成AIのデメリットとは? 問題となった事例、安心して使うための対策

プロフェッショナル

ChatGPTは使える?ChatGPTの可能性と活用方法

プロフェッショナル

ChatGPTとは? 便利な使い方と始め方、できること

プロフェッショナル

ChatGPT(チャットGPT)の日本語での使い方は? 日本語設定の有無や注意点

GPTモデルで苦情入電の分析をしてみる
BellCloud+ご紹介資料
New call-to-action

RECENT POST 最新記事

ブログ無料購読のご案内

RANKING人気記事ランキング

AUTHOR執筆者

OFFICIAL SUPPORTER