生成AIのデメリットとは?
問題となった事例、安心して使うための対策

 2024.05.21  2024.06.17

近年、あらゆる業界に著しい変革をもたらし、注目と期待を集めているのが生成AIです。しかし、新しく普及した技術であるだけに、導入にあたってデメリットがあるのではないかと考えている経営層も少なくありません。そこで、この記事では生成AIのデメリットやデメリットの解決策を、具体例を交えてわかりやすく解説します。

生成AIのデメリットとは? 問題となった事例、安心して使うための対策
コンタクトセンターにおける生成AIチャットボットの活用効果とは?

生成AIの利用で生じるデメリット

生成AIとは、簡単にいうと文章や画像、動画、音声などのコンテンツを生成する仕組みです。生成AIは登場以来、その利便性から、仕事やプライベートなどあらゆる場面で多くの人に活用されてきています。しかし、業務目的での利用となるとさまざまなデメリットや問題点もあるのが現状です。具体的に、業務利用時にどのようなデメリットや問題点を認識しておくべきなのか解説します。

権利侵害の可能性を排除するのが難しい

生成AIが作成した情報やコンテンツは、著作権をはじめとする権利を侵害してしまう恐れがあります。生成AIは学習データとして、あらゆる情報を読み込んでいます。たとえば新聞や小説などのデータを読み込んだ場合、その新聞や小説にある表現をそのまま使用したコンテンツが生成される可能性がないとは言い切れません。

また、同様に画像系の生成AIでも、著名な漫画家やイラストレーターの作品を読み込ませているケースがあります。個性的な作風や技法などが、生成された画像にも反映されていた場合、著作権を侵害しているとして問題になるリスクはゼロではありません。

ただし、現行の著作権法による規定では、生成AIの開発・学習段階において、各著作物を使って学習することは原則として認められており、著作権者への許可もいりません。

引用:文化庁著作権課|A I と著作権(令和5年度 著作権セミナー)P37 

生成物内のフェイク情報を発見するのに手間がかかる

生成AIの生成物のなかには、フェイク情報が含まれる場合があります。もし含まれていたとしても、ただちに見分けて修正するのは至難の業です。

フェイク情報が含まれる理由として、生成AIが学習データのなかにある情報の真偽を判断できないことが挙げられます。根拠を持って書かれた著作物だけでなく、個人のブログやネット記事なども学習データにあると考えられるため、間違った情報であっても正しい情報と平等に学習してしまいます。また、生成AIは学習データをもとに、それらしく情報を組み合わせているだけのため、結果的にフェイク情報ができあがってしまうこともあります。

特にフェイク情報で問題となるのは画像や動画の生成AIです。たとえば本物の写真を指示に従い加工するAIを使うと、実在の人物が、本来するはずのないことをしている本物そっくりの画像を生成できてしまいます。生成AIの生成物を本物だと思い込んでフェイクニュースを拡散してしまうリスクや、悪意のある人物がなりすましやコラージュによる名誉棄損をおこなうリスクなどが想定されます。

このように、生成AIの生成物にはフェイク情報が含まれるリスクが少なからずあり、生成物を使用した情報発信をおこなう際は真偽を判別し、問題のある部分を取り除く必要があります。しかし、実際には難しく、簡単に生成できる一方でフェイク情報の発見には手間がかかります。

生成物の品質を安定させるのが難しい

生成AIは指示に対してランダムな出力結果を提示するため、均一な品質を保つのが難しい側面もあります。仮にまったく同じ指示(プロンプト)を与えた場合でも、出力結果はすべて異なるため、使い方によってはニーズに合わないかもしれません。たとえば、コンタクトセンターで異なるお客様がまったく同じ質問をした場合、生成AIによる回答内容が異なり、お客様の満足度や問題解決に影響を与える可能性があります。

また、生成AIの技術は未だ発展途上です。仮に生成AIを使用してコンタクトセンターの模範的な回答を生成しようとしたとき、実際には不自然な日本語や誤情報が多数含まれており、人の手による修正が必要なことも多くあります。

このように、生成AIの生成物は品質を均一化させたり、精度を向上させたりするのが難しいことは覚えておきたいポイントです。

情報漏えいを防ぐのが難しい

業務で生成AIを利用する場合、情報漏えいのリスクがあります。生成AIの多くは使用者の入力するデータを学習データとして利用しているため、意図せず社内の機密情報を入力してしまうと、生成AI内に蓄積されてしまいます。

たとえば、情報整理のために顧客データを入力した場合、顧客データの漏えいリスクがあります。また、ソフトウェアの開発過程で社内で作ったコードを生成AIに入力すると、そのコードが第三者の結果出力に使われてしまうかもしれません。

入力するデータの機密性やオリジナリティが高いほどリスクが高まります。また、生成AIの学習にはできるだけ多くのデータが必要なため、データが多ければ多いほどそのなかに個人情報や機密情報などが含まれる恐れも高くなります。

生成AIはデータの分析や要約などが得意なため、業務で使用するデータを入力できればとても便利な存在です。しかし、このように情報漏えいリスクがあるため、入力してもよいデータとしてはいけないデータは社内でしっかりと定義しておく必要があります。

ChatGPTをコールセンター業務で活用するためのサンプルプロンプト集
チャットボット製品市場調査

生成AIが問題となった事例

生成AIのデメリットをいくつか解説しましたが、これらのデメリットによって実際に問題が起きた具体例を紹介します。

台風被害のフェイク画像が拡散

国内で有名な事例のひとつに、台風被害状況のフェイク画像が挙げられます。
2022年、台風15号が当時記録的な大雨被害をもたらしました。この際、被災地が水没している様子をドローンで空撮した画像がSNSで拡散されましたが、あとになって生成AIを利用したフェイク画像であることが発覚しました。よく見ると不自然な部分はあるものの、一見しただけでは本物のような精度であったためフェイク情報を真実だと思い込んだ人も多く出ています。

このように生成AIのフェイク情報には、社会的混乱を招いてしまう例もあります。

従業員による社内機密のアップロード

企業に関連した事例としては、機密情報の漏えいが挙げられます。
2023年4月、韓国の家電・電子製品メーカーに勤めるエンジニアが、本来は社内機密のソースコードを誤って生成AIのChatGPTにアップロードし、機密情報を流出させたことが話題となりました。
このメーカーでは2023年3月に生成AIの社内利用を開始したものの、その後わずか20日間で3件もの機密情報をアップロードしています。具体的にはコードのデバッグや議事録入力などです。具体的に機密情報がそのあとどのように使われ、誰に出力されたのかなどは明らかになっておらず、事件や被害の規模は不明ですが、企業としては見過ごせないリスクです。

このように、従業員によってアップロードされた機密情報が、他のユーザーに提供されてしまうという懸念があります。

安心して使うための生成AIのデメリット対策

生成AIにはデメリットもあり、また、新しい技術でルールやリスクが周知されていないこともあり、業務用途で使うか悩む人もいます。しかし、デメリットを知ったうえで対策しておけば、生成AIを活用して業務効率を大きく向上させられます。具体的な解決策をいくつか紹介します。

生成物の検証を行う

生成物をそのまま利用する場合は、生成物の真偽や精度についての検証が必要です。
前述の、台風15号の際に静岡が水没したように見せかけたフェイク画像は、一般人による愉快犯でした。しかし、業務で誤ってフェイク情報を発信した場合、企業の評判を大きく落としてしまい、たった1枚の画像が多大な損害につながるリスクもあります。

生成AIを利用する際はあらかじめガイドラインを社内で策定し、意図せずフェイク情報や権利を侵害した内容が含まれることのないように、手作業で確認をおこないましょう。

生成AIに履歴を残さない・学習に使用させない

生成AIに学習データを渡さず、利用履歴にもデータを残さないように設定を見直しましょう。前述した、家電・電子製品メーカーの機密情報漏えいの事例では、安易にデータを入力してしまった、従業員の過失が情報漏えいにつながりました。

生成AIによっては設定変更機能があり、入力やアップロードをしたデータの履歴を残さず、学習もさせないようにすることが可能です。 情報提供を拒否する「オプトアウト機能」を搭載する生成AIかどうか確認し、必要に応じて設定しておきましょう。

たとえば有名な生成AIのChatGPT(3.5)の場合、デフォルトの設定では「学習する」になっていますが、オフに変更することで学習させないようにできます。

プロンプトの精度を上げる

生成物の精度を上げたり、品質の均一化をおこなうためには、プロンプトの精度向上が鍵です。AIにおけるプロンプトとは、ユーザーが入力する指示のことです。

たとえば、コンタクトセンターに寄せられたお客様の質問を生成AIで整理するとき、「このデータを整理して」と入力するより、「このデータをこのようなルールに基づき、このような順番で出力して」と入力するほうが、意図に沿った結果が出力されやすくなります。

漠然とした指示を出すのではなく、具体的で過不足なく情報を与えることで、生成AIはより使いやすくなるはずです。

生成AIにはデメリットを上回るメリットがある

生成AIにはデメリットもありますが、デメリットの把握と対策をしたうえで利用すれば、業務の効率化や商品・サービスの質向上など、その恩恵は計り知れません。

たとえば、いままで手作業でおこなっていた業務の自動化や効率化が可能です。単純作業は生成AIの得意分野であり、生成AIに任せれば従業員はより創造的で複雑な業務に集中できます。

また、ブレインストーミングの向上にも効果的です。情報やデータを分析するとき、多くの人を集めて会議しなくても、生成AIを使えば瞬時に結果を出力してくれます。また、お客様の満足度を高めるための施策、新しいサービスのアイデア創出など、生成AIでは人間が考えつかないような意外な内容で、常識に囚われないアドバイスを提示してくれる可能性があります。

生成AIの使い方や効率は人間の指示次第で大きく変わります。うまく使えば、生成AIによってデメリットよりもはるかに大きなメリットを得られるため、積極的に活用していきましょう。

生成AIのメリットについては、関連記事でも詳しく解説しているので参考にしてください。

まとめ

生成AIは権利侵害やフェイク情報を含むコンテンツを出力するリスクや、情報漏えい、不安定な生成結果の出力などいくつかのデメリットがあります。しかし、対策さえしておけば、企業の将来に大きく貢献する存在です。

たとえばコンタクトセンターであれば、生成AIによるチャットボットを導入するだけでさまざまなメリットがあります。一次対応の効率化によるオペレーター業務負担の軽減、高度な問い合わせ対応によるサービスの質向上や顧客満足度の向上など、生成AIによって業務は大きく良い方向に変わっていくでしょう。

生成AIは発展途上にある技術のため、今後は問い合わせ対応の全自動化や、お客様に合わせてパーソナライズされた多様な回答の生成、合成音声による24時間の電話対応など、技術の向上に伴い生成AIならではのサービスが展開されていくことが期待されます。企業とお客様、双方がより便利になる生成AIを、恐れず正しい方法で、積極的に活用していきましょう。

New call-to-action

RECENT POST「トレンド」の最新記事


トレンド

生成AIができることを用途別に解説! 利用するメリット・デメリットも紹介

トレンド

生成AIのメリットとは? 利点を生かした用途を具体例とともに紹介

トレンド

生成AIの仕組みとは? AIとの違いやディープラーニングについて紹介

トレンド

BPOとは?対象業務やメリット・デメリットを解説!

生成AIのデメリットとは? 問題となった事例、安心して使うための対策
BellCloud+ご紹介資料
New call-to-action

RECENT POST 最新記事

ブログ無料購読のご案内

RANKING人気記事ランキング

AUTHOR執筆者

OFFICIAL SUPPORTER