本記事では、アメリカのOpenAI社が開発したAIチャットサービス「ChatGPT」のメリットやデメリット(問題)について解説します。メリットは多くの記事で紹介されているので、この記事では特に「ChatGPT(チャットGPT)のデメリット(問題)」について掘り下げます。
目次
ChatGPT(チャットGPT)のデメリット(問題点)
ChatGPT(チャットGPT)のデメリット(問題)として以下のようなことが挙げられます。
- 嘘をつく可能性がある(回答の情報そのものは正確かわからない)
- 学習データが最新ではない(2021年9月までの情報しか学習していない)※2023年7月時点
- 意図せず著作権を侵害する可能性がある
- 情報漏えいのリスク
- サイバー攻撃に利用される可能性
- ChatGPTそのものは自分で改変できない
ChatGPT(チャットGPT)は嘘をつく可能性がある(回答の情報そのものは正確かわからない)
ChatGPT(チャットGPT)は、OpenAI社によって事前に訓練されたデータに基づいて文章を生成するAIです。「嘘をつく」というよりは、誤った情報を、さも本当のように回答や情報を提供する可能性があります。(人工知能の幻覚(hallucination: ハルシネーション)と言います。)
ハルシネーションは、訓練データに誤った情報が含まれていたり、ChatGPTがユーザの質問や要望を完全に理解できない場合に発生します。
ChatGPT(チャットGPT)は学習データが最新ではない
ChatGPTは常に最新のデータを持っておらず、2021年9月までという制約があります。 これは、ChatGPTに対して訓練されたデータセットが2021年9月までの情報しか含まれないためです。
有料プラン「ChatGPT Plus」のオプションである「Webブラウジング」は最新情報にもアクセスできる機能でしたが、有料記事を読めてしまうとの報告を受け、2023年7月上旬以降、一時停止となってます。
ChatGPT(チャットGPT)は意図せず著作権を侵害する可能性がある
ChatGPTは訓練データを基に文章を生成します。オリジナルの文章を直接コピーして出力することはほとんどありませんが、ChatGPTが生成する内容が元の著作物と非常に近い場合、著作権侵害のリスクが生じる可能性があります。
ChatGPTには情報漏えいのリスクがある
ChatGPTに個人情報や機密情報を入力した場合、その情報はログとして記録され、予期せぬ形で情報漏えいする可能性があります。ユーザーがChatGPTの設定で個人情報や機密情報を提供しないようにすることが重要です。
ChatGPTはサイバー攻撃に利用される可能性がある
ChatGPT自体がサイバー攻撃を受ける可能性は低いですが、ChatGPTのAPIをベースにしたアプリケーションを提供するWebサーバーなどはサイバー攻撃の対象になる可能性があります。また、悪意のあるユーザーがChatGPTを悪用してサイバー攻撃に利用できる内容を生成する可能性もあります。
ChatGPTそのものは自分で改変できない
ChatGPTは事前にトレーニングされた大規模言語モデルであり、ユーザーが直接、ChatGPTのモデル自体を改変することはできません。このため、ChatGPTが提供する情報の精度を向上させるための方法としては、より良い質問を設定することです。
ChatGPT(チャットGPT)のメリット
ChatGPTのメリットについては以下のようなものが挙げられます。
- 汎用性が高く応用分野が広く、さまざま場面で自然な文章(回答)を生成することができる
- 無料で利用することができる、有料プラン ChaGPT Plusは月額20ドルで利用できる
- プログラミングやIT技術などの専門性の高い文章やコード生成が特に得意であり、プロのエンジニア以上の知識量がある
- Webブラウザからの利用であれば、アカウント登録さえすれば、インストールや設定は不要でするに利用することができる
まとめ
ChatGPT(チャットGPT)のメリットやデメリット(問題)について解説しました。特に、ChatGPT(チャットGPT)のデメリット(問題点)を強調して解説しましたが、とは言っても、ChatGPTは非常に便利で応用範囲も広いです。ChatGPTの特徴をよく理解したうえで活用していきましょう!