ChatGPT(チャットGPT)のメリットやデメリット(問題点)について解説

本記事では、アメリカのOpenAI社が開発したAIチャットサービス「ChatGPT」のメリットやデメリット(問題)について解説します。メリットは多くの記事で紹介されているので、この記事では特に「ChatGPT(チャットGPT)のデメリット(問題)」について掘り下げます。

ChatGPT(チャットGPT)のデメリット(問題点)

ChatGPT(チャットGPT)のデメリット(問題)として以下のようなことが挙げられます。

嘘をつく可能性がある（回答の情報そのものは正確かわからない）
学習データが最新ではない（2021年9月までの情報しか学習していない）※2023年7月時点
意図せず著作権を侵害する可能性がある
情報漏えいのリスク
サイバー攻撃に利用される可能性
ChatGPTそのものは自分で改変できない

ChatGPT(チャットGPT)は嘘をつく可能性がある（回答の情報そのものは正確かわからない）

ChatGPT(チャットGPT)は、OpenAI社によって事前に訓練されたデータに基づいて文章を生成するAIです。「嘘をつく」というよりは、誤った情報を、さも本当のように回答や情報を提供する可能性があります。（人工知能の幻覚（hallucination: ハルシネーション）と言います。）

ハルシネーションは、訓練データに誤った情報が含まれていたり、ChatGPTがユーザの質問や要望を完全に理解できない場合に発生します。

ChatGPT(チャットGPT)は学習データが最新ではない

ChatGPTは常に最新のデータを持っておらず、2021年9月までという制約があります。これは、ChatGPTに対して訓練されたデータセットが2021年9月までの情報しか含まれないためです。

有料プラン「ChatGPT Plus」のオプションである「Webブラウジング」は最新情報にもアクセスできる機能でしたが、有料記事を読めてしまうとの報告を受け、2023年7月上旬以降、一時停止となってます。　

ChatGPT(チャットGPT)は意図せず著作権を侵害する可能性がある

ChatGPTは訓練データを基に文章を生成します。オリジナルの文章を直接コピーして出力することはほとんどありませんが、ChatGPTが生成する内容が元の著作物と非常に近い場合、著作権侵害のリスクが生じる可能性があります。

ChatGPTには情報漏えいのリスクがある

ChatGPTに個人情報や機密情報を入力した場合、その情報はログとして記録され、予期せぬ形で情報漏えいする可能性があります。ユーザーがChatGPTの設定で個人情報や機密情報を提供しないようにすることが重要です。

ChatGPTはサイバー攻撃に利用される可能性がある

ChatGPT自体がサイバー攻撃を受ける可能性は低いですが、ChatGPTのAPIをベースにしたアプリケーションを提供するWebサーバーなどはサイバー攻撃の対象になる可能性があります。また、悪意のあるユーザーがChatGPTを悪用してサイバー攻撃に利用できる内容を生成する可能性もあります。