生成AI・偽情報と詐欺被害

生成AI・偽情報と詐欺被害の論点は、人工知能が文章・画像・音声を大量かつ低コストで作り出せることによって生じる問題を扱う。生成AIが作る情報は、人が見聞きしても本物と区別しにくい水準に達しているため、事実に反する情報が正しい情報として流通しやすくなる。試験で問われるのは、偽情報と誤情報を区別すること、生成AIを利用した詐欺の態様を理解すること、そして利用者と制度がそれぞれどのように対応するかを整理することである。本論点の根拠となる条文は現時点で整理されていないため、以下の記述は試験分野で確立した知識に基づく。

偽情報と誤情報の区別

偽情報とは、虚偽であることを知りながら、人を欺く目的で流布される情報をいう。誤情報とは、流布する者に虚偽であるという認識がなく広まる不正確な情報をいう。両者は情報の内容が事実に反する点では共通するが、発信者の主観的な意図によって区別される。生成AIは、偽情報を大量に作成する手段になるだけでなく、悪意のない利用者が誤情報を気づかずに拡散させる経路にもなる。そのため、偽情報と誤情報は発信者の故意の有無を基準に分けて理解しなければならない。ex[R6-54]

生成AIを利用した詐欺の態様

生成AIは、特定の人物の声や顔を模倣した音声・映像（いわゆるディープフェイク）を作ることを可能にする。この技術を用いた詐欺では、家族や知人を装う音声によって金銭の送付を求める手口や、著名人を装う映像によって投資話を信じ込ませる手口が見られる。被害者が偽物と気づきにくい点は、文字だけで行われていた従来の詐欺と比べた生成AIによる詐欺の特徴である。ex[R7-55] 詐欺の手段が多様化しても、人を欺いて財産を交付させる行為は詐欺にあたる点で従来と変わらない。ex[R6-54,R7-55]