近年、ＡＩ技術の進歩により、生成ＡＩやディープフェイクと呼ばれる技術が急速に普及しています。そして、これらを悪用した事案では、国内でも逮捕者が出るなど、社会的にも大きな問題となりつつあります。
以下では、生成ＡＩ、ディープフェイクに関わる行為に関する刑事上及び民事上のリスクなどについて解説します。
【目次】
１ 生成ＡＩ、ディープフェイクとは
２ 刑事罰を受けるリスクについて
３ 民事上の責任を負うリスクについて
４ 生成AI、ディープフェイク事件を弁護士に依頼するメリットについて
５ 当事務所の弁護士費用について
６ おわりに
１ 生成ＡＩ、ディープフェイクとは
⑴ 生成ＡＩとは
生成ＡＩとは、文章、画像、音声、動画などの新しいコンテンツを自動的に「生成」するＡＩ技術の総称です。生成ＡＩは、膨大な既存データを学習し、「人間らしい」文章や映像を作ることができます。特別な知識がなくても誰でも簡単に使えるため、創作、広告、教育など多方面で活用が進む一方、虚偽情報や不正コンテンツの生成に使われるリスクも高まっています。
生成ＡＩの悪用事例としては、令和６年１０月に、東京地裁において、生成ＡＩを使ってコンピューターウイルスを作成し、不正指令電磁的記録作成罪（刑法第１６８条の２）等で起訴された被告人に対し、懲役３年、執行猶予４年の有罪判決を言い渡した事例があります。
また、令和７年４月には、生成ＡＩでわいせつ画像を作成し、ポスターとしてインターネットオークションで販売した者が、わいせつ図画頒布（刑法第１７５条）の容疑で逮捕されるという事例も発生しています。
⑵ ディープフェイクとは
ディープフェイクとは、ＡＩを使って特定の人物の顔や声などを本物そっくりに他の映像や音声と合成する技術のことをいいます。「ディープラーニング（深層学習）」というＡＩ技術と「フェイク（偽）」を組み合わせた言葉であり、例えば、有名人が実際には言っていないことを、さも実際に発言をしているかのような動画や、他人の顔と体を合成したポルノ映像などがこれに該当します。
日本国内では、令和２年に、ＡＶ出演者の映像に人気女性芸能人の顔を合成して配信した者が、女性芸能人への名誉毀損罪及びＡＶ制作会社に対する著作権侵害で逮捕、起訴された事例があります。
２ 刑事上の責任を負うリスクについて
生成ＡＩやディープフェイクを用いた悪質な行為は、刑法や各種法令で処罰される可能性があります。
例えば、他人を誹謗中傷する目的でディープフェイク映像を作成し、拡散すれば、名誉毀損罪（刑法第２３０条第１項）に該当する可能性があります。
また、成人向けコンテンツ（わいせつ物）を素材とした生成ＡＩやディープフェイク動画をインターネット上で公開すれば、わいせつ物頒布罪（刑法第１７５条）に該当する可能性があります。また、それらのわいせつ物が実在する児童の画像を含む場合や、実在する児童をモデルにしている場合は、児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律違反に該当する可能性もあります。
さらに、これらをインターネット上で拡散に加担したり、リポストする行為についても、上記と同様の刑事罰を受けるリスクがあります。
３ 民事上の責任を負うリスクについて
生成ＡＩやディープフェイクを悪用すると、民事上の責任を負う可能性があります。
名誉棄損や肖像権、プライバシー権侵害などがある場合は、不法行為（民法第７０９条）として、これらの権利を侵害された者から、配信停止を求められたり、損害賠償を請求されたりする可能性があります。
また、動画や画像の無断改変は著作者人格権（同一性保持権）の侵害として民事責任を問われる可能性もあります。
４ 生成AI、ディープフェイク事件を弁護士に依頼するメリットについて
生成ＡＩやディープフェイクが絡む事件では、被害者側も加害者側も迅速な対応が求められます。
被害者は、自分や家族の画像が無断で加工、拡散された場合、時間の経過とともに拡散リスクや心理的被害が深刻化します。肖像権やプライバシー権侵害は刑事罰の対象ではないため、警察が積極的に動かないこともありますので、早期に弁護士に依頼し、発信者情報開示請求や投稿削除、損害賠償請求などの対策を講じることが肝要です。
一方、加害行為を疑われる場合には、捜査に備えて、刑事弁護に精通した弁護士による法的助言を受けることをお勧めします。捜査機関への対応方法を誤ると、身柄拘束や起訴のリスクが高まるなどの不利益を被るおそれがあります。捜査段階から弁護士に相談することで、取調べにおける権利保護や適切な弁護活動が可能となり、最終的な刑事処分の軽減にもつながります。
５ 当事務所の弁護士費用について
被害者側・加害者側を問わず、民事の損害賠償請求に関する弁護士費用は以下のとおりです。
https://kl-o.jp/debt/#saikenhiyou
刑事弁護に関する弁護士費用は以下のとおりです。
https://kl-o.jp/crime/#00003
６ おわりに
被害者・加害者のいずれの立場でも、生成ＡＩやディープフェイクに関する問題は、初動が極めて重要です。お困りの方はまずお気軽にご相談ください。
お電話でのお問い合わせ
平日９時～１８時で弁護士が電話対応
※初回ご来所相談３０分無料
☎︎ 03-5875-6124
