「キム・スヒョンに関する虚偽事実を流布した放送」カセヨンのキム・セウィ代表を名誉毀損容疑で勾留起訴、オンライン上のフェイクニュースをめぐる容疑の判断基準が定まるのか？

本件は、YouTube配信と記者会見を通じて犯罪行為が繰り返されたという点で注目されています。

キム代表は犯行当時、生成AIを活用した音声ファイルの公開、私的な写真の公開、さらなる暴露を予告する発言などを続けました。

このため、本件は、オンライン上での虚偽事実の流布とAIを利用した虚偽コンテンツが刑事処罰の対象として本格的に扱われているという点で、社会的関心が集中しています。

情報通信網法上の名誉毀損は、インターネット、SNS、YouTubeなどの情報通信網を利用し、他人の社会的評価を低下させ得る事実を公開した場合に成立する可能性がある犯罪です。

性暴力処罰法は、相手方の意思に反して撮影物や複製物を配布又は公開する行為を処罰しています。

ストーキングは、オフラインで相手方につきまとう行為だけを意味するものではありません。

また、ストーキング犯罪の処罰等に関する法律第2条に基づき、情報通信網を利用して特定の人物に文章、写真、映像、音声などを繰り返し送信又は投稿し、不安感や恐怖心を生じさせた場合にも、ストーキングが成立する可能性があります。

すなわち、本件のようなYouTube配信やSNS投稿など、オンライン上で行われた行為も、反復性と継続性が認められれば、ストーキング犯罪の対象となる可能性があります。

生成AIを利用した音声加工自体を処罰する独立した犯罪規定は、現在のところ明確には存在しません。

ただし、AIで作成した音声を利用して虚偽事実を流布した場合や、ほかの犯罪を実行する手段として利用した場合には、その結果として行われた行為に対する刑事責任が問題となる可能性があります。

つまり、AI技術自体ではなく、それがどのような犯罪に利用されたのかが重要です。

近年、生成AIを利用した虚偽情報の流布やディープフェイク犯罪が増加する中、捜査機関もデジタル証拠の分析とフォレンジック捜査を強化する傾向にあります。

この過程で捜査機関は、音声や映像が加工されたものか、制作・編集の過程がどのようなものであったか、投稿者が虚偽であることを認識していたかなどを、客観的なデジタル資料に基づいて確認します。

したがって、関連する容疑をかけられた場合は、資料を任意に削除又は変更するのではなく、客観的なデジタル資料を保存し、事実関係を正確に整理して対応する必要があります。

生成AIを利用した音声や映像による虚偽事実流布の容疑をかけられた場合、元のファイルであるか、編集や合成が行われたかどうかが主な争点となる可能性があります。

被疑者としては、音声・映像ファイルの作成時点、編集履歴、保存記録などの客観的なデジタル資料を確保し、必要に応じて、デジタルフォレンジック分析を通じて元データの有無や編集に至った経緯を確認する対応が必要です。

このような客観的なデジタル証拠は、容疑の成否や事実関係を判断する過程で重要な資料として活用される可能性があります。

オンライン上での虚偽事実流布の容疑をかけられた場合、どのような資料に基づいて投稿を作成し、又は配信を行ったのかが重要な争点となる可能性があります。

したがって、被疑者は、資料を入手した経緯、事実確認の過程、投稿目的などを客観的な資料とともに整理し、自らの主張を裏付ける必要があります。

複数の容疑が同時に適用された事件では、すべての容疑に同じ方法で対応するのではなく、それぞれの構成要件と証拠を分けて検討しなければなりません。

被疑者は、捜査初期の段階から、自らの行為が各容疑の成立要件に該当するか、反論に用いることができる客観的な資料は何かを確認したうえで、取調べに臨む必要があります。

また、取調べの過程で提出する資料や供述は、起訴の可否や裁判手続においても重要な判断資料となる可能性があるため、法的争点を十分に検討したうえで一貫した立場を維持することが重要です。