韓国でSNSアプリを通じて、一般女性の写真などをAIを使って性的な偽画像に加工する「ディープフェイク」が作成・流布されていることが明らかになり、大きな問題になっている。

ディープフェイクは、秘匿性の高い通信アプリ「テレグラム」のチャンネルやチャットルーム内を通じて作成・流布されており、ハンギョレ新聞によると、およそ22万人が加入する大規模なチャンネルも確認されたという。

この性犯罪の主な被害者は中高生や大学生、女性軍人などで、未成年を含む不特定多数の一般女性だとされている。

【画像】チャットルームのやりとり（※被害の実態を伝えるために報じています。侮辱的な言葉が並ぶため、閲覧にはご注意ください。プライバシー保護のため一部加工されています）

「陵辱部屋」などのチャットルーム

ハンギョレ新聞などの現地メディアで、テレグラムでのディープフェイクポルノの問題が報じられると、8月26日には、XなどのSNSに、全国の中学高校や大学の具体的な名前が言及された「テレグラムディープフェイク被害者名簿」が投稿された。この名簿に載っているすべての学校で被害が起きているのかは確認されていないというが、SNSでは「自分の写真も犯罪に使用されたのではないか」などと不安視し、顔写真やプロフィールなどの個人情報を削除する動きが広まっている。

テレグラムに、「知人」「陵辱」などの特定のキーワードや名前を入れると、 「◯◯（名前）陵辱部屋」などと名付けられたチャットルームが表示される。ここに、参加者が女性の写真を共有し、わいせつな画像などと合成してディープフェイクを作成し、流通するという流れだ。ハンギョレ新聞は、収益化を見込み、偽画像の作成を「有料化」するチャンネルもあったと報じている。

2018年〜2020年頃に起きたデジタル性犯罪「n番部屋事件」でも、テレグラムのチャットルームが使用されていた。2024年5月には、ソウル大学の卒業生たちが、卒業アルバムなどに掲載された写真でディープフェイクを作成していたことが問題となり、これも、テレグラムのチャットルームを通じて流布していた。

女性の軍人も被害に

学生だけではなく、女性の軍人を対象にしたディープフェイクポルノも横行している。あるチャットルームには、900人を超える参加者がおり、わいせつな画像などに合成された女性軍人の写真を「軍需品」と呼ぶなど、侮辱的な言葉が並ぶ。さらにディープフェイクの作成には「条件」があるといい、チャットルームのルールとして、女性軍人の軍服写真や所属、階級、電話番号、年齢などの個人情報を提出し、現役軍人であることを証明することが求められている。

各地の学校などで被害が明らかになり、韓国社会には大きな動揺が広がっている。尹錫悦大統領は27日の国務会議で、「被害者が未成年の場合が多く、加害者も、多くが10代であることが明らかになっている」と指摘。ディープフェイクポルノの捜査や撲滅を指示した。

※この記事はハフポストコリア版を翻訳・編集・加筆しています。