有名な女性芸能人と一般人の身体を合成したディープフェイクを制作・配布した運営者とその一味が逮捕された。
慶南警察庁は昨年11月から今年4月までに女性芸能人と一般人の身体が合成されたヌード写真・映像500点をテレグラムのチャットルーム3か所に配布した疑い(児童・青少年の性保護に関する法律違反など)で、10代の高校生A君を22日に逮捕したと発表した。
A君は昨年11月から今年4月までに女性芸能人と一般人の顔をヌード写真・映像に合成し、約500点のディープフェイクを制作し、これをテレグラムのチャットルーム3か所で運営しながら配布した疑いを持たれている。
A君の他にも、該当のチャットルームでディープフェイク映像や写真約3,500点を直接制作または再配布した疑いで23人が不拘束で書類送検された。その中には15人が10代で、残りの8人は20代から40代であることが確認された。
警察は今年2月にテレグラムでこの犯罪に関する情報を入手した後、偽装捜査とテレグラムとの協力を通じて彼らを全員逮捕した。
警察は人工知能(AI)や関連プラットフォーム(合成サイト)の発展により、簡単に写真・映像の合成・改変が可能になり、犯罪が急増していると指摘し、「青少年のディープフェイク性犯罪を防ぐためにサイバー予防教育を強化し、教育当局・市民社会と継続して協力していく」と伝えた。