Di era modern, kecerdasan buatan (AI) semakin menjadi bagian penting dalam masyarakat. Namun, bahaya konten deepfake – video yang wajah atau tubuh seseorang diubah secara digital sehingga tampak seperti orang lain, yang biasanya digunakan untuk tujuan jahat atau menyebarkan informasi palsu – menjadi semakin mengkhawatirkan.
Meskipun ada cara non-jahat untuk menggunakan teknologi deepfake, sebagian besar konten yang dibuat dengan cara ini bersifat pornografi. Faktanya, menurut laporan tahun 2023 oleh Home Security Heroes, 98% video deepfake adalah pornografi.
Laporan tersebut juga mengungkapkan bahwa terdapat 95.820 video deepfake online pada tahun 2023, meningkat 550% dibandingkan tahun 2019. Dari 98% video yang bersifat pornografi, 99% menargetkan wanita.
Wanita Korea Selatan Paling Rentan
Demografi yang paling mengkhawatirkan adalah wanita Korea Selatan, terutama mereka yang berkecimpung di industri hiburan. Aktris dan penyanyi Korea Selatan merupakan 53% dari individu yang menjadi sasaran pornografi deepfake, menjadikannya kelompok yang paling banyak ditargetkan berdasarkan kewarganegaraan dan jenis kelamin.
Amerika Serikat berada di urutan kedua dengan 20%, sementara Jepang di urutan ketiga dengan 10%. Artinya, wanita Korea Selatan ditargetkan lebih dari dua kali lipat dibandingkan kelompok berisiko berikutnya.
Dari orang-orang yang ditampilkan dalam pornografi deepfake – tidak hanya orang Korea Selatan, tetapi individu secara umum – 94% bekerja di industri hiburan sebagai penyanyi, aktris, atau influencer media sosial.
Laporan tersebut juga mencantumkan sepuluh individu yang paling sering menjadi sasaran pornografi deepfake. Meskipun identitas mereka tidak diungkapkan karena sifat data yang sensitif, kewarganegaraan dan profesi mereka disertakan. Dari sepuluh wanita ini, delapan di antaranya adalah penyanyi Korea Selatan.
Temuan Mengejutkan dan Mengganggu
Studi ini mengungkapkan beberapa temuan lain yang mengejutkan dan mengganggu, seperti fakta bahwa hanya dibutuhkan waktu kurang dari 25 menit dan tanpa biaya untuk membuat video porno deepfake berdurasi satu menit hanya dari satu gambar wajah yang jelas.
Total penayangan video di sepuluh situs porno deepfake khusus teratas pada tahun 2023 mencapai lebih dari 303 juta, menunjukkan betapa maraknya konsumsi media semacam ini meskipun ada komplikasi moral, etika, dan hukum yang menyertainya.
Tanggapan dari Komunitas K-Pop
Artikel Home Security Heroes baru-baru ini dibagikan di subreddit K-Pop, karena studi tersebut menargetkan banyak penghibur Korea Selatan. Berikut adalah reaksi orang-orang terhadap berita yang meresahkan ini:
“Ini benar-benar mengerikan. Saya tidak percaya bahwa wanita Korea Selatan menjadi sasaran seperti ini.”
“Ini adalah pelanggaran privasi dan pelecehan seksual yang nyata. Ini harus dihentikan.”
“Saya harap ada tindakan yang diambil untuk melindungi wanita dari bahaya ini.”
Kesimpulan
Temuan ini menekankan sifat multifaset dari teknologi deepfake dan dampaknya pada berbagai domain. Oleh karena itu, ada kebutuhan mendesak untuk penggunaan yang bertanggung jawab, pertimbangan etika, dan pengamanan peraturan untuk mengatasi tantangan yang berkembang yang dihadirkan oleh konten deepfake.