Menjelang pemilu parlemen Korea Selatan pada bulan April, ancaman video dan gambar deepfake yang dihasilkan AI menjadi perhatian serius.
Pengawasan Ketat
Komisi Pemilihan Umum Nasional (NEC) Korea Selatan telah mendeteksi 129 konten yang dihasilkan AI yang melanggar undang-undang pemilu yang baru direvisi. Undang-undang ini, yang mulai berlaku pada 29 Januari, secara eksplisit melarang penggunaan deepfake dalam kampanye pemilu, dengan hukuman hingga tujuh tahun penjara atau denda sebesar ₩10,0 juta KRW (sekitar $7.500 USD) bagi yang terbukti bersalah.
Tantangan dalam Memerangi Disinformasi
Teknologi deepfake telah membuka babak baru dalam perang melawan disinformasi, menimbulkan tantangan besar dalam menjaga integritas proses demokrasi. Deepfake, yaitu video dan gambar yang dimanipulasi menggunakan AI canggih agar tampak realistis, telah digunakan dalam pemilu sebelumnya untuk menyesatkan pemilih dan memutarbalikkan opini publik.
Pada pemilu provinsi tahun 2022, sebuah video deepfake beredar di media sosial yang menunjukkan Presiden Yoon Suk Yeol mendukung kandidat lokal, menyoroti potensi penyalahgunaan teknologi ini.
Langkah Pencegahan NEC
Tindakan proaktif NEC terhadap deepfake mencerminkan pengakuan yang lebih luas terhadap lanskap disinformasi yang terus berkembang yang difasilitasi oleh kemajuan teknologi. Undang-undang yang direvisi bertujuan untuk mengekang penyebaran informasi palsu dan melindungi proses pemilu dari ancaman yang muncul.
Namun, kecanggihan dan produksi konten deepfake yang cepat menghadirkan tantangan berkelanjutan bagi otoritas pemilu. Menurut Kim Myuhng-joo, seorang profesor di Seoul Women’s University, kecepatan produksi konten palsu yang meyakinkan jauh melampaui proses verifikasi NEC, sehingga memerangi deepfake secara efektif menjadi tugas yang menakutkan.
Strategi Multifaset
Evolusi konstan teknologi deepfake semakin memperumit upaya deteksi dan mitigasi. NEC telah mengadopsi proses verifikasi bertahap untuk meninjau, menyelidiki, dan menindak konten ilegal, menggarisbawahi perlunya pendekatan multifaset untuk mengatasi masalah ini. Ini termasuk tidak hanya mengandalkan program perusahaan tertentu tetapi juga menerapkan strategi komprehensif yang mencakup protokol verifikasi yang ketat.
Pertempuran melawan deepfake bukan hanya tentang melindungi pemilu tetapi juga tentang mempertahankan prinsip-prinsip dasar demokrasi di era kecerdasan buatan.
