PojokTIM – Perkembangan teknologi akal imitasi atau kecerdasan buatan (Artificial Intelligence/AI) membawa tantangan baru yang mengerikan bagi tatanan sosial, hukum, dan politik di Indonesia. Salah satu produk AI yang kini kian meresahkan adalah teknologi deepfake, sebuah metode manipulasi digital yang mampu menduplikasi wajah, suara, teks, hingga gestur seseorang agar tampak sangat nyata, padahal sepenuhnya palsu.
Dalam kuliah hukum yang mengupas tuntas digitalisasi dan hukum, Ketua Jagat Sastra Milenia (JSM) Riri Satria menekankan bahwa deepfake bukan lagi sekadar eksperimen ilmiah grafika komputer seperti era 1990-an, melainkan telah bertransformasi menjadi alat kejahatan siber yang masif.
“Deepfake berasal dari gabungan kata deep learning atau metode belajar mandiri mesin AI, dan fake atau palsu,” ujar Riri yang juga dosen Fakultas Ilmu Komputer Universitas Indonesia (UI), di ruang diskusi Akademi Jakarta, Lt 14 Gedung Ali Sadikin, Taman Ismail Marzuki, Sabtu (30/5/2026). .
Kuliah umum tersebut merupakan rangkaian kegiatan peluncuran empat buku terbaru karya Riri Satria. Selain anggota JSM, kegiatan itu juga dihadiri sastrawan dan anggota Dewan Kesenian Jakarta (DKJ).
Ditambahkan Riri, teknologi deepfake bekerja dengan cara pengumpulan data massal, di mana sistem AI dilatih menggunakan ribuan data berupa foto, video, rekaman suara, ekspresi wajah, hingga pola bahasa target. Setelah mempelajari pola tersebut, AI dapat memproduksi simulasi visual atau audio baru dengan tingkat kemiripan yang sangat tinggi.
“Pengguna media sosial yang sering mengunggah foto atau suara di platform seperti Instagram dan Facebook menjadi target yang paling rentan dimanipulasi,” tegas Riri.
Komisaris Utama PT Integrasi Logistik Cipta Solusi itu memaparkan lima dampak deepfake bagi masyarakat, baik yang sudah maupun yang akan terjadi.
Pertama, penipuan finansial dan ekonomi. Deepfake audio (peniruan suara) kini digunakan untuk membobol sistem keamanan korporasi. Narasumber membagikan kisah nyata rekan sejawatnya yang kehilangan uang hingga Rp129 juta akibat kiriman suara palsu yang meniru instruksi direktur perusahaan untuk mentransfer sejumlah dana.
Kedua, eksploitasi seksual dan kebocoran data anak. Salah satu penyalahgunaan deepfake terbesar di dunia digital saat ini adalah pornografi palsu (non-consensual deepfake pornography). Wajah seseorang, termasuk anak-anak atau remaja, bisa ditempelkan pada video asusila oleh orang yang tidak bertanggung jawab. Dalam beberapa kasus, teknologi ini juga digunakan sebagai alat balas dendam mantan kekasih atau pemerasan.
Ketiga, krisis kepercayaan sosial dan hukum. Teknologi deepfake mengaburkan batas antara fakta dan simulasi. Akibatnya, masyarakat mengalami krisis kepercayaan. Sisi bahayanya pun berlipat.
“Saking banyaknya deepfake, nantinya kejadian nyata yang benar-benar terjadi justru dianggap rekayasa atau palsu oleh masyarakat. Hal ini juga mempersulit pembuktian alat bukti video dan audio di ranah hukum,” terang Riri.
Keempat, ancaman polarisasi politik menuju Pemilu 2029. Indonesia diprediksi akan menghadapi puncak serangan hoaks deepfake pada 2028–2029, bertepatan dengan momentum pemilu serentak, mulai dari pilkada hingga pilpres. Teknologi ini sangat rawan digunakan oleh aktor politik untuk memalsukan pidato pejabat, menyebarkan sentimen negatif, hingga merekayasa isu konflik antarsuku demi memecah belah opini publik.
“Saya berharap teman-teman seniman tidak ikut-ikutan menyebarkan video hasil deepfake,” pesan Riri.
Kelima, disrupsi industri seni. Bintang film diprediksi akan hilang, digantikan oleh teknologi deepfake. Meskipun ada dampak positif, seperti visualisasi konser tribute band Queen yang menghidupkan kembali mendiang Freddie Mercury, teknologi aktor virtual diproyeksikan akan mengancam industri seni peran. Profesi bintang film diperkirakan secara perlahan akan hilang dalam kurun waktu 15 tahun ke depan, digantikan oleh avatar digital komersial.
Untuk mengantisipasi ledakan deepfake, Riri mengimbau masyarakat agar berpikir kritis dan selalu mencari rujukan untuk memastikan keaslian suatu informasi. Masyarakat juga diminta tidak langsung percaya pada bukti foto atau video yang beredar di media sosial, terutama yang menyangkut tokoh publik atau transaksi keuangan, tanpa melakukan klarifikasi dan verifikasi ketat dari sumber yang tepercaya.
Sebab, jika terjadi kasus, penyelesaiannya secara hukum masih menghadapi berbagai kendala. Saat ini perangkat hukum yang tersedia belum menjangkau wilayah deepfake, baik dalam Undang-Undang Informasi dan Transaksi Elektronik maupun KUHP yang baru.
“Hukum sering kali tertinggal di belakang pesatnya laju teknologi. Karena mendeteksi deepfake membutuhkan sistem AI detektor yang juga rumit, benteng pertahanan terbaik saat ini ada pada pengguna internet itu sendiri,” tegas Riri.
Riri Satria didampingi Ketua Panitia Nunung El Niel. Foto: PojokTIM
Ancaman bagi Sastra
Deepfake juga menjadi ancaman serius terhadap karya sastra. Salah satunya adalah dengan hadirnya karya-karya baru yang seolah-olah dibuat oleh penyair besar yang sudah meninggal dunia.
“Bayangkan jika tiba-tiba muncul puisi baru yang diklaim sebagai karya Chairil Anwar yang baru ditemukan. Itu baru contoh sederhana,” kata Riri.
Terlebih saat ini sedang terjadi apa yang sebut sebagai co-creation di mana manusia menciptakan ide, AI mengekseskusi dan finalsiasinya oleh manusia lagi.
“Saat ini UI memperbolehkan karya ilmiah dibantu dengan AI dengan catatan harus ada diclaimer yang menyebutkan bagian tertentu dibantu AI sekian persen. Nah, apakah hal itu juga akan berlaku di dunia sastra? Biar nanti lembaga seperti DKJ yang merumuskan,” tutup Riri.
Acara yang dipandu Rissa Churria juga dimeriahkan pembacaan puisi oleh Nyapu, Abimanyu dan Diana Prima Resmana, Shantined, Emy Suy, Irzi serta Aquino Hayunta.
