REPUBLIKA.CO.ID, JAKARTA -- Ketua Presidium Masyarakat Anti Fitnah Indonesia (Mafindo) Septiaji Eko Nugroho mengatakan video deepfake Menteri Keuangan (Menkeu) Sri Mulyani Indrawati yang seolah-olah mengatakan "guru itu beban negara" membuktikan betapa mudahnya konten palsu mengadu domba dan merusak tatanan sosial. Dia mengatakan video itu menyebar dengan sangat cepat, menjangkau jutaan orang dalam waktu singkat, dan memicu kemarahan publik yang meluas.
Keabsahan video tersebut hanya bisa dikonfirmasi secara pasti dengan menggunakan alat deteksi khusus. "Jangan sampai kita menjadi korban adu domba pihak yang tidak bertanggungjawab yang mengeksploitasi celah pengetahuan di era AI ini," kata Septiaji di Jakarta, Rabu (27/8/2025).
Menurut dia, dengan kemampuan berpikir kritis sejak dini, pemerintah dan masyarakat mampu mengatasi akar masalah penyebaran hoaks.
Ketika ranah digital semakin memudarkan batas antara realitas dan rekayasa, menurut dia, ancaman intoleransi, radikalisme, dan terorisme menemukan lahan subur untuk tumbuh. Kemajuan teknologi terutama konten kecerdasan buatan (AI), tidak hanya membawa manfaat, tetapi juga membuka celah baru yang dieksploitasi untuk menyebarkan kebencian.
"Konten semacam ini dapat berupa narasi yang dibuat-buat, gambar yang dimanipulasi, atau video deepfake yang meniru tokoh-tokoh terkemuka. Penyalahgunaan ini memperlebar jurang pasca-kebenaran (post-truth)," kata dia.
Dia menilai teknologi AI telah menjadi "senjata" baru dalam perang informasi. Teknologi AI, khususnya Gen-AI, saat ini tumbuh pesat dengan kemampuan untuk membuat konten yang sangat meyakinkan dan mudah disebarkan.
"Ini berarti emosi dan keyakinan pribadi lebih diutamakan daripada fakta. Konsekuensinya, menjadi semakin sulit bagi masyarakat untuk membangun kepercayaan terhadap ekosistem informasi yang kredibel," katanya.
Menurut dia, akar masalahnya terletak pada rendahnya kualitas literasi digital masyarakat Indonesia. Mereka yang memiliki literasi digital yang kurang cenderung sulit membedakan antara informasi yang benar dan palsu, apalagi jika konten tersebut dibuat dengan teknologi AI yang canggih.
Hal ini, kata dia, membuat mereka rentan terpengaruh dan bahkan menjadi penyebar konten yang merusak. Masyarakat juga mungkin tidak menyadari bagaimana AI dapat dimanipulasi untuk menyebarkan narasi kebencian atau disinformasi.
Karena itu dia menilai, peningkatan literasi digital, termasuk kemampuan untuk membedakan antara konten otentik (buatan manusia) dan sintetik (rekayasa Gen-AI), harus menjadi prioritas bersama.
Untuk menghadapi tantangan ini, pihaknya tidak hanya mengandalkan teknologi, tetapi juga kembali pada kearifan lokal. Ia pun mengajak masyarakat untuk meningkatkan "resiliensi" terhadap paparan polusi informasi dengan membangun sikap kritis dan skeptis.
Menurut dia, Mafindo menggunakan berbagai perangkat lunak untuk memeriksa konten, seperti Hivemoderation, Sightengine, Deepfake-O-Meter, hingga detektor AI yang disediakan oleh platform seperti Elevenlabs AI Detector dan Google SynthID Detector. Selain itu, strategi yang diajukan Mafindo untuk menangkal narasi disintegrasi berpusat pada pembangunan gerakan yang didasari oleh konsep guyub atau komunal.
Pendekatan ini menyatukan berbagai pemangku kepentingan, seperti Pemerintah, kepolisian, tokoh agama dan komunitas, akademisi, dan warga negara, untuk membentuk ekosistem anti-hoaks yang kolaboratif dan saling terhubung. Dengan cara ini, masyarakat tidak hanya menjadi konsumen informasi yang pasif, tetapi juga agen aktif dalam melawan hoaks.
"Usaha bersama Pemerintah dan masyarakat tidak hanya efektif dalam memerangi hoaks, tetapi juga secara implisit mampu membangun benteng yang kokoh terhadap ideologi yang memecah belah seperti intoleransi dan radikalisme,” katanya.
View this post on Instagram
Ikuti Whatsapp Channel Republika