Oleh: Dedi Saputra, Dosen Program Studi Informatika Universitas Bina Sarana Informatika (UBSI)
REPUBLIKA.CO.ID, PONTIANAK -- Klaim OpenAI tentang penurunan “halusinasi” pada ChatGPT terdengar meyakinkan dan justru karena itu perlu dicurigai. Dalam lanskap teknologi, angka-angka perbaikan sering tampil sebagai legitimasi, semakin kecil kesalahan, semakin besar kepercayaan. Namun, dalam kasus AI generatif, hubungan itu tidak pernah linear.
Istilah “halusinasi” sendiri kerap menipu. Ia memberi kesan adanya anomali, seolah kesalahan adalah deviasi dari sistem yang pada dasarnya benar. Padahal, bagi model bahasa besar (large language models/LLM), halusinasi adalah konsekuensi inheren dari cara kerjanya.
Sistem ini tidak mengetahui; ia memprediksi. Ia tidak memverifikasi; ia menggeneralisasi. Dalam kerangka itu, pengurangan halusinasi bukan penghapusan masalah, melainkan sekadar penyesuaian probabilitas.
Di titik inilah ilusi akurasi mulai terbentuk. Ketika tingkat kesalahan menurun, pengguna cenderung meningkatkan kepercayaan secara eksponensial.
Psikologi kognitif menyebut kecenderungan ini sebagai automation bias: manusia lebih mudah menerima output sistem otomatis, terutama ketika sistem tersebut menunjukkan performa yang tampak konsisten. Paradoksnya, semakin baik AI bekerja, semakin kecil pula dorongan untuk mengujinya.
Implikasinya tidak sederhana. Dalam praktik, AI generatif semakin sering digunakan untuk menyusun argumen, merangkum literatur, hingga memberikan rekomendasi keputusan.
Ketika sistem yang bekerja secara probabilistik diperlakukan sebagai otoritas epistemik, kita menghadapi pergeseran mendasar: dari verifikasi menuju delegasi. Kebenaran tidak lagi diuji, melainkan diterima.
ChatGPT Kian Akurat, Sejauh Mana Dunia Pendidikan Dapat Mempercayainya?
Dalam konteks pendidikan tinggi, pergeseran ini sudah mulai tampak. Di ruang-ruang kelas, AI tidak lagi sekadar alat bantu, tetapi perlahan menjadi mediator pengetahuan.
Di Program Studi Informatika Universitas Bina Sarana Informatika (UBSI) Kampus Pontianak, misalnya, mahasiswa mempelajari dasar-dasar kecerdasan buatan, algoritma, dan analisis sistem.
Secara teoritis, mereka memahami bahwa output AI adalah hasil komputasi probabilistik. Namun, dalam praktik sehari-hari, tidak jarang sistem yang sama diperlakukan sebagai sumber jawaban instan.
Kesenjangan antara pemahaman konseptual dan praktik penggunaan ini menunjukkan persoalan yang lebih dalam: literasi teknologi tidak otomatis menghasilkan literasi epistemologis.
Seseorang dapat memahami bagaimana algoritma bekerja, tetapi tetap gagal mempertanyakan validitas hasilnya. Di sinilah pendidikan informatika diuji, bukan hanya sebagai disiplin teknis, tetapi sebagai ruang pembentukan cara berpikir kritis.
Masalahnya, ekosistem digital saat ini justru mendorong arah sebaliknya. Efisiensi menjadi nilai utama. Kecepatan lebih dihargai daripada ketepatan.
Dalam logika ini, AI yang “cukup benar” dianggap memadai. Kesalahan kecil ditoleransi selama tidak mengganggu produktivitas. Namun, akumulasi kesalahan semacam ini berpotensi menciptakan distorsi pengetahuan dalam jangka panjang.
Klaim penurunan halusinasi oleh OpenAI, karenanya, perlu dibaca dalam konteks ini. Ia bukan hanya soal peningkatan teknologi, tetapi juga soal bagaimana perusahaan membentuk persepsi publik.
Angka-angka perbaikan dapat berfungsi sebagai narasi legitimasi—meyakinkan pengguna bahwa sistem semakin dapat dipercaya, meskipun keterbatasan dasarnya tetap ada.
Di sisi lain, komunitas akademik belum sepenuhnya memiliki mekanisme standar untuk menguji klaim tersebut secara independen.
Evaluasi model AI masih sering bergantung pada benchmark internal atau dataset terbatas. Tanpa transparansi metodologi dan akses terhadap evaluasi terbuka, klaim performa berisiko menjadi klaim sepihak.
Dalam konteks Indonesia, persoalan ini diperumit oleh tingkat literasi digital yang belum merata. AI berpotensi memperlebar kesenjangan antara mereka yang memahami keterbatasan teknologi dan mereka yang hanya menggunakannya.
Tanpa intervensi pendidikan yang memadai, AI tidak hanya menjadi alat bantu, tetapi juga sumber otoritas baru yang tidak selalu dapat dipertanggungjawabkan.
Pertanyaan yang kemudian muncul bukan lagi apakah AI semakin akurat, melainkan apakah kita semakin kritis. Sebab, dalam relasi manusia dan teknologi, akurasi bukan satu-satunya variabel. Kepercayaan, pemahaman, dan kontrol tetap menjadi faktor penentu.
Pada akhirnya, problem utama AI generatif bukan pada kesalahannya, tetapi pada cara kita memperlakukan kesalahan tersebut. Selama AI diposisikan sebagai alat bantu, kesalahan dapat dikoreksi.
Namun, ketika ia mulai diperlakukan sebagai sumber kebenaran, kesalahan yang sama berubah menjadi legitimasi. Dalam situasi ini, mungkin yang perlu dipertanyakan bukan seberapa jauh kita bisa mempercayai AI, tetapi seberapa jauh kita masih mau meragukannya.
Ikuti Whatsapp Channel Republika