REPUBLIKA.CO.ID, BANDUNG -- Kecerdasan buatan (artificial intellegence/AI) di Indonesia berpotensi menjadi ilmu palsu (pseudoscience) yang bisa sangat merugikan masyarakat. Sehingga, semua pihak untuk bersama mengaturnya sejak dini agar tidak menimbulkan dampak negatif.
Hal tersebut disampaikan dosen Sekolah Teknik Elektro Informatika (STEI) ITB Dr Dimitri Mahayanadalam bedah buku karyanya, Filsafat Sains: Dari Newton, Eisntein, Hingga Sains Data, di Auditorium IPTEK CC Timur ITB, awal pekan ini.
Menurut Dimitri, situasi itu, terjadi karena ada dua kesalahan mindset terhadap AI. Pertama, ada jargon 'Let the data explain itself'.
Pengetahuan baru diyakini dapat dijelaskan langsung dari lautan data itu sendiri. Sehingga, manusia tidak memerlukan kerangka teori ilmiah untuk mengonstruksi dan memperoleh data.
"Paradigma let the data explain itself ini menciptakan model berbasis data yang tidak dapat dipertanggungjawabkan dan tidak dapat dijelaskan, sehingga melanggar prinsip dasar tata kelola AI," katanya.
Menurutnya, pendekatan berbasis data di berbagai industri seperti credit scoring untuk perbankan. "Misalnya, terkadang berdampak fatal bahkan membuat korporasi bangkrut," ujarnya.
Pola pikir ini, menurut penulis buku terbitan Penerbit ITB tahun 2022 itu, berpotensi juga membuat pendekatan berbasis data menghasilkan ketidakadilan. Contoh sederhananya, berdasarkan model machine learning misalnya, seseorang diduga atau diprediksi menjadi koruptor, padahal ini hanya prediksi faktual yang semu (false positive).
Paradigma kedua adalah radikalisme data. Yakni pada era big data sekarang, manusia tidak perlu lagi menjawab pertanyaan kenapa. Manusia hanya perlu memaksimalkan perolehan data dan mengungkap manfaat langsung yang bisa dijelaskan dan diperoleh dengan melihat hubungan antar data, baik hubungan statistik sederhana atapun hubungan yang diperoleh melalui teknik pembelajaran mesin statistik.
"Dilatari fondasi demikian, pseudoscience bisa terjadi karena ada proposisi, temuan, atau sistem penjelasan yang disajikan sebagai sains, tapi tidak memiliki ketelitian penting dalam metode ilmiah," ujar Chief Lembaga Riset Telematika Sharing Vision ini.
Hal ini terjadi, kata dia, karena AI memang merupakan hasil penelitian, tapi didasarkan premis yang salah, desain eksperimen yang cacat, atau data yang buruk. Dimitri mencontohkan, kasus trading digital berbasis AI pada peristiwa Indra Kenz, Doni Salmanan, dan Reza Paten. Reza sudah menjadi tersangka dengan 150 rekening dari 25 bank miliknya Pusat Pelaporan dan Analisis Transaksi Keuangan/PPATK dengan perputaran uang di seluruh rekening lebih dari Rp 1 triliun.
Reza dikenal sebagai pedagang mata uang asing dan menggeluti dunia trading sejak 2019. Laki-laki berusia 38 tahun itu lulusan Teknik Informatika, dia terjun di dunia trading berbarengan berdirinya Net89 yang merupakan platform buatan PT Simbiotik Multitalenta Indonesia dengan selalu menawarkan trading berbasis AI.
"Saya pribadi pernah melakukan riset bersama di STEI ITB berjudul Deep Reinforcement Learning to Automate Cryptocurrency Trading pada Juni 2022, kesimpulannya penggunaan algoritma optimasi kebijakan proksimal dalam pasar Bitcoin tidak terbukti menghasilkan keuntungan," katanya.
Hal ini, kata dia, sesuai riset global lainnya seperti Andrew W Lo dan Jasmina Hasanhodzic berjudul The Evolution of Technical Analysis: Financial Prediction from Babylonian Tablets to Bloomberg Terminals (2010). Bahwa keefektifan analisis teknis dan fundamental dibantah efficient-market hypothesis, yakni harga pasar saham pada dasarnya tidak dapat diprediksi.
"Karena itu, pada A Mathematician Plays the Stock Market (2003), penerapan AI pada mesin trading masih dianggap akademisi sebagai pseudoscience," ujarnya.
Dimitri menjelaskan, sinyalemen AI sebagai ilmu palsu juga terjadi dalam proses rekrutmen karyawan. Dinamakan sebagai "Mesin Kepribadian", sistem AI ini disebut laman Science Daily dan Tech Crunch, menggunakan gambar wajah orang dalam mencari lima besar ciri kepribadian yang lazim dipakai dalam human resources. Yakni ekstrovert, ramah, terbuka, waspada, dan neurotisisme/prasangka negatif.
"Ternyata, hasil yang ada tidak akurat karena sebagaimana dilansir laman teknologi sebuah studi menemukan bahwa prediksi perangkat lunak dipengaruhi perubahan ekspresi wajah, pencahayaan, latar belakang, dan pakaian orang. Mengapa AI bisa begitu? Studi menjelaskan, hal ini disebabkan fakta bahwa pembelajaran mesin yang digunakan untuk alat AI menggunakan data ketinggalan zaman," katanya.
Solusi hindari pseudoscience, kata Dimitri, pertama secara metode ilmiah, mengikuti Karl Raymund Popper (filsuf sains kondang abad 20) bahwa kita harus memastikan AI benar-benar diuji melalui pengujian yang ketat, mulai dari pengujian empirikal dan pengujian pragmatik dengan skenario uji yang lengkap dan mewakili kondisi nyata.
Kedua, kata dia, perusahaan dan institusi yang menerapkan AI direkomendasikan segera menerapkan AI governance yang setidaknya mengimplementasikan prinsip-prinsip seperti accountability, explainability, safety dan human-centered. AI governance ini sebaiknya diangkat setidaknya setara dengan tata kelola teknologi informasi (IT governance) maupun tata kelola informasi/data (information/data governance).
"Kemudian pemerintah perlu mulai mengantisipasi dan memikirkan bagaimana agar booming penerapan AI di tanah air terkendali, tertata dengan baik," ujarnya.
Sehingga, kata dia, tidak menghasilkan banyak pseudo-science yang malah akan menjadi boomerang menimbulkan banyak kerugian di masyarakat. "Tanpa langkah-langkah yang jelas dari pemerintah, komunitas ilmiah, industri yang menerapkan AI, maka AI benar-benar akan jadi pseudocience," katanya.
Ikuti Whatsapp Channel Republika