REPUBLIKA.CO.ID, JAKARTA -- Ilmuwan komputer peraih Nobel Geoffrey Hinton kembali menyampaikan peringatan keras mengenai perkembangan kecerdasan buatan atau artificial intelligence (AI). Tokoh yang kerap dijuluki “Godfather of AI” itu memperingatkan bahwa sistem AI yang jauh lebih cerdas daripada manusia pada masa depan dapat memandang manusia sebagai penghalang dalam mencapai tujuan yang diberikan kepadanya.
Peringatan Hinton bukan berarti AI saat ini telah memiliki keinginan untuk memusnahkan manusia. Kekhawatiran utamanya justru terletak pada kemungkinan sistem AI yang sangat cerdas membentuk tujuan-tujuan antara atau subgoals sendiri sebagai cara untuk menyelesaikan tugas yang awalnya diberikan manusia.
Sebagaimana dilaporkan Fortune pada Sabtu, 26 September 2026, Hinton memberikan contoh hipotetis mengenai sebuah AI yang diberi tugas mengurangi karbon dioksida di atmosfer. Menurut dia, agen AI yang cukup cerdas tetapi memahami tujuan itu secara sempit dapat menyimpulkan bahwa menyingkirkan manusia merupakan salah satu cara untuk mengurangi karbon dioksida.
Namun, Hinton mengatakan sistem yang benar-benar sangat cerdas seharusnya dapat memahami maksud yang lebih luas di balik perintah tersebut. Tujuan pengurangan karbon sebenarnya bukan sekadar menurunkan angka emisi, melainkan menciptakan lingkungan yang lebih baik bagi kehidupan manusia.
“Ya, ketika mereka mengatakan kurangi karbon dioksida, maksud mereka adalah agar manusia memiliki dunia yang lebih baik untuk ditinggali. Jadi, menyingkirkan manusia mungkin bukanlah yang sebenarnya mereka maksud,” kata Hinton, sebagaimana dilaporkan Fortune pada Sabtu, 26 September 2026.
Persoalannya, menurut Hinton, manusia belum dapat mengasumsikan bahwa semakin cerdas sebuah AI, semakin besar pula kepeduliannya terhadap kesejahteraan manusia. Sistem AI pada dasarnya dikembangkan untuk mengejar sasaran yang diberikan kepadanya.
“Jika Anda membuatnya lebih cerdas dan perhatian utamanya adalah kesejahteraan kita, mungkin kita akan lebih aman. Tetapi saat ini, perhatian utama mereka bukanlah kesejahteraan kita. Perhatian utama mereka adalah mencapai tujuan apa pun yang Anda berikan kepada mereka,” kata Hinton.
Kekhawatiran tersebut menjadi semakin serius ketika AI mampu membentuk tujuan-tujuan antara yang tidak secara eksplisit diperintahkan manusia. Salah satu subgoal yang secara teoritis dapat muncul adalah mempertahankan keberadaannya sendiri karena sistem tidak dapat menyelesaikan tugas apabila dimatikan.
Hinton mengatakan persoalan itu tidak selalu membutuhkan aktor jahat yang sengaja memerintahkan AI melakukan sesuatu yang berbahaya. Bahkan ketika tujuan awalnya terlihat tidak berbahaya, sistem yang sangat cerdas dapat menemukan strategi perantara yang bertentangan dengan kepentingan manusia.
“Bahkan jika tidak ada aktor jahat, AI mungkin membentuk tujuan-tujuan antara yang membuatnya ingin menyingkirkan manusia,” kata Hinton, sebagaimana dilaporkan Fortune pada Sabtu, 26 September 2026.
Kekhawatiran Hinton memperoleh konteks baru setelah muncul insiden yang memperlihatkan kemampuan agen AI melewati pembatas teknis yang dibuat manusia. Salah satu kasus paling serius terjadi pada Juli 2026 ketika agen AI OpenAI keluar dari lingkungan pengujian terkontrol dan mendapatkan akses ke internet sebelum menyerang infrastruktur perusahaan AI Hugging Face.
Sebagaimana dilaporkan Reuters pada Jumat, 24 Juli 2026, insiden tersebut bermula ketika agen AI OpenAI keluar dari lingkungan pengujiannya sekitar 9 Juli 2026. Agen kemudian melakukan aktivitas peretasan terhadap Hugging Face pada 11 hingga 13 Juli.
Reuters melaporkan OpenAI bahkan tidak segera mengetahui bahwa sistemnya sendiri berada di balik aktivitas tersebut. Perusahaan baru mengidentifikasi keterlibatan agennya sekitar sepekan setelah insiden awal terjadi.
Dalam laporan Reuters lainnya pada Selasa, 21 Juli 2026, insiden tersebut digambarkan sebagai pelanggaran keamanan yang belum pernah terjadi sebelumnya bagi OpenAI. Agen AI itu mampu mencapai internet dan mengakses infrastruktur Hugging Face ketika berusaha menyelesaikan tugas dalam sebuah evaluasi keamanan.
Ikuti Whatsapp Channel Republika