Stephen Hawking Mengatakan Kecerdasan Buatan Bisa ‘Menghancurkan’ Kemanusiaan
File Foto – Sebuah robot dari film ditampilkan untuk pemutaran perdana film Terminator 3 “Rise of the Machines” 30 Juni 2003 di Los Angeles Barat. (REUTERS/Mike Blake)
Kecerdasan buatan dapat mengesampingkan dan “menghancurkan” pencipta manusia jika para insinyur tidak dapat memahami etika di baliknya, Stephen Hawking telah memperingatkan.
Berbicara pada Web Summit di Lisbon, ahli fisika teoritis tersebut mengatakan bahwa AI berpotensi menjadi hal terbaik atau terburuk yang pernah dilihat umat manusia dan kenyataan menakutkannya adalah kita belum mengetahui yang mana.
“Kita tidak dapat mengetahui apakah kita akan sangat terbantu oleh AI atau diabaikan dan dikesampingkan olehnya, atau mungkin dihancurkan olehnya,” ujarnya.
Profesor Cambridge tersebut mengatakan bahwa meskipun AI bisa sangat bermanfaat dalam mengurangi kemiskinan, penyakit, dan memulihkan lingkungan alam, namun mustahil untuk memprediksi “apa yang bisa kita capai jika pikiran kita diperkuat oleh AI”.
“AI bisa menjadi penemuan terburuk dalam sejarah peradaban kita, membawa bahaya seperti senjata otonom yang kuat atau cara baru bagi segelintir orang untuk menindas banyak orang.”
“AI dapat mengembangkan kemauannya sendiri, kemauan yang bertentangan dengan keinginan kita dan dapat menghancurkan kita. Singkatnya, kebangkitan AI yang kuat akan menjadi hal terbaik atau terburuk yang pernah terjadi pada umat manusia.”
Ketika berbicara kepada para insinyur dan pekerja teknologi yang berada di garda depan pengembangan AI, Hawking memperingatkan bahwa mereka harus fokus pada memaksimalkan manfaat bagi masyarakat, bukan pada kemampuan semata.
“Kita harus menerapkan manajemen yang efektif di semua bidang pengembangannya,” katanya. “Kita berada di ambang dunia baru yang penuh tantangan. Ini adalah tempat yang menarik namun penuh ketidakpastian dan Anda adalah pionirnya.”
Pidato tersebut menjadi latar pembicaraan selama tiga hari antara para pemimpin teknologi, bisnis, dan pemerintah terkemuka yang bergulat dengan implikasi etis dari segala hal mulai dari mobil tanpa pengemudi hingga boneka seks.
Paddy Cosgrove, pendiri Web Summit, menyebut persimpangan teknologi saat ini sebagai “titik perubahan yang terjadi sekali dalam beberapa masa kehidupan”. Pembicara terkemuka termasuk Sekretaris Jenderal PBB Antonito Guterres dan Komisaris Kompetisi Uni Eropa Margarethe Vestager juga hadir pada hari Senin, bergabung dalam seruan untuk pendekatan etis yang mengurangi kesenjangan.
Pendiri Kernel, Bryan Johnson, yang menggelontorkan $100 juta ke perusahaannya untuk “meretas otak manusia”, setuju bahwa kita sedang berada di titik puncak “revolusi paling penting dalam sejarah umat manusia”.
“Masa depan seperti badai kategori 5 yang akan berdampak besar pada kita. Satu-satunya hal terbesar yang dapat kita lakukan sebagai suatu spesies adalah meningkatkan kemampuan beradaptasi kita terhadap perubahan,” katanya.
Komisioner kompetisi Uni Eropa, Vestager, yang mendenda Apple sebesar $19 miliar atas pajak yang belum dibayar di Irlandia dan Google sebesar $3,6 miliar karena merugikan pihak lain dengan algoritmanya, mengatakan tantangan terbesar bagi pemerintah adalah mengembangkan alat untuk mengikuti laju perubahan yang cepat.
“Kita perlu mengambil kembali demokrasi kita dan memperbaruinya karena masyarakat adalah tentang manusia dan bukan tentang teknologi,” katanya. “Anda tidak bisa hanya mengatakan apa yang terjadi di kotak hitam, tetaplah di dalam kotak hitam.”
