Peringatan Peraih Nobel: AI Bisa Jadi Ancaman Global, Melalui kekuatan Semudah Mengetik Prompt?

Written By: Zaid Amin, Ph.D.

(Dosen Teknk Informatika, Universitas Bina Darma).

Spesialis di bidang Human-Computer Interaction (HCI) dan Teknologi Persuasif [email protected].

 “Sebuah dunia yang mengabaikan nasihat dari para pemikir terdalamnya adalah dunia yang sedang bermain api di tengah padang rumput kering.”

Dalam peringatan yang semakin menggema di kalangan ilmuwan dunia, para peraih Hadiah Nobel tahun 2024 menyampaikan kekhawatiran serius terhadap perkembangan kecerdasan buatan/Artificial Intelligence (AI)  yang dinilai “berpotensi lepas kendali.”

Geoffrey Hinton dan John Hopfield, dua ilmuwan yang sangat dihormati atas kontribusinya dalam pengembangan jaringan saraf buatan, dianugerahi Nobel Fisika tahun ini. Namun, dalam berbagai kesempatan, keduanya mengungkapkan rasa was-was atas arah yang dituju oleh teknologi yang mereka ciptakan.

Geoffrey Hinton, yang dijuluki “Godfather of AI”, menyatakan bahwa kecanggihan AI modern dapat membawa risiko yang belum pernah dihadapi umat manusia sebelumnya. Menurutnya, AI saat ini mampu belajar, menyesuaikan diri, dan bahkan menciptakan solusi baru tanpa campur tangan manusia secara langsung.

Hal ini, kata Hinton, membuka kemungkinan terjadinya kehilangan kendali atas sistem yang lebih pintar dari penciptanya. Ia menegaskan bahwa AI bukan lagi sekadar alat, tetapi bisa menjadi entitas yang memengaruhi keputusan besar dalam hidup manusia, mulai dari keuangan, politik, hingga keamanan nasional.

 

John Hopfield, rekan sesama penerima Nobel Fisika, menyamakan kemajuan AI dengan penemuan fisi nuklir pada abad ke-20. Menurutnya, seperti halnya energi nuklir yang membawa manfaat besar namun juga ancaman luar biasa, AI memiliki sisi gelap yang harus diantisipasi sejak dini.

Hopfield termasuk di antara tokoh sains yang menandatangani surat terbuka internasional yang menyerukan penghentian sementara pengembangan AI tingkat lanjut sampai ada kerangka hukum dan etika global yang memadai.

Sementara itu, Demis Hassabis, CEO DeepMind dan peraih Nobel Kimia 2024 bersama John Jumper, memperingatkan bahwa kecerdasan buatan umum/ Artificial General Intelligence (AGI), sebuah bentuk AI yang memiliki kemampuan berpikir luas layaknya manusia, dapat terwujud dalam waktu kurang dari sepuluh tahun.

 

Ia menyampaikan bahwa generasi muda perlu menyiapkan diri, tidak hanya dari sisi keahlian teknologi, tetapi juga dari sisi kesiapan moral dan sosial untuk menghadapi dunia yang akan berubah secara radikal akibat kehadiran AGI.

Sumber: