Kemampuan AI untuk menghasilkan konten visual hiperrealistik dapat dengan mudah dimanfaatkan untuk menyebarkan disinformasi, manipulasi opini publik, atau bahkan menciptakan realitas palsu yang mampu mengubah persepsi massa. Bayangkan sebuah video yang seolah menampilkan pernyataan presiden suatu negara, padahal itu hanya hasil prompt teks dari AI. Di sinilah etika pembuatan konten dan transparansi algoritma menjadi sangat penting, dua hal yang saat ini masih belum memiliki standar global yang jelas.
Geoffrey Hinton dan John Hopfield telah mengingatkan bahwa AI yang terlalu kuat tanpa pengawasan dapat menjadi ancaman sosial. Dalam konteks konten visual seperti yang dihasilkan oleh Google Veo 3 atau sistem sejenisnya seperti Sora dari OpenAI, potensi penyalahgunaan menjadi nyata: dari pemalsuan identitas (deepfake), propaganda politik, hingga eksploitasi konten anak atau ujaran kebencian yang dikemas dalam bentuk “kreatif.” Oleh karena itu, bukan hanya regulasi teknologi yang diperlukan, tetapi juga literasi digital masyarakat secara luas, agar tidak terjebak pada jebakan visual yang diproduksi mesin.
Di sisi lain, teknologi semacam ini juga menempatkan tanggung jawab besar di tangan para kreator. Dengan kekuatan semudah mengetik prompt, kini siapa pun bisa menciptakan film, iklan, bahkan dokumenter. Ini memberi ruang demokratisasi kreatif, namun sekaligus membuka peluang terjadinya banjir konten tanpa kontrol kualitas maupun nilai etis. Oleh karena itu, para peraih Nobel menyerukan adanya etika penggunaan AI dalam proses kreatif, sebuah pendekatan yang tidak hanya berfokus pada apa yang bisa dilakukan AI, tetapi juga apa yang seharusnya dilakukan manusia dengan alat tersebut.
Dalam dunia di mana realitas bisa dibentuk ulang hanya lewat teks, kita membutuhkan kompas moral dan hukum yang mampu mengikuti kecepatan teknologi. Tanpa itu, AI bukan lagi sekadar alat bantu, melainkan penentu arah narasi, opini, bahkan sejarah. Inilah tantangan generasi kita: bukan hanya menciptakan AI yang cerdas, tapi juga membangun manusia yang bijak menggunakannya.
Para peraih Nobel dengan tegas mengingatkan bahwa kecerdasan buatan (AI) tidak seharusnya dikembangkan hanya berdasarkan kemampuan teknologinya saja, tetapi juga harus berpijak pada nilai-nilai kemanusiaan. Teknologi seharusnya membantu manusia menjadi lebih adil, bijak, dan merdeka, bukan justru mempersempit kebebasan atau memperkuat ketimpangan. Dalam kata-kata salah satu peraih Nobel, “AI yang tidak dipandu nilai, bisa menjadi alat kekuasaan, bukan alat kemajuan.”
Mereka mengajak dunia untuk bertanya kembali: Apakah AI hari ini benar-benar membuat hidup kita lebih baik? Ataukah diam-diam, teknologi ini justru membuat manusia lebih mudah dikendalikan, lewat konten, iklan, atau informasi yang tampak meyakinkan tapi sebenarnya penuh manipulasi? Sekarang, kita hidup di zaman di mana cukup dengan satu baris teks, mesin bisa membuat video, gambar, atau berita yang tampak nyata.
“Layar di tangan kita bisa jadi jendela ilmu, tapi juga bisa jadi cermin palsu yang menyesatkan,” kata salah satu ilmuwan dengan nada prihatin.
Peringatan ini bukan untuk menakuti, tapi untuk mengajak semua pihak, yaitu pemerintah, pembuat teknologi, dan masyarakat, agar lebih sadar dan bertanggung jawab. AI memang luar biasa, tapi kita tetap harus memastikan bahwa yang paling berkuasa dalam mengambil keputusan tetaplah manusia, bukan mesin.
"Kita sudah berada di titik di mana hal-hal yang dulu dianggap fiksi ilmiah, kini menjadi sains yang nyata. Jarak antara imajinasi dan kenyataan teknologis semakin menyempit dengan sangat cepat. Sistem yang kita bangun bukan lagi sekadar alat pasif, mereka mulai bisa bernalar, beradaptasi, bahkan berkembang dengan cara yang tidak sepenuhnya bisa kita prediksi. Ini bukan masa depan lagi, ini adalah masa kini. Dan justru karena itulah, kita harus sangat berhati-hati."
— Geoffrey Hinton, Bapak AI Dunia