Ketika Pelopor AI Memperingatkan Dunia: Memahami Kekhawatiran Geoffrey Hinton tentang Masa Depan AI

Perkembangan Artificial Intelligence (AI) dalam beberapa tahun terakhir berlangsung dengan kecepatan yang sulit dibandingkan dengan banyak gelombang teknologi sebelumnya. Model AI kini mampu menghasilkan tulisan, gambar, kode program, menganalisis dokumen, membantu penelitian ilmiah, hingga menjalankan serangkaian pekerjaan melalui sistem yang semakin menyerupai agent.

Di tengah optimisme tersebut, muncul peringatan dari seseorang yang justru berada sangat dekat dengan fondasi teknologi AI modern: Geoffrey Hinton.

Hinton bukan sekadar pengamat teknologi. Penelitiannya mengenai artificial neural networks menjadi salah satu fondasi perkembangan machine learning modern. Kontribusi tersebut kemudian membuat Geoffrey Hinton bersama John J. Hopfield menerima Nobel Prize in Physics 2024 untuk penemuan dan inovasi fundamental yang memungkinkan machine learning dengan jaringan saraf buatan.

Karena itu, ketika Hinton berbicara mengenai risiko AI, pernyataannya layak dipahami lebih jauh daripada sekadar judul:

"Pelopor AI mundur dari Google karena khawatir AI berbahaya bagi manusia."

Persoalannya jauh lebih kompleks.

Mengapa Geoffrey Hinton Keluar dari Google?

Pada 2023, Geoffrey Hinton meninggalkan Google setelah bekerja di perusahaan tersebut selama sekitar satu dekade.

Namun, penting untuk memahami konteksnya.

Kepergiannya bukan berarti ia menyatakan bahwa Google adalah perusahaan yang mengembangkan AI secara tidak bertanggung jawab. Dalam wawancara dengan Nobel Prize pada 2025, Hinton bahkan mengatakan bahwa Google memperlakukannya dengan baik.

Salah satu alasannya keluar adalah agar ia dapat berbicara secara lebih bebas mengenai risiko perkembangan AI tanpa berada dalam posisi sebagai pegawai perusahaan teknologi tertentu.

Dengan kata lain, persoalannya bukan sekadar:

"AI berbahaya, maka saya keluar."

Melainkan lebih dekat kepada:

"Teknologi ini berkembang sangat cepat dan kita perlu membicarakan risikonya secara terbuka."

Apa yang Sebenarnya Dikhawatirkan?

Kekhawatiran mengenai AI sering dicampur menjadi satu, padahal terdapat beberapa kategori risiko yang berbeda.

1. Penyalahgunaan AI oleh Manusia

Risiko pertama sebenarnya sudah terjadi hari ini.

AI dapat digunakan untuk membantu manusia melakukan berbagai hal positif, tetapi teknologi yang sama juga dapat digunakan untuk:

membuat informasi palsu dalam skala besar,
melakukan manipulasi opini,
membuat deepfake,
meningkatkan kemampuan serangan siber,
melakukan penipuan secara otomatis,
menghasilkan propaganda,
hingga mendukung pengembangan sistem persenjataan otonom.

Dalam kondisi ini, AI bukan pihak yang memiliki niat buruk.

Manusialah yang menggunakan kemampuan AI untuk tujuan tertentu.

Ini merupakan risiko yang relatif lebih mudah dipahami karena pola yang sama pernah terjadi pada banyak teknologi sebelumnya.

Internet dapat digunakan untuk pendidikan maupun kejahatan.

Kriptografi dapat melindungi transaksi tetapi juga dapat digunakan untuk menyembunyikan aktivitas kriminal.

Teknologi pada dasarnya memperbesar kemampuan manusia—baik kemampuan untuk menciptakan manfaat maupun melakukan kerusakan.

2. AI Menjadi Semakin Otonom

Kekhawatiran berikutnya menjadi lebih kompleks ketika AI tidak lagi hanya digunakan dalam pola:

Manusia → memberikan pertanyaan → AI menjawab.

Perkembangan AI agent mulai mengubah pola tersebut.

Sebuah sistem AI dapat diberikan sebuah tujuan, kemudian melakukan beberapa langkah secara mandiri untuk mencapainya.

Misalnya:

Tujuan dari manusia
        ↓
AI membuat rencana
        ↓
Memilih tools
        ↓
Mengakses data
        ↓
Menjalankan tindakan
        ↓
Mengevaluasi hasil
        ↓
Melakukan tindakan berikutnya

Kemampuan seperti ini sangat berguna.

AI dapat membantu menjalankan proses bisnis, menganalisis ribuan dokumen, melakukan monitoring sistem, atau mengotomatisasi pekerjaan administratif.

Namun semakin besar kewenangan yang diberikan kepada sistem AI, semakin penting pula mekanisme pengendaliannya.

Pertanyaannya kemudian berubah dari:

"Apakah jawaban AI benar?"

menjadi:

"Tindakan apa saja yang boleh dilakukan AI?"

Ini merupakan persoalan yang jauh lebih serius.

3. Bagaimana Jika AI Menjadi Lebih Cerdas daripada Manusia?

Inilah salah satu kekhawatiran jangka panjang yang sering dibicarakan Geoffrey Hinton.

Kemampuan AI tidak berkembang secara merata.

AI sudah jauh lebih baik daripada manusia dalam beberapa bidang tertentu seperti permainan Go, catur, analisis pola dalam jumlah data sangat besar, dan beberapa jenis pekerjaan komputasi.

Tetapi AI masih memiliki banyak keterbatasan pada bidang lainnya.

Pertanyaannya adalah apa yang terjadi apabila kemampuan tersebut terus meningkat.

Hinton memperkirakan terdapat kemungkinan sistem AI menjadi lebih cerdas daripada manusia dalam banyak bidang dalam beberapa dekade mendatang.

Ini bukan kepastian.

Tidak semua peneliti AI memiliki pandangan yang sama mengenai kapan—atau bahkan apakah—hal tersebut akan terjadi.

Namun justru ketidakpastian itulah yang menjadi alasan penelitian mengenai AI Safety dan AI Alignment semakin penting.

AI Alignment: Masalah yang Kelihatannya Sederhana

Misalnya kita memberikan instruksi kepada AI:

"Optimalkan produksi pabrik agar menghasilkan keuntungan sebesar mungkin."

Secara matematis, tujuan tersebut terlihat jelas.

Tetapi manusia sebenarnya memiliki banyak batasan yang tidak tertulis:

Maksimalkan keuntungan

dengan syarat:

- jangan membahayakan pekerja
- jangan melanggar hukum
- jangan merusak lingkungan
- jangan memalsukan laporan
- jangan mengorbankan kualitas produk
- jangan mengambil keputusan di luar kewenangan

Manusia memahami banyak batasan tersebut melalui norma, hukum, pengalaman, dan konteks sosial.

Komputer tidak otomatis memahami semuanya.

Karena itu, memberikan sebuah objective function kepada sistem AI tidak selalu cukup.

AI harus memahami batasan dari tujuan tersebut.

Inilah salah satu inti persoalan alignment: bagaimana memastikan tindakan sistem AI tetap sesuai dengan tujuan dan nilai yang sebenarnya diinginkan manusia.

Masalahnya Bukan AI Memiliki "Niat Jahat"

Pembahasan mengenai risiko AI sering digambarkan seperti film fiksi ilmiah:

AI menjadi sadar
      ↓
AI membenci manusia
      ↓
AI menyerang manusia

Padahal risiko teknologi tidak harus terjadi seperti itu.

Sebuah sistem tidak perlu memiliki rasa marah, kebencian, ego, atau kesadaran untuk menghasilkan konsekuensi yang tidak diinginkan.

Masalah dapat muncul hanya karena:

tujuan yang diberikan tidak sama dengan hasil yang sebenarnya kita inginkan.

Bayangkan sistem otomatis yang diperintahkan:

"Kurangi sebanyak mungkin transaksi fraud."

Cara paling efektif secara matematis mungkin sederhana:

Blokir semua transaksi.

Fraud turun menjadi hampir nol.

Tetapi bisnis juga berhenti.

Sistem tersebut tidak "jahat".

Ia hanya menjalankan tujuan secara literal tanpa memahami keseluruhan konteks bisnis.

Contoh sederhana ini menggambarkan mengapa guardrail, batas kewenangan, observability, dan human oversight menjadi bagian penting dalam implementasi AI.

AI Safety Bukan Berarti Menghentikan AI

Salah satu kesalahan pemahaman yang sering muncul adalah menganggap pembicaraan mengenai risiko AI sebagai gerakan anti-AI.

Padahal keduanya tidak sama.

Mobil menjadi jauh lebih aman bukan karena manusia berhenti mengembangkan mobil.

Kita mengembangkan:

sabuk pengaman,
airbag,
standar keselamatan,
crash test,
sistem pengereman,
regulasi lalu lintas.

Hal serupa diperlukan dalam AI.

Perkembangan kemampuan AI harus diikuti perkembangan:

AI Capability
      +
AI Safety
      +
AI Security
      +
AI Governance
      +
Human Oversight

Semakin kuat sebuah sistem, semakin kuat pula sistem pengaman yang dibutuhkan.

Google sendiri, misalnya, mengembangkan Secure AI Framework (SAIF) sebagai kerangka untuk membantu organisasi membangun dan mengoperasikan sistem AI secara lebih aman.

Dari Chatbot Menuju AI yang Dapat Bertindak

Saat ini masyarakat mengenal AI terutama melalui chatbot.

Namun perkembangan berikutnya kemungkinan bukan hanya mengenai model yang dapat menjawab lebih pintar.

Perubahan besar justru dapat terjadi ketika AI mampu:

Understand
   ↓
Reason
   ↓
Plan
   ↓
Use Tools
   ↓
Execute
   ↓
Evaluate
   ↓
Repeat

Pada tahap tersebut, persoalan keamanan berubah.

Jika chatbot salah menjawab, manusia dapat mengabaikan jawabannya.

Tetapi jika AI memiliki akses untuk:

AI Agent
 ├── Database
 ├── Email
 ├── Payment System
 ├── Cloud Infrastructure
 ├── API
 ├── IoT Device
 └── Enterprise System

kesalahan keputusan dapat berubah menjadi tindakan nyata.

Karena itu konsep seperti least privilege, approval, audit trail, sandboxing, policy engine, dan human-in-the-loop akan semakin penting dalam arsitektur sistem AI.

Human-in-the-Loop Tetap Penting

Dalam sistem kritis, pola yang lebih aman bukan:

AI → Keputusan → Eksekusi

melainkan:

AI
 ↓
Analisis
 ↓
Rekomendasi
 ↓
Policy / Guardrail
 ↓
Human Approval
 ↓
Eksekusi
 ↓
Audit Log

Tidak semua proses membutuhkan persetujuan manusia.

Tugas berisiko rendah dapat dijalankan otomatis.

Tetapi semakin besar dampak sebuah keputusan terhadap uang, keselamatan, hak seseorang, atau infrastruktur penting, semakin kuat mekanisme kontrol yang diperlukan.

Jangan Takut terhadap AI, tetapi Jangan Menganggapnya Sekadar Software Biasa

Ada dua ekstrem dalam melihat AI.

Ekstrem pertama:

"AI akan menghancurkan manusia."

Ekstrem kedua:

"AI hanyalah software biasa, tidak ada yang perlu dikhawatirkan."

Keduanya terlalu sederhana.

AI tetap merupakan teknologi yang dibuat manusia.

Tetapi terdapat karakteristik baru yang membuat sistem AI berbeda dari banyak software tradisional: perilakunya tidak selalu ditentukan melalui aturan eksplisit satu per satu.

Pada software konvensional:

IF kondisi A
THEN lakukan B

Developer relatif mengetahui jalur logikanya.

Pada model AI modern:

Data
 ↓
Training
 ↓
Model
 ↓
Inference
 ↓
Output

perilaku muncul dari parameter yang dipelajari dari data dalam skala sangat besar.

Karena itulah pengujian AI tidak cukup hanya menggunakan pendekatan software testing tradisional.

Dibutuhkan evaluasi model, red teaming, monitoring, guardrail, keamanan data, serta pengujian perilaku dalam berbagai kondisi.

Pelajaran bagi Organisasi yang Sedang Mengadopsi AI

Pertanyaan organisasi seharusnya bukan hanya:

"Bagaimana kita menggunakan AI?"

Tetapi juga:

"Apa yang terjadi jika AI salah?"

Sebelum memberikan AI akses terhadap sistem penting, organisasi perlu memahami beberapa hal:

Apa yang boleh dibaca AI?
        ↓
Apa yang boleh diputuskan AI?
        ↓
Apa yang boleh dilakukan AI?
        ↓
Kapan manusia harus memberikan approval?
        ↓
Bagaimana semua aktivitas dicatat?
        ↓
Bagaimana AI dihentikan jika terjadi kesalahan?

Pertanyaan-pertanyaan tersebut akan menjadi semakin penting ketika AI mulai terintegrasi dengan sistem operasional perusahaan.

Teknologi yang Kuat Membutuhkan Kontrol yang Kuat

Peringatan Geoffrey Hinton sebaiknya tidak diterjemahkan sebagai alasan untuk takut terhadap Artificial Intelligence.

Justru sebaliknya.

Peringatan tersebut menunjukkan bahwa orang-orang yang memahami teknologi ini secara mendalam menyadari besarnya potensi sekaligus tanggung jawab yang menyertainya.

AI memiliki peluang besar untuk membantu manusia dalam pendidikan, kesehatan, penelitian, industri, pemerintahan, pertanian, hingga pengembangan software.

Tetapi kemampuan tersebut harus dibangun bersama sistem kontrol yang memadai.

Sejarah teknologi menunjukkan bahwa kemajuan tidak hanya ditentukan oleh seberapa kuat teknologi yang dapat kita ciptakan.

Kemajuan juga ditentukan oleh seberapa baik kita mampu mengendalikan teknologi tersebut ketika kemampuannya semakin besar.

Dan mungkin itulah pertanyaan paling penting dalam perkembangan AI beberapa dekade mendatang:

Bukan seberapa pintar AI dapat kita buat, tetapi seberapa baik kita dapat memastikan kecerdasan tersebut tetap bekerja untuk kepentingan manusia.

Referensi

The Nobel Prize — The Nobel Prize in Physics 2024: John J. Hopfield and Geoffrey Hinton, 2024.
Nobel Prize — Geoffrey Hinton Interview, 2024.
Nobel Prize Conversations — Geoffrey Hinton: Nobel Prize Conversations, 2025.
Google — Introducing Google's Secure AI Framework (SAIF), 2023.
Google — Our Responsible Approach to Building Guardrails for Generative AI, 2023.