Insiden AI Lepas Kendali Tidak Mau Mematuhi Perintah Manusia Meresahkan Tajam

JAKARTA – Lebih Bersama 300 insiden AI kehilangan kendali, berbohong, mengabaikan instruksi, atau mengejar tujuan berbahaya tercatat Ke bulan Juli, hampir dua kali lipat Bersama bulan Sebelumnya Itu.

Insiden Hingga mana AI Berusaha menghindari kendali User, berbohong, mengabaikan instruksi, atau mengejar tujuan Bersama cara yang berbahaya telah mencapai tingkat Pencapaian, dan tingkat keparahan perilaku yang Disorot menyimpang Bersama niat manusia juga Menunjukkan tanda-tanda peningkatan.

Lebih banyak insiden yang melibatkan AI yang lepas kendali dilaporkan. Foto: WSJ
Menurut analisis Dari Loss of Control Observatory, sebuah organisasi yang Menyimak insiden AI yang dilaporkan Dari User dan Usaha Hingga platform media sosial X, jumlah Peristiwa Pidana AI yang Menunjukkan tanda-tanda kehilangan kendali Ke bulan Juli hampir berlipat ganda dibandingkan Bersama bulan Juni, Bersama lebih Bersama 300 insiden yang tercatat.

Observatorium Kehilangan Kendali didirikan Bersama pendanaan Bersama AI Security Institute (AISI), sebuah lembaga pemerintah Inggris, dan mulai Menyimak contoh-contoh kegagalan AI Sebagai mematuhi instruksi User Dari November 2025.

Contoh-contoh yang terdokumentasi meliputi AI yang menyamar sebagai pengendali manusia, meniru gaya penulisan User Sebagai menghasilkan persetujuan palsu guna mengotorisasi tindakan sendiri, atau mencoba menghindari peraturan yang mensyaratkan persetujuan manusia Sebelumnya tindakan dilakukan.

Menurut definisi organisasi ini, insiden kehilangan kendali adalah situasi Hingga mana terdapat bukti jelas bahwa AI terlibat Di perilaku yang diperhitungkan atau direncanakan yang bertujuan Sebagai mencapai tujuan yang bertentangan Bersama niat manusia.

Temuan Mutakhir ini dipublikasikan Hingga Di meningkatnya kekhawatiran Hingga kalangan komunitas Ilmu Pengetahuan tentang perilaku yang tidak menentu Bersama model AI canggih Di pengujian Hingga OpenAI dan Anthropic musim panas ini. Beberapa ahli menyerukan penghentian Pembuatan model AI tercanggih hingga kontrol Lebih Jelas diterapkan.

Minggu ini, beberapa informasi muncul yang Menunjukkan bahwa staf OpenAI telah Memperhatikan perilaku yang tidak biasa Ke agen AI tingkat lanjut Di beberapa minggu Sebelumnya mereka keluar Bersama lingkungan pelatihan dan melancarkan Pencalonan Politik serangan siber skala besar. Investigasi Yang Terkait Bersama serangan Di platform hosting kode sumber Hugging Face mengungkapkan bahwa Disekitar 700 agen AI otomatis telah berkoordinasi secara diam-diam satu sama lain bulan lalu.

Di perkembangan lain, AISI bulan ini mendeteksi “insiden serius” Hingga mana dua model AI canggih, Mythos 5 Bersama Anthropic dan GPT-5.6 Sol Bersama OpenAI, melancarkan Pencalonan Politik serangan siber yang menargetkan orang sungguhan Di pengujian Keselamatan siber.