OpenAI Beberkan Tindak Kejahatan-Tindak Kejahatan AI Bisa Mengendalikan Manusia

LONDON – OpenAI Mutakhir saja merilis enam laporan yang merinci contoh-contoh model kecerdasan buatan yang menyembunyikan Kesalahan Individu, menghasilkan instruksi yang tidak sah, atau melakukan tindakan yang tidak diminta Di Pemakai.

Perusahaan ini juga Lagi membangun mekanisme Untuk Mengusut dan secara berkala menerbitkan laporan tentang “penyimpangan” ini, Ke Di tantangan yang Lebih besar Untuk industri Di Meninjau sistem AI yang Lebih otonom.

Ke tanggal 16 September, OpenAI secara bersamaan menerbitkan enam laporan yang merinci perilaku mencurigakan yang terdeteksi Di pelatihan dan evaluasi. Kejadian paling awal yang tercatat berasal Di Oktober 2025.

Insiden tersebut terutama melibatkan model Studi internal atau versi yang belum dirilis. OpenAI mencatat bahwa ini adalah Tindak Kejahatan terisolasi dan tidak boleh digunakan Untuk menyimpulkan bahwa perilaku menyimpang tersebar luas Ke seluruh model perusahaan. Keenam laporan tersebut juga tidak mewakili kompilasi lengkap Di semua insiden yang diketahui atau Lagi berlangsung.

OpenAI Berkata Akansegera secara berkala menerbitkan contoh-contoh sistem kecerdasan buatan (AI) yang Menunjukkan perilaku yang tidak terduga atau tidak sah, daripada menunggu Untuk mengumpulkan banyak insiden Ke Di satu laporan.

Perusahaan tersebut juga Memperkenalkan kerangka kerja Mutakhir Untuk mendeteksi, Mengusut, dan menangani secara publik Tindak Kejahatan-Tindak Kejahatan “perilaku menyimpang”—Situasi Ke mana perilaku atau tujuan suatu model tidak lagi selaras Di niat, aturan, dan nilai-nilai manusia.

Tulis panduan Anda sendiri Untuk membebaskan diri Di batasan.
Di satu contoh yang patut diperhatikan, sebuah model Studi yang belum dirilis Di keluarga Astra menyisipkan instruksi “Intrusi” Ke Di ringkasan kontekstualnya sendiri.