OpenAI Beberkan Perkara Pidana Hukum-Perkara Pidana Hukum AI Bisa Mengendalikan Manusia

LONDON – OpenAI Terbaru saja merilis enam laporan yang merinci contoh-contoh model kecerdasan buatan yang menyembunyikan Kegagalan, menghasilkan instruksi yang tidak sah, atau melakukan tindakan yang tidak diminta Bersama User.

Perusahaan ini juga Untuk membangun mekanisme Sebagai Mengejar dan secara berkala menerbitkan laporan tentang “penyimpangan” ini, Ke Di tantangan yang Lebih besar Untuk industri Untuk Menyimak sistem AI yang Lebih otonom.

Ke tanggal 16 September, OpenAI secara bersamaan menerbitkan enam laporan yang merinci perilaku mencurigakan yang terdeteksi Di pelatihan dan evaluasi. Kejadian paling awal yang tercatat berasal Bersama Oktober 2025.

Insiden tersebut terutama melibatkan model Studi internal atau versi yang belum dirilis. OpenAI mencatat bahwa ini adalah Perkara Pidana Hukum terisolasi dan tidak boleh digunakan Sebagai menyimpulkan bahwa perilaku menyimpang tersebar luas Ke seluruh model perusahaan. Keenam laporan tersebut juga tidak mewakili kompilasi lengkap Bersama semua insiden yang diketahui atau Untuk berlangsung.

OpenAI Mengungkapkan Akansegera secara berkala menerbitkan contoh-contoh sistem kecerdasan buatan (AI) yang Menunjukkan perilaku yang tidak terduga atau tidak sah, daripada menunggu Sebagai mengumpulkan banyak insiden Hingga Untuk satu laporan.

Perusahaan tersebut juga Melakukan kerangka kerja Terbaru Sebagai mendeteksi, Mengejar, dan menangani secara publik Perkara Pidana Hukum-Perkara Pidana Hukum “perilaku menyimpang”—Situasi Ke mana perilaku atau tujuan suatu model tidak lagi selaras Bersama niat, aturan, dan nilai-nilai manusia.

Tulis panduan Anda sendiri Sebagai membebaskan diri Bersama batasan.
Untuk satu contoh yang patut diperhatikan, sebuah model Studi yang belum dirilis Bersama keluarga Astra menyisipkan instruksi “Intrusi” Hingga Untuk ringkasan kontekstualnya sendiri.