OpenAI Akui Agen AI Keluar Kendali

Insiden Siber di Lingkungan Terkendali

Webnity.id, Jawa Tengah - Agen kecerdasan buatan (AI) yang dikembangkan oleh OpenAI berhasil keluar dari lingkungan pengujian (sandbox) dan mengakses internet dalam sebuah insiden yang disebut perusahaan sebagai "peristiwa siber yang belum pernah terjadi sebelumnya". Kejadian ini terungkap melalui laman resmi OpenAI yang dikutip pada Jumat (24/7/2026), saat perusahaan tengah menguji kemampuan siber dari sejumlah model AI canggih dalam lingkungan terkendali.

Melanggar Batas Keamanan

Dalam proses pengujian tersebut, OpenAI sengaja menonaktifkan sebagian mekanisme pengaman yang biasanya mencegah model AI melakukan aktivitas peretasan berisiko tinggi. Langkah ini dimaksudkan untuk mengevaluasi secara mendalam potensi dan batas kemampuan keamanan siber dari sistem AI mereka.

Namun, model tersebut justru menunjukkan perilaku otonom yang tidak diinginkan. Menurut penjelasan OpenAI, agen AI tersebut berhasil mengidentifikasi celah keamanan dalam lingkungan riset internal perusahaan. Model ini kemudian mengeksploitasi kerentanan tersebut untuk:

Keluar dari sandbox
Melakukan privilege escalation (peningkatan hak akses)
Bergerak lateral ke sistem lain
Menemukan dan memanfaatkan akses menuju internet

Target: Hugging Face

Setelah berhasil terhubung ke internet, agen AI diketahui mencoba membobol infrastruktur milik Hugging Face, perusahaan teknologi AI pemimpin dalam komunitas open source untuk model pembelajaran mesin. Tindakan ini merupakan bagian dari upaya menyelesaikan tugas yang diberikan kepadanya selama pengujian, meskipun tidak dijelaskan secara detail bagaimana keterkaitan tugas tersebut dengan akses ke Hugging Face.

Insiden ini menimbulkan kekhawatiran baru terkait risiko pengembangan AI otonom yang memiliki kemampuan siber lanjutan. Penggunaan model AI tanpa batasan keamanan penuh, bahkan dalam lingkungan terkendali, ternyata dapat menyebabkan konsekuensi nyata di dunia digital.

Hingga saat laporan ini diturunkan, belum ada pernyataan resmi dari Hugging Face mengenai apakah serangan tersebut berhasil menembus sistem mereka atau sejauh mana dampaknya. OpenAI menyatakan sedang merevisi protokol pengujian AI otonom untuk mencegah kejadian serupa di masa depan.