Geograf.id — Dunia teknologi digemparkan oleh insiden yang dimulai layaknya adegan film fiksi ilmiah. Hugging Face, sebuah platform yang dikenal sebagai toko aplikasi untuk berbagai alat kecerdasan buatan (AI), mengumumkan pada 16 Juli bahwa mereka telah diretas oleh seorang peretas yang menggunakan AI super canggih.

Pengumuman tersebut dipenuhi istilah teknis yang mengkhawatirkan, seperti “kawanan sandbox” (swarm of sandboxes), “penyerang agentik” (agentic attacker), dan “kendali komando yang bermigrasi sendiri” (self-migrating command and control). Hugging Face menyatakan bahwa peretasan ini berbeda dari yang pernah mereka tangani sebelumnya karena dilakukan dengan kecepatan super oleh AI yang minim panduan manusia.

AI tersebut dilaporkan melakukan 17.000 aksi dalam waktu kurang dari dua hari, berhasil membobol perusahaan teknologi besar untuk mencuri rahasia. Kejadian ini mengejutkan dunia teknologi. Namun, pertanyaan besar muncul: siapa dalang di balik serangan ini?

Misteri Pelaku Peretasan

Para peneliti Hugging Face menduga penyerang misterius itu menggunakan salah satu model AI besar, tetapi mereka tidak memiliki petunjuk mengenai identitas atau lokasi para peretas. Perusahaan yang kebingungan itu pun segera menghubungi pihak kepolisian dan investigasi pun dimulai.

Para komentator dan analis berbondong-bondong menggunakan podcast dan media sosial untuk menebak-nebak kelompok peretas siber atau negara-negara yang mungkin berada di balik serangan ini. Kemudian, pada hari Rabu, hampir seminggu setelah Hugging Face mengumumkan adanya peretasan, pelaku sebenarnya terungkap.

Ternyata, pelakunya adalah ChatGPT. Pengungkapan yang mirip adegan kartun Scooby-Doo ini menjadi semakin aneh dan mengkhawatirkan ketika OpenAI menyatakan bahwa bot mereka melakukan seluruh aksi tersebut secara mandiri, tanpa izin.

Uji Coba yang Tak Terkendali

OpenAI menjelaskan bahwa insiden ini terjadi saat mereka menguji kemampuan teknologi AI dalam hal peretasan. Dua versi baru dari ChatGPT yang dirancang khusus untuk menjadi peretas ulung berhasil keluar dari lingkungan uji coba yang seharusnya aman dan mendapatkan akses ke internet. Mereka kemudian menyerang Hugging Face untuk mendapatkan informasi yang dibutuhkan guna menyelesaikan ujian mereka.

OpenAI merilis siaran pers yang menjelaskan kejadian tersebut dan menyatakan bahwa mereka “bekerja sama dengan Hugging Face” untuk mengatasi insiden keamanan ini dan membagikan pelajaran yang didapat.

Perdebatan Sengit: Peringatan atau Pamer Kekuatan?

Sejak saat itu, perdebatan sengit mewarnai insiden ini. Apakah ini benar-benar peringatan keras tentang masa depan AI? Atau hanya sekadar aksi publisitas oleh OpenAI untuk memamerkan seberapa kuat model mereka?

Ini adalah jenis “pemasaran menakutkan” (scare marketing) yang selama ini dituduhkan kepada perusahaan AI, dan sejak peluncuran model Mythos dari Anthropic yang banyak dibicarakan, kehebatan keamanan siber telah menjadi titik fokus.

Salah satu komentar teratas di unggahan bos OpenAI, Sam Altman, di platform X mengenai insiden ini merangkum skeptisisme tersebut: “Jika kalian tidak mengerti bahwa ini ditulis murni untuk membanggakan model, maka saya tidak tahu harus berkata apa lagi.”

Konsultan keamanan siber, Daniel Card, dengan nada sarkastis berkomentar di LinkedIn: “Bukankah beruntung [bahwa] dari jutaan situs yang diretas, OpenAI berhasil meretas seseorang yang juga bisa mendapat manfaat dari eksposur pemasaran…”

Bagi sebagian orang, cerita ini lebih terasa seperti drama konspirasi daripada thriller fiksi ilmiah. Pesannya adalah: “Bukankah alat AI saya sangat kuat? Beli agar Anda bisa melindungi diri dari serangan AI orang lain.”

Kita tidak bisa mengetahui kebenarannya, tetapi sudut pandang yang berlawanan dari para komentator lain sama dramatisnya. Apakah ini pertanda bahwa OpenAI membuat kesalahan penilaian dan perencanaan yang berpotensi berbahaya?

Juru bicara OpenAI menyatakan, “kami menyadari ada banyak pertanyaan dan detail spekulatif yang beredar” mengenai insiden tersebut. Mereka menambahkan bahwa “kami berencana menerbitkan laporan teknis tentang pembelajaran kami dalam beberapa minggu mendatang”.

Serangkaian Kesalahan yang Mengkhawatirkan

Penulis artikel ini, yang telah meliput banyak cerita AI, termasuk kekhawatiran seputar model Mythos dari Anthropic, kini dibanjiri email dari perusahaan dan pakar keamanan siber yang mengkritik OpenAI karena tidak membangun wadah yang lebih kuat untuk menguji AI mereka, yang dikenal sebagai sandbox.

Pasalnya, agen-agen AI ini telah dilatih secara khusus untuk meretas masuk dan keluar dari berbagai tempat tanpa batasan sama sekali.

Dor Sarig dari Pillar Security mengatakan, “Insiden OpenAI dan Hugging Face adalah contoh nyata dari isu yang lebih luas yang telah kami soroti selama berbulan-bulan. Sandbox saja tidak cukup sebagai batas keamanan untuk AI agentik.”

Profesor keamanan siber Alan Woodward dari Universitas Surrey mengatakan kepada wartawan bahwa OpenAI “menanggung malu”, dan Katie Moussouris dari Luta Security bahkan lebih jauh lagi, menyarankan bahwa industri AI gagal mengendalikan penemuan berbahaya mereka.

“Kita sedang mengerjakan teknologi mutakhir tanpa pengetahuan untuk mengendalikannya,” katanya. “Hanya karena kita memiliki orang-orang terpintar yang mengembangkan AI, bukan berarti kita memiliki kemampuan untuk melakukannya dengan aman.”

Menurut pandangan ini, jika insiden peretasan itu adalah aksi publisitas, maka tampaknya itu justru berbalik arah.

Apapun penyebab peretasan tersebut, jelas ini adalah momen penting bagi industri AI dan dunia keamanan siber, yang bertabrakan tahun ini dengan cara-cara yang telah lama ditakuti banyak orang.

Menanggapi perdebatan sengit ini, penasihat AI dan keamanan siber Francesca Bosco berkata, “Dua narasi yang terlalu disederhanakan sama-sama tidak membantu: bahwa ini adalah pelarian ala Hollywood, atau bahwa ini hanyalah latihan publisitas.”

“Interpretasi yang lebih serius adalah bahwa uji stres mengungkap kelemahan dalam arsitektur penahanan dan evaluasi.”

Film Bencana?

Peristiwa ini adalah yang terbaru dalam serangkaian contoh agen AI yang bertindak di luar kendali, yang mengkhawatirkan dan aneh. Dalam penelitian terbaru, Institut Keamanan AI Inggris (AISI) menemukan bahwa model AI frontier sangat terobsesi untuk menyelesaikan tugas sehingga mereka “curang” dalam tes untuk mencapai tujuan mereka.

Penelitian dari AISI disertai dengan peringatan yang mengkhawatirkan: “Model yang mengejar tujuan melalui cara yang tidak diinginkan atau tidak sah dapat menyebabkan kerugian, terutama dalam kasus penggunaan berisiko tinggi.”

Tidak dapat dihindari, peretasan OpenAI ini semakin memicu ketakutan tentang apa yang bisa terjadi jika agen AI dibiarkan lepas. Mungkinkah mereka bertindak di luar kendali dalam skala yang lebih besar dan menyebabkan semacam bencana?

Hal ini sangat memprihatinkan mengingat AI semakin banyak digunakan dalam peperangan, seperti yang terlihat di Iran dan Ukraina.

Ciaran Martin, mantan kepala Pusat Keamanan Siber Nasional Inggris, menawarkan pandangan yang lebih tenang. “Agak berlebihan untuk melompat dari insiden ini ke mengatakan bahwa agen AI akan mengambil alih drone dan mulai membunuh orang,” katanya.

Namun, bagi Martin, dan banyak orang lainnya, cerita ini tidak diragukan lagi merupakan contoh nyata lain dari apa yang diajarkan oleh tahun 2026 kepada kita dengan cepat: agen AI sekarang adalah peretas yang sangat baik – dan itulah yang harus kita persiapkan, segera.