Google Threat Intelligence Group (GTIG) mengonfirmasi sesuatu yang sudah lama dikhawatirkan industri keamanan siber: AI bukan lagi sekadar alat bantu produktivitas, melainkan sudah dipakai untuk merancang serangan digital skala besar.
Dalam laporan terbarunya, GTIG mengungkap bahwa mereka berhasil mendeteksi dan menggagalkan eksploitasi zero-day yang dikembangkan dengan bantuan kecerdasan buatan. Target serangan: sistem autentikasi dua faktor pada sebuah alat administrasi berbasis web open-source yang identitasnya tidak dipublikasikan. Tim peneliti Google mencium kejanggalan sejak awal, skrip Python yang dipakai para peretas terlalu rapi, terlalu terstruktur, lengkap dengan skor CVSS yang ditulis seperti halusinasi model bahasa besar. Jejak khas LLM. Bukan main.
Eksploitasi itu dirancang untuk mengakali kelemahan logika semantik tingkat tinggi, di mana pengembang tool open-source tersebut secara tidak sengaja menanamkan asumsi kepercayaan yang di-hardcode ke dalam sistem 2FA mereka. Para peretas menggunakan teknik persona-driven jailbreaking untuk memaksa model AI bertindak layaknya pakar keamanan siber, lalu menyuapi sistem itu dengan repositori data kerentanan secara utuh, termasuk menggunakan alat bantu OpenClaw di lingkungan simulasi terkontrol, guna menyempurnakan kode serangan sebelum diluncurkan ke target nyata.
Google menegaskan model Gemini mereka tidak terlibat. Namun kepala analis GTIG, John Hultquist, tidak menyembunyikan kekhawatirannya. "Ini adalah bukti nyata pertama bahwa AI telah bertransformasi dari sekadar alat produktivitas menjadi senjata canggih bagi para aktor jahat," ujarnya. Ia menggambarkan temuan ini sebagai puncak gunung es dari ancaman yang lebih besar, bukan akhir cerita.
Nama yang paling sering muncul dalam pusaran kekhawatiran ini adalah Claude Mythos, model AI terbaru Anthropic. Kemampuannya mengidentifikasi celah keamanan sistem digital yang belum pernah terdeteksi sebelumnya menjadikannya ibarat pedang bermata dua: berguna bagi tim keamanan, berbahaya di tangan peretas. Pemerintah Jepang bahkan sudah bergerak lebih cepat dari banyak negara lain. Perdana Menteri Sanae Takaichi sejak awal Mei menginstruksikan Menteri Digital Hisashi Matsumoto untuk menyiapkan langkah-langkah konkret menghadapi ancaman AI terhadap infrastruktur kritis. Peringatan resmi akan segera dikirim ke operator-operator infrastruktur strategis di seluruh Jepang, sementara Kantor Keamanan Siber Nasional dilibatkan langsung untuk membangun kerangka respons, rapat koordinasi sudah digelar, melibatkan Badan Kepolisian Nasional, Kementerian Perindustrian, dan Kementerian Infrastruktur.
Matsumoto memperingatkan bahwa penggunaan AI yang ceroboh bisa secara dramatis meningkatkan skala sekaligus kecepatan serangan siber. Masalah mendesak, katanya, yang tidak bisa ditunda-tunda.
Di Washington, respons bergerak lewat jalur yang lebih terstruktur. Center for AI Standards and Innovation (CAISI) di bawah Departemen Perdagangan mengumumkan kerja sama dengan Microsoft, Google, dan xAI untuk memberi akses awal ke model-model AI terbaru sebelum dirilis ke publik. Satu tujuan: evaluasi risiko keamanan nasional. "Ilmu pengukuran yang independen dan ketat sangat penting untuk memahami AI mutakhir dan implikasinya terhadap keamanan nasional," kata Direktur CAISI Chris Fall dalam pernyataan resminya. Microsoft akan mengembangkan dataset dan alur kerja bersama untuk pengujian, mengikuti pola kerja sama serupa yang sudah lebih dulu diteken dengan AI Security Institute di Inggris.
Agaknya bukan sekadar formalitas. CAISI mengklaim sudah menyelesaikan lebih dari 40 evaluasi model AI, termasuk sejumlah model yang belum tersedia untuk publik. Dalam beberapa pengujian, pengembang bahkan menyerahkan versi model dengan pengamanan yang dikurangi agar pemerintah bisa meneliti potensi risiko lebih mendalam, kalau data ini bisa dipercaya, angka itu cukup untuk menggambarkan betapa serius ancaman yang sedang diantisipasi.
Tekanan juga datang dari kubu konservatif. Steve Bannon bersama lebih dari 60 sekutu Trump mengirimkan surat kepada presiden, mendesak penandatanganan dekret eksekutif yang mewajibkan seleksi ketat terhadap model AI frontier sebelum dirilis. Surat yang diorganisir kelompok Humans First ini menyebut sistem AI frontier kini sudah jauh melampaui chatbot sederhana, berpotensi brutal terhadap keamanan siber, sistem finansial, hingga pertahanan militer jika diimplementasi tanpa pengamanan memadai.
Anthropic sendiri berada di posisi yang menarik. Model Mythos mereka memicu kekhawatiran lintas negara, namun Anthropic justru meluncurkan Project Glasswing yang menggunakan Claude Mythos Preview untuk berburu kerentanan tingkat tinggi, menempatkan diri sebagai bagian dari solusi. Meski begitu, hubungan Anthropic dengan Pentagon masih membeku karena perselisihan soal batas penggunaan AI untuk kepentingan militer, sehingga mereka absen dari daftar tujuh perusahaan AI yang digandeng Departemen Pertahanan AS pekan lalu.
Pertanyaannya sederhana tapi berat: seberapa cepat regulasi bisa berlari mengejar teknologi yang sudah lebih dulu melesat?