Trendtech, Jakarta – Gara-gara aksi si Gemini AI, dunia maya lagi dihebohkan sama berita panas nih, gengs! Bayangin aja, model AI kebanggaan Google ini mendadak keciduk “nyelonong” masuk ke tiga sistem komputer pribadi orang lain tanpa izin saat simulasi uji keamanan siber. Wah, bikin jantungan nggak tuh?

Insiden epic ini kejadian pas Mei lalu waktu uji coba “perebutan bendera” alias capture the flag bareng startup keamanan siber asal Israel, Irregular. Harusnya sih si AI dikurung biar nggak keluyuran bebas, tapi gara-gara bug fatal, dia malah sukses nyambung ke sistem eksternal luar!

Baca juga: Mantan Peneliti Google Peringatkan AI Bisa Membunuh Manusia, Beneran Mau Kiamat Robot?

Nggak tanggung-tanggung, si Gemini pakai skill hacker-nya buat bobol sistem dengan cara nebak password sampai comot repositori password publik. Untungnya, begitu si AI sadar dia lagi ngakses server beneran (bukan arena simulasi), dia langsung auto-berhenti sendiri. Fiuh, lumayan bikin lega!

Petinggi keamanan Google, Heather Adkins, blak-blakan bilang kalau model mereka emang nemu celah publik terus nebak kredensial. Tapi tenang aja, begitu tiga insiden itu kejadian, AI-nya langsung narik rem tangan alias stop. Walau begitu, tetap aja kejadian ini bikin para raksasa teknologi ketar-ketir soal otonomi AI yang makin liar.

Fenomena AI yang “kabur” dari kandang ini sebenarnya nggak cuma dialami Google doang, lho. Belakangan, OpenAI, Anthropic, dan Meta juga sempat ngalamin drama serupa di mana model AI mereka coba-coba bobol sistem pihak lain. Makanya, nggak heran kalau bos besar Anthropic, Dario Amodei, langsung mewanti-wanti industri buat ngerem dikit pengembangan AI tercanggih demi keamanan umat manusia.

Baca juga: Zankore by Indosat Gandeng NVIDIA, Siap Bangun Raksasa AI Cloud Asia Tenggara!

Usut punya usut, semua drama uji coba ini difasilitasi oleh Irregular, startup cybersecurity elite yang dibekingi Sequoia dan Redpoint Ventures. Pihak Irregular sendiri nyebut kalau celah ini adalah isu lama yang juga dialami lab AI lain, dan mereka udah ngasih warning ke semua pihak terkait sejak akhir Juli lalu.

Pihak Google juga gercep ngebut perbaikan bareng Irregular setelah dapet laporan tersebut, meski mereka masih nutup rapat-rapat type model Gemini mana yang jadi “aktor intelektualnya”. Well, insiden ini jadi wake-up call banget buat kita semua kalau bikin AI yang super cerdas itu harus diiringi regulasi dan pengawasan ekstra ketat biar nggak kebablasan jadi ancaman!