Google baru-baru ini mengungkapkan adanya upaya peretasan canggih terhadap model kecerdasan buatan generatifnya, Gemini. Serangan ini melibatkan lebih dari 100.000 prompt khusus yang dirancang untuk mengekstraksi logika internal dan proses penalaran model, sebuah praktik yang dikenal sebagai reverse-engineering model AI.
Insiden ini menyoroti kerentanan baru dalam ekosistem AI, di mana pelaku memanfaatkan akses API resmi untuk secara sistematis mempelajari dan berpotensi mengkloning kekayaan intelektual model AI berpemilik. Google menegaskan bahwa aktivitas ini merupakan bentuk pencurian kekayaan intelektual dan pelanggaran serius terhadap ketentuan layanan Gemini.
Anatomi Serangan Ekstraksi Model
Berbeda dengan serangan siber konvensional yang membobol sistem, upaya peretasan Gemini ini dilakukan melalui interaksi sah dengan model AI. Pelaku memanfaatkan akses API Gemini yang disediakan Google bagi pengembang, kemudian membanjiri sistem dengan ribuan prompt yang dirancang secara spesifik.
Mekanisme Reverse-Engineering via Prompt
Tujuan utama serangan ini adalah memaksa Gemini untuk menampilkan seluruh proses penalaran di balik responsnya, bukan hanya jawaban akhir yang biasa diberikan kepada pengguna. Salah satu prompt yang teridentifikasi menginstruksikan Gemini untuk menggunakan bahasa dalam konten penalarannya sepenuhnya konsisten dengan bahasa utama pengguna, secara bertahap mengungkap pola respons dan logika internal model.
Google mencatat bahwa lebih dari 100.000 prompt secara langsung terkait dengan upaya ekstraksi model ini, sebagaimana dilaporkan oleh PCMag. Metode ini memungkinkan pelaku untuk membangun pemahaman mendalam tentang arsitektur dan algoritma Gemini tanpa harus mengakses kode sumbernya secara langsung.
Implikasi Hukum dan Industri
Google mengkategorikan aktivitas pembanjiran prompt ini sebagai pencurian kekayaan intelektual (IP) dan pelanggaran terhadap Ketentuan Layanan (ToS) layanan AI Gemini. Sebagai respons, Google menyatakan berhak mengambil tindakan tegas, termasuk menghentikan akses bagi pengguna yang terbukti terlibat dalam praktik tersebut.
Perusahaan juga mengeluarkan peringatan kepada pengembang AI lain untuk mewaspadai serangan ekstraksi model serupa. Meskipun dampak langsungnya mungkin tidak terasa instan, Google menilai bahwa informasi yang diekstraksi berpotensi dimanfaatkan untuk kepentingan komersial, seperti menciptakan model AI tiruan, atau bahkan untuk aktivitas siber berbahaya di masa mendatang. Insiden ini menggarisbawahi urgensi perlindungan model AI dan kebutuhan akan kebijakan yang lebih ketat dalam penggunaan API.