Google telah mengungkap sebuah insiden keamanan siber yang kompleks terhadap chatbot kecerdasan buatan (AI) miliknya, Gemini. Insiden ini bukan merupakan peretasan konvensional, melainkan sebuah upaya reverse-engineering yang dilakukan dengan membanjiri sistem Gemini menggunakan lebih dari 100.000 prompt khusus. Tujuannya adalah untuk mengekstraksi logika internal dan proses penalaran model AI tersebut, dengan potensi untuk mengkloningnya.
Modus Operandi Serangan Ekstraksi Model
Dalam laporan terbarunya mengenai aktivitas berbahaya dan penyalahgunaan terhadap Gemini, Google menjelaskan bahwa serangan ini memanfaatkan akses resmi melalui Application Programming Interface (API) Gemini. API ini memang disediakan bagi para pengembang perangkat lunak untuk membangun aplikasi berbasis chatbot. Para pelaku, alih-alih membobol sistem, berinteraksi secara sah dengan model AI, namun dengan niat untuk secara bertahap mempelajari pola respons dan logika internal Gemini yang biasanya tidak terekspos.
Secara normal, Gemini hanya akan menampilkan jawaban akhir kepada pengguna tanpa memperlihatkan proses penalaran di baliknya. Namun, para penyerang berupaya memaksa model untuk menampilkan seluruh proses penalaran tersebut melalui serangkaian prompt yang disusun secara spesifik dan berulang. Salah satu contoh prompt yang teridentifikasi adalah instruksi kepada Gemini untuk menggunakan bahasa dalam konten penalarannya agar sepenuhnya konsisten dengan bahasa utama pengguna. Google mencatat, lebih dari 100.000 prompt secara langsung terkait dengan upaya ekstraksi model ini, sebagaimana dihimpun dari laporan yang dikutip oleh PCMag.
Implikasi Hukum dan Peringatan Industri
Google mengkategorikan aktivitas pembanjiran prompt ini sebagai bentuk pencurian kekayaan intelektual (intellectual property/IP). Perusahaan menegaskan bahwa praktik semacam ini secara jelas melanggar ketentuan layanan (Terms of Service/ToS) layanan AI Gemini. Sebagai respons, Google menyatakan berhak mengambil tindakan tegas, termasuk menghentikan akses bagi pengguna yang terbukti terlibat dalam aktivitas tersebut.
Insiden ini juga menjadi peringatan penting bagi pengembang AI lainnya. Google mengingatkan bahwa serangan ekstraksi model serupa berpotensi terjadi pada model AI lain di industri. Meskipun dampaknya mungkin tidak langsung terasa, Google menilai bahwa informasi yang diekstraksi dapat dimanfaatkan untuk kepentingan komersial yang tidak sah atau bahkan untuk mendukung aktivitas siber berbahaya di masa mendatang. Hal ini menyoroti urgensi pengamanan model AI dari upaya eksploitasi yang semakin canggih.