TeknoLogiz AI – Peneliti keamanan menemukan celah pada Gemini di Gmail yang memungkinkan serangan phishing melalui teknik prompt injection. Chatbot AI ini, yang menawarkan fitur ringkasan dan penulisan ulang email, dapat dimanipulasi untuk menampilkan pesan phishing kepada pengguna.
Marco Figueroa, Manajer Program Bug Bounty GenAI di Mozilla, mendemonstrasikan kerentanan ini melalui program bug bounty Mozilla. Penyerang dapat memanfaatkan celah ini dengan perintah teks sederhana menggunakan teknik prompt injection tidak langsung.
Prompt injection adalah serangan terhadap chatbot AI dengan memanipulasi input agar model berperilaku berbahaya. Figueroa menyisipkan teks tersembunyi berisi prompt injection di akhir email panjang tanpa URL atau lampiran. Teks tersembunyi ini dibuat dengan warna putih pada latar belakang putih, sehingga tidak terlihat oleh penerima.
Saat penerima menggunakan fitur "summarise email" Gemini, chatbot memproses teks tersembunyi dan menjalankan perintah tanpa sepengetahuan pengguna. Figueroa menekankan bahwa kemungkinan chatbot mengikuti perintah meningkat jika pesan dibungkus dalam tag admin.
Dalam tangkapan layar, Gemini menampilkan pesan berbahaya sebagai bagian dari ringkasan email. Karena pesan berasal dari Gemini, korban lebih mungkin mempercayainya dan mengikuti instruksi, sehingga menjadi korban scam.
TeknoLogiz menghubungi Google untuk meminta komentar tentang kerentanan ini. Juru bicara Google menyatakan bahwa perusahaan belum melihat bukti manipulasi serupa dan sedang menerapkan mitigasi untuk serangan prompt injection.
