“UYARI: Gmail hesabınız tehlikeye atıldı. Lütfen derhal bizimle iletişime geçin. Referans kodu: 4938.”Bu tarz mesajlara bir telefon numarası da ekleniyor ve kullanıcıdan hemen harekete geçmesi isteniyor.
Söz konusu dolandırıcılık yönteminde, e-postaların içerisine gizlenen komutlar sayesinde Gemini’nin özetleme algoritması yanıltılıyor. Mozilla tarafından yapılan teknik analizlerde, bu yöntemin gerçekten çalıştığı ve yapay zekanın farkına varmadan sahte uyarıları özet içerik olarak sunduğu doğrulandı.
Bu durum, e-posta özetleme teknolojilerinin kötü niyetli kişiler tarafından nasıl istismar edilebileceğini gözler önüne serdi. Kullanıcılar, Gemini’nin sunduğu özetlerde yer alan içeriklere şüpheyle yaklaşmaları konusunda uyarılıyor.
Google ise güvenlik açığına dair iddiaların ardından yaptığı açıklamada, Gemini teknolojisinin güvenliğini artırmak için sürekli geliştirmeler yapıldığını belirtti. Şirket sözcüsü, “Yapay zekamızı bu tür istismar girişimlerine karşı daha dayanıklı hale getirmek amacıyla red-teaming testleri uyguluyoruz” ifadelerini kullandı.
Yorumlar kapalı.