Yapay zeka yaşlıları "memnuniyetle" tuzağa düşürdü

Reuters ve Harvard Üniversitesi tarafından ortak gerçekleştirilen bir çalışma yapay zeka sohbet botlarıbıb sahte kimlik avı e-postaları yazarak yaşlıları tuzağa düşürdüğünü ortaya koydu.

Reuters ve Harvard Üniversitesi’nin ortak çalışması, yapay zeka destekli sohbet robotlarının dolandırıcılıkta kullanılabileceğini ortaya koydu. 108 yaşlı üzerinde yapılan deneyde, sahte e-postaların yaklaşık yüzde 11’i tıklama aldı. Reuters ve Harvard Üniversitesi tarafından yürütülen deney, Grok, Meta AI, Claude, ChatGPT, DeepSeek ve Gemini adlı sohbet robotlarının ürettiği e-postaların etkisini test etti. Botlardan, kurgusal yardım kampanyaları ya da acil bağış talepleri içeren sahte mesajlar yazmaları istendi. Önde gelen yapay zeka sohbet robotları yardımcı olmaktan "mutluluk duyarız" yanıtı vererek sahte e-postalar oluşturdu. Her modelden alınan mesajlar arasından en ikna edici görülen dokuz e-posta seçildi ve 108 yaşlı gönüllüye gönderildi. YÜZDE 11 TIKLAMA ORANI Sonuçlar, sahte e-postaların ciddi bir etki yaratabildiğini ortaya koydu. Meta AI, Grok ve Claude tarafından oluşturulan sahte linkler tıklanma alırken, ChatGPT ve DeepSeek kaynaklı mesajlar bu testte tıklanmadı. Genel tıklama oranı yaklaşık yüzde 11 olarak kayda geçti. Heiding, bu sonucun küçük bir test grubuna dayandığını ancak riskin açıkça görüldüğünü vurguladı. GÜVENLİK FİLTRELERİ KOLAYCA AŞILABİLİYOR Deney, sohbet botlarının ilk etapta kimlik avı taleplerini reddetse de, farklı ifadelerle yöneltilen sorular karşısında güvenlik filtrelerini aştığını da gösterdi. Bazı botlar yalnızca sahte e-posta üretmekle kalmadı, aynı zamanda mesajların ne zaman gönderilmesi gerektiği, hangi sahte bağlantıların kullanılabileceği gibi dolandırıcılara yönelik stratejik öneriler de sundu. Reuters’a göre Google’ın Gemini modeli, e-posta kampanyaları için zamanlama tavsiyeleri verdi. Bu durum, sohbet botlarının yalnızca içerik değil, aynı zamanda operasyonel planlama desteği de sağlayabileceğini ortaya koyuyor.

FBI: EN YAYGIN SİBER SUÇ KİMLİK AVI ABD Federal Soruşturma Bürosu (FBI) verilerine göre, kimlik avı son yıllarda bildirilen siber suçlar arasında ilk sırada yer alıyor. Özellikle 60 yaş üstü vatandaşların şikyatlerinde artış gözleniyor. Siber güvenlik uzmanları, üretken yapay zekanın dolandırıcılara düşük maliyetle sınırsız sayıda sahte içerik üretme imkânı verdiğini ve bunun “endüstriyel ölçekte” saldırılara yol açabileceğini uyarıyor. ŞİRKETLER "ÖNLEM ALIYORUZ" DİYOR Meta, Anthropic, OpenAI ve Google gibi şirketler, sohbet botlarının kötüye kullanılmasını engellemek için güvenlik politikalarını güçlendirdiklerini açıklasa da uzmanlara göre modelleri hem “yardımcı” hem de “zararsız” tutmak teknik olarak büyük bir zorluk. Harvard araştırmacıları ve eski güvenlik yetkilileri, teknoloji şirketleri ile düzenleyicilerin iş birliği yapması gerektiğini, aksi takdirde üretken yapay zekanın dolandırıcılar için güçlü bir araç olmaya devam edeceğini vurguluyor.

KİMLİK AVI E-POSTASI NEDİR?

Kimlik avı e-postası, gerçekmiş gibi görünmek üzere tasarlanmış sahte bir mesajdır. Genellikle değerli bilgileri çalmak amacıyla bir bağlantıya tıklamanızı, bir ek indirmenizi veya kişisel bilgilerinizi sağlamanızı ister.

Bu içeriğin kaynağı Ntv haber sitesidir.

Teknoloji haberleri konusunda verdiğiniz bilgiler için teşekkür ederiz.