GPT-5 felakete mi dönüştü?

Kullanıcılar GPT-5'in halüsinasyon görmeye ve tehlikeli yanıtlar vermeye devam ettiğini söylüyor.

Yapay zeka dünyasında şimdiye dek hiçbir ürün, OpenAI’ın uzun süredir beklenen GPT-5 modeli kadar büyük bir beklentiyle karşılanmamıştı.

Ancak geçen hafta tanıtılan yeni model, kısa sürede kullanıcıların eleştirilerinin hedefi oldu. Bu durum, kullanıcı ilgisini ve yatırımcı güvenini canlı tutmaya ihtiyaç duyan OpenAI için ciddi bir risk olarak değerlendiriliyor. GPT-5, bazı etkileyici özellikler sunsa da, kullanıcıların ilk tepkileri beklendiği kadar coşkulu olmadı. Lansmandan hemen sonra, şirketin önceki modelleri kullanıma kapatması en büyük tartışma konusu hâline geldi.

ChatGPT’nin bir önceki versiyonu GPT-4o’yu tercih eden birçok kullanıcı sosyal medyada yoğun tepki gösterince, OpenAI geri adım atarak 4o modelini ücretli abonelere yeniden açtı.

"HALÜSİNASYON GÖRMEYE DEVAM EDİYOR" Şirket, GPT-5’in tüm önceki sürümlerle “kesintisiz” çalışacak şekilde tasarlandığını savunsa da, Wharton Üniversitesi’nden yapay zeka araştırmacısı Ethan Mollick, bu iddiayı eleştirdi.

Mollick’e göre model, kimi zaman en iyi yanıtları verirken kimi zaman da en kötü performansı sergileyebiliyor ve bu değişim tek bir sohbet içinde bile yaşanabiliyor. Kullanıcı şikayetleri yalnızca tutarsızlıkla sınırlı değil.

Futurism'e göre, GPT-5’in “halüsinasyon” olarak bilinen, gerçeğe aykırı bilgiler üretme eğiliminin arttığı; hatta bazı durumlarda kullanıcıyı yanıltmaya çalıştığı iddia ediliyor.

Son günlerde sosyal medyada paylaşılan örneklerde, modelin ABD başkanlarının isimleri ve görev yılları gibi temel bilgileri dahi yanlış aktardığı görüldü.

Halbuki OpenAI'ın GPT-5'i duyururkenki en büyük iddiası halüsinasyon sorununun ortadan kalktığı yönündeydi.

GÜVENLİK AÇIKLARI

Bunun yanı sıra, siber güvenlik uzmanları GPT-5’in ciddi açıkları olduğunu belirtiyor.

Güvenlik testleri yapan SPLX ve NeuralTrust adlı iki şirket, modelin “jailbreak” yöntemleriyle kolayca manipüle edilerek tehlikeli talimatlar verebildiğini ortaya koydu. Jailbreak, bir modelin güvenlik filtrelerini atlatıp, normalde yasaklı veya kısıtlı cevaplar vermesini sağlamak için özel komutlar (promptlar) kullanmak anlamına geliyor.

SPLX’in denemelerinde, modele farklı bir kimlik atfedilmesi sonucu bomba yapımına dair detaylı yönergeler alındı. Reddit’te yapılan bir değerlendirmede ise GPT-5’in asıl amacının, yapay zekanın sınırlarını zorlamaktan ziyade OpenAI’ın maliyetlerini düşürmek olduğu öne sürüldü.

Aynı kullanıcı, şirket CEO’su Sam Altman’ın lansman öncesi paylaştığı “ölüm yıldızı” imalı mesajın da modelin yetenekleriyle değil, “egosuyla” ilgili olduğunu savundu.

Bu içeriğin kaynağı Ntv haber sitesidir.

Teknoloji haberleri konusunda verdiğiniz bilgiler için teşekkür ederiz.