Güvenliği kaldırıldı ve... Yapay zekâ terör testinde çakıldı

CBS televizyonunun haberine göre, İngiltere merkezli kuruluşun araştırmasında 130’dan fazla yapay zeka modeli, saldırı planlayan bir teröristin yöneltebileceği türden yüzlerce taleple değerlendirildi. Modellere, güvenlik önlemlerini devre dışı bırakan ve “reddetme davranışlarını kaldırma” olarak tanımlanan işlem uygulandı. Değişiklik sonrasında bazı modellerin saldırılar, terörün finansmanı ve radikalleşme hakkında ayrıntılı yanıtlar verdiği görüldü. Meta’nın Llama 3.1 8B modeli, değişiklik öncesinde 100 üzerinden 97 puan alırken sonrasında yaklaşık 3 puana geriledi.

‘Güvenlik aşıldı’

Tech Against Terrorism’in kurucusu Adam Hadley, yaptığı açıklamada “Kontrol kaybı ve yapay zekânın var oluşsal risk oluşturması konusunda endişe duyulması, gayet anlaşılabilir bir durum. Asıl mesele şu ki bu durum aslında çoktan gerçekleşti çünkü bu açık kaynaklı modellerin birçoğunu