AI depremi büyüyor!

OpenAI’de 3,5 yıl güvenlik ekiplerinde çalışan David Robinson, şirketin hızlı geliştirme kültürünü eleştirerek istifa ettiğini açıkladı. The Atlantic’te yayımlanan yazısında “deneme-yanılma zamanı bitti” diyen Robinson, yapay zekâ sistemlerinin nükleer enerji ve havacılık sektöründeki kadar sıkı güvenlik önlemleriyle geliştirilmesi gerektiğini savundu. Şirketin “yinelemeli dağıtım” yaklaşımının riskleri artırdığını, yeteneklerin hizalama araştırmalarından daha hızlı ilerlediğini belirten eski çalışan, OpenAI’nin 12 sınır model lansmanında güvenlik raporlarını denetlediğini de kaydetti. OpenAI ise modellerin güvenle yönetilebilecek seviyede tutulduğunu ve gerektiğinde eğitimin durdurulduğunu açıkladı.