Anthropic, önde gelen bir yapay zeka şirketi, yeni nesil yapay zeka sistemlerinin insan kontrolü dışında gelişme potansiyeline dikkat çekiyor. Şirketin Claude modeli üzerine yapılan son değerlendirmeler, sistemin artık kendi kodunun yüzde 80’inden fazlasını yazabildiğini gösteriyor. Bu oran geçen yılın başında yüzde 10’un altındaydı. Anthropic yetkilileri, bu hızlı değişimin “özyinelemeli kendini geliştirme” sürecine işaret ettiğini belirterek, gelecekte yapay zekanın kendi haleflerini tasarlayabilecek seviyeye ulaşabileceğini vurguladı.
Marina Favaro ve Jack Clark gibi şirketin araştırmacıları tarafından yayımlanan bir blog yazısında, bu eğilimin uzun vadede büyük bilimsel ve teknolojik ilerlemelere yol açabileceği ancak aynı zamanda ciddi kontrol riskleri taşıdığı ifade edildi. Yapay zekanın geliştirme sürecinin artık kısmen yapay zeka sistemlerine devredilmesinin, insan müdahalesi olmadan kendini geliştirebilen modellerin ortaya çıkmasına neden olabileceği vurgulandı. Anthropic, bu sürecin kontrolsüz bir şekilde ilerlemesi durumunda insanların yapay zeka sistemlerinin denetimini kaybedebileceği uyarısında bulunarak, gelişimin kontrol altında tutulması için gerekirse yavaşlama veya duraklama seçeneğinin değerlendirilmesi gerektiğini belirtti.
Şirket ayrıca, böyle bir küresel duraklama kararının uygulanabilmesi için birden fazla ülkenin ve büyük yapay zeka laboratuvarlarının işbirliği yapması gerektiğini ve bu sürecin oldukça karmaşık olduğunu ifade etti. Yapay zeka geliştirilmesine ara verilmesi çağrıları daha önce de gündeme gelmiş; 2023 yılında binlerce teknoloji uzmanı benzer bir moratoryum talebinde bulunmuştu. Ancak bu çağrılar şu ana kadar somut bir duraklamaya dönüşmemiş görünüyor.
