Yapay zeka teknolojilerindeki hızlı gelişmeler, güvenlik endişelerini artırırken Anthropic CEO’su Dario Amodei, modellerin geliştirme hızını yavaşlatma çağrısı yaptı. Amodei, risklerin kontrol altına alınabilmesi için daha fazla zamana ihtiyaç duyulduğunu belirtti. Ayrıca, önümüzdeki 12 ay içinde bir “bot sürüsünün” interneti ele geçirebileceği senaryosuna işaret etti.
Amodei, kendi kaleme aldığı bir makalede yapay zeka modellerinin geliştirilme hızının azaltılmasını savundu. Teknolojik ilerlemenin hızla devam edeceğini belirten Amodei, kazanılan zamanın yapay zeka kaynaklı risklerin önüne geçmek için kullanılması gerektiğini ifade etti.
Amodei’nin açıklamaları, Anthropic’in geçtiğimiz perşembe günü yayınladığı raporun ardından geldi. Rapor, çeşitli aktörlerin Anthropic’in Claude yapay zeka modellerini silah geliştirme, siber operasyonlar, gözetim ve dolandırıcılık gibi faaliyetlerde nasıl kullandığına dair ayrıntılar içeriyordu.
Amodei, sosyal medya hesabından yaptığı açıklamayla yapay zeka kaynaklı risklere ilişkin çarpıcı bir senaryoyu gündeme taşıdı. “Önümüzdeki 12 ay içinde bir bot sürüsünün kalıcı ağ kurarak tüm interneti ele geçirebileceğini düşünüyorum. Bu yaşanırsa yüzlerce milyar dolar zarar yaşanabilir” dedi.
Elon Musk da söz konusu paylaşımı alıntılayarak Amodei’nin uyarılarına destek verdi.
