Yapay zeka teknolojilerinin kendi kodlarını yazarak insansız evrimleşme potansiyeli, ülkeleri ve şirketleri önlem almaya yönelik çağrılara yöneltiyor. ABD merkezli yapay zeka şirketi Anthropic, yayınladığı ‘When AI builds itself’ başlıklı makaleyle bu tartışmalara katıldı.
Anthropic’in verilerine göre, bir yapay zeka modelinin insan müdahalesi olmadan kendi halefini tasarlayıp eğitebileceği teorik eşik beklenenden daha yakın. Otonom yazılım döngülerinin kurulduğu belirtiliyor.
Şirket, yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir ilerleme kaydedildiğini vurguladı. Claude yazılım sisteminde, üretim kod tabanına entegre edilen kodların yüzde 80’inden fazlasının modelin kendisi tarafından yazıldığı ve bu oranın 2025 başında tek haneli rakamlarda olduğu ifade edildi.
Anthropic, yapay zekadaki gelişimi beş aşamaya ayırıyor. İlk aşamada yapay zeka ile çalışmanın normal bir şirket içi işleyişe benzediği belirtildi. 2023-2025 dönemini kapsayan ikinci aşamada çalışanların üretken yapay zekalardan yardım aldığı, 2025-2026’yı içeren üçüncü aşamada ise ajan yapay zekaların kendi kendine kod yazabilir hale geldiği aktarıldı.
Mevcut durumda, kodları kendi kendine çalıştıran ve işleri diğer yapay zekalara devredebilen bir konuma gelindiği belirtildi. Şirketin öngördüğü beşinci ve son aşamada, ajanların kendi başlarına modeller oluşturup eğitebilecek yeteneğe ulaşacağı ve yapay zekanın gelecekteki sürümlerinin bu şekilde sürekli geliştirileceği ifade edildi.
Anthropic’in yanı sıra, dünya genelinde yapay zekanın durdurulması yönünde çeşitli çağrılar yapıldı. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin imzaladığı mektupta, GPT-4’ten daha güçlü sistemlerin eğitiminin en az altı ay süreyle durdurulması talep edildi.
Mektupta, insan zekasıyla yarışan yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için derin riskler taşıdığına dikkat çekildi. Dezenformasyon dalgası, kitlesel iş kayıpları ve medeniyet kontrolünün kaybedilmesi gibi senaryolar vurgulandı.
Mayıs ayında Papa 14. Leo’nun genelgesiyle de yapay zekanın sadece teknik olarak durdurulması değil, aynı zamanda askeri, ekonomik ve bilişsel rekabetten arındırılarak silahsızlandırılması çağrısı yapıldı.
Yapay zekayı durdurma çağrıları artarken, küresel yapay zeka pazarı hızla büyümeye devam ediyor. Gartner’ın Mayıs 2026 raporuna göre, küresel yapay zeka harcamalarının 2026’da 2,59 trilyon dolara ulaşması bekleniyor. Bu rakam, 2025’teki 1,76 trilyon dolarlık harcamaya göre yüzde 47’lik bir yıllık büyümeyi temsil ediyor. Harcamaların 2027’de 3,49 trilyon dolara yükseleceği öngörülüyor.
