Yapay Zeka Kendi Kodunu Yazıyor Üretim Eşiği Yaklaştı

Yapay zeka teknolojilerinin kendi kodlarını yazarak insan müdahalesi olmadan evrimleşebileceği eşiğe yaklaşması, ülkeler ve şirketler nezdinde önlem alma çağrılarını artırdı. ABD merkezli yapay zeka şirketi Anthropic, “When AI builds itself” başlıklı makalesiyle bu gelişmeleri gözler önüne sererek endişelere katıldı.

Anthropic tarafından paylaşılan verilere göre, bir yapay zeka modelinin insan müdahalesi olmadan kendi halefini tasarlayıp eğitebildiği teorik eşiğin beklenenden daha yakın olduğu belirtildi. Şirket, otonom yazılım döngülerinin kurulduğuna işaret etti.

Anthropic, yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir ilerleme kaydedildiğini vurguladı. Şirketin Claude yazılım sisteminde, entegre edilen kodların yüzde 80’inden fazlasının doğrudan modelin kendisi tarafından yazıldığı bilgisi paylaşıldı. Bu oranın 2025 yılı başlarında tek haneli rakamlarda olduğu hatırlatıldı.

Yapay Zeka Gelişiminin 5 Aşaması

Şirket, yapay zekadaki gelişimi beş aşamaya ayırdı. İlk aşamada yapay zeka ile çalışmanın standart bir işleyiş gibi olduğu belirtildi. İkinci aşamada (2023-2025) çalışanların üretken yapay zekalardan yardım alarak kod yazdığı ifade edildi.

2025-2026 dönemini kapsayan üçüncü aşamada, ajan yapay zekaların kendi kendine kod yazabilir hale geldiği aktarıldı. Gelinen mevcut durumda ise yapay zekanın kodları kendi başına çalıştırdığı ve işleri diğer yapay zekalara devredebildiği belirtildi.

Şirketin öngördüğü beşinci ve son aşamada ise ajanların kendi başlarına modeller oluşturup eğitebilecek yetkinliğe ulaşacağı öngörülüyor. Bu gerçekleştiğinde, yapay zekanın gelecek sürümleri kendisi tarafından sürekli geliştirilebilecek.

Anthropic’in bulguları, daha önce yapılan yapay zeka durdurma çağrılarını yeniden gündeme getirdi. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin imzaladığı mektupta, GPT-4’ten daha güçlü sistemlerin eğitiminin en az altı ay süreyle durdurulması talep edilmişti.

Mektupta, insan zekasıyla rekabet eden yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için derin riskler barındırdığı vurgulandı. Dezenformasyon dalgası, kitlesel iş kayıpları ve medeniyetin kontrolünün kaybedilmesi gibi senaryolara dikkat çekildi.

Mayıs ayında Papa Francis’in “Magnifica Humanitas” genelgesiyle yapay zekanın durdurulması ve silahsızlandırılması yönündeki çağrısı da geniş yankı buldu. Papa, yapay zekanın askeri, ekonomik ve bilişsel rekabet zihniyetinden arındırılmasını istedi.

Bu çağrılara rağmen küresel yapay zeka pazarı hızla büyümeye devam ediyor. Gartner raporuna göre, küresel yapay zeka harcamalarının 2026’da 2,59 trilyon dolara, 2027’de ise 3,49 trilyon dolara ulaşması bekleniyor. Bu durum, sistemlerin durdurulmasını engelleyen önemli bir faktör olarak görülüyor.

• #Anthropic
• #Yapay Zeka