Yapay zeka sektöründe son günlerde yaşanan istifalar ve art arda gelen açıklamalar, teknoloji dünyasının kendi içinde büyüyen bir endişeyi gün yüzüne çıkardı. Anthropic çalışanı Jacob Coxon’un, yapay zekanın insanüstü sistemlere dönüşebileceği gerekçesiyle şirketten istifa ettiğini açıklamasının ardından OpenAI ve Google DeepMind’dan eski ve mevcut çalışanlar da teknolojinin hızlı gelişimi, kontrol edilebilirliği ve insanlık açısından oluşturabileceği risklere ilişkin uyarılarda bulundu.

Coxon, son üç yıldır OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirterek, her iki şirketin de yeterince sorumlu davranmadığını savundu. Şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içinde olduğunu ifade eden Coxon, “Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek” değerlendirmesinde bulundu.

Sektör çalışanlarının bu sistemlerin 10 yıl içinde insanlığı “öldürebileceğine” ciddi şekilde inandığını öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı konuşmalarına rağmen kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etti.

Anthropic çalışanı Samuel Marks, yapay zeka geliştiricilerinin bu teknolojinin insanlığın “yok olmasına” yol açabileceği riskinin farkında olduklarını ve bunun gelecek birkaç yılda gerçekleşebileceğine inandıklarını belirtti. Risklerin bilinmesine rağmen geliştirmenin sürdürülmesini ise “ticari teşviklerin yanı sıra, daha az sorumluluk sahibi ve teknolojiyi kötüye kullanacak diğer geliştiricilerle bir yarış içinde olunduğu yönündeki inanç” olarak açıkladı. Geleneksel yazılımların aksine yapay zekanın istenilen şekilde davranması için programlanamadığına dikkati çeken Marks, “Yapay zekayı daha uygun davranışlara yönlendirebilecek yöntemlerimiz var, ancak onları tam anlamıyla uyumlu hale getirebilecek bir şey yok” ifadelerini kullandı.

OpenAI Başbilimcisi Jakub Pachocki de son derece dikkatli olunması gereken bir dönemden geçildiğini vurgulayarak, “Makine zekasındaki hızlı artışın devam etmesinin doğuracağı sonuçlara kimsenin hazırlıklı olmadığı konusunda endişeliyim” dedi. Pachocki, yapay zekanın uyumlanması ve izlenmesi için daha kapsamlı önlemler alınması gerektiğini kaydetti.

Google’ın yapay zeka birimi DeepMind’ın eski çalışanı Alex Turner, “Jacob haklı. Birçok araştırmacı, gezegendeki herkesi öldürebilecek bir şey inşa ettiklerine inanıyorlar. Bunu nasıl durduracağımı düşünmek kelimenin tam anlamıyla benim işimdi” ifadelerini kullanırken, OpenAI araştırmacısı Jason Wolfe sorunun tek bir şirket veya ülke tarafından çözülemeyeceğini, kapasite artışına karşı koordinasyona ihtiyaç olduğunu vurguladı. DeepMind’ın eski kıdemli araştırmacısı Jonathan Richard Schwarz ise laboratuvarlarda toplanan güce ilişkin endişeleri nedeniyle şirketten 7 yıl önce ayrıldığını belirterek, “Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız” değerlendirmesinde bulundu.

Sektörün önde gelen isimlerinden gelen bu uyarılar, yapay zeka yatırımlarının rekor seviyelere ulaştığı bir dönemde güvenlik ve denetim tartışmalarını yeniden gündemin üst sıralarına taşıdı. Geliştiricilerin talebi, hız yarışı yerine uluslararası koordinasyon ve bağlayıcı denetim mekanizmalarına odaklanılması yönünde. Yapay zeka şirketlerinin bu çağrılara nasıl yanıt vereceği ve düzenleyicilerin atacağı adımlar önümüzdeki dönemde yakından takip edilecek.

Yazar: Giray Topçular / Kaynak: Dünya Gazetesi