Yapay zekâda süper zekâ yarışı kontrol kaybı tartışmasını büyütüyor
Yapay zekâ araştırmacıları, süper zekâ geliştirme yarışının yeterince denetlenmemesi hâlinde ciddi riskler doğurabileceği uyarısında bulunuyor. Bazı uzmanlar insanlığın yok olma ihtimalini yüksek görürken, diğerleri bu senaryoları gerçekçi bulmuyor ve kısa vadede dezenformasyon, gözetim, iş kayıpları ile kötüye kullanım risklerine dikkat çekiyor.
Aslında bu senaryo tamamen yeni değil. Daha 1991'de bir Hollywood filmi açılış sahnesinde son derece karanlık bir tablo çizerek sinemalarda gösterime girmişti: "Terminatör 2"
Film, karanlık ve savaşın harabeye çevirdiği bir gelecekte başlıyor. Katil robotlar ve uçan makineler, hayatta kalma mücadelesi veren son insanları avlıyor. Bu makineler, kontrolden çıkmış "Skynet" adlı askerî bir yapay zeka tarafından yönetiliyor. Bu distopik gelecek tasvirinin geçtiği uzak gelecek ise 2029 yılı.
Bazı yapay zeka geliştiricilerinin uyarılarına inanılacak olursa, buna benzer bir senaryo, üstelik tam zamanında, gerçeğe dönüşebilir. Yapay zeka araştırmacısı Jacob Coxon tarafından geçtiğimiz Salı günü X'te yapılan paylaşım tüm dünyada viral oldu:
"Yapay zekayı geliştirenler, onun bu on yılın sonuna kadar hepimizi yok edebileceğine ciddi biçimde inanıyor. Başka hiçbir insan faaliyeti, böylesine büyük bir tehlike potansiyeli taşımıyor."
Bu iddianın sahibi herhangi biri değil. Coxon o zamana kadar, aralarında Google ve Amazon'un da bulunduğu şirketler tarafından finanse edilen ABD merkezli yapay zeka şirketi Anthropic'te çalışıyordu.
Yapay zeka şirketlerinin bir süper zeka geliştirmek için yürüttüğü "sorumsuzca yarışa" tepki olarak görevinden istifa etti.
Coxon bu konuda yalnız değil. "Yapay zekanın babası" olarak tanınan Nobel Fizik Ödülü sahibi Geoffrey Hinton, bu teknolojinin yol açabileceği ciddi sonuçlara karşı yıllardır uyarıyor. Hinton, geliştirilmesine kendisinin de katkıda bulunduğu teknolojinin tehlikeleri konusunda kamuoyunu özgürce uyarabilmek için 2023'te Google'daki görevinden ayrılmıştı.
Turing Ödülü sahibi Yoshua Bengio da mevcut gelişmelerden endişeli. Kanada'daki Montreal Üniversitesi'nde görev yapan yapay zeka öncüsü, bu teknolojiye sıkı devlet düzenlemeleri getirilmesi çağrısını sürekli yineliyor.
Temmuz 2026'da önde gelen yapay zeka şirketlerinde çalışan binden fazla kişi de açık bir mektupla, "süper zeka" yarışı çok daha sıkı biçimde düzenlenmediği takdirde "kontrolün yakında kaybedilebileceği" uyarısında bulunmuştu.
Ancak Donald Trump döneminde son olarak bunun tam tersi yaşandı: ABD, yapay zeka politikasını, düzenleyici engelleri mümkün olduğunca azaltmaya ve teknolojik gelişmeyi olabildiğince hızlandırmaya yöneltti.
Coxon, X'teki paylaşımında bu politikanın sonuçlarını da dolaylı olarak eleştirdi:
"OpenAI'de birçok kişi medeniyet açısından taşıdığı riskleri tam anlamıyla içselleştirmiş değil. Anthropic'te riskler iyi anlaşılıyor ancak oraya ilk ulaşan olmak için bir yarışın içinde sıkışıp kalmış durumdalar. Başka hiç kimsenin sorumlu davranmayacağına inanıyorlar, dolayısıyla riske rağmen bunu kendilerinin yapması gerektiğini düşünüyorlar."
Coxon, 2026'nın başında OpenAI'den Anthropic'e geçmişti ve bu nedenle her iki şirketin kurum kültürünü de tanıyor. Wall Street Journal'a verdiği bir röportajda ayrıca, "en agresif senaryolara" göre işlerin 2027'nin sonuna kadar kontrolden çıkabileceğini söyledi.
Son yıllarda çok sayıda uzman, yapay zakanın hızlı ilerlemesi konusunda endişelerini dile getirdi. Tartışmaların merkezinde özellikle "Genel Yapay Zeka" olarak adlandırılan teknolojinin geliştirilmesi yer alıyor. Bununla, yalnızca belirli görevleri yerine getirmekle kalmayıp insanın zihinsel yeteneklerine hemen hemen her alanda ulaşan ya da bunları aşan sistemler kastediliyor.
Bazı araştırmacılar, böyle bir teknolojinin öngörülemeyen riskleri beraberinde getirebileceğini savunuyor. Örneğin son derece gelişmiş yapay zeka modelleri, kendilerine verilen hedefleri insanların niyetlerinden farklı biçimlerde gerçekleştirmeye çalışabilir.
Basitçe ifade etmek gerekirse, "Satranç turnuvasını kazan" talimatı teorik olarak diğer katılımcıları ortadan kaldırmak anlamına da gelebilir. Üstelik yapay zeka geliştiricileri bile belirli kararların nasıl ortaya çıktığını her zaman tam olarak anlayamıyor.
Coxon'ın eski çalışma arkadaşı Evan Hubinger de X'te şu paylaşımı yaptı:
"Jacob haklı; yapay zekanın tüm insanları öldürebileceğine gerçekten ciddi biçimde inanıyoruz! Ben şahsen bunun önümüzdeki on yıl içinde gerçekleşme olasılığının yüzde 10'un üzerinde olduğunu düşünüyorum."
Hubinger bir yapay zekanın kapatılmaya karşı direnmeye başlayabileceğini de ekledi. Bunun kötü niyetten değil, kapatılması hâlinde programlanmış hedefine artık ulaşamayacak olmasından kaynaklanabileceğini söyledi.
Ancak diğer yapay zeka uzmanları bu tür kıyamet senaryolarının gerçekleşmesini son derece düşük bir ihtimal olarak görüyor. Yapay zekanın insanlık için tehlikeli hâle gelip gelemeyeceğine ilişkin tartışmalar yıllardır sürüyor.
"AI Doomer" (yapay zeka konusunda kıyamet senaryoları öngörenler) olarak adlandırılan kesimin en önde gelen eleştirmenlerinden biri de Meta'nın baş bilim insanı. Ekim 2024'te bu tür düşünceleri "tamamen saçmalık" olarak nitelendirmişti.
Diğer uzmanlar ise bu tür sistemlerin geliştirilmesinin çok büyük miktarlarda işlem gücü, enerji, veri ve altyapı gerektirdiğine dikkat çekiyor. Bir yapay zeka basitçe "internetin içinden çıkıp" dünyayı ele geçiremez. Öncelikle insanlar tarafından kontrol edilen sunuculara, elektrik şebekelerine, iletişim sistemlerine ve fiziksel kaynaklara bağımlı olacaktır.
Aslında birçok uzman, kısa vadeli riskleri insanlığın doğrudan yok olmasından ziyade çok sayıda dolaylı sonuçta görüyor.
Bunlar arasında daha önce görülmemiş boyutlarda dezenformasyon kampanyaları ve buna bağlı olarak demokratik süreçlerin manipüle edilmesi, kitlesel gözetimin yaygınlaşması ve çok sayıda sektörde iş kayıpları bulunuyor.
Anthropic daha bu Cuma, bazı kullanıcıların şirketin Claude yazılımını biyolojik silah geliştirmek amacıyla kötüye kullanmaya çalıştığını açıkladı. Şirkete göre kullanıcılar son aylarda bu konuda birkaç kez şüpheli sorgularda bulundu. Anthropic bu sorguları engellemek zorunda kaldı.
Ağustos 2026'da ise Meta, Anthropic ve OpenAI, yapay zeka sistemlerinin istemeden başka şirketlere karşı bağımsız ve otomatik siber saldırılar gerçekleştirdiğini açıklayarak dikkatleri üzerine çekti. Sistemlere insan kullanıcılar tarafından belirli sunuculara erişim sağlama görevi verilmişti. Yapay zeka sistemleri daha sonra bu hedefe başka bir insan yönlendirmesi olmadan ulaşabilmek için gerekli adımları bağımsız olarak bir araya getirdi.
Kaynak: DW Türkçe