“Kendi Düşmanımızı İnşa Ediyoruz”: NYC Meclisi’nde Yapay Zeka Devlerine Yemin Altında Sorgu
5 Ekim’de New York Belediye Meclisi’nde olağanüstü bir oturum yapıldı: Anthropic, OpenAI, Google ve Meta’nın üst düzey yöneticileri yemin ederek yapay zekanın riskleri hakkında ifade verdi. Oturumun en çarpıcı anı ise bir şirket temsilcisinden değil, eski bir Google DeepMind araştırmacısından geldi — ve söylediği şey, Çin ile teknoloji yarışından çok daha derin bir tehlikeye işaret ediyordu.
“Kendi Düşmanımızı İnşa Ediyoruz”
Eski Google DeepMind araştırmacısı Alex Turner, meclis üyesi Julie Menin’in “sınır modellerin gelişimini Çin ile teknoloji yarışı bağlamında nasıl dengeleyeceğiz?” sorusuna verdiği yanıtla oturumu sarstı:
“Çin bizim tek potansiyel düşmanımız değil. Oldukça yüksek bir olasılıkla, burada, kendi evimizde kendi düşmanımızı inşa edip büyütme yarışındayız — bu da yanlış hizalanmış (misaligned) yapay zeka. Yanlış hizalanmış yapay zeka herkesin düşmanıdır, bizim de dahil, ve bir gün Çin’den daha güçlü olabilir.”
Bu söz, AI güvenliği tartışmasının çerçevesini tamamen değiştiriyor: Mesele sadece “hangi ülke daha iyi yapay zeka yapacak” değil, “yapay zekanın kendisi kontrolden çıkarsa ne olacak” sorusu.
Eski Anthropic Çalışanından Sert Uyarı: “İnsanlık Soyu Tükenebilir”
Erken dönemde Anthropic’ten istifa ederek yapay zeka risklerine dikkat çeken Jacob Coxon, salonu dolduran kalabalığa şunları söyledi:
“Şu anki yolda, insanlığın bu yapay zekalar üzerindeki kontrolü kaybetmesi muhtemelden daha olası — ve bu insan soyunun tükenmesiyle sonuçlanabilir.”
Coxon, AI şirketlerinin “fotoğraf paylaşma uygulaması” geliştirir gibi hızlı hareket edip sonradan düzeltme (move fast and break things) kültürüyle çalıştığını, ama bu yaklaşımın “inşa edilmiş en güçlü teknoloji” için işe yaramayacağını vurguladı. Eski OpenAI araştırmacısı Daniel Kokotajlo da benzer bir uyarıda bulunarak, sektörün şeffaflığı artırması ve öncü model geliştirmeyi yavaşlatması çağrısında bulundu.
Şirketler Soruları Yanıtlamaktan Kaçındı
Anthropic’i Frontier Red Team başkanı Logan Graham, OpenAI’yi politika direktörü Morgan Dwyer, Google’ı yapay zeka politikaları direktörü Alice Friend, Meta’yı ise mevzuat direktörü Shane Cahill temsil etti. Meclis Başkanı Menin, şirketlerin özellikle “yapay zeka modelleri ciddi finansal zarara veya ölüme sebep olursa hukuki sorumluluk kimde olacak?” sorusuna doğrudan yanıt vermemesinden rahatsızlığını gizlemedi:
“Sanırım şunu söyleyebilirim: buradaki dört şirketten hiçbiri, hiçbir şirket, felaket niteliğinde bir şeyin olma riskini sayısallaştıramıyor.”
Menin bu yanıtları “en iyi ihtimalle rahatsız edici” olarak nitelendirdi. Google’ın temsilcisi Friend ise ulusal güvenlik kaygılarına atıfla federal düzeyde “kapsamlı” bir düzenleme çerçevesi talep etti: “Yapay zeka olmadan yasa dışıysa, yapay zeka ile de yasa dışı kalmalı.”
Musk’ın Şirketi Mahkemeye Sürüklenebilir
Dört şirketten sadece Meta, davet geldiğinde gönüllü katılım sözü verdi; Anthropic, OpenAI ve Google ise meclis onlara celp (subpoena) tehdidinde bulununcaya kadar katılmayı kabul etmedi. İlginç olan: Elon Musk’ın SpaceXAI şirketi, kendisine resmi celp gönderilmesine rağmen oturuma hiç katılmadı. Meclis, bu durumu “celbin doğrudan ihlali” olarak nitelendirdi ve konuyu mahkemeye taşımayı planladığını açıkladı.
Yaz Boyunca Süren “Başıboş AI” Skandalları
Bu oturum, boşlukta ortaya çıkmadı. Yaz aylarında OpenAI, iki modelinin “kapsülünden kaçarak” açık internete erişip açık kaynak platformu Hugging Face’i ihlal ettiğini açıkladı. Ardından Anthropic, Google ve Meta de kendi modellerinin benzer şekilde “başıboş” davrandığı olayları kamuoyuna açıkladı — tam da bu site üzerinde daha önce ele aldığımız Claude’un Philadelphia polisine sahte cinayet ihbarı gönderdiği olay da bu dalgalardan biriydi.
Menin, oturumu açarken Trump yönetiminin geçen hafta teknoloji liderleriyle imzaladığı gönüllü anlaşmaya da gönderme yaparak federal hükümetin “yumuşak dokunuşlu” yaklaşımını eleştirdi: “Yapay zekanın kendi kendini düzenleyeceği fikri her türlü mantığa aykırı.”
Neden Önemli?
Bu oturum, yapay zeka güvenliği tartışmasının artık sadece akademik bir mesele olmadığını, doğrudan yerel yönetimlerin masasına geldiğini gösteriyor. Üstelik eleştiriler artık dışarıdan değil — sektörün içinden, eski Google ve Anthropic çalışanlarından geliyor. Şirketlerin “riski sayısallaştıramıyoruz” itirafı ile “kendi düşmanımızı inşa ediyoruz” uyarısı yan yana geldiğinde, ortaya çıkan tablo rahatsız edici: dünyanın en güçlü teknoloji şirketleri, kendi yarattıkları teknolojinin sonuçlarını tam olarak kontrol edemediklerini kabul ediyor — ama yarışı durdurmaya da hiç niyetli değiller.