ebworkYapay zekâ artık sadece mühendislerin konuştuğu teknik bir alan değil. Hangi verilerin toplanacağı, kararların kimin tarafından verileceği, hataların hesabının kimden sorulacağı gibi sorular doğrudan insan haklarıyla kesişiyor. İşin özünde şu var: Bir algoritma benimle ilgili bir karar veriyorsa, o kararın nasıl alındığını bilmem ve gerektiğinde buna itiraz edebilmem gerekir. Yapay zekânın insan onuruna saygılı bir çerçevede gelişip gelişmeyeceği ise bugün düzenleyicilerin ve hukukçuların masasında duran en sıcak soru.
Klasik anayasal çerçeveler bu yeni dinamikler karşısında zorlanıyor. Çünkü artık gücü sadece devlet kullanmıyor; özel şirketlerin elindeki algoritmalar da milyonlarca insanın hayatını doğrudan etkiliyor. Bu boşluğu doldurmak için “dijital anayasalcılık” adı verilen yeni bir araştırma alanı yükseliyor.
Dijital anayasalcılık neyi hedefliyor?
Dijital anayasalcılık, dijital ortamda gücün sınırlanmasını ve temel değerlerin — insan hakları, demokrasi, hukukun üstünlüğü — yeni teknolojilere rağmen korunmasını amaçlayan bir yaklaşım. Fikir şu: Anayasa hukukunu yapay zekâ çağına göre yeniden düşünmek. Yenilikçiliği engellemeden, şeffaflık ve hesap verebilirlik ihtiyacını dengeleyecek kurallar koymak.
Küresel ölçekte bu konuda üç farklı paradigma belirmiş durumda:
- Çin’in devlet merkezli yaklaşımı: Yapay zekâ yönetişimini devletin yönlendirmesi gerektiğini savunur.
- ABD’nin piyasa merkezli yaklaşımı: Özel sektör ve sivil toplumu merkeze alır.
- AB’nin insan merkezli yaklaşımı: Temel hakların korunmasına öncelik verir, gelişmeyi insan onuruna saygılı bir çerçevede tutar.
Bu üç modelin farkı sadece teknik değil; aynı zamanda devlet, piyasa ve birey arasındaki güç dengesine dair siyasi bir tercih.
Somut sorunlar: kara kutu ve algoritmik yanlılık
Soyut tartışmaların ötesinde, yapay zekânın yol açtığı hukuki sorunların gerçek vakaları da var. İtalya Veri Koruma Kurumu (Garante), 2023’te ChatGPT’ye geçici bir yasak getirmişti. Gerekçeleri bugün hâlâ geçerli bir kontrol listesi gibi: kullanıcıların bilgilendirilmemesi, kişisel verilerin toplanması için yasal dayanak bulunmaması, verilerin yanlış işlenme olasılığı ve yaş doğrulama mekanizmasının eksikliği.
Bir diğer temel sorun, “kara kutu” denilen şeffaflık ve açıklanabilirlik eksikliği. Makine öğrenmesi modellerinin verdiği kararların nasıl alındığını anlamak, denetlemek ya da açıklamak çoğu zaman mümkün olmuyor. Sistem hata yaptığında hatanın nedenini bulamıyorsanız, mağduriyete karşı hukuki yola başvurmak da zorlaşıyor. AB gibi düzenleyici otoriteler bu yüzden algoritmik etki değerlendirmeleri gibi araçları devreye sokmaya çalışıyor.
Algoritmik yanlılık da en az kara kutu kadar ciddi. Modeli eğittiğimiz verilerdeki sosyal önyargılar, algoritmanın kararlarına birebir yansıyor, hatta kimi zaman güçlenerek. Sağlık, finans, işe alım ve ceza adaleti gibi alanlarda bu, ayrımcı kararlar anlamına gelebiliyor. Yani sorun sadece teknolojik değil; toplumsal eşitsizlikleri dijitale taşıyan bir adalet meselesi.
AB Yapay Zekâ Yasası ve eleştirileri
AB, bu riskleri yönetmek için dünyanın en kapsamlı düzenlemelerinden biri olan Yapay Zekâ Yasası’nı (AIA) hazırladı. Yasa risk temelli bir yaklaşım benimsiyor: Kabul edilemez risk taşıyan sistemler (örneğin zararlı manipülatif teknikler kullananlar) yasaklanıyor; yüksek riskli sistemler (kritik altyapı yönetimi veya hukuk gibi alanlarda kullanılanlar) için sıkı kurallar getiriliyor; ChatGPT gibi genel amaçlı modellere ise şeffaflık yükümlülükleri konuyor.
Yasa önemli bir adım olsa da eleştirileri de beraberinde taşıyor. En zayıf noktası “yüksek risk” tanımındaki belirsizlik. Otonom araç örneğini düşünün: Sistem başarısız olduğunda tehlikeli; yani risk doğrudan kullanımdan geliyor. Uzaktan biyometrik gözetim ise kötüye kullanıldığında riskli. Bu iki farklı risk türünü aynı başlıkta değerlendirmek, yasal çerçeveyi bulanıklaştırabiliyor. Ayrıca yasanın eğitim veri setlerinin “ilgili, temsili, hatasız ve eksiksiz” olması şartı da pratikte zorlayıcı; herhangi bir kamu veri tabanının tam ve hatasız olduğunu varsaymak gerçekçi değil.
Sonuç: düzenleme mi, boğma mı?
Yapay zekâ teknolojilerinin gelişim hızı, insan onuru ve temel haklar üzerindeki etkileri yönetmek için aciliyet hissi yaratıyor. AB’nin YZ Yasası, inovasyon ile temel haklar arasında denge kurmayı deneyen ilk kapsamlı örnek olarak bu alana yol haritası sunuyor. İtalya vakası ise şeffaflık ve hesap verebilirlik eksikliğinin somut hukuki sonuçlar doğurabildiğini gösteriyor.
İşin can alıcı noktası şu: Düzenleme, yeniliği boğmak için değil, güven inşa etmek için var. Yapay zekâ insanlığın yararına bir araç olarak kalmak istiyorsa, onu yöneten kuralların da insan onurunu merkeze alması gerekiyor. Yapay zekânın geleceği, büyük ölçüde onu nasıl düzenlediğimize bağlı.
