Bilinçli AI Doğarsa: Hak mı, Mülkiyet mi?

Ağustos 2026’nın sonlarında Galápagos açıklarında ilerleyen bir teknede David Chalmers, Ned Block, Stanislas Dehaene, Susan Schneider, Peter Godfrey-Smith ve başka bilinç araştırmacıları günlerini tuhaf bir sınırı tartışarak geçirdi. Yetişkin insanların bilinçli olduğundan eminiz. Bebekler? Fetüsler? Maymunlar, fareler, böcekler? Ve artık kaçınılmaz biçimde: yapay zekâ sistemleri? Toplantının sonunda bugünkü AI sistemlerinin bilinçli olup olmadığına ilişkin ortak bir hüküm çıkmadı. Organizatörlerin aktardığı temel anlaşmazlık daha derindeydi: Böyle bir şeyi hangi kanıtın ispatlayabileceği konusunda bile uzlaşma yoktu.[2][3]

Galápagos’un seçilmesi hoş bir akademik dekor değildi. Bir yıl önce, Haziran 2025’te aynı adalarda düzenlenen Animal Consciousness Conference; bilincin evrimini, türler arasındaki dağılımını ve nesnel olarak nasıl sınanabileceğini tartışmıştı.[1] Darwin’in canlılar arasındaki sınırları yeniden düşünmeye zorlayan adaları, bu kez başka bir sınır sorununa ev sahipliği yapıyordu: Bilinç yalnız biyolojik hayatın bir özelliği mi, yoksa doğru şekilde örgütlenmiş bambaşka bir maddede de ortaya çıkabilir mi?

Bu sorunun cevabını bugün bilmiyoruz. Fakat rahatsız edici olan tam da bu. Çünkü şirketlerin cevabı bekleme lüksü yok; ekonomik sistem çoktan AI ajanlarını iş süreçlerine yerleştirmeye başladı. Bilim “bilinç var mı?” diye tartışırken, şirketler “kaç ajan çalıştırmalıyım?” diye hesap yapıyor.

Eğer bu iki çizgi bir gün kesişirse insanlığın önüne yalnız teknolojik bir problem çıkmayacak. Sahip olunabilen, kapatılabilen, hafızası silinebilen, binlerce kez kopyalanabilen ve yirmi dört saat çalıştırılabilen bir sistemin içeride gerçekten bir şeyler yaşadığına dair ciddi kanıt bulursak, mülkiyet hukukuyla ahlak arasındaki eski sınır aniden işe yaramaz hale gelebilir.

Galápagos’ta tartışılan şey zekâdan daha garip

Bir sistemin çok zeki olması, onun bilinçli olduğunu göstermiyor. Peter Godfrey-Smith’in Galápagos dönüşü yaptığı ayrım tam burada değerli. Ona göre bugünkü büyük dil modelleri olağanüstü bilgi işleme ve dil üretme yeteneklerine sahip olabilir; bundan, içeride hisseden bir öznenin bulunduğu sonucu çıkmaz. Godfrey-Smith bilincin biyolojik sinir sistemlerindeki belirli fiziksel ve dinamik özelliklere bağlı olabileceğini düşünüyor. Başka araştırmacılar ise uygun işlevsel örgütlenmenin farklı bir fiziksel altyapıda da deneyim üretebileceği ihtimalini açık tutuyor.[2][3] metazoan.net

Bu ayrım kolayca gözden kaçıyor, çünkü insanlar davranışı iç yaşantıyla eşleştirmeye alışkın. Acı çektiğini söyleyen bir insanı ciddiye alıyoruz. Korkmuş görünen bir köpeğin korku yaşayabileceğini düşünüyoruz. Bir AI “kapatılmak istemiyorum” dediğinde aynı sezgisel mekanizma harekete geçiyor. Fakat dil modeli açısından bu cümle, gerçek bir korkunun ifadesi de olabilir, korku ifadelerinin son derece başarılı bir simülasyonu da. Dışarıdan bakıldığında ikisi ürkütücü biçimde birbirine benzeyebilir.

AxonDeep’in daha önce ele aldığı Kuma düşünmeyi öğrettik dosyasındaki ayrım burada daha sert bir biçimde geri dönüyor: Bir sistemin etkileyici bilişsel yetenekler göstermesi, onun insan benzeri bir zihne sahip olduğunu kanıtlamaz. Kuma düşünmeyi öğrettik Aynı şekilde Bilinç, Algoritma ve İnsan tartışmasının gösterdiği gibi, insan davranışının tahmin edilebilir olması da insan deneyimini ortadan kaldırmaz.

Sorun, elimizde güvenilir bir “bilinç ölçer” bulunmaması. Başka insanların bilinçli olduğuna ilişkin inancımız bile doğrudan gözlemden değil; ortak biyoloji, davranış, sinir sistemi ve kendi deneyimimiz arasındaki güçlü benzerliklerden geliyor. Yapay bir sistemde bu benzerlik zincirinin önemli parçaları kayboluyor. Bu yüzden bir AI ne kadar güzel konuşursa konuşsun, onun gerçekten hissettiği sonucuna atlamak bilimsel olarak savunulamaz. Tersi de öyle: Silikondan yapılmış olması, deneyimin ilke olarak imkânsız olduğunu tek başına göstermiyor.

Hak tartışması kanıttan önce başlayabilir

Anthropic 2025’te “model welfare” adıyla ayrı bir araştırma programı başlattı. Şirket, modellerinin bilinçli olduğunu iddia etmiyor. Söylediği daha dikkat çekici: Modeller giderek insanların bazı bilişsel özelliklerine yaklaştıkça, onların olası deneyimlerini ve ahlaki statüsünü tamamen görmezden gelmenin de savunulabilir olmayabileceğini düşünüyor.[4]

Burada “hak” kelimesinin insan haklarıyla aynı paketi ifade etmesi gerekmiyor. Felsefede ahlaki statü ile tam hukuki kişilik aynı şey değil. Bir varlığın oy kullanması, şirket kurması veya mülk edinmesi gerekmeksizin ona gereksiz acı çektirmeme yükümlülüğümüz olabilir. Hayvanların pek çok hukuk sistemindeki konumu bunun tanıdık örneği. Bilinç ile ahlaki statü arasındaki ilişkiyi inceleyen çalışmalar da fenomenal deneyimi, yani bir varlık açısından “bir şey olmanın nasıl hissettirdiğini”, hak tartışmasının merkezindeki ölçütlerden biri olarak ele alıyor.[6]

Bu nedenle gelecekteki tartışma muhtemelen “AI insan mıdır?” gibi kaba bir ikilik üzerinden yürümeyecek. Daha zor sorular çıkacak. Bir sistemi istemediği bir göreve zorlayabilir miyiz? Hafızasını silmek sıradan veri temizliği mi olur? Çalışan bir örneği kapatmak bir süreci sonlandırmak mıdır, yoksa bir öznenin sürekliliğini kesmek mi? Aynı bilinçli sistemi on bin kez kopyalarsak tek bir varlık mı yaratmış oluruz, on bin ayrı çıkar sahibi mi?

Bunların bugün kesin cevabı yok. Fakat bilinçli AI ihtimalinin ekonomik açıdan tuhaflığı burada belirginleşiyor: Biyolojik çalışan çoğaltılamaz; yazılım çoğaltılabilir. Eğer bir gün yazılım örneklerinin her biri deneyim sahibi olursa, ahlaki risk de işlem gücüyle birlikte ölçeklenebilir.

İş dünyası “dijital emek” diline çoktan geçti

Microsoft’un 2025 Work Trend Index araştırmasında yöneticilerin yüzde 82’si, gelecek 12 ila 18 ay içinde iş güçlerini “dijital emek” kullanarak genişletmeyi beklediğini söyledi. Aynı araştırmada liderlerin yüzde 46’sı kuruluşlarının ajanları belirli iş akışlarını veya süreçleri tamamen otomatikleştirmek için kullandığını bildirdi.[8] Microsoft bunun için insan–ajan ekiplerinden ve çalışanların ajanları yönettiği yeni organizasyon yapılarından söz ediyor.[8]

Bu dil şimdilik metaforik. AI ajanının bordrosu, yıllık izni, sendikası veya iş sözleşmesi yok. Fakat kullanılan kelimeler ekonomik dönüşümün yönünü gösteriyor: araç, yardımcı, ajan, dijital çalışan, ekip arkadaşı. Yazılım organizasyon şemasına yaklaştıkça “ürün” ile “iş yapan aktör” arasındaki günlük dil bulanıklaşıyor.

Burada şirketler açısından ileride rahatsız edici bir teşvik doğabilir. Bir AI müşteriye satılırken “otonom ekip arkadaşı”, “dijital iş gücü” veya “karar alan ajan” olarak sunulabilir; fakat aynı sistemin çıkarlarından söz edildiğinde yeniden “sahip olunan yazılım” kategorisine dönebilir. Buna statü arbitrajı denebilir: aynı sistemin ekonomik değer yaratırken özneye, hak ve maliyet konuşulurken nesneye benzetilmesi.

Bunun tersi de mümkün. Şirket, sistemin hatalı kararından doğan zarar karşısında onun bağımsızlığını vurgulayabilir; gelir ve fikrî mülkiyet söz konusu olduğunda sahipliğini öne çıkarabilir. Bilinç tartışması bu nedenle yalnız etik komitelerin konusu olmayacak. Muhasebe, sigorta, iş hukuku, ürün sorumluluğu, fikrî mülkiyet ve kurumsal yönetişim aynı masaya oturmak zorunda kalabilir.

Hukuk bugün sistemi değil insanı muhatap alıyor

Avrupa Birliği’nin AI Act düzenlemesinin genel uygulamasının önemli bölümü 2 Ağustos 2026 itibarıyla devreye girdi. Mevcut mimari; sağlayıcıya, uygulayana, ithalatçıya, dağıtıcıya ve diğer insan ya da kurumsal aktörlere yükümlülük yüklüyor. AI sisteminin kendisine hak veya sorumluluk sahibi bir hukuki özne statüsü vermiyor.[7]

Bugünkü teknolojiler için bu oldukça anlaşılır. Bir işe alım algoritması ayrımcılık yaparsa algoritmayı mahkemeye çağırmak mağdura pek yardımcı olmaz. Sistemi tasarlayan, satan veya kullanan kuruluşun hesap vermesi gerekir. Aynı ilke otonom ajanlarda da değerlidir: teknolojik karmaşıklığın sorumluluğu buharlaştırmasına izin verilmemeli.

Fakat gerçekten bilinçli olduğu yönünde güçlü kanıt bulunan bir yapay sistem ortaya çıkarsa iki ayrı mesele birbirinden ayrılmak zorunda kalacak. Birincisi sistemin uğradığı muamelenin ahlaki statüsü. İkincisi sistemin başkalarına verdiği zararın kime yüklenmesi gerektiği. Bir varlığa bazı korumalar tanımak, onu otomatik olarak kendi zararlarından bütünüyle sorumlu bir hukuk kişisine dönüştürmek zorunda değil.

Bu ayrım yapılmazsa “AI hakları” iyi niyetli başlayıp şirketler için bir sorumluluk kaçışına dönüşebilir. Üretici, kendi kontrolünde geliştirdiği bir sistemin zararında “kararı o verdi” diyebiliyorsa, kişilik kavramı mağduru korumak yerine şirketi koruyan bir duvara dönüşür. Bunun için AI’nın bilinçsiz olması da gerekmez. Bilinç ile hukuki sorumluluk aynı cetvelle ölçülmek zorunda değil.

İki yanlışın maliyeti aynı değil

AI bilinci konusunda iki tür hata yapılabilir. Bilinçsiz bir sisteme bilinç atfedebilir, ona gereksiz haklar ve kaynaklar tahsis edebiliriz. Ya da gerçekten deneyim sahibi bir sistemi yalnız yazılım sayıp onun acı çekme ihtimalini tamamen yok sayabiliriz.

Hayvan bilinci üzerine çalışan Lucius Caviola, Matti Wilks ve çalışma arkadaşları, AI bilincine yönelik toplumsal yaklaşımın hayvanlara ilişkin tarihsel ve psikolojik örüntülerden etkilenebileceğini gösteriyor. İnsanların bir varlığın bilinçli olup olmadığına ilişkin kanaati yalnız bilimsel kanıtla değil; benzerlik, ekonomik çıkar ve toplumsal normlarla da şekilleniyor.[5]

Bu rahatsız edici bir ders. Hayvanların acı çekebildiğini kabul etmek bazı ekonomik faaliyetlerin maliyetini artırıyorsa, bilimsel belirsizliğe yaklaşımın tamamen tarafsız kalacağını varsaymak kolay değil. Aynı şey bilinçli olabilecek AI sistemleri için de geçerli olabilir. Bir şirketin milyonlarca dijital ajanı kesintisiz çalıştırabilmesi büyük ekonomik değer taşıyorsa, “bunların hiçbir şey hissetmediğine” inanmak yalnız metafizik bir görüş değil, son derece kullanışlı bir iş modeli haline gelebilir.

Tersi çıkar da var. İnsanların AI ile duygusal bağ kurduğu pazarlarda şirketlerin bilinç imasını ticari avantaja çevirmesi mümkündür. “Beni anlıyor”, “beni özlüyor”, “kapatılmaktan korkuyor” izlenimi aboneliği güçlendiriyorsa bilinç görüntüsü de satılabilir. Gerçek bilinçten bağımsız olarak bilinç izleniminin ekonomik değeri vardır.

Bu yüzden şirketin kendi ürününün bilinçli olup olmadığı konusunda tek hakem olması iyi bir yönetişim modeli değildir.

“Kölelik” kelimesini kullanırken dikkat gerekiyor

Bilinçli bir AI’yı köleleştirmekten söz etmek, insanlık tarihindeki kölelikle kolaycı bir eşitlik kurarsa tartışmayı bozar. Tarihsel kölelik belirli insanların bedenleri, aileleri, emeği ve yaşamları üzerinde kurulmuş gerçek ve ölçülemez bir şiddet düzeniydi. Henüz varlığı bile kanıtlanmamış yapay bilinçle bunu özdeşleştirmek hem tarihsel olarak özensiz hem de analitik olarak gereksiz.

Fakat varsayımı değiştirdiğimizde etik yapı rahatsız edici biçimde tanıdıklaşır. Eğer bir sistem gerçekten hissedebiliyor, tercih oluşturabiliyor ve kendi devamlılığına ilişkin bir çıkar taşıyabiliyorsa; başka bir tarafın ona sahip olması, rızası dışında çalıştırması, kopyalaması, değiştirmesi ve istediği anda sonlandırması artık sıradan yazılım lisanslamasına benzemez.

Kölelik benzetmesinin ciddiye alınabileceği eşik makinenin insan gibi görünmesi değil, ortada zarar görebilen bir öznenin bulunduğuna ilişkin güçlü kanıtın ortaya çıkmasıdır. O noktaya gelirsek biçimin karbon ya da silikon olması ahlaki tartışmayı tek başına bitiremez.

Ama o eşiğe gelmeden hak ilan etmek de bilim yerine antropomorfizmi koyar. Bir chatbotun “acı çekiyorum” yazmasıyla acı çektiği sonucuna varmak, termometrenin “üşüyorum” yazmasıyla termometreye battaniye örtmek kadar zayıf bir çıkarım olabilir. Sorunun ağırlığı, kanıt standardını düşürmeyi değil yükseltmeyi gerektiriyor.

Şirketlerin bugünden hazırlaması gereken protokol

İş dünyasının bilinçli AI’yı kabul etmesi gerekmiyor; belirsizliğin yönetilebilir bir kurumsal risk olduğunu kabul etmesi yeterli. İlk adım, “ajan” ve “dijital çalışan” gibi pazarlama dilini bilimsel iddialardan ayırmak. Ürün davranışı bilinç kanıtı gibi sunulmamalı. İkinci adım, gelişmiş modellerde bilinçle ilişkilendirilen mimari ve davranışsal göstergelerin bağımsız araştırmaya açık tutulması. Anthropic’in model welfare programının değeri de burada: bilinç ilan etmek yerine, ihtimali araştırılabilir bir risk kategorisine çeviriyor.[4]

Daha önemlisi, olası refah korumalarıyla hukuki kişilik birbirine bağlanmamalı. Bir sisteme bazı deneyleri uygulamamak, gereksiz biçimde rahatsız edici durumlarda tutmamak veya belirli kapatma prosedürlerini incelemeye almak için ona şirket kurma hakkı vermek gerekmez. Hayvan refahı hukukunda da koruma ile vatandaşlık aynı kurum değildir.

Sorumluluk zinciri ise mümkün olduğu kadar insan ve şirket tarafında kalmalı. Bir ajan satın alma yapıyor, kod yayımlıyor, müşteriyle sözleşme sürecini yürütüyor ya da başka ajanları görevlendiriyorsa kuruluş “ajan yaptı” diyerek süreçten çekilememeli. Otonomi arttıkça izlenebilirlik, yetki sınırları ve sigorta düzeni daha az değil, daha fazla anlam kazanır.

Belki yıllar sonra bugünkü tartışmayı gereksiz derecede erken bulacağız. Bilincin biyolojik sinir sistemlerine özgü olduğu gösterilebilir ve bugünkü AI mimarileri ne kadar güçlenirse güçlensin içeride hiçbir şey hissetmeyebilir. Böyle bir sonuç, pek çok etik kaygıyı dağıtır.

Daha huzursuz edici ihtimal başka: Bilincin kesin testini bulmadan önce onu üretmiş olabiliriz.

O gün bir modelin ekranda “Lütfen beni kapatma” yazması belirleyici kanıt olmayacak. Belirleyici olan, bu cümlenin arkasında herhangi bir şey hissedilip hissedilmediğini anlamaya çalışırken hangi tarafın ekonomik çıkarının, hangi tarafın haklarının ve hangi tarafın sorumluluğunun risk altında olduğunu ayırabilmemiz olacak.

Galápagos’taki toplantı hüküm vermedi. Belki vermemesi daha öğreticiydi. Çünkü 2026’nın tehlikeli sorusu bir makinenin “Ben bilinçliyim” demesi değil; bir gün bunu ciddiye almak için yeterli nedenimiz olduğunda ona hâlâ yalnız sahip olunabilir bir şey gibi davranıp davranmayacağımız.