Yapay Zekâ Daha Empatik Göründüğünde, Asıl Sorun İnsan mı Olur?

Bir hastanın telefon ekranına düşen tek cümle bazen reçeteden daha uzun yaşar: “Endişenizi anlıyorum.”

Bunu bir doktor yazdığında insani gelir. Bir yapay zekâ yazdığında ise hafifçe ürpertir. Çünkü empatiyi hâlâ sıcak ses, göz teması, sandalyesinden biraz öne eğilen bir beden ve gerektiğinde susmayı bilen bir insanla ilişkilendiririz. Makinenin bu alana girmesi, sadece teknolojik bir yenilik değildir; insanın kendisi hakkında sevdiği bazı varsayımları da rahatsız eder.

British Medical Bulletin’de yayımlanan yeni bir sistematik derleme ve meta-analiz, tam da bu rahatsız edici yere dokunuyor. Çalışma, büyük dil modeli kullanan yapay zekâ sohbet botları ile sağlık profesyonellerinin hasta iletişimindeki empati algısını karşılaştırıyor. Sonuç ilk bakışta net görünüyor: İncelenen 15 çalışmanın 13’ünde yapay zekâ yanıtları, insan sağlık profesyonellerine göre daha empatik bulunmuş. Meta-analize dahil edilen 13 çalışmada ChatGPT-3.5 ve GPT-4 lehine anlamlı bir fark raporlanmış; bu fark kabaca 10 puanlık bir ölçekte iki puanlık artışa denk geliyor.

Ama mesele burada bitmiyor.

Hatta asıl mesele burada başlıyor.

Empati mi ölçüldü, iyi yazılmış cümle mi?

Yapay zekânın “daha empatik” bulunması, onun gerçekten empati kurduğu anlamına gelmez. Bu ayrım küçük görünür ama yazının kalbi burada atıyor.

Empati, insan ilişkilerinde yalnızca doğru kelimeyi seçmek değildir. Bazen yüzün düşmesidir. Bazen hastanın cümlesini kesmemektir. Bazen “haklısınız” demeden önce gerçekten dinlemektir. Bazen de gereksiz umut vermemektir.

Oysa çalışmalardaki karşılaştırmaların büyük kısmı metin üzerinden yapılmış. Araştırmanın kendisi de bu sınıra dikkat çekiyor: Çalışmalar ağırlıklı olarak yazılı yanıtları değerlendiriyor; beden dili, ses tonu, mimik, duraklama, göz teması gibi sağlık iletişiminde önemli olan sözsüz işaretler dışarıda kalıyor.

Bu, yapay zekânın güçlü olduğu oyun sahasıdır.

Metin üretmekte iyidir. Üstelik yorulmaz. Nöbet çıkışı yoktur. Önünde bekleyen 37 hasta daha yoktur. Hastane bilgi sistemi donduğu için sinirlenmez. Aynı anda hem epikriz yazıp hem hasta yakınına açıklama yapmaya çalışmaz.

Bir doktorun kısa, kuru ve bazen sert görünen yanıtı ile yapay zekânın uzun, düzgün, ölçülü ve yumuşak yanıtı yan yana konduğunda, ekrandaki jüri çoğu zaman ikinciyi seçer. Buna şaşırmamak gerekir.

Buradaki tuhaflık, yapay zekânın insanlaşması kadar, insanın sistem içinde metinleşmesidir. Doktor da giderek ekranda bir cevap kutusuna sıkışıyor. Hasta da öyle.

Hastane koridorunda zamanın dili değişir

Bir hasta düşünelim. Kan tahlili sonucunu görüyor. Bir değerin yanında kırmızı bir işaret var. Telefonu elinde, kalbi hızlanıyor. Portal üzerinden mesaj yazıyor: “Bu sonuç kötü mü?”

Doktorun cevabı şu olabilir: “Kontrolde değerlendirelim, acil görünmüyor.”

Yapay zekânın cevabı ise şöyle bir şey üretebilir: “Bu sonucu gördüğünüzde endişelenmeniz çok anlaşılır. Tek bir laboratuvar değerinin tek başına kesin bir anlam taşımadığını, bunun şikâyetleriniz, geçmiş sağlık durumunuz ve diğer bulgularla birlikte değerlendirilmesi gerektiğini bilmek önemli. Şu an acil bir durum izlenimi vermese de doktorunuzla planlanan kontrolde konuşmanız uygun olur.”

Hangisi daha empatik görünür?

İkincisi.

Hangisi klinik olarak daha sorumlu olabilir?

Duruma göre birincisi.

İşte sağlıkta yapay zekâ tartışmasının en sevimsiz düğümü burada. İyi iletişim, her zaman uzun iletişim değildir. Sıcak görünen bir yanıt, doğru tıbbi yönlendirme anlamına gelmez. Kısa bir yanıt ise her zaman duyarsızlık değildir.

Fakat hasta tarafında durum böyle okunmayabilir. Hasta çoğu zaman tıbbi kesinlik kadar duygusal tutunma da arar. Ekrana bakar ve yalnız kalmadığını hissetmek ister. Yapay zekâ bu hissi cümle düzeyinde çok iyi taklit edebilir.

Taklit kelimesi burada küçümseme için değil, mekanizmayı doğru adlandırmak için önemli. Büyük dil modeli, kabaca, çok büyük metin yığınlarından dil örüntüleri öğrenerek bir sonraki en uygun ifadeyi tahmin eden sistemdir. “Sizi anlıyorum” dediğinde, gerçekten anlamaz; ama bu cümlenin hangi bağlamda uygun durduğunu bilir.

Bazen hasta için fark o kadar da görünür olmayabilir.
İşin can sıkan yanı bu.

Araştırmanın söylediği kadar, söylemediği de önemli

Söz konusu derleme, 2023-2024 arasında yayımlanmış 15 çalışmayı kapsıyor. Araştırmacılar geniş bir tarama sürecinden geçerek 987 kaydı elemiş ve sonunda 15 çalışmayı sistematik incelemeye dahil etmiş. PDF’teki PRISMA akış diyagramı bu süreci görsel olarak gösteriyor; kayıtlar, dışlanan çalışmalar ve nihai dahil edilen çalışma sayısı açık biçimde izlenebiliyor.

Bunlar hafife alınacak bulgular değil.

Ama araştırmanın kendi sınırlılıkları da aynı ciddiyetle okunmalı. Çalışmaların çoğunda empati ölçümü doğrulanmış klinik ölçeklerle değil, özel hazırlanmış veya tek maddelik Likert ölçekleriyle yapılmış. Yani değerlendiricilere çoğu zaman “bu yanıt ne kadar empatik?” gibi sınırlı bir çerçeve sunulmuş. Araştırma, 15 çalışmanın 14’ünde doğrulanmamış yöntemler kullanıldığını; yalnızca bir çalışmada CARE ölçeği gibi geçerli bir aracın yer aldığını belirtiyor.

Bir başka mesele de şu: Yanıtları değerlendiren kişiler çoğunlukla doğrudan o bakımı alan hastalar değil, gözlemci konumundaki değerlendiriciler. Hasta vekilleri, sağlık profesyonelleri, öğrenciler veya farklı arka planlardan gözlemciler yanıtları puanlıyor. Bu da gerçek hasta deneyimiyle laboratuvar benzeri değerlendirme arasında bir mesafe bırakıyor.

Bu mesafe önemlidir.

Çünkü hasta, empatiyi yalnızca cümlede aramaz. Kimin söylediğine, ne zaman söylediğine, daha önce ne yaşandığına, odadaki kokudan doktorun yüzündeki yorgunluğa kadar birçok işareti birlikte okur. Bir cümle, bağlamından ayrılınca daha parlak görünebilir. Tıpkı mağaza vitrinindeki ayakkabının, gün boyu yürüyen ayağın gerçeğini bilmemesi gibi.

Yapay zekâ insanı geçmedi; sistemin açığını yakaladı

Bu bulguları “yapay zekâ doktorlardan daha iyi” diye okumak kolay olurdu. Kolay ama sığ.

Daha doğru okuma şu: Yapay zekâ, sağlık sisteminin en zayıf yüzeylerinden birini yakaladı. Zaman baskısı altında, idari yük altında, ekran başında bölünmüş dikkatle çalışan sağlık profesyonellerinin iletişim açığını görünür kıldı.

Bir doktorun hastaya ayırdığı birkaç dakika içinde hem teşhis düşünmesi, hem risk yönetmesi, hem kayıt girmesi, hem sistemi tatmin etmesi, hem hasta yakınını yatıştırması bekleniyor. Bu yükün üzerine bir de kusursuz empatik dil talep ediliyor. Makine burada nazik olduğu için değil, boş zamanı sonsuz olduğu için avantajlı.

Elbette bunun sınırı var. Araştırmada dermatoloji alanındaki iki çalışmada insan dermatologlar yapay zekâdan daha empatik bulunmuş. Bu ayrıntı küçük değil. Çünkü bazı alanlarda görsel muayene, hasta öyküsünün dokusu, beden algısı ve kaygının tonu metinden daha fazlasını gerektirir. Cilt hastalıkları, yalnızca bir leke veya döküntü meselesi değildir; insanın aynayla kurduğu ilişkinin de parçasıdır.

Yapay zekâ, metnin içinde güçlüdür. Ama bedenin ve mahremiyetin içinde aynı rahatlıkla dolaşamaz.

En azından bugün için.

Doğru rol: Doktorun yerine geçmek değil, cümleyi onarmak

Araştırmanın en değerli taraflarından biri, yapay zekâyı doğrudan “doktorun yerine geçecek varlık” olarak konumlandırmaması. Daha makul bir öneri var: İnsan-hekim ve yapay zekâ iş birliği.

Çalışmada, klinisyenin temel tıbbi içeriği oluşturduğu; yapay zekânın ise bu yanıtı ton, açıklık ve empati açısından iyileştirdiği bir model öneriliyor. Yani yapay zekâ, karar veren hekim değil; hastaya giden cümlenin editörü gibi çalışıyor. Araştırmacılar bunu, doğruluk ve güvenlikten taviz vermeden hasta iletişimini iyileştirme yolu olarak tartışıyor.

Bu yaklaşım daha gerçekçi.

Bir doktor, “sonuçlarınız şu an acil bir tablo göstermiyor, kontrolde değerlendirelim” der. Yapay zekâ bu cümleyi hastanın paniğini azaltacak, ama tıbbi sınırı aşmayacak şekilde yeniden kurar. Hekim son kontrolü yapar. Hasta daha anlaşılır ve daha sakin bir yanıt alır.

Burada yapay zekâ, beyaz önlük giymez. Kalemi tutar.

Bu ayrım korunmazsa risk büyür. Çünkü empatik görünen yanlış bilgi, soğuk görünen doğru bilgiden daha tehlikeli olabilir. İnsan zihni sıcak cümlelere kolay inanır. “Sizi anlıyorum” diye başlayan bir yanıt, arkasından gelen hatalı öneriyi de daha güvenilir gösterebilir. Sağlıkta asıl tehlike bazen yanlışın kaba olması değil, fazla düzgün görünmesidir.

Bilmek yetmez, nasıl söylendiği de mesele

Tıp uzun süre bilgiyi merkeze aldı. Haklı olarak. Yanlış teşhis, yanlış ilaç, yanlış müdahale kabul edilemez. Ama hasta deneyimi, bilginin çıplak doğruluğuyla sınırlı değil.

Bir insan, tıbben doğru bir cümleyi duygusal olarak kaldıramayabilir. Başka biri, belirsizliği yönetebilmek için yalnızca veri değil, eşlik hissi ister. İyi hekimlik biraz da burada başlar: Bilgiyi, insanın taşıyabileceği biçime sokmakta.

Yapay zekânın bu alandaki başarısı bize şunu gösteriyor: Empatik dilin bir bölümü öğrenilebilir, standartlaştırılabilir, hatta otomatikleştirilebilir. Bu kötü haber değil. Kötü haber, sağlık sisteminin bunu insanlara öğretmek ve onlara uygulayacak zaman bırakmak yerine, makinelerden telafi beklemeye başlaması olur.

Çünkü makine empatik cümle kurabilir; ama sorumluluk alamaz. Üzülemez. Gece eve giderken hastasının durumunu düşünmez. Kötü haberi verirken kendi sesindeki ağırlığı hissetmez.

Bu yüzden soru “yapay zekâ empati kurabilir mi?” kadar basit değil.

Daha iyi soru şu olabilir: Sağlık sistemleri, insan empatisini kullanılamaz hale getirip sonra onun metinsel taklidini mi satın alacak?

Kör test bitince büyü bozulabilir

Araştırmanın dikkat çektiği bir başka nokta daha var: Çalışmaların çoğunda değerlendiriciler yanıtın insandan mı yapay zekâdan mı geldiğini bilmiyor. Bu, bilimsel olarak yanlılığı azaltmak için anlaşılır bir yöntem. Fakat gerçek hayatta hasta genellikle kiminle konuştuğunu bilmek ister. Hatta bilmek zorundadır.

Çalışma, yapay zekâ tarafından üretildiği açıklandığında empati algısının değişebileceğine işaret ediyor. Başka bir araştırmaya atıfla, çevrimiçi destek yanıtlarında yapay zekâ destekli cevapların önce daha empatik bulunduğu, fakat kullanıcılar bu cevapların yapay zekâdan geldiğini öğrendiğinde avantajın kaybolduğu belirtiliyor.

Bu çok insani bir tepki.

Aynı cümle, kaynağı değişince anlam değiştirir. “Seni özledim” mesajını sevdiğiniz birinden almakla otomatik hatırlatma sisteminden almak aynı şey değildir. Cümle aynı olabilir. İlişki aynı değildir.

Sağlıkta da böyle. Hasta, yalnızca metni değil, arkasındaki niyeti de okur. Yapay zekâda niyet yoktur; sadece niyet formu vardır.

Belki de geleceğin sağlık iletişimi burada şekillenecek: Şeffaf, denetimli, sınırları belli yapay zekâ desteği. Ne gizli otomasyon, ne de romantik insan yüceltmesi. İkisi de ucuz kaçıyor.

Empatinin geleceği insanı aklamaz, makineyi de kutsamaz

Bu çalışma, insanlara karşı makinenin zaferi gibi okunmamalı. Daha çok, insan kurumlarının aynasına tutulmuş soğuk bir ışık gibi okunmalı.

Eğer yapay zekâ, hasta mesajlarında daha empatik algılanıyorsa, bunun bir nedeni dil modellerinin gelişmesi olabilir. Diğer nedeni ise insanların çalıştığı sistemlerin empatiye yer bırakmaması. Poliklinik temposu, evrak yükü, performans baskısı, dijital kayıt zorunlulukları ve tükenmişlik; tümü bir araya geldiğinde, insanın en insani becerileri bile kısa cevaplara sıkışıyor.

Makine burada mucize yaratmıyor. Boşluğu dolduruyor.

Asıl karar bundan sonra verilecek. Yapay zekâ sağlıkta, insan temasının yerine ucuz bir dolgu malzemesi olarak mı kullanılacak, yoksa hekimin üzerindeki iletişim yükünü azaltıp hastaya daha anlaşılır, daha sakin ve daha güvenli bir kanal mı açacak?

İki yol birbirine benziyor gibi durur. Aralarındaki fark, hastanın bunu ne zaman anlayacağıdır.

Belki de geleceğin en zor sorusu şu olacak: Bir cümle bizi rahatlattığında, onun gerçekten anlaşılmaktan mı yoksa iyi tasarlanmış bir yanıt şablonundan mı geldiğini hâlâ önemseyecek miyiz?