GenAI ve Sağlık Hizmetlerinde Güvenlik: Yapay Zeka Destekli Sağlık Uygulamalarına Dair Uyarılar ve En İyi Uygulamalar

Sohbet botları, düşünme biçimimizi, öğrenmeyi ve çevremizdeki dünyayı algılayışımızı dönüştürüyor. Bu dönüşüm, sağlık hizmetlerinde yapay zekânın (GenAI) giderek daha görünür hâle gelmesini tetikliyor. Siber güvenlik alanında önde gelen ESET, tıbbi tavsiye için yapay zekâ kullanmanın beraberinde getirebileceği güvenlik ve mahremiyet risklerine dikkati çekti. Riskleri sıralayarak, güvenli kalmanın yollarını paylaşıyor. Günümüzde ücretsiz yapay zekâ sohbet araçlarının artmasıyla birlikte Copilot Health, ChatGPT Health ve Amazon HealthAI gibi hizmetler vatandaşlara kendi sağlık verilerini yorumlama ve semptomlar, test sonuçları ile tedavi seçenekleri hakkında bilgi edinme imkanı sunuyor. Bir yapay zekâ aracının doktor rolünü üstlenmesini beklemek çeşitli riskler doğurabilir; sorun yalnızca yanlış tavsiye almakla sınırlı değildir. Verilerin gizlilik koruması, paylaşım uygulamaları ve yasal sorumluluklar açısından da hassas bir denge söz konusudur. ABD’deki bir hasta güvenliği kuruluşu, yapay zekâ sohbet botlarının şu anda sağlık teknolojileri içinde en ciddi tehdit olduğuna işaret ediyor. Microsoft’un gözlemi ise, mobil cihazlarda insanların kendi sağlıklarıyla ilgili konulara en çok odaklandığını gösteriyor. Sohbet botları 7/24 hizmet sunuyor, gergin kullanıcıları sakinleştirecek kendinden emin bir üslupla yanıtlar veriyor ve sağlık konusunda kendi kendine teşhis için güç kazanıyor. Ancak bu süreçte hâlâ bazı önemli endişeler gündemde. Özellikle halüsinasyonlar veya hatalı tavsiyeler konusundaki kaygılar sürüyor. Oxford Üniversitesi’nin Nature Medicine dergisinde yayımlanan bir çalışma, kullanıcıların hangi bilgileri paylaşmaları gerektiğini net biçimde belirleyemediğini; modellerin benzer sorulara dahi farklı yanıtlar üretebildiğini ve hem iyi hem kötü tavsiyeyi aynı anda sunabildiğini gösteriyor. Uzmanlar, şu an için yapay zekânın doktor rolünü güvenle üstlenemeyeceğini vurguluyor. Herhangi bir sağlık sorunu söz konusu olduğunda, kişisel verilerin paylaşımı da ayrı bir risk. Hassas tıbbi bilgiler, bir sohbet botu aracılığıyla eğitim amacıyla kullanılabilir veya üçüncü taraf veri paylaşımı yoluyla paylaşılabilir; bu da bilgilerinizin kalıcı dijital izler halinde kalmasına neden olabilir. Bazı platformlar eğitim amacıyla verileri kullanmayacaklarını ifade etse de, bu sözlerin her zaman uygulanacağı güvencesi yoktur. Veriniz, sağlık sağlayıcınız ile veri toplayan üçüncü taraflar arasında dolanabilir ve reklam amaçlı paylaşılabilir; anonimleştirme her zaman tüm riskleri ortadan kaldırmaz. Güvenliğinizi güçlendirmek için şu öneriler akılda tutulmalı: bilinmeyen aracıları kullanmadan önce, verilerin nasıl işlendiğini anlamaya çalışın; tıbbi belgeleriniz, laboratuvar sonuçlarınız veya diğer hassas dosyalarınızı paylaşmayın; kimlik bilgilerinizi (isim, adres, sigorta numaraları vb.) mümkün olduğunca sınırlayın; eğitim ve sohbet geçmişi seçeneklerini kapalı tutun; gerektiğinden az bilgi paylaşın ve paylaşımların kalıcı olabileceğini varsayın. Yapay zekâ sohbet botları, doktorunuza belirli bir durumu tartışmak veya teknik bir terimi açıklamak için faydalı bir araç olabilir. Ancak bakımın yerine geçmesini beklemek doğru değildir. Bir makineye güvenerek acil durumlarda tedbiri elden bırakmayın. Bu konudaki güncel uyarılar ve öneriler için güvenilir kaynaklara başvurun ve gerektiğinde bir sağlık uzmanına danışın.