Sohbet robotları düşünme, öğrenme ve çevremizdeki dünyayı algılama şeklimizi değiştiriyor. Bu tür bir dönüşüm hayatın birçok alanında kendini gösteriyor ancak belki de en hassas ve sıklıkla endişe verici olanlardan biri, sağlık hizmetleri için üretken yapay zekâ (GenAI) araçlarının giderek artan kullanımı. Siber güvenlik alanında dünya lideri olan ESET, tıbbi tavsiye almak için yapay zekâ kullanmanın güvenlik ve gizlilik risklerine maruz bırakabileceği uyarısında bulundu. Riskleri sıralayarak nasıl güvende kalınabileceğine yönelik önerilerini paylaştı.
Bir dizi ücretsiz yapay zekâ sohbet robotunun yanı sıra büyük teknoloji şirketleri, kullanıcıların tıbbi kayıtlarını yorumlamalarına ve semptomları, laboratuvar sonuçları ve tedavi seçenekleri hakkında sorular sormalarına yardımcı olan Copilot Health, ChatGPT Health ve Amazon’un HealthAI gibi hizmetlerin lansmanıyla tüketicilere yönelik sağlık yapay zekâ alanına girdi. Bir yapay zekâ aracının doktorun rolünü üstlenmesini beklemek bazı riskler barındırıyor. Risk sadece kullanıcıların yanlış tavsiye alması değil, aynı zamanda gizlilik korumaları, veri paylaşım uygulamaları ve yasal yükümlülükleri bir doktor veya hastaneninkinden farklı olabilecek sistemlerle son derece hassas kişisel bilgileri paylaşmaları ve verilerinin beklenmedik kuruluşlara maruz kalmasıdır. Bir ABD hasta güvenliği kuruluşuna göre, genel olarak yapay zekâ sohbet robotlarının kötüye kullanımı şu anda sağlık teknolojisi alanında bir numaralı tehlike konumunda.
Microsoft'a göre, insanlar mobil cihazlarında diğer tüm konulardan daha fazla kendi sağlıkları ve sevdiklerinin sağlığı hakkında konuşuyor. Sohbet robotları 7/24 hizmet veriyor ve her şeye bir cevap sunarken gergin hastaları rahatlatmaya yardımcı olan kendinden emin bir üslupla konuşuyorlar. Ulusal sağlık sistemlerinin giderek daha fazla baskı altında olduğu bir dönemde, birçok kişi tıbbi yardım almaya karar vermeden önce muhtemelen yapay zekâ yardımıyla kendi kendine teşhis koyacak. Ancak şimdiden bazı endişeler ortaya çıkmaya başladı. Bunlardan ilki, halüsinasyonlar veya yanlış tavsiyeler. Şubat ayında Nature Medicine dergisinde yayımlanan bir Oxford Üniversitesi araştırması şu bulguları ortaya koydu: Kullanıcılar genellikle LLM ile hangi bilgileri paylaşmaları gerektiğini bilmiyorlar; LLM'ler, kendilerine yöneltilen sorular çok az farklılık gösterse bile çok farklı cevaplar veriyor ve modeller genellikle hem iyi hem de kötü tavsiyelerde bulunuyor ancak kullanıcılar ikisini birbirinden ayırt etmekte zorlanıyor. Çalışmanın başhekimine göre tüm bu heyecana rağmen yapay zekâ henüz bir hekimin rolünü üstlenmeye hazır değil. Hastalar, semptomları hakkında büyük bir dil modeline danışmanın tehlikeli olabileceğini, yanlış teşhisler ortaya çıkabileceğini ve acil yardım gerektiğinde bunun farkına varılamayabileceğini bilmeli.
Sürecek
