Doktorların elektronik sağlık kayıt sistemlerindeki notları da dahil olmak üzere sağlık hizmetlerinde artan miktardaki dijital veriler, bu büyük miktardaki bilginin manuel olarak gözden geçirilmesi ve analiz edilmesinde zorluklar ortaya çıkarmaktadır. Bu sorunu çözmek için bilgisayar bilimciler, tıbbi koşulları, demografik özellikleri ve diğer önemli bilgileri yazılı metinden çıkarmak için yapay zeka (AI) ve makine öğrenimi teknikleri geliştirdiler. Ancak güvenlik endişeleri, özellikle hastaneler ve sağlayıcılar arasındaki tıbbi notlardaki farklılıklar nedeniyle bu tür modellerin uygulanmasını sınırlıyor.
Johns Hopkins ve Columbia Üniversitesi’nden bilgisayar bilimcilerden oluşan bir ekip, bu değişikliklerin yapay zeka destekli tıbbi metin analizi üzerindeki etkisini azaltmak için yeni bir teknik önerdi. Yaklaşımlarını 37. Olağan Sinir Bilgi İşleme Sistemleri Konferansında sundular.
Araştırmacılar, AI modellerinin, farklı bakıcılar arasında gözlemlenen yazma alışkanlıkları ve tarzlarındaki değişikliklere karşı daha az duyarlı hale getirilmesiyle, farklı ortamlarda daha sağlam hale getirilebileceğini buldu. Örneğin, doktorlar özel şablonlar kullanabilir veya yapay zekanın tıbbi notları yorumlamasını istemeden etkileyen farklı yazı stillerine sahip olabilir ve bu da yanlış teşhislere yol açabilir.
Bu sorunu çözmek için ekip, gerçek dünyada var olmayan ancak mevcut verilerdeki sahte korelasyonları ortadan kaldırmak için kullanılabilen, karşı olgusal veriler üretme sürecini otomatikleştirmek için büyük dil modelleri (LLM’ler) kullandı. Yapay zeka modeline aynı tıbbi notu çeşitli yazma stillerinde besleyerek model, yazma stili yerine içeriğe odaklanmayı öğrenerek hatalı tahmin olasılığını azaltır.
Araştırmacılar ayrıca, karşı olgusal verilere daha iyi yaklaşımlar oluşturmak için zaman damgaları ve hasta demografik bilgileri gibi yardımcı verilerden yararlanmayı da öneriyor. Kapsamlı deneyler yoluyla, dil modellerini alan bilgisine dayalı bir şekilde kullanmanın, tıbbi not analizi gibi zorlu, güvenlik açısından kritik görevlerde yapay zeka modelinin genelleştirilebilirliğini iyileştirdiğini gösteriyorlar.
Bu proje, Johns Hopkins Üniversitesi’nin sağlık uygulamaları için yapay zeka güvenlik çerçevesinin geliştirilmesine yönelik yürüttüğü çabanın bir parçası. Araştırmacılar, kendilerininki gibi nedensel olarak motive edilen veri artırma yöntemlerinin, özellikle güvenlik açısından kritik uygulamalarda sağlam ve güvenilir yapay zeka sistemleri geliştirmedeki zorlukların üstesinden gelmeye yardımcı olabileceğine inanıyor.
Kaynak: JHU
