Klinik Kararlarda Yapay Zeka İçin Yönetmelik

Yeni yayınlanan bir raporda yazarlarının endişesi, ABD Gıda ve İlaç İdaresi (FDA) tarafından yapılan bazı düzenlemeler nedeniyle, bazı klinik karar destek sistem (CDS) türlerinin tıbbi cihaz olarak kabul edilmemesiydi. Raporda yapay zeka-etkin CDS yazılımını etkileyen en etkili yasal güncellemenin, FDA’nın tıbbi cihazlar olarak düzenlenen yazılımlar için ön hazırlık programı olduğunu söylendi.

Duke-Margolis'te yönetici ortak olan ve beyaz kağıt üzerine ortak yazar olan Christina Silcox şunları söyledi: "Yapay zeka-etkin klinik karar destek yazılımı, klinisyenlerin halk sağlığını ve klinik sonuçları iyileştirirken daha hızlı bir şekilde doğru teşhise ulaşmalarına yardımcı olma potansiyeline sahiptir. Yapay zekanın sağlık hizmetindeki potansiyelini gerçekleştirmek için güvenli ve etkili inovasyonu yavaşlatan düzenleyici, yasal, veri ve benimseme zorluklarının ele alınması gerekiyor.

Raporda, paydaşların ele alması gereken güvenli ve etkili yapay zeka-etkin tanı destek yazılımının geliştirilmesi, düzenlenmesi ve benimsenmesi konusundaki öncelikli endişelere işaret edilmektedir.

• Bu teknolojilerin benimsenmesi için kanıt ihtiyacı: Bu kanıtlara yazılımın hasta sonuçları, bakım kalitesi, toplam bakım maliyetleri ve iş akışı üzerindeki etkisini; klinisyenlerin yararlı ve güvenilir bulduğu şekilde yazılımın kullanılabilirliği ve bilgileri sağlamadaki etkinliği ve bu ürünlerin otoriteler tarafından kullanımı için geri ödeme potansiyeli ile ilgili kanıtlar dahildir.

• Bu ürünlerin etkin hasta risk değerlendirmesi: Bir yazılım, ürününün nasıl çalıştığını açıklayan bilgilerle ve yazılımı eğitmek için kullanılan popülasyon türleriyle birlikte gelmelidir. Bu tür bilgiler, klinisyenler bu yazılımı kullandığında hastalar için risk değerlendirmesinde klinisyenlerin üzerinde önemli bir etkiye sahip olacaktır. Ürün etiketlemenin yeniden gözden geçirilmesi gerekebilir ve sürekli öğrenmeye karşı kilitli modellerin riskleri ve faydaları tartışılmalıdır.

• Yapay zeka​ sistemlerinin etik olarak eğitilmiş ve esnek olmasını sağlamak: Yazılım geliştirmek için kullanılan eğitim verilerinin getirebileceği önyargıyı azaltmak için en iyi yöntemler, veriye dayalı yapay zeka yöntemleriyle geliştirilen yazılımların mevcut klinik önyargıları sürdürmemesini veya daha da kötüleştirmemesini sağlamak için kritik öneme sahiptir. Ek olarak; geliştiricilerin, yazılımlarının gerektirdiği veri girişlerinin, ürünlerinin yetiştirilmesinde algoritmaları eğitmek için kullanılan verileri sağlayan orijinal ayardan farklı olan ayarlara nasıl ölçeklenebilirliğini etkileyebileceğini değerlendirmeleri gerekecektir. Son olarak, hasta mahremiyetini en iyi şekilde nasıl koruyacağımızı belirlemek için en iyi uygulamalar ve potansiyel olarak yeni paradigmalara ihtiyaç vardır.

Raporun yazarları yapay zekayı; tanısal hata önleme ve diğer CDS türlerinde temel bir bileşen olarak, etkili, etik ve güvenli bir şekilde dahil etmek için çaba sarf eden geliştiriciler, düzenleyiciler, klinisyenler, politika yapıcılar ve diğer paydaşlar için bir kaynak olarak hizmet etmeyi amaçladıklarını belirttiler.

Raporda ayrıca şu anda güvenli, etkili yapay zeka sağlık hizmeti yeniliğini engelleyen ve kısa vadeli öncelikleri içeren büyük zorluklara dikkat çekiliyor:

• Yönetmeliklerde Netlik: 21. Yüzyıl Tedavileri Yasası, yazılım sistemlerinin bir girdi önerisine ulaşmak için girdi verilerinin nasıl analiz edildiğini açıklayıp açıklamadığına bağlı olarak FDA yetkilisinden bazı klinik karar yazılımı türlerini kaldırmıştır. Hastaları doğrudan teşhis eden veya tedavi eden yazılım, bir klinisyenin karar vermesi için destek veya kaynak görevi gören yazılımdan daha yüksek risk altında kabul edilir. Ürünlerin bir öneride bulunmak için girdi verilerini nasıl kullandığı hakkında daha fazla bilgi veren yazılıma karşı, sağlayıcılar "kara kutu adı verilen yazılımı kullandıklarında, FDA'nın hastalara yönelik riskleri nasıl değerlendireceği konusunda daha fazla düzenleyici açıklığa ihtiyaç vardır.

• Veri Erişimi ve Gizliliği: Yazılım yenilikçilerinin, yazılımı "eğitmek için büyük hacimli klinik verilere erişmesi gerekir. Ancak bu veriler gerçek dünyada kullanılan girdi verilerinin kalitesi ile tutarlı olmalıdır. Hasta gizliliğini korumak için veri standartlarını iyileştirmek ve verilerin birlikte çalışabilirliğini arttırmak kritik öneme sahip olacaktır.

• Değer Ortaya Koyma: Kamuya açık ve özel kapsama alanı ve sağlayıcının geri ödemesi, bu teknolojilerin benimsenmesini sağlayacak ve yatırım getirisini arttıracaktır. Ancak yapay zeka-etkin klinik karar destek yazılımı, sağlayıcı sistem verimliliğinde iyileştirmeler gösterebilmeli ve sağlayıcıların kilit sonuç ve maliyet ölçütlerini karşılamalarını sağlamalıdır. Yararlı bir ilk adım, hangi klinik karar destek yazılımı özelliklerinin ve performans sonuçlarının ödeyiciler tarafından en çok değerleneceğini ve performans kazanımlarını kanıtlamak için gerekli olan kanıt türlerini belirlemek olacaktır.