Hannover – Yapay zekanın (AI) sağlık hizmetlerinde giderek yaygınlaşan kullanımı, yasal, politik ve mesleki düzenlemelere olan ihtiyacın artmasına neden oluyor. Bu, Hannover'deki 130. Alman Doktorlar Günü'nde alınan çeşitli kararlardan ortaya çıkıyor.
Delegeler, yapay zeka uygulamalarının tıpta kullanılmadan önce bağımsız klinik çalışmalarla test edilmesini istiyor. Büyük çoğunluk tarafından onaylanan bir başvuruda, yasa koyucular, Federal Ortak Komite (G-BA) ve Federal İlaç ve Tıbbi Cihazlar Enstitüsü'nün (BfArM) yanı sıra profesyonel topluluklar, araştırma enstitüleri ve yapay zeka uygulamaları üreticileri ileriye dönük ve metodolojik olarak yüksek kaliteli klinik çalışmaların uygulanmasını desteklemeye çağrılıyor.
Kararda, “Özellikle hastayla ilgili etkiler olduğunda, randomize kontrollü çalışmaların da düzenli olarak yapılması gerektiği” belirtiliyor.
Buna göre, çalışmalar, diğer şeylerin yanı sıra, yapay zekanın klinik karar verme süreçlerine nasıl entegre edildiğini, tıbbi kararlar üzerinde ne gibi bir etkiye sahip olduğunu ve yanlış yorumlama, aşırı güven veya otomasyon yanlılığı nedeniyle hangi risklerin mevcut olduğunu incelemeli ve açıklamalıdır.
Hastayla ilgili ve klinik olarak anlamlı son noktaların, özellikle tedavi başarısı, hastalar için güvenlik, maliyet etkinliğinin yanı sıra muayenehane ve kliniklerdeki bakım süreçleri üzerindeki organizasyonel ve zamansal etkilerin incelenmesi gerekecektir.
Buna ek olarak delegeler, AB yasama organına, AB Tıbbi Cihazlar Tüzüğü ve AB AI Tüzüğü'nün mevcut revizyonunda hastaların korunmasına yönelik üzerinde mutabakata varılan standartları baltalamama çağrısında bulunan bir karar daha sundular. Bu, özellikle tüm yüksek riskli yapay zeka sistemleri için insan denetimi ihtiyacı için geçerlidir.
Buna göre, tedaviyi yürüten doktorların, yüksek riskli bir yapay zeka sistemini kullanmamaya, sistemin çıktısını göz ardı etmeye veya tersine çevirmeye ve operasyonları kesintiye uğratmaya karar verebilmeleri gerekir.
Ayrıca yapay zeka tabanlı tıbbi ürünlere yönelik düzenleyici gerekliliklerin daha da geliştirilmesi bağlamındaki sorumlulukların açıkça ve yasal olarak güvenli bir şekilde düzenlenmesi sağlanmalıdır. Yapay zeka uygulamaları doğru kullanıldığında yapay zeka sistemlerinden kaynaklanan hatalardan, arızalardan veya hatalı sonuçlardan doktorlar sorumlu tutulmamalıdır.
Bulut çözümleri hakkında tartışma
Bir başka kararda delegeler, Federal Sağlık Bakanlığı'na (BMG), Gematik'e, Federal Bilgi Güvenliği Dairesi'ne (BSI) ve Federal Veri Koruma ve Bilgi Özgürlüğü Komiseri'ne (BfDI), hastalardan alınan anonimleştirilmiş ve anonimleştirilmemiş tıbbi tedavi verilerinin bulut tabanlı işlenmesinin yasal olarak güvenli bir şekilde uygulanmasına yönelik ayrıntılı uygulama düzenlemeleri geliştirmesi çağrısında bulundu.
Daha önce karmaşık bir güvenlik mimarisinin, bulut operatörünün yapay zeka algoritmasına, kullanıcı tarafından girilen verilere ve yapay zeka tarafından oluşturulan verilere erişimi olmadan bulut depolamayı çalıştırmayı mümkün kıldığı varsayılmıştı.
Başvuruda “Ancak, açık piyasada kolaylıkla bulunabilen bir devre kartı kullanılarak mevcut güvenlik önlemlerinin aşılabileceği ortaya çıktı” ifadesine yer veriliyor. Bu şekilde bulut operatörleri, tıbbi kullanıcıların verilerine, programlarına ve yapay zekaya fark edilmeden erişim sağlayabilir.
Bu nedenle Avrupa dışındaki bulut lokasyonları, tedavi verilerinin tıbbi ve tıbbi olmayan bulut tabanlı yapay zeka ile işlenmesi için uygun değildir. Bu aynı zamanda ABD şirketleri tarafından işletilen Avrupa ve hatta Almanya'daki bulut konumları için de geçerlidir.
Ancak delegeler kendi saflarında eyleme geçme ihtiyacı görüyorlar. Bu nedenle Alman Tabipler Birliği'nden (BÄK), on iki ay içinde tıbbi topluluklar ve bilimsel ortaklarla birlikte bir “Tıbbi Yapay Zeka Yeterliliği” müfredatının geliştirilip geliştirilemeyeceğini ve buna karşılık gelen CME sertifikalı eğitim kurslarının oluşturulup oluşturulamayacağını incelemesini talep ediyorlar.
Yapay zeka yeterliliği tıbbi profesyonelliğin bir bileşeni olarak oluşturulmalı ve güçlendirilmesi eğitim, ileri eğitim ve öğretime dayandırılmalıdır. Yapay zeka destekli öneriler her zaman eleştirel bir şekilde incelenmeli ve nihai tıbbi karar, tıbbi bakımın vazgeçilmez bir ilkesi olarak korunmalıdır.
Bunu ayrıca, yapay zeka sistemlerini kullanırken tıbbi denetimin yasada yer alması gerektiğine göre başka bir kararda da doğruladılar. Tıbbi yapay zeka sistemlerinin kullanımının, döngüdeki insan olarak adlandırılan insan denetimi ilkesine uyması gerektiği söyleniyor.
Teşhis, tedavi veya prognostik işlevi olan yapay zeka sistemleri yalnızca nitelikli tıbbi gözetimin yapısal olarak sağlanması durumunda kullanılabilir. “Ani teşhis veya tedavi sonuçları doğuran tıbbi kararlar, sorumlu bir doktor tarafından gözden geçirilmeli ve onaylanmalıdır” diyor. “Tıbbi onay olmadan otonom yapay zeka destekli kararlara izin verilmiyor.”
Bu, yapay zeka sistemlerinin kalite güvencesi ve geri ödemesi için ön koşul olarak tıbbi cihaz kanununda ve Sosyal Güvenlik Kanununun V. Kitabında yer almalıdır.
Başka bir kararda, delegelerin bakış açısına göre, yapay zekanın artan kullanımı göz önüne alındığında, Avrupa Sağlık Veri Alanındaki (EHDS) elektronik hasta dosyasındaki (ePA) anonimleştirilmiş ve takma adlı tedavi verilerinin yeniden tanımlamaya karşı korunmasının da sağlanması gerektiği belirtiliyor.
BMG'nin revize edilmiş dijitalleştirme stratejisine göre yapay zekanın yakında tıbbi tedavi verilerini değerlendirmek için kullanılması gerekiyor. Kararda “Bu nedenle daha kapsamlı bir koruma konseptine ihtiyaç var” deniyor. “Yalnızca etkili anonimleştirme, gerçek dünyadaki tedavi verilerinin veri ekonomisinde kullanımını meşrulaştırır. Takma ad verilen verilerin yeniden tanımlanması, anonimleştirilmiş verilerden daha kolaydır.”
Daha ileri bir karara göre, BMG, Gematik, BSI ve BfDI, ePA'daki veya tıbbi tedavi dosyasındaki sağlık verileri üzerinde yapay zeka kullanımının, yapay zekanın kopyalanmasını veya veriyi almasını nasıl önleyebileceğini ayrıntılı olarak açıklamalıdır.
Karara göre BMG, yapay zekayı ePA verileri üzerinde kullanmayı planlıyor – “artık doğrudan muayenehaneler ve hastanelerdeki bulguların belgelenmesinde bile”. 2026'nın daha da geliştirilen dijitalleştirme stratejisi, yapay zekanın onlara kişiselleştirilmiş sağlık önerileri sunabilmesi için hastaların ePA'larına yapay zeka yoluyla erişebilmesi gerektiğini de gösteriyor.
Bir yapay zekanın eğitimden sonra eğitim verilerinden bilgiyi yeniden üreteceği, o andan itibaren bu bilgiyi içereceği ve dolayısıyla beraberinde götüreceği varsayılabileceğinden, yapay zeka eğitimi için kullanılan tıbbi hasta verilerinin yasaklanmış ikincil veri kullanımının nasıl önlenebileceği konusunda büyük bir açıklamaya ihtiyaç vardır.
Bir yanıt yazın