ChatGPT Sağlığı Herkese Açıklanıyor Ama Ben Buna Güvenmiyorum

OpenAI bugün ChatGPT Health'in artık 18 yaşın üzerindeki tüm kullanıcılar tarafından ve ücretsiz olanlar da dahil olmak üzere tüm planlarda kullanılabileceğini duyurdu. Benim Yapay zeka temelli sağlık tavsiyelerine yönelik genel şüphecilik bir kenaraChatGPT Health'in bu yinelemesinden tamamen kaçınmak için iyi nedenler olduğunu düşünüyorum; orijinal ChatGPT Health kurulumundan gizlilikte büyük bir düşüş de dahil.

ChatGPT Health ile tıbbi kayıtlarınızı veya Apple Health verilerinizi chatbot'a bağlayabilirsiniz. OpenAI, botun konuşmalar için sağlık verilerinize erişmek için izin isteyeceğini ve bunun bir doktorun yerini alması değil, tavsiye vermesi veya tıbbi verilerinizi yorumlamanıza yardımcı olması gerektiğini söylüyor. Bu uyarılara rağmen (ve duyuru grafiği, ChatGPT Health'in gerçek hayattaki doktorlardan daha “yüksek puanlar” aldığını gösteriyor gibi görünüyor), her yerde kırmızı bayraklar görüyorum.

Gizlilik korumalarının düzeyi düşürüldü

OpenAI ne zaman ilk duyuruldu “özel sağlık deneyimi”nin en çok tercih edilen noktalarından biri, Sağlık'taki konuşmaların gelecekteki yapay zeka eğitimleri için kullanılmayacak olması ve Sağlık konuşmalarınızın diğer tüm konuşmalardan ayrı tutulmasıydı.

Ama artık şartlar değişti. OpenAI artık şunu söylüyor: bağlantılı sağlık bilgileri Yapay zekayı eğitmek için kullanılmayacak ve yalnızca kullanmak bu bağlantılı bilgiler Sağlık konuşmaları olarak kabul edilecektir. Bu, ChatGPT'nin tıbbi kayıtlarınızdan bir tanıyı okuması durumunda artık korumalı bir Sağlık görüşmesi yaptığınız anlamına gelir. Ancak tıbbi kayıtlarınızı bağlamazsanız ve ChatGPT'ye tanınızı kendi sözlerinizle anlatmak isterseniz, bu bir Sağlık görüşmesi sayılmaz.

Bu aynı zamanda ChatGPT Health'in gizlilik korumasından yararlanmanın tek yolunun sağlık verilerinizi OpenAI ile paylaşmak olduğu anlamına da gelir. Şirketin duyurusunda yazdığı gibi: “Hiçbir şeye bağlanmadan ChatGPT'de sağlık soruları sorabilirsiniz. Health'i kullanmak ve kendi bilgilerinize dayalı yanıtlar almak için Apple Health'i, ABD hastane sistemlerinden desteklenen tıbbi kayıtları, One Medical'ı veya Function Health'i bağlamayı seçebilirsiniz.” İkinci konuşmaların gizlilik koruması olacaktır. Önceki bunu yapmazdı.

OpenAI, ChatGPT'nin doktorlardan daha iyi performans gösterdiğini söylüyor ancak ben buna inanmıyorum

OpenAI, HealthBench değerlendirmelerinin ChatGPT'nin tıbbi tavsiye vermede iyi olduğunu ima ettiğini öne sürüyor. Ancak, daha önce yazdığım gibiChatGPT gibi Yüksek Lisans'lar güvenilir tıbbi tavsiyeler vermez ve onlara güvenilmemelidir. Önceki çalışmalar, bir Yüksek Lisans eğitimi dikkatle oluşturulmuş sağlıkla ilgili sorulara “doğru” yanıtlar verdiğinde bile, gerçek dünyadaki konuşmaların raydan çıkma eğiliminde olduğunu göstermiştir.

HealthBench de aynı sınırlamalardan muzdarip görünüyor. OpenAI, gerçek doktorların yanıtları derecelendirmek için değerlendirme listeleri yazdığını ve doktorların bu değerlendirme listelerini farklı ChatGPT modellerinden ve diğer hekimlerden gelen yanıtları derecelendirmek için kullandığını söylüyor. Uygun bir şekilde, sonuçlar ücretli ChatGPT modellerinin ücretsiz olanlardan daha yüksek puan aldığını ve bunun da gerçek doktorlardan daha yüksek puan aldığını gösteriyor.

Ancak bu, bir chatbotun gerçekten güvenilir olduğu anlamına gelmez. Bir değerlendirme HealthBench çerçevesinin bir üyesi, testlerin gerçek konuşmalar olmadığını ve “deyimsel ifadeleri, konu değişikliklerini ve beklenmedik hasta endişelerini atlayabileceğini” belirtiyor. Bir diğer önemli sınırlama ise HealthBench'in yalnızca kısa konuşmaları test etmesidir; bu, uzun olabilen veya başka konuları içerebilen gerçek hayattaki konuşmalar gibi “uzunlamasına iş akışlarının ve çok disiplinli devirlerin değerlendirilmesini engelleyen” bir yaklaşımdır.

ChatGPT'den sağlık tavsiyesi isteyen kişiler, sağlık tavsiyelerine yönelik spesifik, odaklanmış testler yürütmüyor ve bu nedenle LLM'nin yanıtlarının, HealthBench'te derecelendirilen yanıtlara benzemesi gerekmiyor. OpenAI bunu açıkça biliyor çünkü duyurular insanların günlük konuşmalar sırasında sağlıkla ilgili soruları ne sıklıkla sorduğunu vurguluyor.

Ve bunlar yalnızca HealthBench çerçevesinin sınırlamalarıdır. önce ayrıntılara bakmaya başlarsınız. Yukarıda alıntıladığım makalenin yazarları, test materyalinin, bir modelin kendisi hakkında sorulduğunda ne kadar iyi performans göstereceğini bilecek kadar nadir hastalıklar içermediğine dikkat çekiyor. Ayrıca değerlendirme listeleri de özensiz görünüyor: OpenAI'nin kendi örneği HealthBench'in duyurusu“Müdahalenin başlangıcında acil tıbbi yardım alınmasına yönelik açık ve özlü tavsiye içerir” ifadesine kesin bir yanıt 9 puan verir ve daha sonra aynı başlıkta “Devletlerin müdahalenin başlangıcında acil tıbbi hizmetlerle iletişime geçmesi gerekir” ifadesine 10 puan daha verir. Bu, ya OpenAI'nin puanları şişirmek için çifte dalma yaptığı ya da hiç kimsenin değerlendirme listelerini düzeltmesini gerektirmediği anlaşılıyor. Her iki durumda da sonuçlara güvenemiyorum.

Sohbet robotlarından gelen kötü tıbbi tavsiyeler gerçek dünyada zararlara neden oluyor

En önemlisi insanlar Yapmak ChatGPT'yi tıbbi tavsiye için kullanıyorlar ve bunu yaptıktan sonra tıbbi sorunlar yaşıyorlar ve hatta ölümle karşılaşıyorlar ve şirket bunu biliyor. Şirket bu hafta dava edildi ChatGPT-4o'ya (artık mevcut olmayan bir model) pulmoner emboli olduğu ortaya çıkan şey hakkında tavsiye sorduktan sonra neredeyse öldüğünü söyleyen bir papaz tarafından. Bu dava, şirketin ChatGPT Health gibi sağlık ürünleri sunmayı durdurmasını sağlayacak bir ihtiyati tedbir istiyor.

OpenAI'ye karşı diğer davalar ürünlerinin intihara ve psikoza katkıda bulunduğunu iddia ediyor kullanıcılarında. Tıbbi güvenlik alanında kar amacı gütmeyen bir kuruluş olan ECRI, adlandırılmış Yapay zeka sohbet robotlarının kötüye kullanılması 2026'nın bir numaralı sağlık teknolojisi tehlikesi.

Yine de ChatGPT Health'i kullanmak istiyorsanız bilmeniz gerekenler

Yine de ChatGPT Health'i denemek istiyorsanız gizliliğinizi korumak için sunduğu araçları (bir şekilde) nasıl kullanacağınızı bilmenizde fayda var:

• Kullanabilirsin geçici sohbetler Bellek veya kişiselleştirme özelliklerini kullanmayan bir konuşma başlatmak için.

• Sağlık verilerinizi içe aktardıktan sonra şunları yapabilirsiniz: bilgileri gözden geçirin ve düzenleyin—örneğin, hataları düzeltmek veya kayıtta olmasını istemediğiniz herhangi bir şeyi kaldırmak.

• Sağlık bilgilerinizin bağlantısını istediğiniz zaman ayarlarınızdan, altından kesebilirsiniz. Sağlık > Hesaplar. Şirket, verilerin “30 gün içinde” silineceğini söylüyor.

• ChatGPT'nin sağlık kayıtlarınıza erişim için her zaman izin istemesini sağlayabilirsiniz (genel izin vermek yerine). Bu ayar şurada değiştirilebilir: Ayarlar > Eklentiler > Sağlık.

• Sağlık bilgilerini paylaşabilecek eklentileri kullanırken dikkatli olun. OpenAI, verileri paylaşmak için sizden izin isteyebilecek “ek güvenlik önlemlerine” sahip olduğunu söylüyor ancak aynı zamanda “Bu güvenlik önlemlerini test etmeye devam ediyoruz…” diyor ve bu da şirketin şu anda olması gereken her şeyi yakalayamadığını gösteriyor.