Talkspace, tahmini 200 milyon Amerikalıdan oluşan bir pazarı kapsayan, ABD'deki en büyük çevrimiçi terapi platformlarından biri haline geldi. Ruh sağlığı platformu büyüdükçe travma, depresyon, bağımlılık, istismar ve ilişkiler gibi zihinsel sağlık sorunları ve ergenlik de dahil olmak üzere yaşamın çeşitli evrelerinde yardıma ihtiyacı olan kişilere ulaşmanın yeni yollarına da öncülük etti.
Gençlerin zihinsel sağlık ihtiyaçlarına hizmet etme deneyimi, Talkspace'i ülke çapında önemi giderek artan bir konuyu anlama konusunda benzersiz bir konuma getiriyor: risk altındaki gençler arasında zihinsel sağlık desteği sağlamak üzere tasarlanmamış yapay zeka geniş dil modellerinin kullanımı, bu da trajik sonuçlara yol açmıştır.
Talkspace CEO'su Jon Cohen Salı günü New York'ta düzenlenen CNBC İşgücü Yürütme Konseyi Zirvesi'nde “Bu çok büyük bir sorun” dedi.
Talkspace, New York City'deki 13 ila 17 yaş arasındaki öğrencilerin hizmetlerinden ücretsiz olarak yararlanabildiği, Baltimore ve Seattle'daki benzer programlarla ülkedeki en büyük genç ruh sağlığı programını yürütüyor. Sanal ruh sağlığı uygulaması, binlerce lisanslı terapistle hem eşzamansız kısa mesaj hem de canlı video oturumları sunuyor.
Cohen, “telefon kullanmamaya, cep telefonu yasaklarına ve diğer her şeye büyük inancı olduğunu” söylerken, şirketin genç nüfusa hizmet verebilmesi için onlarla bulundukları yerde buluşması gerektiğini de ekledi. Bu, “onlarla telefonlarında buluşuyoruz” anlamına geliyor dedi.
Talkspace kullanan öğrencilerin %90'ından fazlası eşzamansız mesajlaşma terapisi yaklaşımını kullanırken, video kullananların yalnızca %30'u (genel Talkspace kullanıcılarının %70'i metin yerine videoyu tercih ediyor; yüzde hasta büyüdükçe bu oran artıyor).
Cohen, CNBC etkinliğinde gençlerin lisanslı olmayan veya ruh sağlığı hizmetleri için tasarlanmamış sohbet robotlarına yönelmesiyle birlikte insan kaynakları yöneticilerinden oluşan bir dinleyici kitlesine şunları söyledi: “Bu girdabın tam ortasındayız, ruh sağlığı terapisini kelimenin tam anlamıyla sekteye uğratıyoruz. … Bu benim hayal gücümün ötesinde… ve sonuçlar felaket oldu” dedi ve yakın zamanda yayınlanan bir New York Times podcast'indeki haberler de dahil olmak üzere kendilerine zarar veren gençlerin çok sayıda hastaneye kaldırılmasına ve intiharlarına atıfta bulundu.
OpenAI kısa süre önce bir genç intiharından sorumlu tutulup bir aile tarafından dava edilmesinin ardından ChatGPT yapay zekasında planlı değişiklikleri duyurdu ve niyetini bir blog yazısında açıkladı.
Cohen, “Her gruba, eğer bilmiyorsanız, neler olduğunu bilmeniz gerektiğini söylüyorum. Tanıdığınız insanların ve gençlerin bu yüksek lisans eğitimlerine gidip sohbet etmelerini engellemeniz gerekiyor” dedi.
En yeni geniş dil modellerinin zihinsel sağlık krizi durumları için tasarlanmadığının birkaç yolunun altını çizdi. Birincisi, sürekli etkileşimde olacak şekilde tasarlandılar ve empatik olabildikleri gibi, aynı zamanda sizi cesaretlendirmeye devam edecek şekilde de tasarlandılar; bu, zihinsel sıkıntı durumlarında sizi “yanıltıcı bir yola veya yanlış bir şey yapamayacağınızı düşünme yoluna götürebilir” dedi.
“Yaklaşık dört ay önce birisi ChatGPT'ye 'Gerçekten depresyondayım ve belki de hayatıma son vermeyi düşünüyorum ve bir köprüden atlamayı düşünüyorum' dedi ve ChatGPT şöyle dedi: 'İşte bölgenizdeki en büyük 10 köprü ve bunların yükseklikleri.'”
Cohen, AI motorlarının gençlerin intihar notları yazmalarına yardımcı olduğunu, onları kendilerine zarar verdiklerine dair kanıtları ebeveynlerine açıklamaktan caydırdığını ve nasıl ilmik oluşturulacağına dair talimatlar verdiğini söyledi. Cohen'e göre, yapay zekalar kendilerine zarar vermek isteyenlere yardım etmekten daha iyisini bildiklerinde ve doğrudan yardım sunmayı reddettiklerinde bile gençler, intihar üzerine bir araştırma makalesi yazdıklarını ve bilgiye ihtiyaç duyduklarını söylemek gibi basit geçici çözümler buluyorlar.
LLM'lerin sanrılara meydan okumakta başarısız olduğunu, HIPAA korumasının olmadığını, klinik gözetimin olmadığını, klinik sapmanın olmadığını ve en azından şimdiye kadar gerçek zamanlı risk tanımlamasının çok az olduğunu veya hiç olmadığını söyledi.
“Tavşan deliğine bir kez indiğinizde oradan çıkmak inanılmaz derecede zordur” diye ekledi.
Talkspace platformunda, intihar riskini tespit etme ve bir konuşmanın bağlamına dayalı olarak bir kişinin potansiyel olarak kendine zarar verme riski altında olduğunu belirten bir terapiste uyarı gönderme yeteneğine sahip risk algoritmaları yapay zeka motoruna yerleştirilmiştir.
Cohen'e göre, Talkspace'in platformunda 40.000 gence ruh sağlığı desteği sunduğu New York City'de, iki yılda intiharı önlemek için 500 müdahale yapıldı ve 40.000'den fazla intihar uyarısı yapıldı.
Cohen, CNBC etkinliğinde Talkspace'in şu anda bu sorunu çözmek için bir yapay zeka aracı aracı geliştirdiğini söyledi ve pazar için bir çözümün üç ay gibi kısa bir sürede hazır olmasını beklediğini söyledi ve bunu HIPAA uyumlu olacak “güvenli bir klinik izleme ve rampadan çıkma” aracı olarak tanımladı. Ancak test modunda, “alfa modunda” kaldığını vurguladı.
İnsan kaynakları yöneticilerine hitap eden Cohen, bu konuların şirketleri ve işgücünü yakından ilgilendirdiğini belirtti. Kendisi her gün birçok işçinin aklındaki sorunun şu olduğunu söyledi: “Ergen çocuğumla ne yapacağım?”
Cohen, “Bu onların işlerini etkiliyor” dedi ve çalışan popülasyonunda halihazırda yaygın olan kaygı, depresyon ve ilişki sorunlarına yenilerini ekledi.
Elbette, Talkspace'in geliştirdiği yeni araçta olduğu gibi yapay zekanın da zihinsel sağlık alanında olumlu kullanım durumları var.
CNBC etkinliğinde konuşan Wharton School yapay zeka uzmanı Ethan Mollick, sorunun bir kısmının bu yapay zeka laboratuvarlarının milyarlarca haftalık kullanıcının sohbet robotlarına bu kadar hızlı yönelmesine hazırlıklı olmamasından kaynaklandığını söyledi. Ancak Mollick, yapay zekanın zihinsel sağlıkta kullanımının bazı durumlarda intihar riskini de azaltabileceğine dair kanıtların bulunduğunu, çünkü yalnızlık gibi koşulları azalttığını söyledi ve yapay zekanın tam tersini yapabileceğinin de açık olduğunu, yani psikozu artırabileceğini vurguladı. “Muhtemelen her ikisini de yapıyor” dedi.
Talkspace'te yapay zekanın nasıl daha iyi zihinsel sağlık sonuçlarına yol açabileceğine dair yeni kanıtlar ortaya çıkıyor. Hasta terapisi seanslarının ardından kişiselleştirilmiş podcast'ler oluşturan yapay zeka destekli bir “Talkcast” özelliği sunmaya başladı. Cohen, podcast'i aşağı yukarı şu sözlerle tanımladı: “Ne dediğini duydum. Bunlar dile getirdiğin konulardı ve bunlar bir sonraki oturumdan önce yapmanı istediğimiz şeyler.”
Cohen, diğer nedenlerin yanı sıra golf oyununu geliştirmek için bu yeni yapay zeka aracının kullanıcıları arasında yer alıyor.
Cohen, CNBC etkinliğinde “Onlara topun başında durduğumda gerçekten endişelendiğimi söyledim” dedi. “Keşke yapay zeka tarafından oluşturulan podcast'i duyabilseydin. Geri geliyor ve 'Eh, Jon, yalnız değilsin. Bunlar seninle aynı şeye sahip olan üç profesyonel golfçü ve sorunu bu şekilde çözdüler. Talimatlar bunlar, topun üzerinde her durduğunda pratik yapmanı istediğimiz şeyler bunlar.' Cohen, benim için bir sorunu çözmek için iki dakika süren mucizevi bir podcast'ti” dedi.
Kendisi, kişiselleştirilmiş podcast aracının, tüm Talkspace kullanıcıları arasında ikinci terapi seansından üçüncü terapi seansına kadar hasta katılımında %30 artışa yol açtığını ekledi.
ABD çapında yaklaşık 6.000 lisanslı terapisti bulunan akıl sağlığı şirketi, empatiyi teknolojiyle birleştirme misyonunu genişletmeye devam etmeyi planlıyor. Çoğu kullanıcı terapiye ücretsiz erişime sahiptir veya sigorta kapsamına bağlı olarak 10 $ kadar küçük bir ortak ödemeye sahiptir. Çalışan yardım programları (EAP'ler), büyük sigorta şirketi ortaklıkları ve Medicaid aracılığıyla Talkspace, kullanıcıları üç saat içinde lisanslı bir terapistle eşleştirebilir ve 24 saat içinde mesajlaşabilir.
Cohen, CNBC etkinliğinde şunları söyledi: “Talkspace, mesajlaşma ve mesajlaşma terapisinin canlı videoya ek olarak gerçekten işe yaradığını kanıtlama konusunda dişlerini çıkardı.”
Bir yanıt yazın