Çalışanlara özel çıplak fotoğraflar iletildi

Bir adam gözlüğünü komodinin üzerine koyar ve odadan çıkar. Kısa bir süre sonra karısı yatak odasına girer ve elbiselerini çıkarır. Normalde yalnızca kadının kendisi ve gerekirse partneri tarafından görülebilecek mahrem bir hareket. Ancak bu durumu Mark Zuckerberg'in Meta Grubunda çalışan çalışanlar da izliyor.

İsveç medyasına göre kötü bir bilim kurgu filmi gibi görünen olay aslında tam olarak bu şekilde gerçekleşti. “Svenska Dagbladet” ve “Göteborgs-Posten”, Kenya'da Meta Grup için yapay zeka uygulamalarını test eden bir taşeronun yaklaşık 30 çalışanıyla konuştu. Hepsi, giderek daha popüler hale gelen modaya uygun yapay zeka gözlükleri olan Meta Yapay Zeka Gözlüklerine sahip insanların özel hayatlarına dair en mahrem içgörülere sahip oldu.

Kamera ve mikrofonların entegre edildiği cihaz, kullanıcıları tarafından hiç fark edilmeden, kayıtları incelenmek üzere şirkete iletecek gibi görünüyor. Çalışanlardan biri, “Bazı videolarda birisinin tuvalete gittiğini veya kıyafetlerini çıkardığını görebiliyorsunuz” dedi. Diğerleri ise insanların banka kartlarını ve gözlükle porno izleyen insanları gösteren videoları anlatıyor. Bir tanesi, “Oturma odalarından çıplak bedenlere kadar her şeyi görüyoruz. Meta'nın veritabanlarında bu tür içerikler var” diyor.

Çalışanlar yapay zekayı geliştirmeli

Veri aktarımının arka planı, modern yapay zeka sistemlerinde tamamen alışılmadık bir uygulamadır. Teknoloji şirketleri, genellikle düşük ücretli ülkelerde taşeronlar aracılığıyla sözde veri açıklayıcıları çalıştırıyor. İşiniz: Yapay zekanın eğitim yoluyla geliştirilmesini sağlarsınız. Bu amaçla girişler size otomatik olarak iletilir. Meta gözlükler söz konusu olduğunda, yapay zekanın dünyayı anlamayı öğrenmesi için görüntüleri ve video materyalini etiketleyip kategorilere ayırır, nesneleri adlandırır ve tanımlar. Raporlara göre Nairobi'deki Sama şirketi. ChatGPT şirketi OpenAI'nin de şirketle çalıştığı söyleniyor.

Veri açıklayıcılarının şüphe durumunda özel kayıtları da görebilmesi, görünüşe göre fabrikadaki Meta gözlükleri için düşünülmüş. Grubun hizmet şartları şöyle diyor: “Bazı durumlarda Meta, AI ile yaptığınız görüşmelerin veya ona gönderdiğiniz mesajların içeriği de dahil olmak üzere AI ile olan etkileşimlerinizi inceler ve bu inceleme otomatik veya manuel (insanlar tarafından) olabilir.” Ancak ambalajın üzerinde bu yazmıyor; gözlük mağazalarındaki perakendecilerin bile müşterileri bu konuda yeterince bilgilendirmemesi gerekiyor. Ve: Fonksiyon da kapatılamaz.

Normalde süreçte iki kısıtlama olması gerekir: Kayıtlar yalnızca isimsiz olarak iletilmelidir; yani yüzler ve hassas veriler, çalışanlara ulaşmadan önce pikselleştirilir. Ancak içerdekiler teknolojinin çoğu zaman güvenilir bir şekilde çalışmadığını bildiriyor. Ayrıca gözlüklerin kayıtları sürekli olarak iletmesi amaçlanmamıştır. Rapora göre kullanıcının, bir düğmeye basarak veya “Hey Meta” diyerek açıkça yapay zeka ile etkileşime girmesi gerekiyor. Bu koşullar altında başucu fotoğraflarının nasıl ortaya çıktığı belli değil. Meta, Editorial Network Almanya'nın (Haberler) konuyla ilgili sorusunu yanıtsız bıraktı.

Bu GDPR uyumlu mu?

Gelişmeler veri koruma savunucuları arasında endişeye neden oluyor: “Sizin İşiniz Yok” örgütünden Kleanthi Sardeli, Meta'da açık bir şeffaflık sorunu görüyor. Yapay zekayı eğitmek için verileri kullanırken açık rızanın gerekli olması gerektiğini vurguluyor.

İsveç Veri Koruma Kurumu'nun (IMY) avukatı Petra Wierup da Genel Veri Koruma Yönetmeliği (GDPR) ile bir çelişki olduğunu düşünüyor; sonuçta AB vatandaşlarından gelen veriler üçüncü ülkelerdeki şirketlere aktarılacak. Meta, böyle bir prosedürdeki verilerin AB'dekine benzer şekilde “güçlü ve eşdeğer koruma” almasını sağlamalıdır.

Meta, İsveç medyasına yöneltilen eleştirilere ilişkin herhangi bir yorumda bulunmadı. Bir sözcü basitçe şunu ifade etti: “Canlı AI kullanıldığında, bu medyayı Meta AI'nın Hizmet Şartları ve Gizlilik Politikasına uygun olarak işleriz.”

“Cam deliklerine” karşı protesto

Akıllı gözlüklerin veri koruma sorunlarına neden olabileceği gerçeği tamamen yeni bir bulgu değil. Google şirketinin başarısız Google Gözlüklerini ilk kez piyasaya sürdüğü 2013 gibi erken bir tarihte, eleştirmenler cihazın fark edilmeden fotoğraf ve video çekebileceği yönündeki endişelerini dile getirmişti. ABD'de bu durum kafelerde, sinemalarda ve muayenehanelerde gözlük kullanımının yasaklanmasına bile yol açtı.

Görüntü, cihazın kullanıcılarına hızla yayıldı. “Cam deliği” terimi yerleşik hale geldi – “gözlük” ve “pisliğin” birleşimi: “Wired” dergisinin bir yazarı o dönemde gözlük takmanın kendisini sosyal olarak izole ettiğini bildirmişti – sürekli olarak “pasif saldırganlığın en saldırgan biçimiyle” karşı karşıya kalıyordu. Diğer makaleler, kafe ve barlarda Gözlük sahiplerine karşı yaşanan kavgaları belgeliyordu.

Sonunda Google'ın kendisi de gözlüklerle ilgili davranış kurallarını yayınlamak zorunda kaldı. Açıkça “ürkütücü veya kaba” olmaya karşı uyarıda bulunuyor; bu da imaj sorununun açık bir şekilde kabul edilmesi anlamına geliyor.

Ancak Meta, o dönemde rakiplerinin yapamadığını gözlükleriyle şimdi başardı: Gözlük üreticisi EssilorLuxottica ile işbirliği içinde tasarlanan Meta Gözlükler, en azından ABD'de uzun süredir popüler bir yaşam tarzı aksesuarı oldu. Grup yakın zamanda cihazın satışlarını önemli ölçüde artırmayı başardı: Geçen yıl yapay zeka işlevlerine sahip yedi milyonun üzerinde Ray-Ban ve Oakley gözlüğü satıldı.

Cihazla ilgili heyecan, şirketin yeni Ray-Ban modelinin uluslararası pazara sunulmasını şimdilik ertelemesine de yol açtı; ABD'deki talep çok yüksekti. Her iki şirketin de bu yıl sonuna kadar gözlük üretimini ikiye katlayarak en az 20 milyona çıkarmayı planladığı bildiriliyor.

Başarı aynı zamanda rekabete de ilham veriyor: Google yakın zamanda gözlük pazarına yeniden gireceğini duyurdu ve içeriden edinilen bilgilere göre Apple da yıl sonunda tanıtılabilecek bir model üzerinde çalışıyor.

Ahlakı olmayan bir şirket

Ancak trende paralel olarak cihazla ilgili olumsuz manşetler de artıyor. CNN, kadınlara nasıl yaklaştıklarını filme almak için meta gözlük kullanan, tabii ki onların iznini istemeyen, tavlama fenomenlerinin haberini yapıyor. ABD'de göçmenlere yönelik bazen acımasız baskınlar sırasında, ABD Göçmenlik ve Gümrük Muhafaza (ICE) memurlarının Meta'nın yapay zeka gözlüklerini taktığı ve bunları video kayıtları kaydetmek için kullandığı söyleniyor.

Uzun vadede gözlükler başka amaçlarla da kullanılabilir. New York Times'ın bildirdiği gibi Meta, bir yüz tanıma işlevi sunmayı planlıyor. Dahili olarak “Ad Etiketi” olarak bilinen özellik, akıllı gözlük kullananların kişileri tanımlamasını ve yapay zeka asistanını kullanarak bu kişiler hakkında bilgi almasını sağlamayı amaçlıyor. Gazete şirket içindeki bilgilere güveniyor.

Eleştirmenler, işlevin kötüye kullanılmasının çok uzun sürmeyeceğinden korkuyor. ABD'deki ICE yetkilisi halihazırda insanları takip etmek için çok sayıda veri analiz aracıyla çalışıyor. Meta patronu Mark Zuckerberg son zamanlarda kendisini defalarca Trump yönetiminin gözüne soktu – ve “The Verge”ın ifadesiyle onun şirketi ahlaka çok az değer veriyor. New York Times'ın aktardığı bir iç not patlayıcıdır. Buna göre şirket, yüz tanıma işlevini “siyasi açıdan çalkantılı bir aşamada” açıkça tanıtmak istiyor çünkü sivil toplum grupları ve eleştirmenler bu durumda başka bir şeyle meşgul olacak ve metaya daha az odaklanabilecek.

Uygulama gözlük takan kişilere karşı uyarıyor

Ancak yapay zeka gözlük trendine karşı direnç yavaş yavaş ortaya çıkıyor. Kaliforniya ve New Jersey'de Meta'ya karşı İsveç gazetelerinin ifşaatlarıyla doğrudan bağlantılı olan toplu davalar mevcut. Davacılar, şirketin veri korumayla ilgili vaatlerinin aldatıldığını düşündükleri için tazminat ve ihtiyati tedbir talep ediyorlar. Elektronik Gizlilik Bilgi Merkezi (EPIC), yüz tanıma fonksiyonunun planlanan tanıtımını durdurmak amacıyla ABD Federal Ticaret Komisyonu'na (FTC) şikayette bulundu.

Bu arada sosyolog ve geliştirici Yves Jeanrenaud, Nearby Glasses adlı bir uygulama geliştirdi. Önemli nokta: Yakındaki kişilerin Ray-Ban, Oakley ve Snap marka akıllı gözlük takıp takmadığını tespit etmek için belirli Bluetooth sinyallerini kullanabilir ve ardından onları uyarır.

Jeanrenaud, Github platformunda uygulamanın mükemmel olmadığını ve yanlış alarmların mümkün olduğunu açıklıyor. Ancak akıllı gözlüklerle fark edilmeden filme alınmak istemeyenler için bu bir başlangıç ​​olabilir. Geliştirici platformda “Gözetim teknolojilerini ve mahremiyet ihlallerini engellemek için daha iyi çözümlere ihtiyacımız var” diye yazıyor. Uygulama şu anda Google Play Store'da Android cihazlar için mevcuttur; henüz iOS uygulaması yoktur.