Yapay zeka üzerine yüksek lisansıma yeni başlamıştım ki bir sınıf arkadaşım bana Amazon'u duyup duymadığımı sordu. Amazon, dünyadaki hemen hemen her kitabı sipariş edebileceğiniz ve kapınıza kadar gönderebileceğiniz yeni bir çevrimiçi kitapçıydı. Ortaokul kitap fuarının tüm heyecanını tekrar hissederek Amazon.com dünyasına girdim ve güzel bir kitap sipariş ettim. Devrim niteliğinde ve fütüristikti ama yine de rahat ve kişiseldi. O yılın sonunda, 1995'te Amazon, benim de dahil olduğum sadık müşterilerine tatiller için ücretsiz bir kahve kupası gönderdi.
O zamanlar Jeff Bezos'un meşhur küçük işletmesinin tükeneceğini hayal etmek zor olurdu. Bellevue, Washington, garaj 30. yıl dönümünü ve akıl almaz 1,97 dolarlık bir fiyatı kutlayacaktı trilyon Bugünkü net değerim. Amazon'u gadget'lar ve temel ihtiyaçlar sipariş etmek, film ve dizi izlemek ve Kindle'da kitap okumak için kullanmaya devam ediyorum. Bir zamanlar sevilen kitapçının kişisel gizliliği harap eden veri açlığı çeken bir dev haline geldiğini bilmeme rağmen tüm bunları yapıyorum.
Amazon bugün neredeyse her şeyi satıyor ve neredeyse her şeyi biliyor; en sevdiğimiz tuvalet kağıdından çocuklarımızın Alexa'ya sorduğu sorulara, mahallemizde neler olup bittiğine kadar her şeyi biliyor ve polis Amazon bizim nerede yaşadığımızı, sesimizin nasıl çıktığını, kimlerle iletişim halinde olduğumuzu, kredi geçmişimizin nasıl olduğunu, evlerimizi hangi sıcaklıkta tutmayı sevdiğimizi ve hatta alerjimiz veya başka sağlık sorunlarımız olup olmadığını biliyor.
Şirket bu bilgilere dayanarak bütün bir profil çıkarıyor: Potansiyel olarak eşcinsel veya heteroseksüel, evli veya boşanmış, Cumhuriyetçi veya Demokrat, cinsel olarak aktif veya değil, dindar veya laik olduğumuzu biliyor. Ne kadar eğitimli olduğumuzu ve ne kadar para kazandığımızı biliyor. Ve bu verileri bize daha iyi satış yapmak için kullanıyor.
Gizlilik araştırmacısı olarak, güçlü tüketici gizliliği korumalarını savunuyorum. On yılın büyük bölümünü gizlilik politikalarını ince dişli bir tarakla inceledikten sonra, Amazon'un gizlilik konusunda neredeyse diğer tüm şirketlerden daha kötü olduğunu rahatlıkla söyleyebilirim. Sadece Amazon'un berbat gizlilik politikaları olması değil; aynı zamanda Facebook ve Google ile birlikte, kullanıcıların mümkün olduğunca çok verisini sömürerek erişimi olan herkesin sizi daha fazla şey satın almaya yönlendirebilmesi üzerine kurulu korkunç hedefli reklam ekonomimizin ortak yazarı olması.
Özgürlüğün Amerika'nın kuruluş hikayesindeki önemi düşünüldüğünde, ülkenin özgür irademizi manipüle etme konusunda bilimsel bir yeteneğe sahip bir şirkete bu kadar bağımlı olması ironiktir.
“Bu İtalyan kahve çekirdeklerini yeni mi aldınız?” diye soruyor Amazon bize. “Şimdi satın almanız gerekenler şunlar.”
Gizlilik ve özgür irade ayrılmaz bir şekilde iç içe geçmiştir: Her ikisi de, kim olduğumuza, ne istediğimize ve ne zaman istediğimize kimsenin izlemesi veya müdahalesi olmadan karar vermemize dayanır. Gizlilik, ruh sağlığımız ve toplum için iyidir. Ne şirketler ne de hükümetler (şirketlerin topladığı verileri elde etme yolları vardır) kim olduğumuz ve her zaman ne yaptığımız hakkında sınırsız bilgiye erişememelidir.
Amazon bunu mümkün kılmada önemli bir rol oynadı. Gizlilik konusundaki savaşı özellikle distopik İngiltere'de son zamanlarda bazı tren istasyonlarının yolcuların yüzlerini tarayıp yaşlarını, cinsiyetlerini ve duygusal durumlarını (mutlu, üzgün veya öfkeli) belirlemek için Amazon'un Rekognition adlı yapay zeka sistemini kullandığı; koşma, bağırma, kaykay yapma ve sigara içme gibi antisosyal davranışları tespit ettiği; ve intihara meyilli olup olmadıklarını tahmin ettiği bir durum yaşandı. Orwell'in düşünce polisi canlandı ama Big Brother yerine Big Bezos.
En kötüsü de, ucuz ürünler ve ücretsiz iki günlük kargo karşılığında bu müdahaleye onay vermiş olmamız.
Ne yazık ki Amazon neredeyse temel bir ihtiyaç haline geldi. Ancak en kötü sonuçlarını dizginlemek için adımlar atabiliriz.
Tüketiciler Amazon'u daha iyi hale getirme yükünü taşımamalı; politika yapıcılar ve düzenleyiciler taşımalı. Onlar için başlamak için iyi bir yer Amerikan Gizlilik Hakları Yasasışu anda Kongre'de olan bir yasa. Mükemmel değil, ancak en azından federal bir gizlilik yasasının bariz eksikliğini giderir. Eyalet gizlilik yasaları, tüketicileri ne kadar iyi koruduğu konusunda büyük ölçüde değişen bir karmaşa oluşturur.
Veri gizliliğini bir insan hakkı olarak düşünmeye başlamamız gerekiyor. Şirketlerin bizim hakkımızda toplayabilecekleri ve çıkarımlarda bulunabilecekleri tüm verilere sahip olma hakkına sahip olduğu fikri kesinlikle çılgınca. Otuz yıl önce, kimse buna katılmazdı.
Dünya böyle işlememeli ve yapay zeka çağına girerken bulunduğumuz yerin bu olması özellikle korkutucu. Sürekli duyduğumuz sohbet robotları gibi üretken yapay zeka programları, mümkün olduğunca çok kişisel bilgiyi ortadan kaldırmak için tasarlanmıştır, sözde onları daha etkili hale getirmek için. Ve Amazon Alexa asistanını yükseltiyor Üretken AI teknolojisini dahil etmek.
Amazon'dan dürtüsel olarak satın alabileceğim hiçbir şey, mahremiyetin olmadığı, kitlesel gözetimin ve duygularımızın ve eğilimlerimizin yaygın olarak izlendiği bir gelecek hakkında kendimi daha iyi hissetmeme yardımcı olmayacak. Güzel bir kitap ve ücretsiz bir kupa olarak başlayan şey, satın aldığım her şeyin, gittiğim her yerde ve belki de çok da uzak olmayan bir gelecekte hissettiğim her duygunun izlenebileceği ve bana daha fazla şey satmak veya tehlikeli ideolojileri yaymak veya şirketlerin veya hükümetlerin yararlı gördüğü başka herhangi bir amacı ilerletmek için çıkarımlara dönüştürülebileceği bir dünya yarattı. Eğer kulağa distopik geliyorsa, bunun nedeni distopik olmasıdır.
Jen Caltrider, Mozilla'nın *Privacy Not Included projesinin yöneticisidir.
Bir yanıt yazın