Dil ve dilin kullanımı üzerine düşünmek felsefenin ayrılmaz bir parçasıdır. Yalnızca Wittgenstein'ın yazdığı gibi, Tractatus“Dilimin sınırları dünyamın sınırlarıdır”; ama aynı zamanda güç ilişkilerinin, geleneklerin ve anlayışların dilin içinde yansıtılması nedeniyle. Belki Varlık dilde barınmıyor ama insan, hem birey hem de toplum olarak kesinlikle barınıyor.
Yapay zeka, çünkü makineyi insanileştirmek ve zihni bilgisayarlaştırmak yanlıştır
Luciano Floridi* ve Anna C. Nobre**
Anlamsal sermaye
Luciano Floridi'nin “anlamsal sermaye” olarak adlandırdığı şey, insanların gerçekliği yorumlamak ve anlamlandırmak için biriktirdiği bilgi, deneyim, değer ve anlamlar kümesidir. Yale Dijital Etik Merkezi'nin kurucu direktörü ve Yale Üniversitesi Bilişsel Bilimler profesörü İtalyan filozof, 17 Mayıs'ta Torino Kitap Fuarı'nda olacak ve saat 17.30'da Mavi Oda'da son kitaplarından bir ders verecek. Temel fark (Mondadori) e Etik düğüm (Raffaello Cortina).
Floridi'ye göre anlamsal sermaye, yapay zeka çağında kendisini makinelerden ayıran temel bir kişisel ve kolektif varlıktır ve anlam ve bağlamla zenginleştirilmiş olması nedeniyle basit bilgilerden farklıdır. Dil, anlamsal sermayeyle doğrudan örtüşmez, ancak onun ana biçimlerinden biridir: biçimini ve yapısını analiz etmek, diğer dillerle karşılaştırmak, kim olduğumuza ve nerede olduğumuza dair bir farkındalık geliştirmemize yardımcı olur. Kendimizi tarihsel bir sürecin (ya da Walter Benjamin'in yazdığı gibi bir harabeler zincirinin) sonuna yerleştirmek Angelus Novus'un). Ve belki de sanat ve felsefeden açıkça uzak olan sektörlerde bile önemli dönüşümleri öngörebilecek işaretleri belirlemek için.
yapay zeka
Gerçek nedir? Grok'un yapay zekası için Elon Musk'unki
kaydeden Bruno Ruffilli
Liste
Floridi, Facebook hesabında sık sık felsefi düşüncelerden kesitler paylaşıyor. Örneğin yakın zamanda, en popüler yapay zeka platformlarının temelini oluşturan büyük dil modelleri olan Büyük Dil Modelleri tarafından oluşturulan metinlerin bir analizini yayınladı. Araştırmanın öncelikli hedefi Antropik sohbet robotu Claude'dur, ancak filozofun gözlemleri ChatGPT'den başlayarak diğer modellere de uyum sağlıyor. Onun listesi stilistik bir inceleme olarak doğmuştur, dolayısıyla bu sistemlerin teknik işleyişini göz ardı eder ve bazı biçimsel tik ve tuhaflıklarına odaklanır. Özel talimatlarla neredeyse tamamen azaltılabilen veya tamamen ortadan kaldırılabilen tuhaflıklar: “Ancak, daha karmaşık istemlere ihtiyaç vardır, LLM'nin stili elde etmek için üzerinde çalıştığı bir dosya arşivi, uygulamak veya kaçınmak istediğiniz her şeyi yerleştireceğiniz başka bir yer”, diye anımsıyor filozof. “Yüksek Lisans dünyadaki tüm bilgilere erişim sağlayan bir arayüzdür. Onu kötü kullanırsanız bir dizi klişe ortaya çıkar, ancak iyi kullanırsanız insan bilgisini genişletebilirsiniz. Muazzam bir veri tabanında şimdiye kadar yaratılmış en karmaşık istatistiksel araçtır: Bu bir Ferrari, ancak onu otoyolda ilk viteste gitmek için kullanan insanlar var.”
çalışma
Yapay zeka oy verme testine tabi tutuldu: Büyük dilsel modellerin politik önyargıları
kaydeden Giuditta Mosca
Biçimsel alışkanlıklar ve pratik ihtiyaçlar
Ancak yine de yapay zekayı kullananların büyük çoğunluğu, tembellik veya hazırlık eksikliği nedeniyle kendilerini genel yönlendirmelerle sınırlıyor. Bu, tamamen biçimsel olabilecek bazı tuhaflıklarla sonuçlanır; örneğin aşırı kalın kullanımı (“okuyucu önemli kısımları kendi başına bulamıyormuş gibi”) veya onun “paranoyak listeleme” dediği şey, aynı zamanda İngilizce'de “uzun çizgi” olan ve İtalyanca'da pratikte bulunmayan uzun çizginin kullanımı.
Diğer çareler pratiktir ve gerçek cevaba ulaşmadan önce verilerin işlenmesi için zaman ayırmaya yararlar. Ortak dilde bunlar, askıya alınmış cümleler, sessizlikler, ara eklemeler olacaktır. Bir sohbet robotu durumunda, kayıtsız başlangıçlara (“Mükemmel bir soru!”, “Gerçekten büyüleyici bir nokta!”, “Kesinlikle!”), işe yaramaz girişlere, asıl konuya girmeden uzun cümle dönüşlerine dönüşürler: “Esasa girmeden önce, anlamaya çalışalım…”, “Cevap vermek için bir adım geri atmalıyız…”. Ve yine, konunun zorluğunu ele almak yerine açıklayan “ücretsiz meta yorumlar” (“Bu incelikli bir konudur”, “Kolay cevapları olmayan karmaşık bir soru”, “Burada incelenecek çok şey var”). Veya basmakalıp geçişler (“Hadi konunun özüne inelim”, “Bütün parçalara ayıralım”, “Hadi parçalara ayıralım”) veya boş pekiştireçler: Metinde çok fazla “gerçekten”, “gerçekten”, “inanılmaz derecede”, “dikkate değer”, “derin bir şekilde” varsa, bunun yapay zekanın bir ürünü olduğu neredeyse kesindir. Tıpkı gerilim yaratmak için pek çok ön izlemenin olduğu gibi, ancak hemen bir şey söylemeden: “İşte mesele şu…”, “İşte burada ilginçleşiyor…”.
AI'ya özgü bir başka stilistik özellik, kullanıcının az önce söylediklerinin tekrarlanmasıdır; bu, uzak ataları Eliza'dan bu yana chatbotların bir özelliğidir. 1966 yılında bir psikoloğun davranışını taklit etmek amacıyla tasarlanan bu yazılım, adını kendini rafine bir şekilde ifade etmeyi öğrenmek isteyen GB Shaw karakteri Eliza Doolittle'dan alıyor. Bunu yapmak için bir chatbot'un birkaç yolu vardır: Diğerlerinin yanı sıra, Floridi'nin “sihirli hat trick” olarak tanımladığı şeyi, üçlü gruplar halinde sıfatları veya isimleri kullanmak; boş vurgu oluşturmak için eşanlamlıları biriktirin; “Sonuçta”, “Özünde”, “Temelde” gibi sahte derinliği ifade eden ifadelere başvurunuz.
Epistemik korkaklık
Yüksek Lisansın ticari bir ürün olduğunu da göz önünde bulundurmalıyız, bu nedenle benimsediği bazı retorik araçlar, onu yaratan şirketin imajına zarar verebilecek pozisyonlardan kaçınmaya hizmet eder. Floridi bunu “epistemik korkaklık” olarak adlandırıyor: Bu tam olarak bir önyargı meselesi değil, ancak ton ve içeriğin çok dikkatli bir şekilde ince ayarlanmasıyla ilgili, böylece yapay zeka tarafından üretilen eserin hiç kimse için saldırgan veya ayrımcı olarak kabul edilmesi mümkün değil. Bu, “Her iki tarafta da geçerli argümanlar var”, “Bu gerçekten bağlama bağlı”, “Makul insanlar aynı fikirde değil”, “Herkese uyan tek bir cevap yok” gibi ifadeler faydalıdır. Ancak genel olarak Yüksek Lisans'ların tipik özelliği, belirli bir ihtiyatlılık, kendini ifşa etmekten kaçınmaya yönelik kompulsif bir zayıflamadır (“Bu dikkate değer”, “biri tartışılabilir”, “belirli bir dereceye kadar”) ve ayrıca “zorla kararsızlık, istenmeyen açıklamalar, takıntılı kapsamlılık” eğilimidir. Tüm bunlar her zaman yeterli olmuyor, programcıların ve sistemi eğitenlerin çabaları bazen başarısızlıkla sonuçlanıyor ve tartışmalar büyüyor: 2016'da Microsoft, Twitter'da genç bir tarzda sohbet etmek ve kullanıcılarla etkileşimlerden öğrenmek için tasarlanmış bir sohbet robotu olan Tay'ı bir günden kısa bir süre içinde kapatmak zorunda kaldı. Geçtiğimiz yıl OpenAI, ChatGPT'nin kullanıcıyla aynı fikirde olma ihtimalini yüksek kılan bir güncellemeyi geri almak zorunda kaldı; daha yakın zamanda ise kullanıcılar tarafından fazla kuru olduğu için eleştirilen sürüm 5'in yanıt stilini gözden geçirmek zorunda kaldı. Elon Musk'un anti-Semitik içerik üretip yayan, saldırgan ve ırkçı paylaşımlar yapan ve hatta X'te Hitler'e övgüler yağdıran yapay zeka platformu Grok'tan bahsetmeye bile gerek yok.
Dört Nobel Ödülü sahibinden OpenAI'ye çağrı: “Yapay zeka konusunda daha fazla şeffaflık”
Italian Tech editör ekibi tarafından
Aynanın ötesinde
Peki Yüksek Lisans'lar kullandıkları klişeleri ve retorik araçları nereden aldılar? İnsandan, dilinden: Kitaplardan, sosyal medya paylaşımlarından, makalelerden ve çevrimiçi bloglardan; bunlar da bu sistemlerin eğitim aldığı hammaddelerdir. Ve tıpkı bir aynada olduğu gibi, makinenin tepkilerinin boş kibirliliği bizi insan dilindeki anlamsız ifadelerin çoğalmasıyla karşı karşıya getiriyor. Yapay zeka, yüzyıllardır retorikçilere ve sıradan insanlara konuşmalarını nasıl süsleyeceklerini öğrettikten sonra süreci endüstrileştirdi. Floridi ayrıca diğer yapay zeka alışkanlıklarını da tanımlıyor: “Olumlu düşünmek, gerekmediğinde bile her zaman moral verici veya umut verici bir notla bitirmek; ilham verici özet, akıllıca görünen ama hiçbir şey söylemeyen genel bir cümleyle bitirmek”. Burada retorik, iyi yazma ya da konuşma yeteneği ya da asil anlamda ikna etme sanatı değil, inandırıcılık etkisi üreten stratejiler bütünü haline gelir. Yüksek Lisans, deneyimlemeden, risk almadan, risk almadan metin üretir: ve tam da bu nedenle, yirminci yüzyılın başlarında Gorizia'dan bir filozof ve yazar olan Carlo Michelstaedter'in “retorik” olarak adlandırdığı şeyi, anlama eksik olduğunda veya doğrulanamadığında bile bir söylemi destekliyor gibi görünen bir dizi yapı üretme eğilimindedir. Bunlardan kaç tanesi günlük kendimizi ifade etme biçimimizin bir parçası? Soru sormadan kaç tane kullanıyoruz? Bilinçli insanlar olarak kelimeleri kullandığımıza inanırken makinelerden ne kadar uzaktayız?
Makinelerin diline yansıma, üslupsal yönün ötesine geçerek insan dilinin bir analizi haline gelir. Bu olası bir karşılaştırmadır, çünkü bunlar, en azından biçimsel bir bakış açısından, birbirleriyle karşılaştırılabilir iki eserdir: Ancak, yapay zekanın, çok başarılı bir metaforun ötesinde, gerçekten ne ölçüde insan zekasıyla karşılaştırılabilir olduğunu hâlâ söyleyemeyiz.
Bir yanıt yazın