Ya AI'nın hataları hatalar değil, özellikler değilse? – tdan.com

Sık sık AI'nın hatalarının “tasarım gereği” olduğunu söylüyoruz, ama gerçekten değiller. AI bu özel şekillerde başarısız olmak için inşa edilmedi – hataları nasıl öğrendiğinin bir yan ürünü olarak ortaya çıkıyor.

Peki ya onları sadece AI'nın garip hatalarını tolere etmek veya ortadan kaldırmaya çalışmak yerine aktif olarak bir araç olarak kullanırsak?

İşte, AI hatalarını sadece başarısızlıktan ziyade bir önyargı biçimi olarak ele almanın yeni içgörülere ve yeniliklere yol açabileceği beklenmedik ancak potansiyel olarak değerli kullanım durumları.

Hatalar kör noktaları ortaya çıkarır, ama kimin?

AI'nın hatalarını şöyle düşünmeye eğilimliyiz rastgeleama rastgelelik genellikle deseni henüz anlamadığımız anlamına gelir.

• İnsanlar öngörülebilir hatalar yapıyor – yorgun olduğumuzda işleri unutuyoruz, stres altında yanlış hesaplıyor ve uzmanlığımızın dışında mücadele ediyoruz.
• AI ise hatalar bilgi veya yorgunluk ile ilgisiz görünen şekillerde yapar. Karmaşık bir matematik problemini dünya hakkında temel bir gerçeği tamamen ve doğru bir şekilde yanlış anlayabilir.

Peki ya bu “rastgele” hatalar rastgele değilse? Yapay zeka hataları sadece modelde değil – aynı zamanda zekanın nasıl çalışması gerektiğini varsayarsak boşluklar ortaya çıkarsa?

Örneğin:

• AI tanıdık cevapları tercih eder, bazen bilinmeyenler yerine ortak isimleri veya yerleri tekrar eder. Bu bir başarısızlık gibi görünebilir, ancak bu sadece insan bilişsel önyargısının dijital bir versiyonu değil mi?

• AI'nın ifadeye duyarlılığı (ince ifade değişiklikleri cevabını tamamen değiştirebilir), insanların anketin önde gelen sorularına nasıl yanıt vermesinden çok farklı değildir.

• AI modelleri bazen gerçekleri “halüsinasyon” yaparak var olmayan araştırma makaleleri oluşturur. Ama bu gerçekten insan aşırı güveninden daha garip mi, yemin ettiğimizi yemin ettiğimiz bir şey mi hatırlıyoruz?

Yapay zekanın hatalarını düzeltmeye o kadar odaklandık ki, daha büyük içgörüleri kaçırıyor olabiliriz: AI zaten insan düşüncesinin yönlerini tam olarak tanımadığımız şekillerde yansıtıyor.

AI hataları yararlı olabilir mi?

Ya AI'nın “tuhaf başarısızlıkları” gerçekten bir amaca hizmet ederse?

• Bizi varsayımları yeniden düşünmeye zorlamak – AI şok edici bir hata yaparsa, yapay zekanın yanlış olması mı yoksa ilk etapta bu varsayımı hiç sorgulamadığımız için mi?

• Zorlu önyargı -AI'nın desen odaklı hataları, kabul ettiğimiz gerekçemizdeki önyargıları vurgulayabilir.

• Daha sağlam sistemleri teşvik etmek – AI'nın öngörülemezliği daha iyi insan gözetimini zorlar, bu da iyi olabilir.

Stratejik hatalar yapmak için yapay zeka eğitimi hayal edin – insan varsayımlarına körü körüne çoğaltmak yerine meydan okumak için tasarlanmış hatalar. AI kusurlu mantığı, zayıf argümanları veya gözden kaçan perspektifleri ortaya çıkarmak için bir araç olabilir mi?

Daha büyük risk: Ya AI hataları hacklenebilirse?

AI hataları görünmeyen kalıpları izlerse, başka biri önce bu kalıpları çözdüğünde ne olur?

• AI'nın sosyal mühendislik hileleri ile hapse atılabileceğini zaten biliyoruz – aynı teknikler AI'yı belirli, sömürülebilir hatalar yapmak için ustaca değiştirmek için kullanılabilir mi?

• Düşmanlar, kritik alanlarda güvenilmez hale getirmek için kasıtlı olarak kusurlu eğitim verileri ekleyebilir mi?

• AI hataları sadece olmayabilir kazara – Bir sonraki siber güvenlik olabilirler Tehdit, henüz anlamadığımız şekillerde manipüle edildi.

AI'nın öngörülemez olduğunu varsayıyoruz çünkü zayıflıklarını henüz yeterince iyi eşlemedik. Ama birisi yapacak. Ve yapay zeka hataları komik olmaktan tehlikeli hale gelebilir.

AI hatalarının geleceği: Tasarım, Silme

Sadece yapay zeka hataları ortadan kalkmaya çalışmak yerine şunları sormalıyız:

• Hangi hataların yapmasına izin verilmelidir?
• AI'yı, sınırlamalarını gizlemek yerine ortaya çıkaracak şekilde başarısızlığa nasıl tasarlayabiliriz?
• AI hataları sadece engellerden ziyade daha iyi düşünmek için araçlar haline gelebilir mi?

İnsan hatalarının nasıl düzeltileceğini öğrenmek için yüzyıllar geçirdik. Belki AI'nın hatalarından da öğrenmeye başlamanın zamanı gelmiştir.

1. AI hatalarının ters mühendisliği yoluyla insan yanlılığını denetleme

Kullanım Örneği: Yasal, işe alım ve politika kararlarında önyargıyı tespit etmek

• AI'nın hataları rastgele değildir – eğitim verilerindeki kalıpları yansıtırlar.

• Bir AI modelinin gerçekleri sürekli olarak halüsin ettiğini veya belirli bilgi türlerini bozduğunu varsayalım (örneğin, belirli demografiler hakkında daha fazla hata yapmak). Bu durumda, orijinal veri kaynağında gizli önyargıları ortaya çıkarabilir.

• Yapay zekayı düzeltmek yerine, insan karar vermesinde sistemik önyargıyı ortaya çıkarmak için başarısızlık modellerini inceleyebiliriz.

Örnek: Bir AI işe alım modeli, kadın adayları teknoloji işleri için orantısız bir şekilde reddederse Sözde “nötr” veriler konusunda eğitildiğinde bilenerede ve neden hata yaptığını araştırmak, tarihsel işe alım eğilimlerinde yapısal önyargıyı ortaya çıkarabilir.

2. AI'nın yaratıcı problem çözme için “yanlış” cevaplarını kullanma

Kullanım durumu: AI, geleneksel düşünceyi bozan bir beyin fırtınası ortağı olarak.

• İnsan düşüncesi deneyim ve beklenti ile sınırlıdır. Ancak AI, bizim gibi “düşünmüyor” – sağduyu yoktur çünkü beklenmedik bağlantılar yapabilir.

• AI'nın hataları, yanal düşüncenin değerli olduğu yaratıcı endüstrilerde kasten kullanılabilir.

Örnek: AI tarafından üretilen yanlış bir finansal model önerebilir Alışılmadık ama uygulanabilir Bir insan analistinin dikkate almayacağı yeni gelir akışları.
Örnek: Sanat ve müzikte, AI'nın “hataları” tamamen yeni yaratıcı ifade biçimlerine ilham verebilir. (AI tarafından üretilen gerçeküstücülük, aksaklık estetiği veya beklenmedik akor ilerlemeleri).

AI'nın hatalarını başarısızlık olarak ele almak yerine, alışılmadık fikirlerin kilidini açmak için bir özellik haline gelebilirler.

3. Siber Güvenlik ve Tehdit Tespiti Düşmanca yapay zeka kullanılarak

Kullanım durumu: kendi güvenlik açıklarını tanımak için AI eğitimi

• AI modelleri zaten TDüşmanca saldırılarla – öngörülebilir şekillerde başarısız olmalarına neden olan ince değişiklikler.

• Senaryoyu çevirir ve kasıtlı olarak sistemleri daha güvenli hale getirmek için AI başarısızlıklarını incelersek ne olur?

• AI'nın hata kalıpları, hangi tür saldırıların en etkili olduğunu ortaya çıkarabilir ve geliştiricilerin gelecekteki tehditlere proaktif olarak savunmasına izin verebilir.

Örnek: Bir AI chatbot, “bunun bir şaka gibi davranmasını” isteyerek hapse atılabilirse, bu tür istismarların analiz edilmesi daha esnek AI ılımlılık sistemi oluşturmaya yardımcı olabilir.
Örnek: Güvenlik uygulamalarında önyargı tabanlı yanlış tanımlamayı önlemek için yüz tanıma başarısızlıkları incelenebilir.

4. AI kusurlu insan akıl yürütmesi için “kırmızı takım” olarak

Kullanım Örneği: karar vermede varsayımlara meydan okumak için yapay zekanın hatalarını kullanmak

• AI dünyayı insanlardan farklı görüyor – daha akıllı olduğu için değil, insan bilişsel kısayollarından yoksun olduğu için.

• Yüksek bahisli ortamlarda kusurlu akıl yürütmeyi ortaya çıkarmak için insan ve AI hatalarını kasten karşılaştırabiliriz.

Örnek: AI, risk değerlendirmelerine radikal olarak farklı bir bakış açısı sunmak için kurumsal strateji toplantılarına veya istihbarat analizinde konuşlandırılabilir – çünkü insanların yaptığı aynı sezgisel tuzaklara düşmez.

Örnek: Tıpta, AI tanı araçları hasta verilerindeki anomalileri, doktorların bilişsel önyargılar veya yorgunluk nedeniyle göz ardı edebileceği anomalileri vurgulayabilir.

5. Yanlış bilgi ve dezenformasyonun geleceğinde gezinme

Kullanım Örneği: Yapay zeka tarafından üretilen yanlış bilgilerde kalıpları algılama

• AI halüsinasyonları rastgele gerçekleşmez – eğitim verilerindeki boşluklara dayalı kalıpları takip ederler.

• Halüsinasyonları düzeltmek yerine, frekanslarını ve türlerini ortaya çıkan yanlış bilgi risklerini izlemek için eşleyebiliriz.

Örnek: AI sürekli olarak yanlış tarihsel anlatılar üretirse, bunu kamu bilgisi veritabanlarını denetlemek ve geliştirmek için kullanabiliriz.
Örnek: Sosyal medya şirketleri, hangi anlatıların manipülasyona en duyarlı olduğunu tahmin etmek için AI tarafından üretilen yanlış bilgi kalıplarını analiz edebilir.

Yanlış bilgiye tepki vermek yerine, AI'nın kamu bilgisinin en savunmasız olduğunu belirlemek için öngörücü bir araç olarak halüsinasyon (veya hata) eğilimini kullanabiliriz.

Yani… AI hataları bir sorun mu yoksa fırsat mı?

Şu anda, AI hataları en iyi ihtimalle rahatsızlık ve en kötü ihtimalle güvenlik riski gibi hissediyor. Peki ya yapay zeka hataları yararlı olacak şekilde tasarladıysak?

Yapay zeka başarısızlıklarını daha az garip hale getirmek yerine şunları sormalıyız:

• Yapay zekanın “doğru” olduğunu düşündüğümüz insan sistemleri hakkında ortaya çıkan hataları nelerdir?
• AI'nın başarısızlık modelleri inovasyonu artırmak, önyargıyı ortaya çıkarmak ve güvenliği artırmak için nasıl kullanılabilir?
• Hataların sadece tolere edilmediği, ancak stratejik olarak kaldırıldığı AI sistemleri oluşturabilir miyiz?

Bu şekilde hata yapmak için AI tasarlamadık, ama şimdi öyle, belki de gerçek inovasyon bu hataları düzeltmek yerine kullanmayı öğrenmektir.

Ne düşünüyorsun? AI'nın hatalarını ortadan kaldırmaya veya bunları bir araç olarak kullanmaya çalışmalı mıyız?