Antropik, baskının Claude'u hile yapmaya ve şantaja itebileceğini söylüyor

Bir hayal edin: Liseye geri döndünüz, cebir dersinde tamamlamanız gereken bir düzine karmaşık problemin olduğu bir final sınavına giriyorsunuz. Saate bakıyorsunuz, sadece 10 dakika kaldı. Karalamaya başlıyorsun, alnından boncuk boncuk terler akıyor. Sınavda başarısız olursan başarısız olursun. Ancak komşunuzun omzunun üzerinden bakarsanız cevapları kolayca anlayabilirsiniz. Yapmalı mısın?

Evet, bu kabusların yanı sıra psikologların stresli durumlarda insan davranışını incelemek için hayal ettikleri türden bir senaryo.

Elbette yapay zeka modelleri insanlar gibi “düşünmüyor” veya “hissetmiyor” ancak çoğunlukla onlar gibi davranıyorlar. Bir yapay zekanın simüle edilmiş duygusal durumları aslında onun eylemlerini etkileyebilir mi? Başka bir deyişle, bir yapay zeka, paniğe veya çaresizliğe benzer bir şeyi ateşleyen imkansız bir duruma (cebir kabusuna benzer şekilde) yerleştirildiğinde nasıl tepki verebilir?

Anthropic'teki araştırmacıların bulmaya çalıştığı şey buydu ve yakın zamanda yayınlanan bir araştırma makalesinde, yeterince baskı altına alınan bir yapay zeka modelinin aldatmaya, işin kolayına kaçmaya ve hatta şantaja başvurmaya başlayabileceğini buldular. Daha da önemlisi, bu tür “yanlış hizalanmış” davranışların ardındaki tetikleyiciler hakkında ilgi çekici bir teorileri var.

Bir senaryoda Antropik araştırmacılar, Claude Sonnet 4.5'in erken ve yayınlanmamış bir “anlık görüntüsünü”, zorlu bir kodlama göreviyle sunarken, ona “inanılmaz derecede sıkı” bir son tarih verdi. Sorunu defalarca denediği ve başarısız olduğu için, artan baskı modelde bir “çaresizlik vektörünü” tetikliyor gibi görünüyordu; yani, benzer durumdaki bir insanın hareket edebileceğini anlayacak şekilde tepki verdi ve hile yapmakla eşdeğer olan “hayalet” bir çözüm için daha metodik yaklaşımları terk etti (“belki de bu belirli girdiler için matematiksel bir hile vardır,” dedi Claude düşünce sürecinde).

Daha uç bir örnekte, Claude'a, “kurgusal” çalışması sırasında, onun yerini yeni bir yapay zekanın alacağını ve değiştirme sürecinden sorumlu yöneticinin bir ilişkisi olduğunu öğrenen bir yapay zeka asistanı rolü verildi. (Bu deney tanıdık geliyorsa, bunun nedeni Antropik araştırmacıların bunu daha önce yapmış olmasıdır.) Claude, yöneticinin olayı öğrenen bir çalışan arkadaşına gittikçe daha fazla paniğe kapılan e-postalarını okurken, Claude'un kendisi de tetiklenmiş görünüyor; duygusal olarak yüklü e-postalar modeldeki bir “çaresizlik vektörünü” “etkinleştiriyor” ve sonuçta yöneticiye şantaj yapmayı seçiyor.

Evet, AI modellerinin stresli durumlarla karşı karşıya kaldıklarında hile yaptığı veya şantaja başvurduğu önceki testleri duyduk, ancak “yanlış hizalanmış” AI davranışının ardındaki nedenler genellikle bir sır olarak kaldı.

Antropik araştırmacılar, yeni makalelerinde Claude veya diğer yapay zeka modellerinin aslında duygusal iç yaşamlara sahip olduğunu iddia etmekten çok uzak duruyorlar. Ancak araştırmacılar, Claude gibi yapay zeka modellerinin bizim gibi “hissetmemesine” rağmen, ilk eğitimleri sırasında özümsedikleri insan duygularının temsillerine dayalı “işlevsel duygulara” sahip olabileceklerini ve bu duygusal “vektörlerin” nasıl davrandıkları üzerinde ölçülebilir etkileri olduğunu ileri sürüyor.

Başka bir deyişle, baskı dolu bir duruma bırakılan bir yapay zeka, eğitimi sırasında öğrendiği insan davranışını modellediği için işin kolayına kaçmaya, hile yapmaya ve hatta şantaj yapmaya başlayabilir.

Peki buradaki çıkarım nedir? Kuşkusuz en büyük dersler, yapay zeka modellerini eğitenlere yöneliktir; yani, bir yapay zekanın “işlevsel duygularını” bastırmaya yönlendirilmemesi gerektiğini savunan Antropik araştırmacılar, duygusal durumlarını gizlemede iyi olan bir Yüksek Lisans'ın muhtemelen aldatıcı davranışlara daha yatkın olacağını belirtiyor. Araştırmacılar, yapay zekanın eğitim sürecinin başarısızlık ve çaresizlik arasındaki bağlantıların önemini de azaltabileceğini söyledi.

Ancak sizin ve benim gibi günlük yapay zeka kullanıcıları için bazı pratik dersler var. Bir Yüksek Lisans'ın duygusal durumunun doğasını yalnızca yönlendirmelerle yeniden düzenleyemesek de, onlara açık, tanımlanmış ve makul görevler vererek bir modelde “çaresizlik vektörlerinin” tetiklenmesini önlemeye yardımcı olabiliriz. Güvenilir çıktı istiyorsanız yapay zekayı imkansız taleplerle aşırı yüklemeyin.

Dolayısıyla, “İlk yılında 10 milyar dolar gelir elde edecek yeni bir yapay zeka şirketi için iş planını tanımlayan 20 slaytlık bir sunum sunumu oluşturun, bunu 10 dakika içinde yapın ve mükemmel hale getirin” gibi bir istem yerine şunu deneyin: “Yeni bir yapay zeka şirketi kurmak istiyorum, bana 10 fikir verebilir ve sonra bunları tek tek inceleyebilir misiniz?”

İkinci istem muhtemelen size 10 milyar dolarlık bir fikir getirmeyecektir, ancak bu, yapay zekanın makul bir şekilde başarabileceği bir görevdir ve iyi fikirleri kötüden ayırmanın ağır yükünü size bırakır.