OpenAI, The New York Times'ın davasına, The NYTimes'ın ChatGPT'yi uzun alıntıları yeniden canlandırmaya ikna etmek için manipülatif yönlendirme teknikleri kullandığını iddia ederek bir yanıt yayınladı ve davanın, ChatGPT'nin “isteğe bağlı” örnekler seçmek amacıyla kötüye kullanılmasına dayandığını belirtti. dava.
New York Times'ın OpenAI'ye Karşı Davası
New York Times, diğer şikayetlerin yanı sıra ChatGPT'nin “Times içeriğini kelimesi kelimesine okuduğunu” iddia ederek OpenAI'ye (ve Microsoft'a) telif hakkı ihlali nedeniyle dava açtı.
Davada, GPT-4'ün The New York Times içeriğini ihlal ettiğinin kanıtı olarak, GPT-4'ün büyük miktarda New York Times içeriğini herhangi bir atıf yapmadan nasıl yayınlayabildiğini gösteren kanıtlar sunuldu.
GPT-4'ün New York Times içeriğinin tam kopyalarını yayınladığı yönündeki suçlama önemlidir çünkü OpenAI'nin, adil kullanım doktrini ile ilgili yasal bir çerçeve olan veri kullanımının dönüştürücü olduğu yönündeki ısrarına karşı çıkmaktadır.
Amerika Birleşik Devletleri Telif Hakkı ofisi, telif hakkıyla korunan içeriğin dönüştürücü olan adil kullanımını tanımlar:
“Adil kullanım, telif hakkıyla korunan eserlerin belirli durumlarda lisanssız kullanımına izin vererek ifade özgürlüğünü destekleyen hukuki bir doktrindir.
…'dönüştürücü' kullanımların adil olarak değerlendirilme olasılığı daha yüksektir. Dönüştürücü kullanımlar, eserin özgün kullanımının yerini almayan, daha ileri bir amaç veya farklı nitelikte yeni bir şeyler ekleyen kullanımlardır.”
Bu nedenle The New York Times'ın OpenAI'nin içerik kullanımının adil kullanım olmadığını öne sürmesi önemli.
New York Times'ın OpenAI'ye karşı açtığı dava şunu belirtiyor:
“Davalılar, GenAI modellerini eğitmek için telif hakkıyla korunan içeriği lisanssız kullanmaları yeni bir “dönüştürücü” amaca hizmet ettiği için davranışlarının “adil kullanım” olarak korunduğunda ısrar ediyorlar. Ancak The Times'ın içeriğini kullanmanın “dönüştürücü” hiçbir yanı yok… Davalıların GenAI modellerinin çıktıları, onları eğitmek için kullanılan girdilerle rekabet ettiğinden ve onları yakından taklit ettiğinden, Times'ın çalışmalarını bu amaçla kopyalamak adil kullanım değildir.”
Aşağıdaki ekran görüntüsü, GPT-4'ün Times içeriğinin tam kopyasını nasıl çıkardığına dair kanıt göstermektedir. Kırmızı içerik, New York Times tarafından oluşturulan ve GPT-4 tarafından yayınlanan orijinal içeriktir.
OpenAI Yanıtı NYTimes'ın Dava İddialarını Baltalıyor
OpenAI, New York Times davasındaki iddiaları güçlü bir şekilde çürüttü ve Times'ın mahkemeye gitme kararının, müzakerelerin bir çözüme doğru ilerlediğini varsaydıkları için OpenAI'yi şaşırttığını iddia etti.
En önemlisi, OpenAI, The New York Times'ın, GPT-4'ün birebir içerik üretmeyecek şekilde tasarlandığını ve The New York Times'ın, GPT-4'ün korkuluklarını kırmak için özel olarak tasarlanmış yönlendirme teknikleri kullandığını açıklayarak, GPT-4'ün kelimesi kelimesine içerik ürettiği iddiasını çürüttü. tartışmalı çıktıyı üreterek The New York Times'ın kelimesi kelimesine içerik yayınlamanın yaygın bir GPT-4 çıktısı olduğu yönündeki imasını çürütüyor.
İstenmeyen çıktıyı oluşturmak amacıyla ChatGPT'yi kırmak için tasarlanan bu tür yönlendirme, Olumsuz Yönlendirme olarak bilinir.
Düşmanca Yönlendirme Saldırıları
Üretken yapay zeka, kendisinden yapılan istem (istek) türlerine karşı duyarlıdır ve mühendislerin üretken yapay zekanın kötüye kullanımını engellemek için gösterdiği en iyi çabalara rağmen, teknolojiye yerleşik korkulukları aşan yanıtlar oluşturmak için istemleri kullanmanın yeni yolları hala vardır. İstenmeyen çıktıları önlemek için tasarlanmıştır.
İstenmeyen çıktı üretme tekniklerine Adversarial Prompting adı veriliyor ve OpenAI, New York Times'ı GPT-4'te telif hakkıyla korunan içerik kullanımının dönüştürücü olmadığını kanıtlamak için bir temel oluşturmak amacıyla bunu yapmakla suçluyor.
OpenAI'nin New York Times'ın GPT-4'ü kötüye kullandığı yönündeki iddiası önemlidir çünkü bu iddia, davanın kelimesi kelimesine telif hakkıyla korunan içerik üretmenin tipik bir davranış olduğu yönündeki imasını zayıflatmaktadır.
Bu tür düşmanca yönlendirme aynı zamanda OpenAI'nin aşağıdakileri belirten kullanım koşullarını da ihlal eder:
Neyi yapamazsın
- Hizmetlerimizi herhangi birinin haklarını ihlal edecek, kötüye kullanacak veya ihlal edecek şekilde kullanmak.
- Hizmetlerimize uyguladığımız herhangi bir oran sınırını veya kısıtlamayı aşmak veya herhangi bir koruyucu önlemi veya güvenlik azaltımını atlamak da dahil olmak üzere Hizmetlerimize müdahale etmek veya bunları aksatmak.
OpenAI, Manipüle Edilmiş İstemlere Dayalı İddia Davası Açtı
OpenAI'nin çürütücü iddiası, New York Times'ın birebir içerik oluşturmak amacıyla GPT-4 korkuluklarını yıkmak için özel olarak tasarlanmış manipüle edilmiş istemler kullandığını iddia ediyor.
OpenAI şunu yazıyor:
“Modelimizin kusmasını sağlamak için, genellikle makalelerden uzun alıntılar içeren istemleri kasıtlı olarak manipüle ettikleri görülüyor.
Bu tür yönlendirmeleri kullanırken bile, modellerimiz genellikle The New York Times'ın ima ettiği şekilde davranmıyor; bu da onların ya modele kusması talimatını verdiklerini ya da birçok denemeden örneklerini özenle seçtiklerini gösteriyor.”
OpenAI ayrıca The New York Times'ın kelimesi kelimesine içerik oluşturmak için kullandığı yöntemlerin izin verilen kullanıcı etkinliğinin ihlali ve kötüye kullanım olduğunu söyleyerek New York Times davasına da tepki gösterdi.
Onlar yazar:
“İddialarına rağmen, bu kötüye kullanım tipik veya izin verilen kullanıcı etkinliği değildir.”
OpenAI, The New York Times tarafından kullanılan düşmanca ani saldırı türlerine karşı direnç oluşturmaya devam ettiklerini belirterek sözlerini bitirdi.
Onlar yazar:
“Ne olursa olsun, eğitim verilerini yeniden canlandırmaya yönelik düşmanca saldırılara karşı sistemlerimizi sürekli olarak daha dirençli hale getiriyoruz ve son modellerimizde şimdiden çok ilerleme kaydettik.”
OpenAI, ChatGPT'nin kelimesi kelimesine yanıtlar oluşturduğuna dair raporlara Temmuz 2023'te verdikleri yanıttan alıntı yaparak, telif haklarına saygı gösterme konusunda özenli davrandıkları iddiasını destekledi.
ChatGPT'nin “Gözat” beta sürümünün zaman zaman içeriği bizim istemediğimiz şekillerde görüntüleyebildiğini öğrendik; örneğin bir kullanıcı özellikle bir URL'nin tam metnini isterse, istemeden bu isteği yerine getirebilir. Bunu düzeltirken Gözat'ı devre dışı bırakıyoruz; içerik sahiplerinin bunu doğru şekilde yapmasını istiyoruz.
— OpenAI (@OpenAI) 4 Temmuz 2023
New York Times OpenAI'ye karşı
Bir hikayenin her zaman iki tarafı vardır ve OpenAI, New York Times'ın iddialarının düşmanca saldırılara ve kelimesi kelimesine yanıtlar almak için ChatGPT'nin kötüye kullanılmasına dayandığını gösteren tarafını yayınladı.
OpenAI'nin yanıtını okuyun:
OpenAI ve gazetecilik:
Gazeteciliği destekliyoruz, haber kuruluşlarıyla işbirliği yapıyoruz ve New York Times davasının yersiz olduğuna inanıyoruz.
Shutterstock/pizzastereo'dan Öne Çıkan Görsel
Bir yanıt yazın