Openai sadece hiper-gerçekçi AI slop paylaşmak için bir uygulama yaptı


Çöpleri filtrelemek için Google'ı özelleştirebileceğinizi biliyor muydunuz? Bu adımları at Lifehacker'a çalışmamı tercih edilen bir kaynak olarak eklemek de dahil olmak üzere daha iyi arama sonuçları için.


Geçen yıl, Openai'nin AI video jeneratörü Sora'dan korkmamız gerektiğini yazdım. Sora'nın ilk sunumu, bazıları için heyecan verici olsa da beni dehşete düşüren hiper gerçekçi videolar vaat etti. AI hayranları AI tarafından üretilen filmlerin ve şovların geleceğini görürken, kimsenin gerçek veya sahte olduğunu söyleyemeyeceği bir gelecek görüyorum. Bana göre, bu teknoloji için tek hedef kitle dezenformasyonu.

O zamandan beri bir buçuk yıl içinde, bu AI tarafından oluşturulan videolar sadece daha gerçekçi hale gelmedi; Google gibi şirketler araçlarını ödemek isteyen herkes için kolayca kullanılabilir hale getirdikleri için daha erişilebilir hale geldiler. Openai'nin son duyuruları ile bulduğumuz durum budur: Ses ile video oluşturmak için yeni bir AI modeli olan Sora 2 ve AI tarafından oluşturulan ürünlerinizi oluşturmak ve paylaşmak için yeni bir Sora uygulaması.

Sora 2

Openai, Sora 2'yi Sora karşısında büyük bir yükseltme olarak pazarlıyor-ikisini sırasıyla GPT-3.5 ve GPT-1 ile karşılaştırıyor. Şirket, yeni modelin önceki modellerin yapamayacağı karmaşık videolar oluşturabileceğini söylüyor. Bu, özellikle Olimpik bir jimnastik rutini içerir; “doğru” su fiziğini modelleyen bir kürek tahtasında backflip yapan bir adam; yanı sıra omzunda bir kedi olan üçlü bir eksen yapan bir patenci.

AI video modelleri ile yaygın bir kusur, gerçek dünya fiziğini anlama eksikliğidir. Görsel gerçekçi görünebilir, ancak elemanlar rastgele bir araya gelebilirken, diğerleri kafiye veya neden olmadan kaybolabilir ve yeniden ortaya çıkabilir. Openai, Sora 2'nin bu hataları sık sık yapmadığını söylüyor. Kasnağı kaçıran bir basketbol orada sihirli bir şekilde yeniden ortaya çıkmayacak; Bunun yerine, beklediğiniz gibi arka sahadan sıçrayacak. Şirket, modelin hala kusurlu olduğu konusunda uyarıyor, ancak geliştirildi. Buna dayanarak, model farklı çekimlerde süreklilikte daha iyidir: Openai'yi sözlerine alarak, videolarınız alımlar arasında tutarlılığı korumalı ve “gerçekçi”, “sinematik” ve “anime” dahil olmak üzere farklı stil türlerini dikte edebilmelisiniz.

Belki de Sora 2 ile en büyük sıçrama, Openai özelliği “Cameo” olarak adlandırılan bir özellik olan modele gerçek dünya unsurları ekleme yeteneğidir. Gerçek insanları Sora 2 modeline koyabilir ve AI'dan onları istediğiniz herhangi bir videoya dönüştürmesini isteyebilirsiniz. Openai, personelinin çeşitli videolara eklediği bir dizi örneği gösterir ve kalite tutarsız olsa da, Jibjab günlerinden itibaren devasa bir sıçrama.

Google'ın Veo 3 modeli gibi, Sora 2 gerçekçi sesle video oluşturabilir. Duyuru videosu bunu gösteriyor: bir fil kükreme; Bir patenci buz üzerinde swooshes; Su yere sıçradı. Ancak, daha etkileyici (ve ilgili olarak), insanlar konuşmak. AI tarafından oluşturulan bir Sam Altman, bu videodaki yeni modeli ve uygulamayı açıklıyor ve bunun AI olduğunu bilenler için oldukça açık olsa da, hayal edebiliyorum birçok İnsanların bunun klipteki gerçek Altman olmadığı hakkında hiçbir fikri olmazdı.

Sora Uygulaması

Openai, Sora uygulamasının “iletişimin doğal bir evrimi” olarak ortaya çıktığını söylüyor. Şirket bunu, insanların diğer kullanıcıların AI nesilleri oluşturmasının ve remiks etmesinin bir yolu olarak görüyor, özellikle de kendi yüzünüzü ve benzerliğinizi modele yükleme yeteneğiyle.

Şu anda, uygulama sadece davetiyedir, ancak bugün uygulama mağazasından ücretsiz olarak indirebilirsiniz. Bununla birlikte, Salı günü düştüğü demo videosundan ve zaten erişimi olan kişilerin yayınlarından deneyim için bir fikir edinebilirsiniz.

Bu ilk örnek Openai Demos, Openai Araştırma Bilimcisi Bill Peebles ve Sam Altman'ın ikili bir kameosundan. Video, orijinal kuruluş atışını kapatmadan önce, uygulamanın geliri hakkında hızla konuşan Peebles'i hızla konuşan Peebles'i yakından kesen iki adamın bir çekimini içeriyor. Yüzeyde, bir Tiktok veya Reels Binge'de geçmeyi bekleyebileceğiniz video türüdür-ancak bu video tamamen AI tarafından üretilmiştir.

Openai personeli, bir çizgi film haline gelen bir kameo, etkiyi anime'ye değiştiren bir diğer bir kameo ve personelin Ketçap bağımlılığından birinin “haber” raporunu oluşturan bir dizi önceden oluşturulmuş örnek sergiliyor. (Sonuncusu oldukça brüt, ekleyebilirim.) Sora'yı videoyu istediğiniz gibi ayarlamaya isteyebileceğiniz için, akışta bulduğunuz videoları yeniden karıştırma gösteriyorlar. Bir video, bir Sora 2 kolonyası için bir “reklam” da peebles gösteriyor, ancak diğerleri bunu bunun yerine diş macunu veya tamamen Korece olarak yeniden karıştırdı.

Bu videolar oldukça gerçekçi: Birinde, sadece bir tenis maçının bir klibini izlediğinizi düşünüyorsunuz, ancak Openai'nin Rohan Sahai ile bir kamera hücresi olduğu ortaya çıkıyor. “Sahai” maçı kazandıktan sonra, video nefret edenlere teşekkür ettiği “röportajını” keser. Diğerleri daha açık bir şekilde yapay zekadır – yine de, çoğu insanın kaydırması için yeterli olmasa da yeterli değildir.

Openai'ye göre güvenlik ve güvenlik

Openai'nin bazı korumaları olmasına rağmen, kameolar bir gizlilik ve güvenlik kabusu gibi geliyor. Hiç kimsenin yüzünü herhangi bir video için kullanamazsınız ve sadece kendi yüzünüzü platforma yükleyebilirsiniz. Uygulamada kameo özelliğini ayarlamak, son derece rahatsız olmasa da basittir. Uygulama, bir iPhone'da yüz kimliği ayarlamak gibi yüzünüzü tarayacak ve daha sonra taklitçileri engellemek için “tonlarca doğrulama” için verileri Openai'nin “sistemlerine” veya rızanız olmadan cameos oluşturmak isteyebilecek kullanıcılar için gönderecektir. Onaylandıktan sonra, tüm kullanıcılar, arkadaşlar, özellikle onayladığınız kullanıcılar veya sadece siz de dahil olmak üzere kendiniz kameolar oluşturabileceğini seçersiniz.

Şimdiye kadar ne düşünüyorsun?

Videoların kendilerine gelince, Sora uygulaması uygulamadan dışa aktarılan herhangi bir klip için görünür bir filigran uygular. Bu videolardan herhangi birini zaten internette gördüyseniz, diğer platformlara dışa aktarılan Tiktok klipslerinde gördüğünüz filigrana benzer şekilde her birinde küçük bir “Sora” damgası fark edeceksiniz. Ayrıca, kullanıcıların özellikle kameolar açısından “zararlı” içerik üretmesini engellemek için kaputun altında akıl yürütme modelleri de vardır.

Sora uygulamasını kullanan bir gençseniz, sonsuza dek kaydıramazsınız. Bir süre kaydırdıktan sonra, bu AI videolarında kaydırma saatleri geçirmenizi engellemek için bir bekleme süresi olacak. Yetişkin hesapları bu kısıtlamaya sahip olmayacak olsa da, uygulama bir mola vermenizi “dürtecektir”.

Bunu kim istedi?

Openai ve güvenlik ekibine tüm saygıyla, bu uygulama birçok nedenden dolayı bir felaket olacak gibi görünüyor.

Birincisi, Openai, Siri'ye hava durumu hakkında soru sormak için hiper gerçekçi kısa biçimli videolar üretmeyi kolaylaştırdı. Bu videoların hepsinin filigranlarla geldiğini takdir ediyorum, ancak bunları düzenlemek çok fazla beceri gerektirmeyecek – en azından çoğu insanın fark etmeyeceği bir şekilde. Bu yaygın olarak kullanılabilir olmaz, tüm sosyal medya yayınlarımız bu içerikle boğulacak. Ve çoğunun video ile birlikte geldiğini görmek Ve Oldukça gerçekçi olan ses, birçok insan bir pay içerik.

Bir trambolin üzerine atlayan tavşanlar gibi aptal videolar içerdiğinde yeterince kötü. Ama “politikacılar” korkunç bir şey ya da bir “ünlü” bir mağazadan bir şey çalıyorsa ne olur? Bir viral Sora videosu, Sam Altman'ın bir güvenlik görevlisi tarafından durdurulmadan önce Target'ta bir GPU ile kaçmaya çalıştığını gösteriyor. Kaç tane Sora videosu Sam Altman'ı ve kameolarının yeniden karıştırıldığını, suç işlediğini veya sadece utanç verici bir şey yaptığını onaylayan herkesin gösterileceğini gösterecek? Yeterli güce veya şöhrete sahip olanlar videoları çürütebilir, ancak o zamana kadar çok geç olacak: bunu gören çoğu insan bunu gerçek olarak alacaktır.

Bu noktaya kadar, insanların diğer kullanıcıların kameolarını izinsiz olarak yeniden karıştırmasını engellemek için güvenlik önlemleri olması harika, ancak burada kötüye kullanım riski yüce: Birisi birisinin yüzünü bir videodan nasıl “tarayacağınızı” veya başkalarının orijinal yüz taramasını kullanmasını engelleyen ayarları nasıl kıracağını anlarsa ne olur? Openai'nin güvenlik önlemlerini atlayabilirlerse, o kişinin yüzünü platform tarafından onaylanan herhangi bir videoya yeniden karıştırabilirler. Bu noktada, kedi çantadan çıktı.

Bak, kronik olarak çevrimiçi. Beslememle karşılaştığında iyi bir AI tarafından üretilen bir memden hoşlanmıyormuşum gibi davranmayacağım. Ama boş zamanlarımı kaydırarak geçirmek üzereyim Hiçbir şey ancak AI tarafından üretilen beyin çürümesi. Eminim insanlar Sora'yı kullanarak komik videolar yapmak için yaratıcı yollar bulacaklar ya da arkadaşlarıyla kameo yapmak için iyi vakit geçirecekler, ama mesele bu: teknolojinin saf yeniliğinin ötesinde, bundan gelmek için iyi bir şey yok.

İnanmayı bırakma zamanı herhangi bir şey Çevrimiçi görüyorsunuz: Birisi bir uygulamada pişirmiş olabilir.


Yayımlandı

kategorisi

yazarı:

Etiketler:

Yorumlar

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir