Google sessizce Pixel Camera uygulamasına AI oluşturuyor ve beni endişelendiriyor

Google'ın Pixel 10 telefonları bu hafta resmi çıkışlarını yaptı ve onlarla birlikte, doğrudan kamera uygulamasına pişirilmiş bir grup üretken AI özellikleri. Telefonların bugünlerde “hesaplama fotoğrafçılığı” kullanması normaldir, bu aydınlatma ve işleme sonrası efektler için süslü bir terim, onları yakalarken resimlerinize ekledikleri için süslü bir terim. Ancak AI, hesaplama fotoğrafçılığını tamamen başka bir canavar haline getiriyor ve hazır olduğumuzdan emin değilim.

Teknoloji nerds kendimize “Fotoğraf nedir?” Diye sormayı sever. Bir resme ne kadar çok işlem sonrası bir resme eklenirse, gerçek hayatta gerçekte olan herhangi bir şeye o kadar az benziyor. Gece gökyüzü çok parlak, bir aynadan daha az lekeye sahip yüzler, bu tür bir şey. Kamera uygulamasında üretken AI bu ahlaki muamma son patronu gibidir. Bu, bu özelliklerin yararlı olmadığı anlamına gelmez, ancak günün sonunda, bu teknik bir tartışma kadar felsefi bir tartışma.

Fotoğrafların fotoğrafçının gerçekten gözleriyle ne gördüğüne benzemesi gerekiyor mu yoksa mümkün olduğunca çekici görünmeleri mi gerekiyor? Bu soruları şimdilik en çok nitpicky çevrelerine saklamak yeterince kolaydı – resminizin daha fazla patlamasına yardımcı olursa gökyüzünün biraz fazla neon olup olmadığını gerçekten umursuyor mu? – ama AI, fotoğraflarınıza bile, Gemini uygulamasını açmadan önce fotoğraflarınıza yepyeni nesneler veya arka planlar eklemeye başlayacaksa, herkesin kendilerine ne istediklerini sormaya başlayacaksa, kameralardan ne istediklerini sormak.

Ve Google'ın AI'yı en yeni telefonlarında kullanma şekli, bir AI fotoğrafı ile sonuçlanabilir ve gerçekten bilmiyor olabilirsiniz.

Pro Res Zoom

Belki de Google'ın yeni AI kamera eklemelerinden en acımasız olanı, Pro Res Zoom olarak adlandırdığı şeydir. Google bunu “100x Zoom” olarak reklam yapıyor ve eski okul polis prosedürlerinde görebileceğiniz tamamen kurgusal “yakınlaştırma ve geliştirin” teknolojisi gibi çalışıyor.

Esasen, bir Pixel 10 Pro veya Pro XL'de, artık zoom lensini 100 kez itebileceksiniz ve yüzeyde, deneyim normal bir yazılım yakınlaştırmasından farklı olmayacak (AI değil, kırpmaya dayanıyor). Ancak telefonunuzun işlemcisinin içinde, yine de “yakınlaştırmayı ve geliştirmeyi” sağlayan aynı sorunlarla karşılaşacak. CSI.

Kısacası, sorun, kameranın yakalanmadığı çözümü icat edememenizdir. Kamera lensinizin sadece belirsiz pikseller gördüğü şimdiye kadar yakınlaştırdıysanız, gerçek hayatta gerçekte ne olduğundan emin olamayacak.

Bu nedenle, bu özellik, yüzeyde normal, ai olmayan bir yakınlaştırma gibi görünmesine rağmen, gerçek bir 100x yakınlaştırmadan çok bir AI düzenlemesidir. Pro Res Zoom'u kullandığınızda, telefonunuz olabildiğince yakınlaştırır, daha sonra bir cihazda difüzyon modelinin istemi olarak gördüğü bulanık pikselleri kullanır. Model daha sonra piksellerin nasıl görünmesi gerektiğini tahmin edecek ve sonucu çekiminize düzenleyecektir. Gerçekliği yakalamak olmayacak, ama şanslıysanız, yeterince yakın olabilir.

Kaya oluşumları veya diğer sıradan cansız nesneler gibi belirli ayrıntılar için bu iyi olabilir. Bununla birlikte, yüzler veya yer işaretleri için, “Zoom” unuzun temelde sadece süslü bir İkizler isteği olduğunu bilmeden, bir konserde baş şarkıcısının büyük bir yakın çekimine sahip olduğunuz izlenimiyle ayrılabilirsiniz. Google, halüsinasyonları yıkmaya çalıştığını söylüyor, ancak Gemini tarafından bir fotoğraf tükürüğü, yaratıcı bir projeye dahil olduğunuz veya dahil olduğunuz bir şeyse, bu aynı sorunlara sahip olacak – marka nedeniyle AI'nın dahil olduğunu fark etmeyebileceğiniz için.

Neyse ki, Pro Res Zoom, AI olmayan Zoom'un yerini tamamen değiştirmez-Geçmişte Her Zamanki 5x Donanım Zoom Limiti Zerhekte Zorun Sınırı, biri Pro Res Zoom Uygulamalı ve Diğeri olmadan seçmeniz gereken iki sonuç verecektir. İlgileniyorsanız bunun hakkında daha ayrıntılı olarak yazdım, ancak AI olmayan seçenekler mevcut olsa bile, AI One seçiminizi yaparken açıkça belirtilmiyor.

Bu, AI'ya Google'ın geçmişte aldığından çok daha rahat bir yaklaşım. İnsanlar, istediklerinde fotoğraflarını değiştirmek için alışık olabilirler, ancak kamera leniniz aracılığıyla otomatik olarak uygulanması yeni bir adımdır.

Düzenlemeyi isteyin

Yine de, fotoğrafınızı çektikten sonra sıradan AI entegrasyonu durmaz. Pixel 10 ile artık doğal dili kullanabilirsiniz. AI'dan fotoğraflarınızı sizin için değiştirmesini isteyinGoogle Fotoğraflar uygulamasından. Değiştirmek istediğiniz fotoğrafı açın, Düzenle simgesine dokunun ve fotoğrafınıza ince ayarlar önermek için doğal dili kullanmanıza izin verecek bir sohbet kutusu göreceksiniz. İsterseniz talimatlarınızı yazmak yerine bile konuşabilirsiniz.

Yüzeyde buna aldırmıyorum. Google fotoğraflarının düzinelerce farklı düzenleme simgesi vardır ve ortalama bir kişinin bunları nasıl kullanacağını bilmesi zor olabilir. Basit bir kırpma veya filtrenin uygulanmasını istiyorsanız, bu size başka türlü korkutucu bir arayüz olabilecek şeyden geçmeden bunu yapmak için bir seçenek sunar.

Sorun şu ki, eski okul Google fotoğraf araçlarını kullanmanın yanı sıra, Düzenlemeyi İstem, daha tuhaf değişiklikler önermenize izin verecek ve bu değişiklikleri gerçekleştirmek için AI kullanırken açıkça tanımlamayacak. AI'dan fotoğrafınızın arka planını tamamen yeni bir tane için değiştirmesini isteyebilirsiniz veya daha az sert bir değişiklik istiyorsanız, bir pencereden çekilen bir çekimden yansımaları kaldırmasını isteyebilirsiniz. Sorun? Bu düzenlemelerin birçoğu, GLARE eliminasyonu gibi görünüşte daha az yıkıcı olanlar bile üretken yapay zeka gerektirecektir, ancak sezginizi ne zaman uygulandığını bilmek için kullanmanız gerekecektir.

Örneğin, genellikle Google Fotoğrafları arasında bir “AI Geliştirme” düğmesi görürken, önerilen düzenlemeler, çekiminize AI almanın tek yolu bu değildir. Düzenlemek isteyin, ne olursa olsun, erişimi olan araçlarla ne olursa olsun onurlandırmak için elinden geleni yapar ve Google ile bir demoda yaptığım bazı uygulamalı deneyimler verildiğinde, bu AI neslini içerir. “Bu selfie'de arkamda bir Mercedes eklemek” için AI kullanacağı açık olabilir, ancak AI'dan bir en boy oranını kırpmadan değiştirmenin de üretken AI kullanmayı gerektirdiğini bilmeden “uzaklaştırmasını” isteyebileceklerini varsayarak daha az teknoloji bilgili bir kullanıcı görebiliyordum. Özellikle, bir AI'dan gerçek hayatta atışınızda olanı neyin kuşatmış olabileceğini hayal etmesini gerektirir. Bunu bilmenin bir yolu olmadığından, ne kadar alçakgönüllü “yakınlaştırma” ne olursa olsun, doğası gereği yüksek bir halüsinasyon riski ile birlikte gelir.

Daha az teknoloji okuryazar kullanıcılara yardımcı olmak için tasarlanmış bir araçtan bahsettiğimiz için, yanlışlıkla kurgu üretme ve bunun tamamen masum, gerçekçi bir atış olduğunu düşünme şansı olduğundan endişeleniyorum.

Kamera koçu

O zaman var Kamera koçu. Bu özellik aynı zamanda AI'yi kamera uygulamanıza pişirir, ancak aslında AI fotoğraflarınıza koymaz. Bunun yerine, kameranızın gördüğü her şey için alternatif çerçeveleme ve açılar önermek için AI kullanır ve bu çekimleri nasıl gerçekleştireceğiniz konusunda size koçluk yapar.

Başka bir deyişle, ne yaptığınızı çok iyi. Kamera koçunun önerileri sadece fikirlerdir ve onları takip etmek sonunuzda daha fazla iş alsa da, AI eklenmeden, vizörünüzde gördüğünüz gibi görüneceğinizden emin olabilirsiniz.

Bu, gerçek dışı fotoğrafların mutlak gerçek olarak sunulmasıyla ilgili endişelerimin çoğunu hemen siliyor. Kamera koçunun, gerçekten mümkün olmayan bir fotoğraf önerebileceği olasılığı var, diyelim ki sınırlı bir alana girmenizi istiyorsa, ama oraya gideceğiniz en kötü şey hayal kırıklığıdır, AI neslinden, örneğin, yakınlaştırma ile aynı gibi geçen bir fotoğraf değil.

İnsanlar AI kullandıklarını bilmeli

“Fotoğraf nedir?” bir öğleden sonra soru. Gerçek şu ki, bazı fotoğraflar gerçek dünyayı temsil etmek içindir ve bazılarının estetik açıdan hoş görünmesi gerekiyor. Anladım. Yapay zeka bir fotoğrafın görsel olarak çekici görünmesine yardımcı olabilirse, hayata tamamen doğru olmasa bile, itirazı görebilirim. Bu hiç silmez Potansiyel etik kaygılar Eğitim verilerinin nereden geldiği hakkında, bu yüzden sizden bu araçlarla gayretli olmanızı isteyeceğim. Ama biliyorum ki bir fotoğrafa işaret etmek ve “Asla gerçekleşmemiş” demenin retorik bir sihirli mermi olmadığını biliyorum.

Beni endişelendiren şey, Google'ın yeni AI özelliklerinin nasıl uygulandığı, sanki gerçek görüntünüzü hala bir şeyler yapmak yerine her zaman temel olarak kullanan geleneksel hesaplama fotoğrafçılığıyla aynı gibi uygulandığıdır. Olan biri olarak Hala AI'ya karşı dikkatli“100x Zoom” olarak gizlenmiş AI görüntü üretimini görmek derhal alarm zillerimi yükseltiyor. Herkes bu araçlara benim gibi dikkat etmiyor ve bu özelliklerin teneke üzerinde söylediklerini yapmasını beklemeleri makul. halüsinasyon riski.

Başka bir deyişle, insanlar AI'nın fotoğraflarında ne zaman kullanıldığını bilmelidir, böylece çekimleri gerçekçi olduğunda ve olmadıklarında kendinden emin olabilirler. Bir telefoto lens kullanan zoom'a “5x zoom” olarak atıfta bulunarak ve AI'yı bir sürü pikselin üzerine “100x zoom” olarak katlayan zoom, ve fotoğraf uygulamanıza, üretken AI kullandığında ve ne zaman olmadığını açıkça söylemeyen bir doğal dil editörü oluşturmaz.

Google bu sorunun farkında. Pixel 10'da çekilen tüm fotoğraflar artık AI'nın fotoğrafın meta verilerinde kullanılıp kullanılmadığını söyleyecek olan C2PA içerik kimlik bilgileri ile birlikte geliyor. Ama bir fotoğrafın meta verilerini en son ne zaman kontrol ettin? Düzenlemeyi Ask gibi araçlar açıkça kusursuz hale getiriliyor ve kullanıcıların AI ile düzenlendiğini ve özellikle kullanıcıların son fotoğraflarını almadan önce daha az adım atmasına izin vermesi gereken araçlar yapıyorsak, hangilerinin AI ile düzenlendiğini görmek için fotoğraflarının her birini manuel olarak fırçalamasını bekliyor.

Birinin AI'nın İkizler uygulamasını açtıklarında kullanılmasını beklemesi normaldir, ancak daha önce kamera uygulaması gibi AI olmayan araçlara dahil olmak üzere, sessiz C2PA kimlik bilgilerinden daha fazla fanfare ve bir belirsiz cümle basın bülteni. Bir kullanıcıyı AI kullanmak üzereyken bilgilendirmek, fotoğraflarını çekmeden önce veya düzenlemelerini yapmadan önce gerçekleşmelidir. Aramaya gitmeyi seçerse, daha sonra bulmaları sessizce işaretlenmemelidir.

Adobe'den gelenler gibi diğer AI fotoğraf araçları bunu zaten bir Basit filigran AI nesli kullanılarak herhangi bir projeye uygulandı. Genel olarak AI tarafından üretilen görüntüler hakkında ne düşüneceğinizi söylemememe rağmen, kazara yaptığınız bir pozisyona yerleştirilmemeniz gerektiğini söyleyeceğim. Google'ın AI kamera yeniliklerinden, bunu yapan tek kamera koçu olduğunu söyleyebilirim. Android'in yaratıcısından büyük bir yeni lansman için, bu yılki bu yıl boyunca gururla “açık” olarak lanse edilen bir ekosistem Google Google tarafından yapılmışşeffaflıkta üç vuruş oranından biri beklediğim şey değil.