Foto Video
OpenAI’nin Sora’sı yanlış bilginin cesur yeni dünyasında yarışıyor!
OpenAI, yapay zeka üretimine yönelik altın hücumunda Google’ın Imagen, Runway Gen-2 ya da Meta’nın Make-A-Video gibi mevcut video üretim araçlarının yayına kararlı bir salvo gönderdi.
Bu rakip çabalar bulanık, düşük çözünürlüklü, plastik görünümlü ve tamamen ilkeldi – uygulanabilir ürünlerden ziyade sentetik görüntülerin geleceğine daha fazla göz atıyordu. OpenAI’nin Sora’sı, fotogerçekçi insanlar, hayvanlar ve manzaralar üretmek için metin komutları alan tamamen farklı bir canavar. Film grenlerini ya da cep telefonu çekimlerini taklit eden uygulamalar kullanıyor ve profesyonel takip, dolly ve jib hareketleri kullanıyor.
Mükemmel değil ama gerçeklikten ayırt edilemeyecek kadar yakın.
Sonuçlar oldukça etkileyici. Bir kadının küpeleri yürüyüşüyle birlikte doğal bir şekilde sallanırken, ışık gözlüklerinden ve yağmurla ıslanmış Tokyo sokaklarından gerçekçi bir şekilde yansıyor. Bir başka videoda, karlı bir çayırda ilerleyen birkaç dev yünlü mamut yaklaşıyor, gölgeleri beklendiği gibi onları ve çevreyi sarıyor. Bazı videolarda, geçmişteki sentetik videoların bir şeylerin yapay olduğunu haykırmasına neden olan tekinsiz vadiden hiçbir iz yok.
Bu etkileyici sonuçlar aynı zamanda endişe verici.
“Bu artık yapay zeka tarafından üretilen videoların en kötüsü. Bunu bir düşünün.”
Bunun yaratıcı işler için ne anlama geldiğine (2023’teki Hollywood yazar ve oyuncu grevlerinde vurgulandığı gibi) ya da fotoğraf ve video anlayışımız için ne anlama geldiğine dair korkuların ötesinde, en büyük alarm zili nesnel gerçeğin, dezenformasyonun ve gücün geleceği için ne anlama geldiğidir.
Neyin gerçek olduğunu söyleyemiyorsanız (gerçek gibi görünen yapay zeka tarafından üretilen videolar ve başkalarının sahte olduğunu iddia ettiği gerçek videolar), inanmayı seçtikleriniz dışında hiçbir şey gerçek değildir. Son on yıl bize sosyal medya destekli yankı odalarının tehlikelerini küresel olarak gösterdi; seçici gerçekler seçici bir gerçekliği ve nihayetinde topluma daha fazla bölünme ve zararı beraberinde getiriyor.
Yukarıdaki yünlü mamut örneğine baktığınızda, bunun gerçek olmadığını söylemek kolaydır. Bir izleyici olarak, yünlü mamutların neslinin yaklaşık 4000 yıl önce tükendiğini hatırlayabilirsiniz, bu nedenle bunun yapay zeka tarafından oluşturulmuş olsun ya da olmasın bir tür illüstrasyon olması gerektiğini düşünürsünüz.
Ancak bir an için böyle bir videonun paketleneceğini ve soylarının tükendiğinden habersiz insanlara doğru olarak sunulacağını düşünün. Bu düşündüğünüz kadar uzak bir ihtimal değil. BCC’nin geçen yıl bildirdiği gibi, çocukları hedef alan yapay zeka tarafından üretilen bilim YouTube videoları, anaokulu öğrencilerini Mısır piramitlerinin elektrik jeneratörü olduğuna, uzaylıların gerçek olduğuna ve NASA’nın insan faaliyetlerinin iklim değişikliğinde hiçbir rol oynamadığını sakladığına ikna etmede oldukça etkiliydi. Bunların hepsi yanlış, ancak bu 5 yaşındaki çocukların buna inanmasını ve videoları bu iddiaların kanıtı olarak görmesini engellemedi.
Sora gibi, fotogerçekçi insanları ve gerçek dünya ortamlarını çok az veya hiç öğrenme eğrisi olmadan herkese kolayca ve hızlı bir şekilde sunmayı vaat eden bir araç, çocukları (ve yetişkinleri) kandırmak isteyen kötü aktörler için bir zorluk teşkil ediyor ve bu sizi duraklatmalı. Beni kesinlikle düşündürüyor.
Geçmişteki deepfake’leri gerçekçi bir şekilde gerçekleştirmek için belli bir beceri ve bilgi işlem gücü gerekiyordu (ilkel bir tanesi için 2019’da en az iki hafta ve 552 dolar), ancak Sora gibi araçlarla eşik, klavyesi, biraz zamanı ve niyeti olan herkese indirildi.
OpenAI, oluşturduğu her bir örnek videonun ne kadar sürdüğünü açıklamadı. Birkaç dakika içinde yapılabileceklerine dair birkaç iddia gördüm, ancak statik yapay zeka görüntüsü oluşturma konusundaki deneyimlerime dayanarak, ideal sonuçları elde etmek için saatlerce veya günlerce ince ayar ve düzenleme yapılacağından şüpheleniyorum. OpenAI CEO’su Sam Altman, Sora’nın duyurulmasını takiben X’te yaptığı paylaşımlarda okuyuculardan ipucu istemiş ve yaklaşık 90 dakika içinde iki tane (yemek pişiren bir büyükanne ve bisiklet geçidinde okyanus yaratıkları fantezisi) sunmuştu.
OpenAI ayrıca Sora’yı eğitmek için hangi video ve görüntü kaynaklarının kullanıldığını ya da daha da önemlisi telif hakkıyla korunan eserlerin kullanılıp kullanılmadığını paylaşmadı. ChatGPT adlı sohbet robotunu ve DALL-E adlı fotoğraf yaratıcısını da üreten şirket, bu önceki ürünlerini eğitmek için telif hakkıyla korunan eserleri kullandığı iddiasıyla dava edilmişti.
Ne olursa olsun, yazı duvara asılmış durumda. Yakında her Tom, Dick ve Harriet ikna edici sahte videolar hazırlayabilecek. OpenAI, yapay zeka araçlarının tehlikelerini belli bir düzeyde fark etmiş görünüyor.