Google’ın yeni YZ video oluşturucusu Lumiere harika, peki ama deepfake’ler ne olacak?

Google, rahat metinlerle beş saniyelik gerçekçi videolar oluşturabilen suni zekâ modeli Lumiere’i tanıttı. Yeni YZ destekli video oluşturucu firmanın şimdiye kadar geliştirdiği en iyi ürünlerden biri sadece bu durum daha inandırıcı deepfake’lerin artmasına yol açabilir.

Lumiere’i bu kadar gelişmiş meydana getiren şey, videoyu bir seferde üretebilen mimarisi. Önceki YZ modelleri videoları kare kare oluşturuyordu. Lumiere kuramsal olarak teknik uzmanlığa gerek olmadan video oluşturmayı ve düzenlemeyi kolaylaştıracak.

Gördüğümüz kadarıyla ‘evde ukulele çalan panda’ yada ‘plajda hızlandırılmış gün batımı’ benzer biçimde istemlerle detaylı fotogerçekçi videolar yaratabiliyor.

İşin en can alıcı noktası ise düzenleme kabiliyetleri… Lumiere bir görüntünün hedeflenen kısımlarını canlandırabiliyor ve görüntü istemlerindeki alanları ‘video inpainting’ ile doldurabiliyor. Mesela bir kadının elbisesini değişiklik yapmak benzer biçimde metin istemleriyle videonun belirli bölümlerini düzenleyebiliyor.

Meydana getirilen açıklamada, “Öncelikli hedefimiz çömez kullananların görsel içerik oluşturmasını sağlamak. Bununla beraber, teknolojimizle düzmece yada zararı dokunan içerik oluşturmak için kötüye kullanım riski var ve güvenli bir kullanım sağlamak için fena niyetli kullanımı saptamak suretiyle araçlar geliştirmenin oldukca mühim olduğuna inanıyoruz” deniliyor. Bahsedilmeyen şey ise Google’ın hâlihazırda geliştirdiği ve uygulamaya koyduğu söylenen araçlar.

Geçtiğimiz Mayıs ayında Google I/O’da şirket güvenlik ve mesuliyet önlemlerini ön plana çıkardı. Google DeepMind, Ağustos ayında SynthID adlı bir suni zekâ filigran aracının beta sürümünü piyasaya sürdü. Kasım ayında YouTube, kullanıcıları videoların suni zekâ tarafınca üretilip üretilmediğini açıklamayı mecburi kılan bir siyaset duyurdu.

Bu aşamada Lumiere yalnız bir araştırma ve tüketiciye yönelik bir vasıta olarak iyi mi ya da ne vakit kullanılabileceğinden bahsedilmiyor. Sadece ‘suni zekâ mevzusunda yürekli olmak en başından itibaren görevli olmak anlamına gelir’ diyen bir şirket için (başlangıcın araştırmayı da içerdiğini varsayarsak) bu durum Lumiere ekibinin şaşırtıcı bir dikkatsizliği benzer biçimde görünüyor.

Google Mashable’ın yorum talebine hemen hemen cevap vermedi.


Cecily Mauran, Mashable’da teknoloji muhabiri.

(Toplam: 1, Bugün: 1 )

Site Footer