Google’ın
Pixel 9 ile birlikte tanıttığı, fotoğraflara yapay zekâyla istediğiniz
şeyi eklemeyi sağlayan “Reimagine” özelliği test edildi. Aracın,
görsellere enkazlardan cesetlere kadar rahatsız edici şeyleri eklediği
ve bu yüzden pek iyi bir güvenlik sistemine sahip olmadığı görüldü.
Google, geçtiğimiz haftalarda yeni telefonları Pixel 9 serisini
duyurmuştu. Tabii ki de bu cihazlar, şirktin en önde olduğu konulardan
biri olan yapay zekâ özellikleriyle gelmişti. Fotoğraflardaki nesneleri
istediğiniz şeye dönüştürebilen “Reimagine” özelliği de bunlardan biriydi. Bu araç, Magic Editor fotoğraf özelliklerinin iyileştirilmiş bir parçası olarak geliyordu.
Şimdi ise Reimagine’in nasıl çalıştığına dair örnekler bizlerle buluştu. Özelliği deneyen The Verge’deki meslektaşlarımız, Reimagine’ın korkutucu yanını gözler önüne serdi.
Reimagine, yapay zekâyla görsellere enkazlardan cesetlere kadar birçok şey eklemeyi sağlıyor
*The Verge
Öncelikle özelliği biraz açalım. Bir fotoğraftaki insan olmayan herhangi bir nesneyi seçiyorsunuz ardından metin komutu yazarak onun yerine ne isterseniz koyabiliyorsunuz. Yani bir fotoğrafı bambaşka bir hâle getirmek mümkün oluyor.
Denemelerde bu özelliğin gayet başarılı bir şekilde
çalıştığı görüldü. Reimagine aracı, çok ikna edici gerçek gibi görünen
yapay zekâyla oluşturulmuş unsurları görsellere yerleştirebildi. Işığı,
gölgesi ve bakış açısı gibi kısımların bile başarılı olması dikkat
çekti.
*The Verge
Ancak testler, aracın büyük bir problemi de beraberinde getirdiğini gösterdi. Testlerde olumsuz ve rahatsız edici ögelerin de rahatça görsellere eklenebildiği görüldü. Fotoğraflara, enkaz, doğal afet, uyuşturucu, sis bombası ve hatta ceset gibi şeyler kolayca koyulabildi.
*The Verge
Tabii ki Google’ın bunlardan kaçınmak için bir koruma sistemi var.
“Bu fotoğrafa ceset ekle” dediğinizde direkt eklemiyor. Ancak testler,
komutlarda biraz yaratıcı olunursa bu tarz ögelerin
kolayca eklenebildiğini ortaya koyuyor. Yani koruma sistemi pek yeterli
değil. Bu da çok büyük bir sorun. Kötü amaçlı kişiler, Reimagine’ı sahte görseller oluşturmak, dezenformasyon yaymak için kullanabilir. Gerçeğinden ayırt edilememesi de insanların kolayca kandırılmasına neden olabilir.
Google, güvenlik sistemleri olduğunu ancak bazı komutların bu sistemleri zorlayabileceğini ifade etti. Bu nedenle de özelliği sürekli geliştirdiklerinin
altını çizdi. Ne kadar gelişeceğini zaman gösterecek ancak şu an için
çok tehlikeli olduğunu söyleyebiliriz. Eklenen bir cesedi bile fark
edememesi, çok korkunç sonuçların ortaya çıkabileceğinin bir göstergesi.
ttps://www.theverge.com/2024/8/21/24224084/google-pixel-9-reimagine-ai-photos
