Sosyal medyada yapay zekâ selfie'si çılgınlığı yaşanıyor! Peki ne kadar güvenli? | 8 SORU 8 CEVAP

Sosyal medyada son günlerde biraz vakit geçirdiyseniz birçok arkadaşınızın kendilerini uzay yolcuları ya da masal prensesleri gibi gösteren çizimler paylaştıklarını, 90'larda doğmuş kişilerin profil fotoğraflarının Rönesans döneminde yapılmış tablolara benzemeye başladığını fark etmişsinizdir.

Peki bu nasıl oluyor? Cevabı Lensa AI isimli bir uygulama. Selfie'lerinizi yapay zekâ kullanarak işleyen bu uygulama çeşit çeşit hallerinizi yaratıyor. Ancak bu furya tartışmaları da beraberinde getiriyor.

Biz de Lensa AI'a ve bu tartışmalara biraz daha yakından bakalım dedik. İşte 8 soruda merak edilenler...

1) LENSA AI NEDİR?

Lensa AI bir akıllı telefon uygulaması. Geçtiğimiz hafta içinde astronomik bir popülerliğe ulaşan bu uygulamayı kendiniz (henüz) indirmediyseniz bile ürünlerini sosyal medya akışlarınızda görmemiş olmanız neredeyse imkânsız.

Prisma Labs'in yaratıcısı olduğu bu uygulama aslında 2018 yılından bu yana aktif. Ancak analiz şirketi Sensor Tower'ın verilerine göre, Lensa AI asıl popülerliğini Kasım ayı sonlarında gelen "sihirli avatar'lar" özelliği sayesinde elde etti. ABD'de Kasım ayı boyunca 2 milyon kez indirilen uygulama Aralık'ın ilk 5 gününde 4 milyon indirmeye ulaştı ve hem Apple'ın hem de Google'ın uygulama mağazalarında zirveye yerleşti.

Lensa AI, sihirli avatar'lardan önce piyasada Facetune gibi birçok örneği bulunan fotoğraf ve video düzenleme uygulamalarından biriydi. Kullanıcılar Lensa ile çektikleri fotoğraflarda arka planı değiştirip, göz çevrelerindeki kırışıklıkları gizleyebiliyordu.

Yapay zekâ yoluyla fotoğrafları artistik tarzlarda yeniden üreten Prisma isimli uygulamanın da sahibi olan Prisma Labs'in merkezi, ABD'nin California eyaletinin Sunnyvale şehrinde. Prisma Labs'in CEO'su Andrey Usoltsev ile kurucusu Alexey Moiseenkov'un LinkedIn profillerinde daha önce Rus teknoloji devi Yandex'te çalıştıkları belirtiliyor.

2) LENSA AI PARALI BİR UYGULAMA MI?

Evet. Uygulamayı indirdikten sonraki ilk hafta ücretsiz deneme süreci. Bu süreçte uygulama size "anime", "peri prenses", "kozmik" gibi 5 ayrı tarzda 10'ar görsel, yani 50 adet avatar sunuyor. Sonrasında yıllık 35,99 dolar (Türkiye fiyatı 189,99 TL) karşılığında "sınırsız erişim" sağlayan aboneliğiniz başlıyor. Bunun yanı sıra avatar paketleri için de uygulama içi alımlar yapabiliyorsunuz. Bu sayede avatar seçenekleriniz 200'ü buluyor. (Abonelere bu alımlarda indirim uygulanıyor.)

Yine Sensor Towers'ın verilerine göre, Aralık ayının ilk 5 gününde kullanıcılar Lensa AI'ın uygulama içi alımlarına toplam 8,2 milyon dolar harcadı.

Uygulamanın sayfasında, "Sihirli Avatar'lar, sizin için büyüleyici avatar'lar üretebilmek için çok ciddi bir bilgisayar gücü harcıyor. Evet, pahalı ama servisimizin mümkün olduğunca erişilebilir tutmaya çalıştık" ifadeleri yer alıyor.

Ne var ki uygulamanın popülerliği arttıkça fiyatlar da günbegün değişiyor. Bir başka deyişle siz bu haberi okuduktan sonra uygulama mağazasına girdiğinizde başka bir fiyatla karşılaşabilirsiniz.

 

3) LENSA AI NASIL ÇALIŞIYOR?

Uygulamayı indirdikten sonra 8-10 adet selfie yüklemesi yapmanız gerekiyor. Burada önemli olan yüzünüzün ekranın önemli bir kısmını kaplaması ve fotoğraflarda yalnız olmanız.

Buna ek olarak elinizin yüzünüze değdiği ya da yakın olduğu fotoğrafları da yüklemekten kaçınmalısınız. Aksi takdirde ortaya çıkan avatar'ların yanağından çıkan parmaklar gibi tuhaf ve ürkütücü sonuçlar elde edebiliyorsunuz. (Uygulama yükleyeceğiniz fotoğrafları seçmeden önce sizi bu konuda uyarıyor.)

Fotoğrafları ve cinsiyetinizi seçtikten sonra beklemeye başlıyorsunuz. Yapay zekânın avatar'ları oluşturması yarım saat kadar zaman alıyor. Bu sürenin sonunda sahip olduğunuz paket sayısına bağlı olarak 50 ila 200 adet avatar'ınız sizi bekliyor.

4) PEKİ AMA BU YAPAY ZEKÂ NASIL ÇALIŞIYOR?

Lensa, "Stable Diffusion" adı verilen ve herkesin kullanımına açık olan bir makine öğrenme modeli üzerinden işliyor.

Arizona State Üniversitesi Bilgisayar ve Artırılmış Zekâ Okulu'ndan Prof. Subbarao Kambhampati, Stable Diffusion'ı "gerçekten çok güçlü" bir yapay zeka tabanlı görsel üretici olarak nitelendirdi.

DALL-E 2 ve Midjourney gibi, Stable Diffusion da görsel komutları (yani selfie'leriniz) ile metin komutlarını (yani Lensa'nın kategori isimlerini) kullanarak yüksek kaliteli görseller üretiyor.

İnternet üzerinden toplanmış milyarlarca görsel-metin kombinasyonu kullanılarak eğitilmiş olan Stable Diffusion, yüklediğiniz fotoğrafları bir buluta gönderiyor ve sadece size özgü bir makine öğrenmesi modeli geliştiriyor. Bu model de yeni avatar'larınızı ortaya çıkarıyor.

Dr. Kambhampati, "Size kimsenin çekmediği fotoğraflar gösteriyor; gördüğü diğer görsellerden aldığı parçaları bir araya getirip bunları oluşturuyor" diye özetledi Stable Diffusion'ın çalışma mantığını.

5) ORTAYA ÇIKAN GÖRSELLER BANA NE KADAR BENZEYECEK?

Kullanıcıların bir kısmına göre, uygulamanın ürettiği görseller tüyler ürpertecek kadar gerçeğe yakın.

Ne var ki bu işlemin sonucunda ortaya çıkan görsellerin hepsi mükemmel olacak diye bir kural yok. (Bir başka deyişle arkadaşlarınızın sizinle paylaşmadığı avatar'lar da var.) Zaman zaman bir gözünüz büyük diğer küçük çıkabiliyor. Ya da yapay zekâ iki tane olan kolunuzu bire indirmeyi tercih edebiliyor.

ABD'de uygulamanın başarısının kişinin ten rengine göre değişiklik gösterdiği tartışmaları yaşanıyor şu an. Örneğin siyahi kişilerin elde ettiği "tuhaf" avatar'ların beyazlara kıyasla daha fazla olduğu eleştirisi sık sık dile getiriliyor. Asyalılar ve başörtülü kişiler de Twitter'da benzer şikayetlerle paylaşımlar yapıyor. (Yapay zekâ görsellemesinde ırk eşitsizliği aslında uzun süredir tartışılan bir konu.)

Prisma Labs CEO'su Andrey Usoltsev, The Washington Post'un tartışmalarla ilgili sorularına yanıt vermedi ve cevapların şirketin sitesindeki "sıkça sorulan sorular" sayfasında bulunabileceğini belirtti.

Algoritma adaleti savunucusu AI for the People hareketinin kurucusu Mutale Nkonde ise gazeteye yaptığı açıklamada yapay zekâ mühendislik ve eğitim görsellerinde koyu derili kişiler olmadığından, modellerin bu kişilerin fotoğraflarını işlemekte zorlandığını söyledi.

Dr. Kambhampati de bunun yapay zekâ araçlarının ortak sorunu olduğunu vurguladı ve "Sisteme yüklediğini görsellerin çoğunun beyaz olduğu durumlarda sistemin 'daha iyisini' yapmak istediğinde beyazlaştırmaya gitmesi şaşırtıcı değil" dedi. 

Bu durum özellikle yapay zekânın polis tarafından kullanılması halinde büyük riskler içeriyor. Nitekim ABD'de şimdiye kadar üç siyahi erkek bu yüzden yanlışlıkla gözaltına alındı.

Nkonde, Lensa'nın ürettiği kadın avatar'larının, ağırlıklı olarak "seksi beyaz kız" kategorisinde olmasının siyahi kadın ve kızların öz saygısına zarar verebileceğini de sözlerine ekledi.

Bunun yanı sıra birçok kullanıcı uygulamadaki avatar'larında gerçekte olduklarından daha zayıf, daha minyon, daha küçük yüzlü ve ince boyunlu olduklarını belirtiyor. Bu durumun özellikle beden algısı problemi yaşayan kişilerde tetikleyici bir etki yaratabileceğinden endişe ediliyor.

The New York Times'a konuşan 29 yaşındaki Yasemin Anders, "Kendimi bir peri olarak hayal etmek istesem de yine de kendime benzemek istiyorum. Hayatım boyunca hep şişman oldum. Neden idealleştirilmiş ve bana benzemeyen bir halimi hayal edeyim ki?" diye konuştu.

Uygulamanın sıkça sorulan sorular sayfasında bu konuyla ilgili olarak, "Stable Diffusion modeli filtrelenmemiş internet içerikleri ile eğitilmiştir. Dolayısıyla insanların ürettikleri görsellere dair önyargılarını yansıtmaktadır" deniyor.

 

6) BAŞKA NE GİBİ SAKINCALAR SÖZ KONUSU?

Uygulamayla ilgili şikayetlerden bir diğeri de ortaya çıkan avatar'ların aşırı cinselleştirilmiş olması.

Bazı kullanıcılar sadece yüzlerinin göründüğü fotoğrafları yüklemelerine rağmen Lensa AI'ın ürettiği avatar'larda vücut görselleri de olduğunu belirtiyor. Özellikle kadınlarda bu avatar'ların büyük meme, yuvarlak kalça gibi geleneksel güzellik ve seksapel normlarını içermesi dikkat çekiyor.

Prisma Labs'in sıkça sorulan sorular sayfasında bu konuda "zaman zaman seksileştirme tüm cinsiyetler için geçerli olabilir" deniyor.

Bu da teoride, Lensa AI kullanarak istediğiniz herkesin çıplak fotoğraflarını üretebileceğiniz anlamına geliyor ve akla çok tehlikeli ihtimalleri getiriyor. Kullanıcıların yaptığı denemelerde bu cinselleştirmenin çocukların fotoğrafları için de geçerli olduğu anlaşıldı. (Uygulamanın kullanım yaşı 13 ve üzeri olarak belirlenmiş.)

Geçtiğimiz hafta içi Tech Crunch, Lensa'yı kullanarak birçok ünlü kişinin üstsüz avatar'larını ürettiklerini duyurdu ve bu durumu Lensa'nın yetkililerine bildirdi. CEO Usoltsev, cevap olarak Lensa AI'ı zarar verecek ya da taciz olarak görülebilecek amaçlar için kullanmanın, kullanıcı sözleşmesinin ihlali anlamına geldiğini belirtti.

7) VERİ GÜVENLİĞİ KONUSUNDA ENDİŞELENMELİ MİYİM?

Prisma Labs, Lensa'nın fotoğraflarınızdan elde edilen verilerin ve içgörülerin üçüncü taraflarla paylaşılmadığını belirtiyor ancak uygulamanın güvenlik politikası buna zemin sağlıyor.

uygulama, yüklenen fotoğrafların sadece avatar üretiminde kullanıldığını, işlem bittikten 24 saat sonra hem fotoğrafların hem de size özel üretilen makine öğrenme modelini silindiğini belirtiyor. Bununla birlikte fotoğraf ve videoların Lensa'nın algoritmalarını eğitmek için kullanılabileceği ifade ediliyor.

Stanford Üniversitesi İnsan Odaklı Yapay Zekâ Enstitüsü'nde veri güvenliği ve politikaları üzerine araştırmalar yapan Jen King, "Bütün iş modelinin, 'Bize 10-15 dolar verin, size havalı bir yapay zekâ fotoğrafı verelim' ile sınırlı olduğundan şüpheliyim" derken kendisinin bu uygulamayı asla kullanmayacağını vurguladı.

"Prisma Labs, fotoğrafları ya da kişiselleştirilmiş modelleri bir yüz tanıma ağını eğitmek için kullanmıyor" diyen Usoltsev ise fotoğraflarla ilgili herhangi bir verinin saklanıp saklanmadığını da açıklamadı ancak "mümkün olan en azın" elde tutulduğunu söyledi.

Diğer yandan Stable Diffusion'ı eğitmek için kullanılan fotoğraflarla ilgili de kaygılar söz konusu.

Yapay zekâ uzmanlarına göre, LAION adı verilen bu çok büyük fotoğraf paketi internetten toparlanırken pek fazla seçici davranılmadı. Pakette fotoğrafı olan kişilerin rızası alınmadı. Bir görsel sanatçısı veri tabanını karıştırırken kendi kişisel sağlık verilerine ulaştığını açıkladı. (LAION'da fotoğrafınız olup olmadığını arama sonuçlarını saklamayan HaveIBeenTrained.com sitesi üzerinden kontrol edebilirsiniz.)

8) SANATÇILAR BU İŞE NE DİYOR?

Stable Diffusion'ın eğitiminde izin almadan kullanılan görsellerin önemli bir kısmı sanatçıların elinden çıkma. Hatta bu nedenle bazı avatar'ların alt köşelerinde imzaya benzer karalamalar dikkat çekiyor. Ancak bu sanatçılara karşılığında hiçbir şey ödenmiyor.

Bunu dile getirenlerden biri olan hikâye ressamı Jonathan Lam, "Birçok kişi için bu sanat hırsızlığı anlamına gelmiyor. 'Alt tarafı tarzı kopyalamış. Tarzın telifi olur mu?' diyorlar ama katılmıyorum. Bizim tarzımız, kimliğimiz" dedi. Kanada'da yaşayan ve Riot Games için çizimler yapan Lam, yapay zekânın yeni bir şey üretmediğini, kendisine beslenen veriyle bir şeyler yarattığını vurguladı. Lam bu işin en kısa zamanda kontrol altına alınmaması halinde sadece sanatçılar için değil herkes için geleceğin çok karanlık olacağını da sözlerine ekledi.