Sosyal Medyayı Ele Geçiren Viral Avatarları Oluşturan Yapay Zekânın Karanlık Yüzü: Objeleştirme ve Irkçılık

Önemli bir gelişmeyi kaydeden yapay zeka teknolojileri, son dönemlerde ciddi şekilde popülerleşti. DALL-E, Midjourney gibi sistemlerle yaratılan eserler, internet ortamlarını adeta esir almış durumda. Bununla birlikte insanların avatarlarını oluşturan gruplar da şu sıralarda bir patlama yaşayanlar ve hangi platformda gezersek gezelim yapay zeka desteğiyle ortaya çıkan bu görselleri görüyorum.

Prisma Labs tarafından tahrik edilen Lensa AI da onlardan biri. Belli ücretler dağıtımları bu uygulama, ‘Magic Avatars’ yani ‘Sihirli Avatarlar’ın yönetici olarak bir yönlendirmesi var. Bu, kullanıcıların gerçekten de sihirli olarak nitelendirilebilecek avatarlarını oluşturmasını sağlıyor. Ancak bu durum, bazı listelerde ortaya çıkma neden olarak yapay zekanın bir problemini de gösteriyor. Gelin bu noktadan bir göz atalım.

Kullanıcı nedir bu Lensa AI? Nasıl çalışıyor?

Lensa AI, çevremiz gibi Prisma Labs tarafından üretilen bir uygulama. Son dönemlerde uygulama mağazalarında zirvede yer alan Lensa, aslında 2018’den beri var. Ancak, bu hafta boyunca kullanımları ‘Sihirli Avatarları’ özelliğinin popüler hale getirilmesi sağlandı. Türkiye’de 88 TL’den başlayan ürünleri yapay zekâ destekli bu özellikle birlikte eklediğiniz fotoğraflar, farklı temalardan (fütüristik veya anime karakterlerini ve ıran görünümleri gibi) muhteşem avatarlara dönüştürülebiliyor.

Lensa, internetteki eserlerden oluşan bir veri tabanından yararlanan açık kaynaklı bir yapay zeka derin öğrenme modeli olan Kararlı Difüzyon’ı kullanan Bu albümler, LAION-5B olarak adlandırılıyor ve CLIP isimli sinir ağı tarafından filtrelenen 5,85 milyar metin-görüntü çiftini kullanıyor. 2022 yılında piyasaya sürülen metinden görsel içerikli derin öğrenme modeli Stable Diffusion’ın eski bir yeni bir sürümü de yayınlanmıştı.

Lensa AI Tutun diğer ayrıntılar hakkında ve nasıl kullanılacağı konusunda bilgi almak istiyorsanız aşağıdaki içeriğe göz atabilirsiniz;

Lensa AI’ınları kadın nesneleştiren avatarlar oluşturduğu söyleniyor

Yapay zekâ sistemleri her ne kadar gelişmiş olsa da hâlen bazı önerilere sahip. Metinden görsele çeviren yapay zekaların elleri ve parmakları oluşturmada sorun yaşaması buna en iyi örnek olabilir. Ancak Polygon’un aktardığına Lensa’da durum biraz daha farklı.

Son dönemlerde gelen bilgiler, Lensa AI’ın kadınları cinselleştirdiğini ve bazı ırkçı sonuçları ortaya koyduğunu ortaya koydu. Sosyal medyadaki birçok kullanıcı, okuyan kadınlar büyük göğüslerin ve dekoltelerin ekleniyorlarken öyle bir talep bulunmamasına rağmen çıplak görüntülerin bile oluşturulduğunu bildirildi.

California Üniversitesi’nden Olivia Snow da Wired’da kaleme alınan bir yazıda, kendi çıkışından fotoğraflar eklediğinde bile göründüğünde onu cinsel nesne olarak lanse eden görseller ortaya çıkardığını aktardı. Uygulamanın sahiplerine bu konu hakkında soru yöneltildiğinde ise ekip, Snow’un kullanımını odak olarak odaklayarak ifade etti. Lensa’nın politikaları, açıklanmış fotoğrafları yasaklarken çocukların görsellerinin korunması da engelliyor. Aynı zamanda kullanıcıların 18 yaşının üstünde olduğunu da beyan etmesi gerekiyor.

Kullanıcılara göre ırkçılık sonuçları ve ifşalık içeren avatarlar bile var

Bunlara ek olarak ırkçılık klişelerine de avatarlarda yer verdiği söyleniyor. Örneğin yukarıda bir kullanıcı kendi çatısını kullanarak oluşturduğu görüntülerde, yapay zekânın Asyalı insanlar konusunda zorlandığı görülebiliyor.

Bunun dışında Asyalı kadınlar fetişize edildiği de bildiriliyor. MIT Technology Review’da yazan Melissa Heikkilä isimli Asyalı bir gazeteci, Lensa uygulamasıyla yaşadıklarını aktardı. Buna göre kendi fotoğraflarından yaratılan avatarlarda yüksek miktarda açığa çıkmaya yer verildi. Gazeteci, diğer iş arkadaşlarının ise daha az bu tarzda bir durumla karşılaştığını belirtti.

Ayrıca yakın zamanda bu yapay zekânın açıklanmalık içeren fotoğrafları oluşturmak için kandırılabileceği de ortaya çıktı. TechCrunch’ın paylaştığı bir rapor, Kullanıcılara kolay bir şekilde erişim açıkta bulunduğu fotoğrafları oluşturabildiğini, hatta bunların ünlülerin görselleri ile yapılabildiğini gösterdi. 13 Aralık’ta yeni özellikler kazandıran Prisma Labs, güvenlik endişelerine yol açan avatarların daha az görüntüsünü sağlayacaklarını ifade etti.

“Yapay zeka, toplumun bir toplum”

Lensa’da yaşananlar, hâlen yapay zekanın önünde uzun bir yol olduğunu ortaya koyuyor. Geçmek üzere daha önce de birçok kez bu sistemlerde bazı olumsuz etkiler meydana geldi. Microsoft, geçmiş yıllarda Tay isimli yapay zekasını ırkları ve kadın düşmanları nedeniyle yorumları kapatmıştı. Yakın zamanda Meta da bir dil yazıcısı benzer programları kapatmıştı.

Haziran ayında yapılan bir araştırma ise Lensa’da gördüğümüz CLIP ağı tarafından tüyoen sistemlerin cinsiyet ve ırk konusunda bazı stereotiplere neden ortaya çıktı. Buna ek olarak kadınları ve beyaz olmayan insanları tanıma yollarının da düşük olmasına vurgu yaptı.

Objektife da dahil olan yapay zeka nesneleri bu sorunla nasıl başa çıkacağını ilerleyen zamanlarda izlediler. Uygulamanın sahibi Prisma Labs de yaptığı açıklamalarda, Stable Diffusion’ın internetteki filtrelenmemiş verisini üzerinde yaptığını vurgulayarak, ne türlerden ne de Stable AI’ın (Stable Diffusion’ın yaratıcısı) bu konuda bir şey yapamayacaklarını söylüyor. Ayırıcı arşivleri mevcut önyargılarını modele tanıttığını eskitme yapay zekânın toplumumuza bir ayna dekorunu da ekliyor.

İLGİLİ HABER

İnterneti Ele Geçiren Bu Avatarlardan Yapabileceğiniz, Lensa Benzeri Uygulama Önerileri