AI, sanat ve yaratıcılık için olduğu kadar kötü amaçlar için de kullanılabilir.
Gerçekten sizinle ilgiliymiş gibi görünmesini sağlayabilen yazılımın internetten bir elbise satın almak gibi masum bir amacı olsa da, bir sonraki adım izniniz olmadan yüzünüzü ve vücudunuzu kullanarak farklı resimler ve görüntüler oluşturmaktır.
“Rızasız deepfake pornografi” endişe kullanım alanlarının başında geliyor.
‘Derin sahte’ anlamına gelen ‘Deepfake’, gerçek şeyden ayırt edilemeyecek bir şeyin yüksek düzeyde taklidi olarak tanımlanır.
Birçok video ve resim bu şekilde dijital olarak oluşturulur, yapay zeka veya makine öğrenimi ile değiştirilir.
Teknoloji kullanılarak oluşturulan bu tür pornolar, birkaç yıl önce bir Reddit kullanıcısının porno oyuncularının vücutlarına ünlü kadın yüzlerin kliplerini koymasıyla internette yayılmaya başladı.
O zamandan beri, deepfake içerik oluşturucuları, herkese açık profilleri olan kişileri hedef alan benzer videolar ve resimler yayınlamaya başladı.
Birçok sitede buna benzer binlerce video var. Bazıları kullanıcılara kendi görüntülerini oluşturma olanağı sunar, ancak teknolojiyi intikam almak veya eski eşlerini incitmek, arzulanan kişiyi rızası olmadan cinsel fantezilere dönüştürmek için kullananlar da vardır.
Uzmanlar, karmaşık ve görsel olarak çekici deepfake’ler oluşturmak kolaylaştıkça bu sorunun büyüdüğünü söylüyor.
Teknoloji destekli kötüye kullanım eğitim grubu EndTAB’ın kurucusu Adam Dodge AP’ye şunları söyledi: “Gerçek şu ki, teknoloji gelişmeye ve demokratikleşmeye devam edecek ve her şey bir düğmeye basmak kadar kolay olacak. Bu olduğunda, bazı insanlar şüphe duyuyor. Cinsel saldırı, derin sahte pornografi ve sahte çıplak görüntüler yoluyla başkalarına zarar vermek için bu teknolojiyi kötüye kullanmaya başlayacaklar.” Diyor.
Google’da arattı ve porno resimler buldu.
Avustralya, Perth’den Noelle Martin bunlardan biri. Bir gün 28 yaşındaki genç bir kadın, Google’da fotoğrafını ararken kendisinin derin sahte porno resimlerini buldu.
Martin, bu sahte görüntüleri veya videoları kimin oluşturduğunu bilmediğini söylüyor. Birisinin sosyal medya sayfasından veya başka bir yerden fotoğraflarını çekip izinsiz olarak pornoya dönüştürdüğünden şüpheleniyor.
Gördüklerinden dehşete düşen Martin, internetten kaldırılması için birkaç yıl boyunca birkaç web sitesiyle iletişime geçti. Bazıları yanıt vermedi, diğerleri ise kaldırdı, ancak kısa süre sonra eski durumuna getirildi.
Martin, “Kazanabileceğin bir dövüş değil, her zaman orada kalacak. Seni sonsuza dek yok eden bir durum gibi,” dedi Martin. Konu hakkında ne kadar çok konuşursa sorunun o kadar büyüdüğünü söylüyor.
Hatta bu süreçte bazı kişiler ona giyinmesinin ve sosyal medyada paylaştığı fotoğrafların bu tacizde payı olduğunu söyleyip, görüntülerin yaratıcıları yerine Martin’i suçladı.
Nihayetinde Martin, Avustralya’da sanal güvenlik düzenlemelerini kullanarak bu tür içeriği kaldırma uyarılarına uymayan şirketlere 555.000 Avustralya Doları (370.706 ABD Doları) para cezası uygulayacak bir yasa için kampanya başlatmaya karar verdi.
Ancak ülkelerin kendi kanunları olsa da interneti dünya çapında düzenlemek neredeyse imkansız. Şu anda Batı Avustralya Üniversitesi’nde avukat ve hukuk araştırmacısı olan Martin, sorunun bir tür küresel çözüm yoluyla kontrol altına alınması gerektiğine inandığını söylüyor.
Şirketler adım adım ilerliyor
Ek olarak, birçok AI modelleme uygulaması, şu anda müstehcen görüntülere erişim sağlamadıklarını iddia ediyor.
Örneğin, DALL-E oluşturucuyu eğitmek için kullanılan veriler müstehcen içerik içermiyordu. Bu, kullanıcıların bu tür görüntüleri oluşturma yeteneğini sınırlar.
Şirket ayrıca istekleri filtreliyor ve kullanıcıların önde gelen ünlülerin ve politikacıların AI görüntülerini oluşturmasını engellediğini söylüyor. Başka bir oluşturma aracı olan Midjourney, belirli anahtar kelimelerin kullanımını engeller ve kullanıcıları sorunlu görüntüleri moderatörlere bildirmeye teşvik eder.
Başka bir görüntü oluşturucu olan Stability AI da Kasım ayında müstehcen görüntüler oluşturma yeteneğini sınırlayan bir güncelleme yayınladı. Bu değişiklik, bazı kullanıcıların ünlülerin fotoğraflarını kullanarak çıplak fotoğraflar oluşturmasından sonra gelir.
Bazı sosyal medya şirketleri de platformlarını zararlı materyallerden daha iyi korumak için kurallarını sıkılaştırıyor.
TikTok, etiketleme gereksinimleri uygular
Örneğin TikTok, geçen ay gerçekçi sahneleri gösteren tüm deepfake’lerin veya manipüle edilmiş içeriğin sahte olduğunu ilan etmeyi zorunlu hale getirdi. Bunun için bu videoları gerektiği gibi etiketlemek zorunlu hale geldi. Bireylerin ve gençlerin deepfake’lerine artık izin verilmeyeceği açıklandı.
Daha önce şirket, müstehcen içeriği ve izleyicileri gerçek dünya olayları hakkında yanıltan ve onlara zarar veren son derece yanlış içeriği de yasaklamıştı.
Twitch kullanıcıları uyarıyor
Öte yandan oyun platformu Twitch, kısa bir süre önce, Atrioc adlı bir yayıncıdan canlı yayın yaparken ekranında bir deepfake porno web sitesinin açık olduğunun keşfedilmesinin ardından müstehcen deepfake görüntülerle ilgili politikalarını güncelledi. Atrioc’un ekran sitesinde diğer Twitch yayıncılarının sahte görüntüleri vardı.
Şirket, “bu tür materyalleri kasıtlı olarak tanıtmak, oluşturmak veya paylaşmak, platformun derhal yasaklanması için gerekçedir” dedi.
Apple ve Google da geçtiğimiz günlerde, ürünü pazarlamak için aktrislerin sahte ve müstehcen videolarını yayınlayan bir uygulamayı mağazalarından kaldırdıklarını söyledi.
