BBCBu gereçlerin kimilerine Patreon üzere muhakkak başlı içerik paylaşım sitelerine ödenen abonelikler sayesinde ulaşıldığı anlaşıldı.
Patreon sitesinde bu üzere görsellerin yer alması konusunda “sıfır hoşgörü” siyasetine sahip olduklarını belirtti.
Ulusal Polis Şefleri Kurulu’ndan yapılan açıklamada “bazı platformların ahlaki sorumluluk almaksızın büyük kâr elde etmesinin” kabul edilemez olduğu söz edildi.
İngiltere hükümetinin siber hücumlara ve tehditlerle gayret eden güvenlik ve istihbarat kurumu GCHQ da bahisle ilgili açıklama yaptı:
“Çocuk cinsel istismarına karışanlar her tıp teknolojiyi kullanıyorlar ve kimileri çocuk cinsel istismarı içeren gereçlerin geleceğinin yapay zekaya dayalı içeriklerde olduğuna inanıyor.”
İstismar içerikli görselleri hazırlayanlar sanatsal ya da grafik dizaynında kullanılmak üzere görseller yaratma hedefi taşıyan Stable Diffusion isimli yapay zeka yazılımını kullanıyorlar.
Yapay zeka bilgisayarların ekseriyetle insan zekasına gereksinim duyan kimi misyonları yapabilmesine imkân tanıyor.
Stable Diffusion kullanıcıları sözlerle komutlar vererek istedikleri rastgele bir görseli tanım etmelerini mümkün kılıyor, akabinde program bu görselleri yaratıyor.
Ancak BBC’nin araştırması bu programın bebek ve çocukların tecavüzü üzere içerikler de dahil çocuk cinsel istismarı içeren ve gerçek üzere görünen görsellerin üretiminde kullanıldığını ortaya koydu.
İngiltere polisi çocuk istismarıyla gayret gruplarının halihazırda bu üzere içeriklere dair incelemelerde bulunduğunu belirtti.
BBC Gazeteci Octavia Sheepshanks yapay zekâ tarafından üretilen görsellerde büyük bir artış olduğunu söylüyor. Gazeteci Octavia Sheepshanks aylardır bu haberi araştırıyordu. Bir çocuk yardım örgütü üzerinden BBC’ye ulaşarak elindeki bulguları paylaştı.
“Yapay zekanın görsel tasarlaması mümkün olduğundan beri dayanılmaz bir artış kelam konusu. Yalnızca küçük kız çocukları değil, çocuklardan bahseden pedofiller de var.”
İngiltere’de bir bilgisayar tarafından tasarlanmış ve çocuk istismarı içeren “sahte bir görsel” de yasalar önünde gerçek bir görsel üzere muamele görüyor ve bu çeşit gereçleri taşımak, yayımlamak ya da transfer etmek suça tabi tutuluyor.
Ulusal Polis Şefleri Kurulu’nun çocukları muhafaza ünitesinin başındaki Ian Critchley, bu “sahte görsellerde” gerçek bir çocuk kullanılmadığı için kimsenin ziyan görmediğini söylemenin yanlış olacağını söz ediyor.
Critchley bir pedofilin fikir basamağından geçersiz görsel üretme basamağına, oradan da sahiden bir çocuğu fizikî olarak istismar etme noktasına gelebileceğini söylüyor.
Bazı düzmece görseller, ekseriyetle manga ya da animeler tasarlayan sanatkarların kullandığı tanınan Japon toplumsal medya platformu Pixiv’de paylaşılıyor.
Cinsel içerikli çizgi romanların ya da çocukların çizimlerine yer vermenin yasak olmadığı Japonya’da yönetilen bu sitede, cinsel istismar içeren görselleri tasarlayanlar etiketler kullanarak bunları daha görünür hale getiriyor.
Pixiv’in bir sözcüsü bu bahsin üzerine hassasiyetle eğildiklerini, çocukları içeren cinsel içerikli gerçekçi fotoğrafların tanımlamalarının 31 Mayıs’da büsbütün yasaklandığını belirtti.
Şirket yapay zeka kaynaklı meselelerle gayret için büyük bir bütçe ayırdıklarını ve izleme sistemlerini de güçlendirdiklerini de söz etti.
Sheepshanks, “Öyle büyük bir hacim var ki beşerler ayda 1000 görsel hazırlamayı hedeflediklerini söylüyor” dedi.
FARKLI ÖDEME SEÇENEKLERİ
BBC’nin Octavia Sheepshanks’le birlikte yürüttüğü araştırma yapay zeka tarafından tasarlanan çocuk istismarı içeren görsellerin içeriklerine nazaran farklı fiyat seçenekleri üzerinden satışa sunulduğunu ortaya çıkardı.
Bir hesapta “Kızlarımı bilgisayarımda eğitiyorum,” denilirken “teslimiyet içinde” görüldüklerinin de altı çizildi.
Bir başka hesap ayda 8,30 dolar karşılığı “sansürlenmemiş sanat” vaadinde bulundu.
BBC bu hesaplardan birini Patreon ile paylaştı ve platformun kelam konusu içeriğin şirket siyasetlerini ihlal ettiğini tespit etmesinin akabinde hesap askıya alındı.
Patreon bu mevzuda “sıfır hoşgörü” siyasetine sahip olduklarını vurguladı ve “İçerik üreticileri çocukları içeren cinsel temalara dayalı materyallere para aktaramaz” denildi.
BBC Ulusal Polis Şefleri Kurulu’ndan Ian Critchley toplumun bir dönüm noktasında olduğu görüşünde. Yapay zeka görselleri tasarlayan Stable Diffusion’ın üst kuruluşu İngiliz Stability AI firması da BBC’ye yaptığı açıklamada “platformlarında yasa dışı ya da ahlaksız niyetlere yönelik bütün kullanımların yasaklandığı, bunun çocuk cinsel istismarına dair materyalleri de içerdiği belirtildi.
Açıklamada Stability AI eserlerini berbat niyetler için kullananlara karşı emniyet güçlerinin yürüttüğü soruşturmalara dayanak verildiği de söz edildi.
Yapay zeka süratle gelişmeyi sürdürürken, bunun gelecekte ne üzere riskler doğuracağı, insanların özel hayatlarını, haklarını ya da güvenliklerini nasıl etkileyeceği hakkında soru işaretleri doğdu.
Ulusal Polis Şefleri Kurulu’ndan Ian Critchley toplumun bir dönüm noktasında olduğu görüşünde.
Critchley, “İnternetin ve teknolojinin gençler için şahane fırsatlar yaratmasını teminat altına alabilirız, yoksa internet çok daha ziyanlı bir yer haline gelecek” dedi.
Hükümetten yapılan açıklamada ise şu tabirler yer aldı:
“İnternet Güvenliği Yasası her cins çevrimiçi çocuk cinsel istismarına karşı firmaların proaktif önlemler almalarını öngörecek. Aksi takdirde ağır cezalara çarptırılmaları kelam konusu olacak.”
