Yapay zekada büyük tehlike; çocuk pornografisi ve gençlere şantaj için kullanılıyor

0

BEĞENDİM

ABONE OL

News

0

Gerçekçi görüntüler üretebilen yapay zeka (AI) programlarındaki hızlı ilerleme, çocukları ve gençleri sömürmeye kararlı suçluların çocuk pornografisi ve şantaj girişimlerinde patlamaya yol açtı

The Anatolia Post / Zararlı dijital içerikle mücadelede önde gelen bir AI çözümü olan Canopy’nin CMO’su ve Dijital Güvenlik Uzmanı Yaron Litwin pedofillerin gelişen teknolojiyi çeşitli şekillerde, genellikle çocuk görüntülerini üretmek ve dağıtmak amacıyla kullandıklarını söyledi. Bu da internette cinsel sömürüyü en üst seviyelere çıkardı.

Tamamen giyinik olsa da…

Bu tekniklerden biri, tamamen giyinik bir gencin gerçek bir fotoğrafını düzenlemeden geçirip onu çıplak bir görüntüye dönüştürmeyi içeriyor. Litwin tarafından sunulan gerçek dünyadan bir örnekte, kişisel sporlarla ilgilenen 15 yaşındaki bir çocuk, çevrimiçi bir spor salonu meraklıları ağına katıldı. Bir gün grupla antrenman sonrası çıplak göğsünün olduğu bir fotoğraf paylaştı. Bu görüntü çekildi, çıplak bir fotoğraf haline getirildi ve başlangıçta fotoğrafının spor salonuna giden arkadaşlarının elinde zararsız ve güvenli olduğunu düşünen gence şantaj yapmak için kullanıldı.

2022’de büyük sosyal medya siteleri, platformlarında çocuklara yönelik cinsel istismar şüphesi bulunan materyallerde yüzde 9’luk bir artış bildirdi. Bu raporların yüzde 85’i Facebook, Instagram ve WhatsApp gibi Meta dijital platformlardan geldiğini belirten  Litwin, AI ile mevcut görüntüleri düzenleme sürecinin inanılmaz derecede kolay ve hızlı hale geldiğini ve bunun da genellikle aileler için korkunç deneyimlere yol açtığını söyledi. Bu kullanım kolaylığı, gerçek resimlere dayanmayan, tamamen uydurma çocuk cinsel istismarı görüntülerinin oluşturulmasına da neden oluyor.

Litwin, “Bunlar gerçek çocuklar değil. Bunlar, AI aracılığıyla üretilen çocuklar ve bu AI, algoritma bu görüntülerin daha fazlasını aldığından, temelde kendisini olumsuz bir şekilde geliştirebilir” dedi.

Kendisi de ebeveyn olan Litwin’e göre, üretilen müstehcen malzemenin bolluğu nedeniyle, bu görüntülerin engellenmesi ve filtrelenmesi zor, bu da çocukları cezbetmeyi ve onları zararlı içeriğe maruz bırakmayı kolaylaştırıyor.

Litwin, “Bir ebeveyn olarak bu sektörde olmasaydım, bunun nereye gidebileceğinin ve neler yapılabileceğinin tam olarak farkında olabilir miydim bilmiyorum” diye ekledi.

Kolluk kuvvetlerinin anlaması zorlaşıyor

Yakın tarihli bir analize göre, yapay zeka tarafından oluşturulan cinsel eylemlerde bulunan çocukların görüntüleri, CSAM’yi (çocuk pornografisi) web’den engelleyen merkezi izleme sistemini bozuyor. Mevcut haliyle sistem, oluşturulmuş görüntüler yerine yalnızca bilinen kötüye kullanım görüntülerini tespit edecek şekilde tasarlanmasına rağmen yapay zekanın getirdiği görüntülerin gerçek mi yoksa yapay zeka tarafından mı oluşturulduğunu belirlemek için daha fazla zaman gerekiyor. Bu da kolluk kuvvetlerinin işini hayli artırıyor.

Endişe artıyor

Başka çeşitli faktörler de,  çevrimiçi çocuk cinsel sömürüsüne ilişkin endişeleri şiddetlendiriyor Üretken yapay zeka araçları, yeni fotoğrafların, sanat eserlerinin ve resimli romanların oluşturulmasında büyük ölçüde faydalı olurken, sübyancılar artık forumlarla etkileşim kurmak ve yeni yasadışı materyallerin kolaylıkla nasıl yapılacağına ilişkin adım adım kılavuzları paylaşmak için özel tarayıcılar kullanıyor. Bu görüntüler daha sonra çocuklarla sohbet etmek ve güvenlerini kazanmak için sahte bir çevrimiçi kişilik oluşturmak için paylaşılıyor.

Çözüm ne ?

Yaron Litwin yapay zeka potansiyel olarak çocuklara zarar verebilirken, Canopy’nin 14 yıllık yapay zeka algoritma eğitimiyle ‘yaşam için yapay zeka’nın bir örneği olacak şekilde geliştirildiğini belirtti.

Canopy, uygunsuz içeriği çocuğun bilgisayarına veya telefon ekranına ulaşmadan milisaniyeler içinde algılayıp engelleyen bir dijital ebeveynlik uygulaması olarak biliniyor. Benzer bir çok program da var.

Ebeveynler bu noktada bu programları kullanarak filtreler uygulayabilir.

Örneğin Canopy, uygunsuz resim ve videoları algılayan ve engelleyen Akıllı Filtreye ek olarak, uygunsuz fotoğrafların algılanıp paylaşılmasını engellemeye yardımcı olabilecek cinsel içerikli mesajlaşma uyarıları sağlıyor.