Teknolojinin ilerlemesi ile hayatımıza giren yapay zeka her ne kadar işleri kolaylaştırsa da tehlikeli yönleriyle de riskler barındırıyor. Bunun son örneği Amerika Birleşik Devletleri'nin Kaliforniya eyaletindeki Beverly Hills kentinde yer alan bir okulda meydana geldi. Yapay zekayla sınıf arkadaşlarının sahte çıplak fotoğraflarını üreterek internette paylaşan 5 öğrenci, okuldan atıldı. Veliler, okul yönetiminin aldığı bu karara herhangi bir itirazda bulunmadı.
Independent Türkçe'nin haberine göre öğrencilerin yüzünün çıplak vücutların üzerine yerleştirildiği görüntüler şubat sonlarında Beverly Vista Ortaokulu yetkililerinin dikkatini çekti. Yapılan araştırma sonucu paylaşımı yapan kişiler belirlendi. Okul yönetim kurulu çarşamba akşamı yaptığı toplantıda, materyalin üretilip dağıtılmasında "en korkunç şekilde yer alan" 5 öğrencinin okuldan atılması yönünde oy kullandı.
OLAYA 16 KİŞİDEN OLUŞAN 8. SINIF ÖĞRENCİLERİ KARIŞTI
Bölge Başmüfettişi Michael Bregy, velilere gönderdiği ve yayın kuruluşunun eriştiği bir mektupta, hepsi 8. sınıfta okuyan 16 öğrencinin olaya karıştığını söyledi. Bregy, "Bu olay, yapay zeka da dahil teknolojinin etik kullanımı konusunda kritik önemdeki tartışmaları tetikleyerek dijital ortamlarda uyanık ve bilinçli etkileşimin öneminin altını çizdi" diye yazdı. Çocuklar ve aileleri, okuldan atılma kararına itiraz etmedi.
Kaliforniya yasaları çocuk pornografisi bulundurmayı ve rıza dışı çıplak fotoğraf paylaşmayı kapsasa da gerçek kişileri taklit eden sahte fotoğraflarla ilgili henüz bir emsal olmadığı için ceza davası yürütmek zor olabilir.
FARKLI OKULLARDAN DA BENZER ŞİKAYETLER GELDİ
Beverly Hills vakası, çoğunlukla kadın ve kız çocuklarının kurban seçilerek hedef alındığı bir dizi yapay zeka ya da "deepfake" vakasının sadece son örneği. New Jersey ve Washington eyaletlerindeki okullar da sonbaharda benzer sorunlar yaşadıklarını bildirirken, New Jersey'deki yasa yapıcılar bu materyalleri yasaklayan bir kanun çıkarmaya çalışıyor. Öte yandan Washington DC'de "deepfake teknolojisinin yarattığı tehditlere karşı ulusal güvenliği koruma ve zararlı deepfake mağdurlarına yasal başvuru hakkı sağlama" amacıyla bir yasa tasarısı sunuldu.
