Yapay zeka tekniği halihazırda kamera ile izleme ve kontrolerde, dijital hizmetlerde sesli komutla yapılan işlemlerde ya da mali verilerin değerlendirilmesinde kullanılıyor. 1 Ağustos itibarıyla Avrupa Birliği (AB), bu geniş alanı düzenleyen ilk Yapay Zeka Yasası'nı kademeli olarak yürürlüğe koyacak. Yeni kanuni düzenlemeye dair bilinmesi gereken başlıca düzenlemeler hangileri?
AB içinde yapay zekanın gelecekte de insanları, dini veya siyasi görüşü, ten rengi ya da cinsel yönelimi gibi kriterlere göre gruplara ayıran uygulamalarda kullanılması hukuken yasak olacak.
Yine yapay zekanın Çin'in Sincan bölgesinde olduğu gibi "sosyal kredi sistemi" adı altında insanları kategorize etmede kullanımına da izin verilmiyor. Sosyal kredi sistemi ile iktidardaki Çin Komünist Partisi, vatandaşlarını kameralarla kitlesel şekilde izleyerek "kendi istediği biçimde davranma" ve "siyasi sadakat" sağlama yönünde zorla "eğitime" tabi tutuyor.
Yeni kanun ayrıca yapay zekanın insanların duygusal dünyasını anlamada kullanılmasına da müsaade etmiyor. Örneğin okulda öğrencilerin veya işletmelerde çalışanların duygusal dünyasına dair tespitlerde de yapay zekaya başvurmak yasak.
İlaveten yapay zeka teknolojileri insanların isteklerine tesir edip yönlendirmede de uygulamaya konulamayacak.
Vatandaşların ayrıca yaşları, varsa engel veya handikapları veya maddi durumları da yapay zeka aracılığıyla onların dezavantajına kullanılamayacak.
Yüz tanıma teknoljilerini kullanma kuralları neler?
Emniyet ve güvenlik birimleri de yapay zeka teknolojisi ile yüz tanıma uygulamalarını kamuya açık alanlarda sadece bir mahkemenin kararı ile kullanabilecek. Bu uygulama halen Almanya'nın başkenti Berlin'de Südkreuz Tren İstasyonu'nda test ediliyor.
Yüzden tanıma programlarının kaydettiği görselleri ise güvenlik birimleri yalnızca hakkında bir mahkumiyet kararı olanlar veya ağır suç işlediği iddiasıyla arananları yakalamak için kullanabilecekler. İnsan ticareti veya cinsel şiddet mağdurlarının bulunması için yürütülen çalışmalarda ise emniyet güçleri, yüz tanıma programından, mağdurları tespit için sadece canlı olarak izleyerek faydalanabilecek. İlaveten yapay zeka ile yüz tanıma programları somut ve acil bir terör tehlikesi olması halinde de kullanılabilecek.
Yapay zekanın emniyet birimlerince kulanılmasını yasa koyucu, prensipte temel insan hakları ihlali ihtimalinin oluşması halinde "yüksek riskli" alan olarak değerlendiriyor. Aynı yüksek riskin yapay zeka teknolojilerinin personel idaresi için kullanımında da söz konusu olabileceği kanısı hakim. Yapay zeka teknolojilerinde "yüksek riskli" uygulamalar kategorisinde görülen bir diğer alan da siyasi seçimlere tesir edebilecek sistemler.
Böylesi durumlarda yapay zekanın kullanımı konusunda kontrolü elinde tutan en yüksek mercinin ise insan olması gerektiği savunuluyor. Yasal düzenlemenin kontrolüne ilaveten teknik döküm ile risk yönetimi düzenlemesi yapılasını da kanun ayrıca şart koşuyor. Öte yandan mağduriyet yaşadığını düşünenlerin sorumlu devlet makamlarına yapay zeka konusunda şikayette bulunma hakkı da olacak.
AB Komisyonu, üye ülkelerden uzmanların görev yaptığı bir Avrupa Yapay Zeka Ofisi de açıyor. Bu ofis, Avrupa'da etik meseleler ve sürdürülebilir yapay zeka teknolojilerini değerlendirme konusunda faaliyet yürütecek.
Peki sistemlerin kalitesi nasıl belirleniyor?
Yeni kanun, yapay zeka uygulamalarını geliştirenleri, metinler, görseller ve videoların yapay zeka teknolojisi kullanılarak hazırladığını belirtmekle de yükümlü kılıyor. Facebook, Instagram veya X gibi sosyal paylaşım platformları ile sorumlu ulusal resmi daireler de bunları denetlemekten sorumlu. Ancak uzmanlara göre bu alanda denetimlerin sağlanması oldukça güç.
Özel şahısların yapay zeka kullanımı nasıl olacak?
Bireysel kulanıcılar ise AB Komisyonu'nun verdiği bilgiye göre Yapay Zeka Yasası kapsamı dışında tutuldu. Böylece sosyal medya kullanıcıları fotoğraflarında oynama yaparak, onları güzelleştirerek yapay zeka ile oluşturulmuş metinler veya görseller paylaşmaya devam edebilecek.
Öte yandan Yapay Zeka Yasası kapsamında olmasa da bireysel kullanıcılar AB'nin yönetmelikleri gereği kimi yükümlülüklere de sahip. Örneğin Şubat ayından itibaren geçerli olan AB Dijital Hizmetler Düzenlemesi, online platformları, mesela yanlış bilgileri, nefret çağrıları veya cinsel şiddet içerikli paylaşımları internetten hemen kaldırmakla yükümlü kılıyor ki bu uygulama bireysel kullanıcıları da etkiliyor.
Sanayi kuruluşları yasaya nasıl bakıyor?
Sanayi kuruluşları yeni kanun nedeniyle endişeli. Endişelerinin sebebi, yapay zekaya ilişkin yürürlüğe giren kanunun yeni uygulamaların geliştirilmesinde özellikle aşılması güç engeller yaratacağını düşünmeleri. Onlara göre söz konusu yasa ile AB'li şirketler ABD veya Çin gibi ülkelerdeki rakipleriyle karşılaştırıldığında dezavantajlı konuma düşecek. Alman Sanayiciler Birliği bu yönde uyarılarda bulunuyor.
Yasayı ihlalin cezası ne kadar?
Yeni Yapay Zeka Yasası'na göre ihlal halinde şirketleri milyonlarca euroya ulaşabilecek para cezaları bekliyor. Örneğin uygulama yasağı bulunan bir teknoljinin kullanılması halinde söz konusu şirkete 35 milyon euroya veya küresel çapta sağladığı cironun yüzde 7'si oranına kadar para cezası kesilmesi mümkün.
Yasanın diğer hükümlerinin ihlali halinde ise 15 milyon euroya veya şirket cirosunun yüzde 3'üne kadar para cezası verilmesi de mümkün.
Kanun ne zaman itibarıyla geçerli?
Yapay Zeka Yasası kademeli şekilde yürürlğe giriyor. 2 Şubat 2025'te AB üyesi ülkelerde, Çin'deki "sosyal kredi sistemi" gibi kabul edilmesi imkansız uygulamalara dair yasaklar başlıyor. 2 Ağustos 2025'te de genel olarak metin veya görsellerde kullanılan yapay zeka sistemlerini düzenleyen maddeler yürürlüğe girecek. 2 Ağustos 2026'da da diğer düzenlemeler geçerli olacak. AB Komisyonu, önümüzdeki sonbahardan itibaren yüzlerce şirketin gönüllü olarak denetim yapmayı taahhüt ettiği "Yapay Zeka Paktı"na katılımını bekliyor.