Avrupa Birliği Yapay Zekâ Yasası Yürürlüğe Girdi!

Avrupa Birliği Yapay Zekâ Yasası ("Yasa") 12 Temmuz 2024 tarihinde Avrupa Birliği ("AB") Resmî Gazetesi'nde yayınlanmış ve 1 Ağustos 2024 tarihinde 27 AB üyesi ülkenin tamamında yürürlüğe girmiştir. Kademeli olarak uygulanacak Yasa, AB pazarındaki ve ötesindeki aktörler üzerinde etkiler doğuracaktır.

Arka Plan

Yasa, yapay zekâ ("YZ") sistemlerinin sağlık, güvenlik ve temel haklara yönelik riskleri ele almayı amaçlan ilk kapsamlı YZ düzenlemesidir. Avrupa Komisyonu 2021 yılı Nisan ayında YZ'ye ilişkin ilk taslak düzenlemeyi duyurmuştur. İlgili paydaşlardan alınan görüşler akabinde, 2023 yılı haziran ayında ise Avrupa Parlamentosu taslak düzenlemeye ilişkin değişiklik önerilerini kamuoyu ile paylaşmıştır. İlerleyen aşamada AB Konseyi, Avrupa Parlamentosu ve Avrupa Komisyonu arasındaki üçlü müzakereler sonrası 9 Aralık 2023'te düzenlemeye ilişkin uzlaşmaya varılmıştır. Üzerinde mutabakata varılan metin Mart 2024'te Avrupa Parlamentosu ve Mayıs 2024'te AB Konseyi tarafından onaylanmıştır. Nihayetinde Yasa 12 Temmuz 2024 tarihinde AB Resmî Gazetesi'nde yayınlanmış ve 1 Ağustos 2024 tarihinde yürürlüğe girmiştir.

Yasa'nın Amacı ve Kapsamı

Yasa madde 3'te YZ sistemini "değişen seviyelerde otonomiyle çalışmak üzere tasarlanmış ve kullanıma alındıktan sonra uyarlanabilirlik gösterebilen ve açık veya örtük hedefler için, aldığı girdiden, fiziksel veya sanal ortamları etkileyebilecek tahminler, içerik, öneriler veya kararlar gibi çıktıların nasıl üretileceğini çıkaran makine tabanlı bir sistem" olarak tanımlamaktadır.

Yasa AB içerisinde YZ sistemlerinin zararlı etkilerine karşı sağlık, güvenlik, demokrasi, hukukun üstünlüğü ve çevrenin korunması da dahil olmak üzere temel hakların korunmasını sağlamak, yenilikçiliği desteklemek, iç pazarın işleyişini iyileştirmek ve insan merkezli ve güvenilir YZ'nin benimsenmesini sağlamayı amaçlamaktadır. Bu çerçevede Yasa;

• Konumlarından bağımsız olarak AB içinde YZ sistemlerini piyasaya süren veya hizmete sunan veya Birlik içinde genel amaçlı YZ modellerini piyasaya süren sağlayıcılara, 
• AB üyesi olmayan bir ülkede bulunan ve YZ sisteminin çıktısının AB içinde kullanıldığı YZ sistemlerinin sağlayıcılarına ve YZ sistemlerini kullanıma alanlara, 
• AB'de bulunan YZ sistemlerini kullanıma alanlara, 
• YZ sistemlerini AB pazarına sunan ithalatçılara ve distribütörlere, 
• YZ sistemlerine sahip ürünleri kendi adları veya ticari markaları altında AB pazarına sunan ürün üreticilere
• AB içinde yerleşik olmayan sağlayıcıların yetkili temsilcilerine
• AB içinde yerleşik etkilenen kişilere uygulanacaktır.

YZ Sistemlerinin Sınıflandırılması

Yasaklı YZ Sistemleri:

Yasaklı YZ sistemleri, geliştirilip piyasaya sürülemeyecek sistemler olarak belirtilmektedir. Bunlar Yasa'da tek tek sıralanmaktadır:

• İnsan davranışlarını manipüle ederek özgür iradelerini engelleyen YZ sistemleri, 
• İnsanların (yaşları, engellilikleri, sosyal veya ekonomik durumları nedeniyle) kırılganlıklarını istismar etmek için kullanılan YZ sistemleri, 
• Sosyal puanlama amaçlı kullanılan YZ sistemleri,
• Kamuya açık alanlarda kolluk kuvvetleri tarafından kullanılan gerçek zamanlı uzaktan biyometrik tanımlama sistemleri (bazı istisnalar söz konusu), 
• Gerçek kişileri biyometrik verilerine dayanarak ırk, siyasi görüş, sendika üyeliği, dini veya felsefi inanç, cinsel yaşam veya cinsel yönelimleri hakkında çıkarım yapmak veya sonuç çıkarmak üzere kategorize eden biyometrik kategorizasyon sistemleri, 
• Öngörücü polislik uygulamaları, 
• İşyerlerinde ve eğitim kurumlarında tıbbi veya güvenlik gerekçeleri dışında kullanılan duygu tanımlama sistemleri, 
• Yüz görüntülerinin internetten veya CCTV görüntülerinden hedeflenmemiş bir şekilde toplanması yoluyla yüz tanıma veri tabanları oluşturan veya genişleten YZ sistemleri. 

Yüksek Riskli YZ Sistemleri:

Yüksek riskli YZ sistemleri ise AB ürün güvenliği mevzuatı kapsamına giren ürünlerde kullanılan YZ sistemleri (Ek-1) ile Yasa'nın Ek-3'ünde listelenen YZ sistemlerinin kullanımından oluşmaktadır:

Yüksek riskli YZ sistemlerinin Yasa'nın ikinci Bölümünde öngörülen gereklilikleri yerine getirerek piyasaya sürülmesi öngörülmektedir. Yükümlülükler yerine getirilirken mükerrerlikten kaçınılması ve ek yüklerin en aza indirilmesi amacıyla, yüksek riskli YZ sağlayıcıları, ürünlerine ilişkin olarak sağladıkları gerekli test ve raporlama süreçlerini, bilgi ve belgeleri, Yasa'da listelenen Birlik uyum mevzuatı kapsamında halihazırda var olan ve gerekli olan belgelere ve prosedürlere uygun şekilde entegre etme seçeneğine sahip olacaktır.

Genel Amaçlı YZ Sistemleri:

ChatGPT gibi üretken YZ sistemleri için de Yasa'da birtakım yükümlülükler öngörülmektedir. Bu tür sistemlerin sağlayıcıları için, örneğin genel amaçlı YZ modelinin teknik dokümantasyonunu hazırlamak ve güncel tutmak, telif hakkı ve ilgili haklara ilişkin Birlik düzenlemelerine uyum sağlayacak bir politika uygulamaya koymak ve genel amaçlı YZ modelinin eğitimi için kullanılan içerik hakkında yeterince ayrıntılı bir özet hazırlamak ve kamuya açık hale getirmek gibi yükümlülüklere yer verilmektedir. Buna ek olarak, Yasa'nın 51'inci maddesi sistemik risk oluşturan genel amaçlı YZ sistemleri belirlemekte ve bu tür sistemleri için özel hükümler düzenlenmektedir.

Düşük Riskli YZ Sistemleri:

Yukarıdaki sistemler dışında kalan sistemler ise düşük riskli YZ sistemleri olup serbestçe kullanılmasına izin verilmektedir. Bunlar YZ destekli video oyunları veya spam filtreleri gibi sistemlerdir. YZ sistemlerinin sağlayıcıları gönüllü olarak Yasa'daki davranış kurallarını uygulamayı seçebilmektedir.

Aktörlerin Yükümlülükleri

Yasa kapsamında yüksek riskli YZ sistemlerinin sağlayıcılarının, ithalatçılarının, distribütörlerinin ve bu sistemleri kullanıma alanların yükümlülükleri düzenlenmektedir. Önemle vurgulamak gerekir ki, Yasa sadece AB pazarında yerleşik tarafların piyasaya sunduğu YZ sistemlerine değil, aynı zamanda üçüncü taraf ülkelerde geliştirilmekle birlikte AB pazarına arz edilen YZ sistemlerine, YZ gömülü ürünlere ve çıktıları AB ülkelerinde kullanılması halinde, üçüncü taraf ülkelerde bulunan YZ sistemlerine de uygulanacaktır. Dolayısıyla örneğin AB pazarına bu tür YZ sistemlerini sunan Türkiye'deki sağlayıcılar veya AB içinde olup Türkiye'den bu tür sistemleri ithal edenler bakımından da yükümlülükler doğacaktır. Bu yükümlülükler teknik ve hukuki değerlendirmeleri, dolayısıyla farklı iş ekiplerinin ortak çalışmasını gerektiren yükümlülüklerdir.

Kurumsal Yapı

AB seviyesinde YZ Kurulu, genel amaçlı YZ modelleri için uygulama kurallarının tasarlanması da dahil olmak üzere, YZ Yasası ve bu düzenleme uyarınca çıkarılan mevzuatın uygulanmasını destekleyecektir.

YZ Ofisi, genel amaçlı YZ modelleri için gözetim sorumluluklarına sahip olacaktır. Standartların ve test uygulamalarının geliştirilmesine katkıda bulunacak, ulusal yetkili makamlarla koordinasyon sağlayacak ve Üye Devletlerde kuralların uygulanmasına yardımcı olacaktır.

YZ Ofisi'nin faaliyetlerini desteklemek üzere bağımsız uzmanlardan oluşan bilimsel panel oluşturulacaktır. Panel, genel amaçlı YZ modellerinin yeteneklerini ve müteakip sınıflandırmalarını değerlendirmeye yönelik metodolojilerin geliştirilmesine katkıda bulunacak ve olası güvenlik risklerini izleyecek; sanayi ve sivil toplum temsilcilerinden oluşan danışma forumu oluşturulacak ve YZ Kurulu'na teknik uzmanlık sağlayacaktır. 

Ulusal seviyede ise Üye Devletlerde ulusal yetkili makamlara gözetim yetkileri verilmektedir. Bunların bildirim otoritesi ve piyasa gözetim otoritesi şeklinde Üye Devlete bağlı olarak farklı biçimler alması söz konusu olabilecektir. 

AB YZ Yasasına Bütünlükçü Bir Şirket Uyumu

YZ sistemlerinin güvenlikli, hızlı ve etkili bir şekilde Yasa'ya uygun olarak geliştirilmesi ve kullanıma alınması amacıyla Şirket özelinde adım adım uygulanacak bir uyum yönetimi sürdürülmelidir. Bu kapsamda Şirket'in durumu ve ihtiyaçları hukuki, ekonomik ve teknik açılardan göz önünde bulundurulması, çalışanların bu konuda farkındalığının artırılması, uyum için gerekli öncelikli amaçlar ve hedeflerin belirlenmesi, Şirket içi sorumluluk atamaları ile iş bölümünün oluşturulması gibi adımların izlenmesi ve devamlı olarak Şirket bünyesinde uygulanması Yasa'ya bütünlükçü uyumun sağlanmasında kritik öneme sahiptir.

Türkiye'de Yerleşik Şirketlerin Yasa'ya Uyumluluk Sağlaması

Türkiye gibi üçüncü taraf bir ülkede yerleşik olsa da AB pazarına YZ sistemleri sunuluyor ve/veya yapay zekâ sistemlerinin çıktıları AB pazarında kullanılıyorsa, bu tür faaliyetleri yürüten şirketlerin de bu Yasa'ya uygun hareket etmesi gerekmektedir. 

Bu kapsamda, örneğin yüksek riskli YZ sistemi sağlayıcısı olup geliştirdiği YZ sisteminin çıktısı AB içinde kullanılıyorsa veya doğrudan bu sistemleri AB pazarına sunuyorsa öngörülen yükümlülükleri yerine getirilmesi gerekmektedir. Benzer şekilde, merkezi Türkiye'de olmak birlikte AB içerisindeki lokasyonlarında bu tür sistemleri kullanıyorsa veya bu lokasyonları aracılığıyla sistemleri piyasaya sürüyorsa öngörülen yükümlülükleri karşılaması gerekmektedir.

Yaptırımlar

Yasa'nın ihlali söz konusu olduğunda yüksek miktarda idari para cezaları öngörülmektedir. Yasa, ihlal seviyesine bağlı olarak aşağıdaki cezaları kapsamaktadır:

Yasa'nın Uygulanması

YZ YasasıAB Resmî Gazetesi'nde yayımlanmasını takip eden yirminci günde yürürlüğe girmiş olup Yasa yürürlüğe girmesinden altı ay sonra, Üye Devletler yasaklanmış sistemleri aşamalı olarak kaldıracak, genel amaçlı YZ yönetişimi için yükümlülükler ise on iki ay sonra geçerli olacaktır. Yirmi dört ay sonunda Ek III'te (yüksek riskli kullanım durumları) yer alan yüksek riskli sistemler için yükümlülükler de dahil olmak üzere tüm hükümler uygulanabilir hale gelecektir.

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.