Yapay Zeka, Etik ve Hukuk

26 Aralık 2018, İstanbul

Burcu Tuzcu Ersin, LL.M.

Yapay Zeka Nedir?

• Yapay Zeka insanlar gibi çalışan ve tepki veren akıllı makineler oluşturulması için çalışan bilgisayar bilimi alanıdır.

Sürekli gelişen, artan seviyede yönetilemez miktarda verinin işlenlenmesine ihtiyaç duyulan ve kompleks konulara yönelik programlama yapmanın imkansızlaştığı bir ortamda, makinelerin kendi kendine öğrenmesine imkan tanıyan bir süreç tasarlamak tek çözüm haline geldi.

Sanki bir çocuğun kendi kendine öğrenmesi gibi…

• Yapay zeka, sadece donanım mı? Yoksa yazılım ve algoritmalar mı?

Makine Öğrenmesi > Derin Öğrenme• Makine öğrenmesi, tıpkı insanlarda olduğu gibi programın kendi

tecrübeleriyle ve veri odaklı öğrenmesine imkan tanımaktadır. • Veri ve tekrar eden tecrübeler sürecin odağında yer alır.• Süreç veri analistleri taradından yönlendirilen ve binlerce

veriyi tarayan algoritmaları içermektedir.

• Derin öğrenme ise makine öğrenmesinin daha ileri bir tekniği olarak karşımıza çıkmaktadır. Bu yöntemde tıpkı sinir sistemi gibi örülmüş birden fazla katmanlı bir yapı kullanılır.

• Binlerce değil, milyonlarca veri sisteme aktarılır ve sistem her bir katmanda verileri analiz etmeye devam ederek, kendi yaptığı analizlerden ve her bir katmanda bir konuyla ilgili farklı detayları öğrenerek ilerler.

• Her bir katmanda sistem kendisi hata yapıp yapmadığını öğrenir ve tecrübelerin her biri öğrenmede etki eder.

• Derin öğrenmede veri analistleri tarafından yapılan yönlendirmeler değil, sistemin kendi tecrübeleri öğrenmenin temelini oluşturur. Dolayıslya süreç algoritmanın kendi kendini yönettiği doğrultuda ilerler.

Neden şimdi?

Bilgisayar gücünde veişlemci kapasitelerindekiartış

İşlenen veri boyutundakiartışDünya genelindeüretilen verinin %90’ının son iki yılda elde edildiğidüşünülüyor.

Ticarileştirme olasılıkları, sınai ilgi ve budoğrultuda yapılanyatırımlardaki artış

Derin öğrenme ile ilgiligelişmeler, yenialgoritmalar ve artanargenin etkisi

1 2 3 4

Dünkü hayaller…

Bugün gerçeğe dönüştü…

Yapay Zekanın makro etkileri veyönetişimine atfedilen önem

Yapay zeka, toplumumuzusanayi devriminde olduğugibi dönüştürücü bir etkiyesahip ama aynı etkinin 3,000 kat daha hızlı ve etki sahibiolacak şekilde olmasıbekleniyor.

1İnsanların özerkliğine vegüvenliğine karşı bir tehtidolarak algılanıyor. Zira kontrolün insandan çıkıp, insan olmayan bir varlığadevri olarak görülüyor.

2İş kolları üzerindeki etkisi vekitlesel işsizlik beklentileri –insanların yaptığı pek işinmakineler tarafındanyapılması beklenmektedir. Dönüşümün beklenendenhızlı olacağı öngörülüyor.

3Bir kez kontrolükaybedersek, bir daha hiçgeri alamayabiliriz!

4

Nasıl bir yapay zekayönetişimi?

Etik Standartlar Hukuk

Kaynak: https://royalsocietypublishing.org/doi/10.1098/rsta.2018.0085

Yapay Zekaya yönelik esaslıetik yönetişim girişimleri… (2017 sonu itibariyle)

Yapay Zeka Etiği

• Winfield’e göre yapay zeka etiğine yönelik etikönermelerinin hemen hemen tamamı birbirinebenzer prensipleri içinde barındırmaktadır.

• Bu bağlamda temelde yapay zekanın:• Zarar vermemesi beklenmelidir ki bu önerme yapay

zekanın önyargısız ve aldatma içermeyen şekildekurgulanmasını da içermektedir.

• İtibar ve mahremiyet dahil, insan hakları veözgürlüklerine saygı duymalı ve insan refahını teşviketmelidir.

• Sorumluluk odağının ve hesap verilebilirliğin insantasarımcıları veya işletmecilerinde kalmasınısağlarken şeffaf ve güvenilir olmalıdır.

Yapay Zekanın yönetişimi için önerilen en yaygın etik ilkeler

Şeffaf Olma• Kara kutu problem = yapay zekanın nasıl ve neden karar aldığına dair belirsizlik.• Modelin öngörülebilir olduğu ve sonuçların beklenir (ve hatta açıklanabilir) olduğu durumlarda,

şeffaflıktan söz edebiliriz.

• Algoritmanın kendisinin ne olduğunu bilseniz bile karar alma süreçlerinin nasıl gerçekleştiğiniöngöremeyebilirsiniz.

Adil Olma• Yapay Zeka üreten şirketlerin kendi etik yönetimlerini güçlü şekilde gerçekleştirmeleri

beklenmelidir.

• Yapay zekanın kendi kullanım amaçlarının yaratılma amacı ile örtüştürülmesi gerekir.

Hesap Verilebilir Olma• Yapay zekayı üretenlerin ve yapay zekanın kendisinin denetlenebilir, izlenebilir ve takip edilebilir

olması beklenmelidir.

Tasarımda Gizlilik• Tasarım ve uygulama aşamasında kişilerin özel hayatının gizliliği ve kişisel verilerinin korunması

bakımından gerekli önlenmelerin alınması gerekir.

Etkinleştirme• Her bir bireyin güçlendirilmesi ve etkinleştirilmesi esas olmalı ve kişilerin temel haklarını

kullanabilmeleri teşvik edilmelidir.

Ayrımcılık Yapmama

Politika geliştirme alanında güncel gelişmeler…

Kaynak: https://medium.com/politics-ai/an-overview-of-national-ai-strategies-2a70ec6edfd

Frightful Five ve Demokrasi karşı karşıya

Yapay zekanın düzenlenmesinde kamu menfaati ve temel hak ve özgürlüklerin uygun denge testlerine tabi tutulmasıgerekir ki bu sadece etik düzenleme yoluyla gerçekleştirilemez.

Bu bağlamda, yapay zekanın yönetişimi ve düzenlenmesi sadece öz düzenleme ile yapılamayacağı açıktır.

Google (Alphabet), Facebook, Apple, Amazon, Microsoft yapay zekada şu anda Pazar lideri konumundalar. Her biri:

Politikayı ve pazarı etkileyebilecek derinlikte ekonomik gücesahip Kamuoyu oluşturulmasını sağlayan kamusal alana egemen Kişilerin hem dijital, hem de tabii hayatına dair hiç kimsenin

sahip olmadığı seviyede kişisel veriye sahip

Yapay zeka argesinde öncü durumda ve kullanılabilir yapayzeka teknolojilerinin eklenebileceği platformların ve

sistemlerinin yönetimini üstlenmiş durumda.

Hukuki düzenlemeiçin temel nedenler?• Bağlayıcı olmayan hukuk kaynakları ve etik yönetişim, her bir

yargı çevresinin tabi olduğu yasal çoğulculuğu ele almak içinçok genel kalmakta ve dolayısıyla karmaşıklığı etkin bir şekildeyönetimi için yetersiz.

• Sürece dahil olan veya etkilenen aktörler bakımından hukukikesinlik sağlamaktan uzak.

• Etik yönetişimin ilkesel düzenleme ile uygulama arasında varolan boşluk.

• Temel hak ve özgürlüklerin düzenlenmesi bakımından hukukidüzenlemeye olan ihtiyaç ve etik düzenlemenin yetersizliği.

• Yapay zeka tarafından verilen kararların insan güvenliği veyarefahı ile ilgili gerçek sonuçlara sahip olduğu, güvenlikaçısından kritik yapay zeka uygulamaları bakımından hukukidüzenlemeye olan ihtiyaç.

Yapay Zeka ile ilgili HukukiDüzenleme Nasıl Olmalı?

Yapay Zeka alanında tek bir idariotorite tüm düzenlemeleri

yapabilir mi?

Her düzenleyici kurum, düzenlemesi yetkisi ve uygulamakapsamının belirlenmesi içinyetkilendirme ve çerçeve hukukkurallarına ihtiyaç duyar. Yapayzekanın geniş uygulama kapsamıbu tür bir çerçevenin tespitiniengellemektedir.

Yapay zekanın tüm riskleri henüzbilinmediğine göre beklentiler

ışığında düzenleme yapılabilir mi?

Yapay zeka çok hızlı gelişiyor vehukukun aynı hızda ilerlemesibeklenemez. İhtimaller veyabeklentilere göre de hukukidüzenleme yapılamaz. Bu sorunun temel çözümüteknolojik gelişimlerden tarafsızve bağımsız hukuki düzenlemeyapmaktır. Örn: the GDPR

Yapay zekanın tüm uygulamaalanlarını kapsayıcı şekilde

düzenleme yapma imkanı var mı?

Örneğin insansız araçlara ve akıllıbuzdolaplarına aynı yasalçerçeveyi uygulayabilir misiniz?

Hukuki düzenlemebakımından gereklilik ilkesi

Bir kez yapay zeka ile ilgili kişilerin temel hak veözgürlüklerine veya devletin düzenleme yapmamenfaatine giren bir alan tespit edildiğinde, öncelikle bu alanda ilgili yapay zekaya ilişkinuygulanması yeterli ve makul seviyede mümkünbaşka bir hukuki kaynağın var olup olmadığınıntespit edilmesi gerekir.

Yani, bir hukuki kaynağa yönelik ihtiyacın tespitiöncül olarak yapay zeka ile ilgili olarak ortaya çıkanproblemin başka bir hukuki kaynak aracılığıylaçözümlenemeyeceğine karar verilmesini gerektirir.

Bu tespitler doktrinde genel olarak kabul edildiği gibi AB tarafından fonlanan RoboLaw Projesi’nin sonuç raporunda da yer almıştır…

Temel hakların korunması

Hak sahipliği ve hukuki kişilik

Sorumluluk

Sigorta

Mahremiyet ve Kişisel Veriler

Fikri Mülkiyet Hakları

Hukuki düzenlemeyeihtiyaç duyulduğu kabuledilen temel alanlar

Hak Sahipliği veHukuki KişilikYapay zekaya hukuki kişilik tanınmalı mı ve dolayısıylahak sahibi olabileceği veya hukuki sorumlulukzincirinin bir parçası haline gelmesi kabul edilmeli mi?

• AB Parlamentosu – 2017 Civil Law Rules of Robotics

• Open Letter to the EU Commission of AI and Robotics Experts

• AB Komisyonu - 2018 EU Communication on AI for Europe

Gerçek kişi modeli > Tüzel kişi modeli > Anglo-Sakson Trust modeli

İnsansız arabalar vesorumluluk

İnsansız arabalar “insanlı araçlar kadar güvenli mi”? Ya da istatistikiolarak insansız arabalar daha iyi olabilir mi ya da olmalı mı?

Üretici sorumluluğu > Araç kullananın sorumluluğu > MağdurunSorumluluğu

Olay yeri incelemesi nasıl yapılmalı? İnsansız arabalar havacılıksektöründeki giri kara kutu uygulaması yapmalı mı? Bu ekonomikolarak makul veya mümkün mü?

AB’de Product Liability Directive’in 2018 yılında başlatılan bir çalışmauyarınca yeni teknolojiler ışığında güncellenmesi için çalışma başlatıldı.

Otomatik Karar Alma Süreçleri

Yapay zeka tarafından alınan kararlara nasıl güvenebiliriz? Yapayzekanın karar alırken nasıl bir mantık işlettiğini ve kararın kiminsorumluluğu olduğunu nasıl tespit edebiliriz?

• Ör: ATAD tarafından 13 Mayıs 2014’te alınan Google İspanya kararı

Otomatik karar alma süreçlerinin kişileri marzu bıraktığı risklernelerdir? Söz konusu riskler nasıl bertarafa edilebilir?

GDPR kapsamında otomatik karar alma süreçleri kullanan verisorumluluları bakımından yeni bir veri koruma etki analizi yapmazorunluluğu getirilmiştir. Söz konusu düzenlemenin temel amacı gerçekkişilerin hak ve özgürlüklerinin korunmsıdır.

Yapay Zeka ve FikriMülkiyet HaklarıYapay zeka üzerindeki fikri mülkiyet hakları –kavramsalolarak içerdiği farklar nelerdir?

• Örn: sürekli olarak değişen bir algoritmaya ilişkin fikrimülkiyet haklarının tanımlaması ve kapsamı nasılbelirlenebilir? Bu bağlamda, yapay zeka ile ilgiliyaptığınız bir patent başvurusu dahi başvurununyapılmasından kısa bir süre sonra buluşun kendisi ile ilgiliolmayan bir noktaya gelebilir.

Yapay zeka tarafından üretilen fikri ve sınai ürünlere ilişkinhakların düzenlemesi ne şekilde olacaktır?

• Yapay zeka “besteci”, “Yazar”, “eser sahibi” gibikavramları nasıl etkileyecek?

• Esere ilişkin telif veya maddi hakların sahibi nasılbelirlenecek?

Teşekkür ederiz.