Küresel Bakış Açıları: Yapay Zekâ III

KÜRESEL BAKIŞ AÇILARI

VE ANLAYIŞLAR IIA’nın Yapay Zekâ Denetim Çerçevesi

Pratik Uygulamalar, Bölüm B

Özel Baskı

Uluslararası İç

Denetçiler Enstitüsü

Küresel Bakış Açıları: Yapay Zekâ III

İçindekiler Tablosu IIA’nın Yapay Zeka (YZ) Denetim Çerçevesi …………………………………………….1

İnsan Faktörü …………………………………………………………………………………………2

Etik Algoritma Önyargıları Anlam Çıkarma

Kara Kutu ………………………………………………………………………………………………4

Yönetişim ………………………………………………………………………………………………4

Performans Yönetimi …………………………………………………………………………….5

Son Söz ………………………………………………………………………………………………….6

Danışma Kurulu

Nur Hayati Baharuddin, CIA, CCSA,

CFSA, CGAP, CRMA – IIA - Malezya

Üyesi

Lesedi Lesetedi, CIA, QIAL – IIA Afrika

Federasyonu

Hans Nieuwlands, CIA, CCSA, CGAP –

IIA – Hollanda

Karem Obeid, CIA, CCSA, CRMA – IIA

Üyesi – Birleşik Arap Emirlikleri

Carolyn Saint, CIA, CRMA, CPA –

IIA – Kuzey Amerika

Ana Cristina Zambrano Preciado, CIA,

CCSA, CRMA – IIA – Kolombiya

Eski Sayılar

Küresel Bakış Açıları ve Anlayışlar

yayınının eski sayılarına ulaşmak için,

www.theiia.org/gpi.

Okuyucu Geri Bildirimi

Soru ve yorumlarınızı lütfen

globalperspectives@theiia.org

adresine gönderiniz.

globaliia.org

Küresel Bakış Açıları: Yapay Zekâ III

Giriş

Bir robotun – ya da en azından onun beyninin – bir etik komitesinin veya

soruşturma komitesinin önüne çıktığı hayal edin. Neden olmasın? The Guardian’a

göre, akademisyenler, robotların kamusal alanlara girmeye ve insanlarla yan yana

çalışmaya başlamasıyla güvenlik tedbirlerine duyulan ihtiyacın daha da arttığını ve

aciliyet arz ettiğini savunmaktadır. Bilim adamları, robotların verdikleri kararları

takip etmeye ve gerektiğinde veya bir kaza vuku bulduğunda, eylemlerinin

sebeplerini açıklamalarına – evet, açıklamalarına – izin verecek bir “etik kara kutu”

takma olanağını bulmaya çalışıyor.

Oxford Üniversitesi profesörleri, robotik firmaların, yaşanan trajik olaylardan

sonra kritik öneme sahip güvenlik derslerinin alınmasını sağlayan ve uçak

kazalarının araştırılmasında kullanılan kara kutu ve kokpit ses kayıt cihazlarının

yerleştirilmesi de dâhil, havacılık endüstrisinin teşkil ettiği örnekleri ve öngördüğü

düzenlemeleri takip etmesi gerektiğini savunmaktadır. Robota monte

edilmiş bir etik kara kutu, robotun kararlarını, bu kararları alma sebeplerini,

hareketlerini ve kamera, mikrofon ve telemetri gibi sensörlerden elde edilen

bilgileri kaydeder.

Bu eylemler, bir Knightscope K5 devriye robotu olan “Steve”’nin görev

başındayken basamaklardan düşmesi ve bir süs havuzuna dalması veya başka bir

K5 robotunun Mountain View, Kaliforniya sokaklarında devriye gezerken 41

yaşında bir adamla park yeri tartışmasına girmesi veya robotik birimin

Stanford’da bir alışveriş merkezinde 16 aylık bir bebeğin üstünden geçmekle

suçlanması gibi kısa bir süre önce gerçekleşmiş kazaların sonucunda ortaya çıkar.

İnsanlar bu kazaları ciddi olmayan hafif yaralanmalarla atlattı.

Backchannel’in editörü Scott Rosenberg bir yazısında: Yapay zeka etiği üzerine

yüzlerce rapor var; ancak, bu raporların çoğu önemli saptamalar içermiyor ve

“insanı” ilk sıraya koymakla ilgili yavan sözlerle dolu, demektedir. Rosenberg,

güvenilir ve adil sonuçlar elde edileceğine ilişkin hiçbir teminat vermeksizin

toplumu YZ hatlarıyla yeniden şekillendirmeye çalışan teknik endüstri konusunda

New York Üniversitesi AI Now Enstitüsü’nün kısa bir süre önce yayımladığı

raporları derlemektedir. Bir raporda şu sonuca varılmaktadır: “Bugüne kadar YZ’yi

etik standartları çerçevesinde tutma çabalarının hepsi suya düşmüştür ve YZ için

çizilen yeni etik çerçevelerin YZ ‘yi tasarladıkları ve görevlendirdikleri gibi

açıklanabilir güçlü endüstriyel, yönetişimsel ve askeri çıkarlar gütmek için

münferit sorumlulukların ötesine geçmesi gerekmektedir.” Yazarların

düşüncelerine göre, YZ sistemleri, polislik, eğitim, sağlık ve “bir algoritma hatasıyla

bir hayatın ziyan olabileceği” diğer ortamlar gibi çeşitli ve savunmasız alanlarda

tanıtılmaktadır.”

IIA’nın Yapay Zeka Denetim Çerçevesi Yapay Zekâ – İç Denetim Mesleğine İlişkin Mülâhazalar başlığı altında açıklandığı

üzere, Yapay Zeka bağlamında iç denetimin rolü “bir organizasyonun kısa, orta ve

uzun vadede değer yaratma becerisi üzerinde yapay zekânın ne ölçüde etkili

Not: Bu yayın, üç bölümlük bir

dizinin üçüncü raporudur.

Daha fazla bilgi için, Yapay Zekâ

– İç Denetim Mesleğine İlişkin

Mülâhazalar ve IIA’nın Yapay

Zekâ Denetim Çerçevesi: Pratik

Uygulamalar Bölüm A ‘ya

bakınız .

globaliia.org

Küresel Bakış Açıları: Yapay Zekâ III

(menfi veya müspet) olacağını değerlendirmek, anlamak ve bildirmek için o

organizasyona yardımcı olmaktır.”

İç denetim fonksiyonunun bu rolü yerine getirmesine yardımcı olmak için, iç

denetçiler, organizasyona YZ ile ilgili uygun görülen danışma, güvence veya karma

danışma/güvence hizmetlerinin sağlanması noktasında IIA’nın Yapay Zeka

Denetim Çerçevesine başvurabilir. Bu çerçeve, YZ Stratejisi, Yönetişim ve İnsan

Faktörü olmak üzere üç kapsayıcı bileşenden ve Siber Esneklik; YZ Yetkinlikleri;

Veri Kalitesi; Veri Mimarisi & Altyapısı; Ölçüm Performansları; Etik ve Kara Kutu

olmak üzere yedi unsurdan oluşmaktadır.

İç Denetim, bu Çerçeveyi uygularken ve organizasyonun YZ faaliyetleriyle ilgili

danışma, güvence veya karma danışma/güvence hizmetlerini sağlarken bir dizi

görevlendirme veya kontrol hedeflerini ve aktivitelerini veya prosedürlerini

dikkate almak durumundadır. Çerçevenin Strateji (Siber Esneklik ve YZ Yetkinlikleri

unsurları) ve Yönetişim (Veri Mimarisi & Altyapısı ve Veri Kalitesi unsurları)

bileşenlerine ilişkin önemli hedefler ve aktiviteler veya prosedürler bu

dokümanda sunulmuştur. Yönetişim (Performans Ölçümü unsuru) ve İnsan

Faktörü (Etik ve Kara Kutu unsurları) bileşenlerine ilişkin önemli hedefler ve

aktiviteler veya prosedürler, üç bölümden oluşan bu dizinin III. Bölümünde

sunulacaktır.

İnsan Faktörü Etik ve Kara Kutu öğelerinin de dâhil olduğu İnsan Faktörü unsuru, Yapay

Zeka’nın beklenen sonuçları elde etme yeteneğinden ödün vermesine neden

olabilecek insan hatası riskini ele alır.

Etik

İnsanların geliştirdiği, insan hatası ve önyargılarıyla (hem kasti olan hem de

olmayan hata ve önyargılar) sakatlanmış bulunan algoritmalar insan hatasının

yapay zekâdan beklenen sonuçların alınması kabiliyeti ve olanağını riske ve

tehlikeye atması riskini de yaratır. İnsan faktörü unsuru:

YZ tasarımına müdahale eden istem dışı insan önyargıları riskinin tespit

edilip edilmediğini ve doğru yönetilip yönetilmediğini;

YZ sonuçlarının asıl amacı yansıttığından emin olmak için YZ’nin etkin bir

şekilde test edilip edilmediğini;

Bir karmaşıklık olması durumunda YZ teknolojilerinin şeffaflık sağlayıp

sağlayamayacağını ve

YZ çıktısının yasal, etik, sorumlu ve duyarlı bir şekilde kullanılıp

kullanılmadığını

değerlendirir.

globaliia.org

Küresel Bakış Açıları: Yapay Zekâ III

Algoritmalar Önyargıları

Son yayımlanan McKinsey & Company raporuna göre, şirketler, iş karar-alma

sürecine makine öğrenmesini uygulamak için acele ediyorlar. Programlar,

karmaşık algoritmaları, geniş çaplı ve sık yenilenen veri kümeleri üzerinde

çalışacak şekilde ayarlar. Bununla birlikte, algoritmik önyargıların oluşması

riskli bir durumdur; çünkü eğer gözden kaçırılırsa ve kontrol edilmemiş bir

şekilde kalırsa, makine öğrenmesinin asıl amacından taviz verilmesine neden

olabilir (bkz. Makine-öğrenme algoritmalarının ve bu algoritmaların maruz

kalabileceği önyargıların kontrol edilmesi).

Örneğin, kredi skorlamasında, aldığı kredileri uzun süredir temerrüde düşmeden

sürdürebilen bir müşteri, genellikle “düşük riskli” olarak kabul edilir. Ancak, bu

değerlendirmede, bu müşterinin kredileri karşılığında verdiği ipotekleri çok büyük

vergisel avantajlar sebebiyle sürdürdüğü ve desteklediği olgusu her zaman gözden

kaçabilir; fakat bu vergisel avantajların da bir gün sona ereceği unutulmamalıdır.

Oysa temerrütlerde keskin bir artışın eli kulağında olabilir ve buna rağmen, krediyi

açan kurumun istatistiksel risk modelinin gözünden kaçmış olabilir. Öte yandan, kanu

uzmanlarına ve doğru veri ve bilgileri erişim hakkına sahip olan öngörücü makine-

öğrenme modelleri, mevcut verilerdeki gizli eğilimleri de tespit edebilir ve bu tür

keskin artışlara karşı gereken önlemi alabilirler. Dahası, işle ilgili kararların dışında,

algoritmik tarafgirlikler de bazı reel problemlere yol açabilen ve yurttaşlar arasında

rahatsızlık yaratan hatalara sebep olabilirler. Örneğin, Google’un Fotoğraf servisi ve

onun gibi diğer hizmetleri, insanları, nesneleri ve olayları izlemek ve tespit etmek

amacıyla kullanılmaktadırlar, fakat örneğin bir kameranın bir ırksal duyarlılık vakasını

ıskaladığı ya da gelecekte işlenebilecek olası suçları önceden kestirmek amacına

yönelik risk değerlendirmeleri için kullanılan bir yazılımın taraf tuttuğu durumlar gibi

korkunç kötü yerlere de çekilebilirler.

Anlam Çıkarma

Makinelerin de yapabileceklerinin bir sınırı vardır ve insanlar YZ çıktılarını

anlamlandırma yeteneğine sahip olmalıdır. McKinsey & Company raporunda da

belirtildiği gibi “YZ devrinde anlam çıkarmak, öncelikle bir makinenin neleri

yapabileceğini ve neleri yapamayacağının ayrımını yapmakla ve bunu takdir

etmekle başlar. Örneğin, bir makine, belirli tiplerdeki hastalıklara bir insandan

daha doğru şekilde teşhis koyması mümkün olabilir. Ancak, hastalığın etkilerini

anlamaları ve hastalığın sonuçlarıyla başa çıkabilmeleri için hastalara yardım

etmek hemşire, doktorlar ve terapistlerin sorumluluğunda olacaktır. Bilgi ve mana

arasındaki fark tam olarak budur.” Kavramların bildiğimiz anlamı ile gerçekte

taşıdıkları anlam arasındaki fark tam olarak budur.” Rapora göre, kodlama, analitik

ve veri bilimi gibi teknik beceriler YZ için kritik önem taşır; bununla birlikte, işbirliği

yapmak, empati kurmak ve anlam çıkarmak gibi sosyal beceriler de YZ için çok

önemlidir (bkz. McKinsey Quarterly pp. 56-61).

IIA’da tanımlanan önemli

hedefler ve aktiviteler veya

prosedürler önceden

saptanmış bir denetim

planından oluşmayıp,

görevlendirme veya kontrol

hedeflerini tanımlamaya ve

YZ denetim faaliyetlerinin

planlanmasına ve

uygulanmasına yardımcı

olması beklenen örnekler

mahiyetindedir.

YZ denetim faaliyetleri IIA

Standardı 2200 : Görev

Planlaması şartlarına uygun

olmalıdır. YZ denetim planları

ve YZ görevlendirme hedefleri

ve prosedürleri her zaman

organizasyonun ihtiyaçlarını

karşılayacak şekilde

hazırlanmalıdır.

globaliia.org

Küresel Bakış Açıları: Yapay Zekâ III

Kara Kutu Merriam-Webster online sözlüğüne göre, bir kara kutu: “İç mekanizması

genellikle kullanıcıdan saklanmış veya kullanıcı için gizemli olan, genellikle karışık

bir cihazdır; geniş anlamda: gizemli veya bilinmeyen iç fonksiyonlara veya

mekanizmalara sahip olan her şey.” anlamına gelmektedir. Organizasyonlar, Tip

III ve Tip IV YZ teknolojilerini – kendi başlarına öğrenebilen veya birbirleriyle

iletişim kurabilen makineleri veya platformları kullanarak - uygulamaya geçtikçe,

bu algoritmaların nasıl çalıştığı sorusunun cevabı daha karmaşık ya da anlaşılmaz

hale gelir. Bir organizasyonun YZ aktiviteleri ne kadar gelişir ve karmaşıklaşırsa

kara kutu faktörü de gitgide daha zor bir hale gelecektir.

Yönetişim YZ yönetişimi, organizasyonun tüm YZ aktivitelerini yönlendirmek, yönetmek ve

izlemek için uygulanan yapıları, prosesleri ve prosedürleri tanımlar. Yönetişim

yapısı ve usulleri organizasyonun spesifik karakter özelliklerine göre değişiklik

gösterecektir. YZ yönetişimi:

Hesap verebilirliği, sorumluluğu ve gözetimi sağlar.

Önemli YZ Etik Hedefleri ve Aktiviteleri veya Prosedürleri

Görevlendirme veya Kontrol Hedef(ler)i Aktiviteler veya Prosedürler

Organizasyonun YZ aktivitelerinden elde edilen sonuçların kasti önyargılardan ari olduğu konusunda güvence sağlanır.

YZ aktivitelerinde ulaşılması hedeflenen sonuçlarla (stratejik hedefler) gerçek sonuçlar karşılaştırarak değerlendirilir. Bir sapma saptanması durumunda, bu sapmanın önyargı sebebiyle meydana gelip gelmediği belirlenir.

Organizasyon, YZ çıktılarından “anlam çıkarabilir”.

YZ çıktıları ve bu çıktılardan yola çıkılarak türetilen anlamlar ve ne ifade ettikleri gözden geçirilir.

Önemli Kara Kutu Hedefleri ve Aktiviteleri veya Prosedürleri

Görevlendirme veya Kontrol Hedef(ler)i Aktiviteler veya Prosedürler

Organizasyonun “kara kutu” verilerini (yani, temel algoritmaları, iç fonksiyonları ya da YZ’yi etkinleştiren mekanizmaları) anlayıp anlamadığı veya ne kadar anladığı değerlendirilir.

YZ’nin geliştirme ve uygulama politikaları, süreçleri ve prosedürleri gözden geçirilir ve kara kutu verilerinin tanımlanıp tanımlanmadığı doğrulanır.

YZ sonuçlarından sorumlu olan personelle mülâkat yapılır ve bu personelin kara kutu verilerini anlayıp anlamadığı ve bu verileri açıklayıp açıklayamadığı doğrulanır.

globaliia.org

Küresel Bakış Açıları: Yapay Zekâ III

YZ’den sorumlu personelin gerekli beceri ve uzmanlığa sahip olduğundan

emin olunmasına yardımcı olur.

YZ aktivitelerinin ve YZ-bağlantılı kararların ve eylemlerin organizasyonun

değerleriyle ve etik, sosyal ve kanuni sorumluluklarıyla tutarlığınının

sağlanmasına yardımcı olur.

Yönetişim unsurlarıyla bağlantılı, bu serilerden Bölüm II, IIA’nın Yapay Zeka

Denetim Çerçevesi: Pratik Uygulamalar Bölüm A, hesap verebilirlik, sorumluluk

ve gözetim; mevzuata uygunluk; veri mimarisi ve altyapısı; veri kalitesi konularını

ele alır. Bu doküman performans ölçümü konusunu ele alır.

Performans Ölçümü İç denetim, organizasyonun YZ girişimlerine ilişkin performans ölçme becerisinin

değerlendirilmesi açısından hayati önem taşımaktadır. Planlama aşamasında, iç

denetim yönetime ve yönetim kuruluna; yeterli, güvenilir, konuyla ilgili ve faydalı

bilgilerin sağlanması için ölçütlerin nasıl oluşturulacağı hakkında tavsiyeler verebilir.

Bununla birlikte, iç denetim performans ölçütlerinin oluşturulması veya kendi YZ

performans ölçütleri konusunda sorumlu tutulmamalıdır. YZ uygulanan

organizasyonlarda, iç denetim, YZ ile ilgili birinci savunma hattı kontrolleri ve ikinci

savunma hattı gözetimi konularında güvence sağlamalıdır. İç denetimin YZ üzerinde

ne kadar yetkin olduğunu göstermek için en iyi yol, iç denetimin, YZ’yi denetlemek

için robotik süreç otomasyonu gibi yine YZ’ye ait teknolojileri kullandığını

söylemek olabilir.

Önemli Performans Ölçüm Hedefleri ve Aktiviteleri veya Prosedürleri

Görevlendirme veya Kontrol Hedef(ler)i Aktiviteler veya Prosedürler

YZ ölçütlerinin nasıl oluşturulacağına ilişkin tavsiyeler verilir.

YZ ölçütlerini oluşturacak sorumlu personel için çalışma oturumları düzenlenir. Yeterli, güvenilir, konuyla ilgili ve faydalı bilgi terimlerinin önemi ve anlamı aktarılır.

YZ stres testine tâbi tutularak zayıf noktaları belirlenir.

Ekstrem durum ve senaryolarda, YZ aktivitelerinin nasıl ve ne şekilde yürüyeceğini saptamak için bankacılık endüstrisinde kullanılan stres testi teknikleri uygulanır.

YZ-bağlantılı görevlerin sonuçları bildirilir. YZ-bağlantılı görev sonuçlarının aşağıdaki standartlara uygun olup olmadığı bildirilir.

IIA Standart 2400: Sonuçların Bildirilmesi;

IIA Standart 2410: İletişim Kriterleri;

IIA Standart 2420: İletişim Kalitesi;

IIA Standart 2421: Hata ve İhmaller;

IIA Standart 2430: Use of “İç Denetim Mesleki Uygulaması için Uluslararası Standartlara Uygun şekilde Yürütüldü” ibaresinin kullanımı;

IIA Standart 2431: Görevlerde Aykırıkların Açıklanması ve

IIA Standart 2440: Sonuçların Dağıtılması.

YZ ile ilgili birinci savunma hattı kontrolleri ve ikinci savunma hattı gözetimi konularında güvence sağlanır.

YZ-bağlantılı görevlerin yerine getirilmesi için robotikler ve diğer YZ formları benimsenir.

globaliia.org

Küresel Bakış Açıları: Yapay Zekâ III

Kapanış Görüşleri İç denetim mesleği, bir sonraki dijital sınır sayılabilecek - yapay zekâdan geride

kalamaz. İç denetçiler, hazırlanmak için, YZ’nin esaslarını, iç denetimin oynaması

gereken rolleri ve YZ’nin risk ve fırsatlarını iyice anlamalıdırlar.

Organizasyonun YZ teknolojileri ve aktiviteleri ister şirket-içinde, ister AutoML gibi

bir yardımcı teknoloji yoluyla, isterse de bir üçüncü şahıs tarafından geliştirilmiş

olsun, iç denetim yönetim kuruluna ve üst yönetime tavsiyelerde bulunmaya,

birinci ve ikinci savunma hatlarıyla koordine olmaya ve YZ risk yönetimi,

yönetişimi ve kontrolleri üzerinde güvence sağlamaya hazır olmalıdır. İç

denetçiler, bu zorluklara göğüs gerebilmek için IIA’nın Yapay Zekâ Çerçevesine

başvurmalıdır.

IIA Hakkında

İç Denetçiler Enstitüsü (IIA), iç denetçilik mesleğinin en yaygın tanınan hamisi, eğitimcisi ve standart belirleme, kılavuz çıkarma ve sertifikalandırma kuruluşudur. 1941’de kurulan IIA, günümüzde 170’in üzerinde ülke ve bölgeden 190.000’in üzerinde üyeye hizmet vermektedir. Enstitünün global genel merkezi Lake Mary, Fla., ABD’dedir. Daha fazla bilgi için bakınız www.globaliia.org.

Sorumluluğun Reddi Beyanı

Küresel Bakış Açıları ve Anlayışlar belgesinde ifade edilen görüşler, belgeye katkı yapan münferit şahısların tamamının paylaştığı görüşler olmayabilir.

Telif Hakkı Telif Hakkı © 2018, Institute of Internal Auditors, Inc. Tüm hakları mahfuzdur.

globaliia.org

Küresel Bakış Açıları: Yapay Zekâ III