Upload
others
View
10
Download
0
Embed Size (px)
Citation preview
Küresel Bakış Açıları: Yapay Zekâ III
KÜRESEL BAKIŞ AÇILARI
VE ANLAYIŞLAR IIA’nın Yapay Zekâ Denetim Çerçevesi
Pratik Uygulamalar, Bölüm B
Özel Baskı
Uluslararası İç
Denetçiler Enstitüsü
Küresel Bakış Açıları: Yapay Zekâ III
İçindekiler Tablosu IIA’nın Yapay Zeka (YZ) Denetim Çerçevesi …………………………………………….1
İnsan Faktörü …………………………………………………………………………………………2
Etik Algoritma Önyargıları Anlam Çıkarma
Kara Kutu ………………………………………………………………………………………………4
Yönetişim ………………………………………………………………………………………………4
Performans Yönetimi …………………………………………………………………………….5
Son Söz ………………………………………………………………………………………………….6
Danışma Kurulu
Nur Hayati Baharuddin, CIA, CCSA,
CFSA, CGAP, CRMA – IIA - Malezya
Üyesi
Lesedi Lesetedi, CIA, QIAL – IIA Afrika
Federasyonu
Hans Nieuwlands, CIA, CCSA, CGAP –
IIA – Hollanda
Karem Obeid, CIA, CCSA, CRMA – IIA
Üyesi – Birleşik Arap Emirlikleri
Carolyn Saint, CIA, CRMA, CPA –
IIA – Kuzey Amerika
Ana Cristina Zambrano Preciado, CIA,
CCSA, CRMA – IIA – Kolombiya
Eski Sayılar
Küresel Bakış Açıları ve Anlayışlar
yayınının eski sayılarına ulaşmak için,
www.theiia.org/gpi.
Okuyucu Geri Bildirimi
Soru ve yorumlarınızı lütfen
adresine gönderiniz.
globaliia.org
Küresel Bakış Açıları: Yapay Zekâ III
Giriş
Bir robotun – ya da en azından onun beyninin – bir etik komitesinin veya
soruşturma komitesinin önüne çıktığı hayal edin. Neden olmasın? The Guardian’a
göre, akademisyenler, robotların kamusal alanlara girmeye ve insanlarla yan yana
çalışmaya başlamasıyla güvenlik tedbirlerine duyulan ihtiyacın daha da arttığını ve
aciliyet arz ettiğini savunmaktadır. Bilim adamları, robotların verdikleri kararları
takip etmeye ve gerektiğinde veya bir kaza vuku bulduğunda, eylemlerinin
sebeplerini açıklamalarına – evet, açıklamalarına – izin verecek bir “etik kara kutu”
takma olanağını bulmaya çalışıyor.
Oxford Üniversitesi profesörleri, robotik firmaların, yaşanan trajik olaylardan
sonra kritik öneme sahip güvenlik derslerinin alınmasını sağlayan ve uçak
kazalarının araştırılmasında kullanılan kara kutu ve kokpit ses kayıt cihazlarının
yerleştirilmesi de dâhil, havacılık endüstrisinin teşkil ettiği örnekleri ve öngördüğü
düzenlemeleri takip etmesi gerektiğini savunmaktadır. Robota monte
edilmiş bir etik kara kutu, robotun kararlarını, bu kararları alma sebeplerini,
hareketlerini ve kamera, mikrofon ve telemetri gibi sensörlerden elde edilen
bilgileri kaydeder.
Bu eylemler, bir Knightscope K5 devriye robotu olan “Steve”’nin görev
başındayken basamaklardan düşmesi ve bir süs havuzuna dalması veya başka bir
K5 robotunun Mountain View, Kaliforniya sokaklarında devriye gezerken 41
yaşında bir adamla park yeri tartışmasına girmesi veya robotik birimin
Stanford’da bir alışveriş merkezinde 16 aylık bir bebeğin üstünden geçmekle
suçlanması gibi kısa bir süre önce gerçekleşmiş kazaların sonucunda ortaya çıkar.
İnsanlar bu kazaları ciddi olmayan hafif yaralanmalarla atlattı.
Backchannel’in editörü Scott Rosenberg bir yazısında: Yapay zeka etiği üzerine
yüzlerce rapor var; ancak, bu raporların çoğu önemli saptamalar içermiyor ve
“insanı” ilk sıraya koymakla ilgili yavan sözlerle dolu, demektedir. Rosenberg,
güvenilir ve adil sonuçlar elde edileceğine ilişkin hiçbir teminat vermeksizin
toplumu YZ hatlarıyla yeniden şekillendirmeye çalışan teknik endüstri konusunda
New York Üniversitesi AI Now Enstitüsü’nün kısa bir süre önce yayımladığı
raporları derlemektedir. Bir raporda şu sonuca varılmaktadır: “Bugüne kadar YZ’yi
etik standartları çerçevesinde tutma çabalarının hepsi suya düşmüştür ve YZ için
çizilen yeni etik çerçevelerin YZ ‘yi tasarladıkları ve görevlendirdikleri gibi
açıklanabilir güçlü endüstriyel, yönetişimsel ve askeri çıkarlar gütmek için
münferit sorumlulukların ötesine geçmesi gerekmektedir.” Yazarların
düşüncelerine göre, YZ sistemleri, polislik, eğitim, sağlık ve “bir algoritma hatasıyla
bir hayatın ziyan olabileceği” diğer ortamlar gibi çeşitli ve savunmasız alanlarda
tanıtılmaktadır.”
IIA’nın Yapay Zeka Denetim Çerçevesi Yapay Zekâ – İç Denetim Mesleğine İlişkin Mülâhazalar başlığı altında açıklandığı
üzere, Yapay Zeka bağlamında iç denetimin rolü “bir organizasyonun kısa, orta ve
uzun vadede değer yaratma becerisi üzerinde yapay zekânın ne ölçüde etkili
Not: Bu yayın, üç bölümlük bir
dizinin üçüncü raporudur.
Daha fazla bilgi için, Yapay Zekâ
– İç Denetim Mesleğine İlişkin
Mülâhazalar ve IIA’nın Yapay
Zekâ Denetim Çerçevesi: Pratik
Uygulamalar Bölüm A ‘ya
bakınız .
globaliia.org
Küresel Bakış Açıları: Yapay Zekâ III
(menfi veya müspet) olacağını değerlendirmek, anlamak ve bildirmek için o
organizasyona yardımcı olmaktır.”
İç denetim fonksiyonunun bu rolü yerine getirmesine yardımcı olmak için, iç
denetçiler, organizasyona YZ ile ilgili uygun görülen danışma, güvence veya karma
danışma/güvence hizmetlerinin sağlanması noktasında IIA’nın Yapay Zeka
Denetim Çerçevesine başvurabilir. Bu çerçeve, YZ Stratejisi, Yönetişim ve İnsan
Faktörü olmak üzere üç kapsayıcı bileşenden ve Siber Esneklik; YZ Yetkinlikleri;
Veri Kalitesi; Veri Mimarisi & Altyapısı; Ölçüm Performansları; Etik ve Kara Kutu
olmak üzere yedi unsurdan oluşmaktadır.
İç Denetim, bu Çerçeveyi uygularken ve organizasyonun YZ faaliyetleriyle ilgili
danışma, güvence veya karma danışma/güvence hizmetlerini sağlarken bir dizi
görevlendirme veya kontrol hedeflerini ve aktivitelerini veya prosedürlerini
dikkate almak durumundadır. Çerçevenin Strateji (Siber Esneklik ve YZ Yetkinlikleri
unsurları) ve Yönetişim (Veri Mimarisi & Altyapısı ve Veri Kalitesi unsurları)
bileşenlerine ilişkin önemli hedefler ve aktiviteler veya prosedürler bu
dokümanda sunulmuştur. Yönetişim (Performans Ölçümü unsuru) ve İnsan
Faktörü (Etik ve Kara Kutu unsurları) bileşenlerine ilişkin önemli hedefler ve
aktiviteler veya prosedürler, üç bölümden oluşan bu dizinin III. Bölümünde
sunulacaktır.
İnsan Faktörü Etik ve Kara Kutu öğelerinin de dâhil olduğu İnsan Faktörü unsuru, Yapay
Zeka’nın beklenen sonuçları elde etme yeteneğinden ödün vermesine neden
olabilecek insan hatası riskini ele alır.
Etik
İnsanların geliştirdiği, insan hatası ve önyargılarıyla (hem kasti olan hem de
olmayan hata ve önyargılar) sakatlanmış bulunan algoritmalar insan hatasının
yapay zekâdan beklenen sonuçların alınması kabiliyeti ve olanağını riske ve
tehlikeye atması riskini de yaratır. İnsan faktörü unsuru:
YZ tasarımına müdahale eden istem dışı insan önyargıları riskinin tespit
edilip edilmediğini ve doğru yönetilip yönetilmediğini;
YZ sonuçlarının asıl amacı yansıttığından emin olmak için YZ’nin etkin bir
şekilde test edilip edilmediğini;
Bir karmaşıklık olması durumunda YZ teknolojilerinin şeffaflık sağlayıp
sağlayamayacağını ve
YZ çıktısının yasal, etik, sorumlu ve duyarlı bir şekilde kullanılıp
kullanılmadığını
değerlendirir.
globaliia.org
Küresel Bakış Açıları: Yapay Zekâ III
Algoritmalar Önyargıları
Son yayımlanan McKinsey & Company raporuna göre, şirketler, iş karar-alma
sürecine makine öğrenmesini uygulamak için acele ediyorlar. Programlar,
karmaşık algoritmaları, geniş çaplı ve sık yenilenen veri kümeleri üzerinde
çalışacak şekilde ayarlar. Bununla birlikte, algoritmik önyargıların oluşması
riskli bir durumdur; çünkü eğer gözden kaçırılırsa ve kontrol edilmemiş bir
şekilde kalırsa, makine öğrenmesinin asıl amacından taviz verilmesine neden
olabilir (bkz. Makine-öğrenme algoritmalarının ve bu algoritmaların maruz
kalabileceği önyargıların kontrol edilmesi).
Örneğin, kredi skorlamasında, aldığı kredileri uzun süredir temerrüde düşmeden
sürdürebilen bir müşteri, genellikle “düşük riskli” olarak kabul edilir. Ancak, bu
değerlendirmede, bu müşterinin kredileri karşılığında verdiği ipotekleri çok büyük
vergisel avantajlar sebebiyle sürdürdüğü ve desteklediği olgusu her zaman gözden
kaçabilir; fakat bu vergisel avantajların da bir gün sona ereceği unutulmamalıdır.
Oysa temerrütlerde keskin bir artışın eli kulağında olabilir ve buna rağmen, krediyi
açan kurumun istatistiksel risk modelinin gözünden kaçmış olabilir. Öte yandan, kanu
uzmanlarına ve doğru veri ve bilgileri erişim hakkına sahip olan öngörücü makine-
öğrenme modelleri, mevcut verilerdeki gizli eğilimleri de tespit edebilir ve bu tür
keskin artışlara karşı gereken önlemi alabilirler. Dahası, işle ilgili kararların dışında,
algoritmik tarafgirlikler de bazı reel problemlere yol açabilen ve yurttaşlar arasında
rahatsızlık yaratan hatalara sebep olabilirler. Örneğin, Google’un Fotoğraf servisi ve
onun gibi diğer hizmetleri, insanları, nesneleri ve olayları izlemek ve tespit etmek
amacıyla kullanılmaktadırlar, fakat örneğin bir kameranın bir ırksal duyarlılık vakasını
ıskaladığı ya da gelecekte işlenebilecek olası suçları önceden kestirmek amacına
yönelik risk değerlendirmeleri için kullanılan bir yazılımın taraf tuttuğu durumlar gibi
korkunç kötü yerlere de çekilebilirler.
Anlam Çıkarma
Makinelerin de yapabileceklerinin bir sınırı vardır ve insanlar YZ çıktılarını
anlamlandırma yeteneğine sahip olmalıdır. McKinsey & Company raporunda da
belirtildiği gibi “YZ devrinde anlam çıkarmak, öncelikle bir makinenin neleri
yapabileceğini ve neleri yapamayacağının ayrımını yapmakla ve bunu takdir
etmekle başlar. Örneğin, bir makine, belirli tiplerdeki hastalıklara bir insandan
daha doğru şekilde teşhis koyması mümkün olabilir. Ancak, hastalığın etkilerini
anlamaları ve hastalığın sonuçlarıyla başa çıkabilmeleri için hastalara yardım
etmek hemşire, doktorlar ve terapistlerin sorumluluğunda olacaktır. Bilgi ve mana
arasındaki fark tam olarak budur.” Kavramların bildiğimiz anlamı ile gerçekte
taşıdıkları anlam arasındaki fark tam olarak budur.” Rapora göre, kodlama, analitik
ve veri bilimi gibi teknik beceriler YZ için kritik önem taşır; bununla birlikte, işbirliği
yapmak, empati kurmak ve anlam çıkarmak gibi sosyal beceriler de YZ için çok
önemlidir (bkz. McKinsey Quarterly pp. 56-61).
IIA’da tanımlanan önemli
hedefler ve aktiviteler veya
prosedürler önceden
saptanmış bir denetim
planından oluşmayıp,
görevlendirme veya kontrol
hedeflerini tanımlamaya ve
YZ denetim faaliyetlerinin
planlanmasına ve
uygulanmasına yardımcı
olması beklenen örnekler
mahiyetindedir.
YZ denetim faaliyetleri IIA
Standardı 2200 : Görev
Planlaması şartlarına uygun
olmalıdır. YZ denetim planları
ve YZ görevlendirme hedefleri
ve prosedürleri her zaman
organizasyonun ihtiyaçlarını
karşılayacak şekilde
hazırlanmalıdır.
globaliia.org
Küresel Bakış Açıları: Yapay Zekâ III
Kara Kutu Merriam-Webster online sözlüğüne göre, bir kara kutu: “İç mekanizması
genellikle kullanıcıdan saklanmış veya kullanıcı için gizemli olan, genellikle karışık
bir cihazdır; geniş anlamda: gizemli veya bilinmeyen iç fonksiyonlara veya
mekanizmalara sahip olan her şey.” anlamına gelmektedir. Organizasyonlar, Tip
III ve Tip IV YZ teknolojilerini – kendi başlarına öğrenebilen veya birbirleriyle
iletişim kurabilen makineleri veya platformları kullanarak - uygulamaya geçtikçe,
bu algoritmaların nasıl çalıştığı sorusunun cevabı daha karmaşık ya da anlaşılmaz
hale gelir. Bir organizasyonun YZ aktiviteleri ne kadar gelişir ve karmaşıklaşırsa
kara kutu faktörü de gitgide daha zor bir hale gelecektir.
Yönetişim YZ yönetişimi, organizasyonun tüm YZ aktivitelerini yönlendirmek, yönetmek ve
izlemek için uygulanan yapıları, prosesleri ve prosedürleri tanımlar. Yönetişim
yapısı ve usulleri organizasyonun spesifik karakter özelliklerine göre değişiklik
gösterecektir. YZ yönetişimi:
Hesap verebilirliği, sorumluluğu ve gözetimi sağlar.
Önemli YZ Etik Hedefleri ve Aktiviteleri veya Prosedürleri
Görevlendirme veya Kontrol Hedef(ler)i Aktiviteler veya Prosedürler
Organizasyonun YZ aktivitelerinden elde edilen sonuçların kasti önyargılardan ari olduğu konusunda güvence sağlanır.
YZ aktivitelerinde ulaşılması hedeflenen sonuçlarla (stratejik hedefler) gerçek sonuçlar karşılaştırarak değerlendirilir. Bir sapma saptanması durumunda, bu sapmanın önyargı sebebiyle meydana gelip gelmediği belirlenir.
Organizasyon, YZ çıktılarından “anlam çıkarabilir”.
YZ çıktıları ve bu çıktılardan yola çıkılarak türetilen anlamlar ve ne ifade ettikleri gözden geçirilir.
Önemli Kara Kutu Hedefleri ve Aktiviteleri veya Prosedürleri
Görevlendirme veya Kontrol Hedef(ler)i Aktiviteler veya Prosedürler
Organizasyonun “kara kutu” verilerini (yani, temel algoritmaları, iç fonksiyonları ya da YZ’yi etkinleştiren mekanizmaları) anlayıp anlamadığı veya ne kadar anladığı değerlendirilir.
YZ’nin geliştirme ve uygulama politikaları, süreçleri ve prosedürleri gözden geçirilir ve kara kutu verilerinin tanımlanıp tanımlanmadığı doğrulanır.
YZ sonuçlarından sorumlu olan personelle mülâkat yapılır ve bu personelin kara kutu verilerini anlayıp anlamadığı ve bu verileri açıklayıp açıklayamadığı doğrulanır.
globaliia.org
Küresel Bakış Açıları: Yapay Zekâ III
YZ’den sorumlu personelin gerekli beceri ve uzmanlığa sahip olduğundan
emin olunmasına yardımcı olur.
YZ aktivitelerinin ve YZ-bağlantılı kararların ve eylemlerin organizasyonun
değerleriyle ve etik, sosyal ve kanuni sorumluluklarıyla tutarlığınının
sağlanmasına yardımcı olur.
Yönetişim unsurlarıyla bağlantılı, bu serilerden Bölüm II, IIA’nın Yapay Zeka
Denetim Çerçevesi: Pratik Uygulamalar Bölüm A, hesap verebilirlik, sorumluluk
ve gözetim; mevzuata uygunluk; veri mimarisi ve altyapısı; veri kalitesi konularını
ele alır. Bu doküman performans ölçümü konusunu ele alır.
Performans Ölçümü İç denetim, organizasyonun YZ girişimlerine ilişkin performans ölçme becerisinin
değerlendirilmesi açısından hayati önem taşımaktadır. Planlama aşamasında, iç
denetim yönetime ve yönetim kuruluna; yeterli, güvenilir, konuyla ilgili ve faydalı
bilgilerin sağlanması için ölçütlerin nasıl oluşturulacağı hakkında tavsiyeler verebilir.
Bununla birlikte, iç denetim performans ölçütlerinin oluşturulması veya kendi YZ
performans ölçütleri konusunda sorumlu tutulmamalıdır. YZ uygulanan
organizasyonlarda, iç denetim, YZ ile ilgili birinci savunma hattı kontrolleri ve ikinci
savunma hattı gözetimi konularında güvence sağlamalıdır. İç denetimin YZ üzerinde
ne kadar yetkin olduğunu göstermek için en iyi yol, iç denetimin, YZ’yi denetlemek
için robotik süreç otomasyonu gibi yine YZ’ye ait teknolojileri kullandığını
söylemek olabilir.
Önemli Performans Ölçüm Hedefleri ve Aktiviteleri veya Prosedürleri
Görevlendirme veya Kontrol Hedef(ler)i Aktiviteler veya Prosedürler
YZ ölçütlerinin nasıl oluşturulacağına ilişkin tavsiyeler verilir.
YZ ölçütlerini oluşturacak sorumlu personel için çalışma oturumları düzenlenir. Yeterli, güvenilir, konuyla ilgili ve faydalı bilgi terimlerinin önemi ve anlamı aktarılır.
YZ stres testine tâbi tutularak zayıf noktaları belirlenir.
Ekstrem durum ve senaryolarda, YZ aktivitelerinin nasıl ve ne şekilde yürüyeceğini saptamak için bankacılık endüstrisinde kullanılan stres testi teknikleri uygulanır.
YZ-bağlantılı görevlerin sonuçları bildirilir. YZ-bağlantılı görev sonuçlarının aşağıdaki standartlara uygun olup olmadığı bildirilir.
IIA Standart 2400: Sonuçların Bildirilmesi;
IIA Standart 2410: İletişim Kriterleri;
IIA Standart 2420: İletişim Kalitesi;
IIA Standart 2421: Hata ve İhmaller;
IIA Standart 2430: Use of “İç Denetim Mesleki Uygulaması için Uluslararası Standartlara Uygun şekilde Yürütüldü” ibaresinin kullanımı;
IIA Standart 2431: Görevlerde Aykırıkların Açıklanması ve
IIA Standart 2440: Sonuçların Dağıtılması.
YZ ile ilgili birinci savunma hattı kontrolleri ve ikinci savunma hattı gözetimi konularında güvence sağlanır.
YZ-bağlantılı görevlerin yerine getirilmesi için robotikler ve diğer YZ formları benimsenir.
globaliia.org
Küresel Bakış Açıları: Yapay Zekâ III
Kapanış Görüşleri İç denetim mesleği, bir sonraki dijital sınır sayılabilecek - yapay zekâdan geride
kalamaz. İç denetçiler, hazırlanmak için, YZ’nin esaslarını, iç denetimin oynaması
gereken rolleri ve YZ’nin risk ve fırsatlarını iyice anlamalıdırlar.
Organizasyonun YZ teknolojileri ve aktiviteleri ister şirket-içinde, ister AutoML gibi
bir yardımcı teknoloji yoluyla, isterse de bir üçüncü şahıs tarafından geliştirilmiş
olsun, iç denetim yönetim kuruluna ve üst yönetime tavsiyelerde bulunmaya,
birinci ve ikinci savunma hatlarıyla koordine olmaya ve YZ risk yönetimi,
yönetişimi ve kontrolleri üzerinde güvence sağlamaya hazır olmalıdır. İç
denetçiler, bu zorluklara göğüs gerebilmek için IIA’nın Yapay Zekâ Çerçevesine
başvurmalıdır.
IIA Hakkında
İç Denetçiler Enstitüsü (IIA), iç denetçilik mesleğinin en yaygın tanınan hamisi, eğitimcisi ve standart belirleme, kılavuz çıkarma ve sertifikalandırma kuruluşudur. 1941’de kurulan IIA, günümüzde 170’in üzerinde ülke ve bölgeden 190.000’in üzerinde üyeye hizmet vermektedir. Enstitünün global genel merkezi Lake Mary, Fla., ABD’dedir. Daha fazla bilgi için bakınız www.globaliia.org.
Sorumluluğun Reddi Beyanı
Küresel Bakış Açıları ve Anlayışlar belgesinde ifade edilen görüşler, belgeye katkı yapan münferit şahısların tamamının paylaştığı görüşler olmayabilir.
Telif Hakkı Telif Hakkı © 2018, Institute of Internal Auditors, Inc. Tüm hakları mahfuzdur.