4 Nisan 2024
Dr. Ayşegül Turupcu, Öykü Zeynep Bayramoğlu
• KoçDigital
Yapay zekâ etiği neden önemli?
Büyük Veri çağında toplum, verilerin analiz edilmesi ve bu analizler sonucunda geliştirilen uygulamalarla şekilleniyor. Veri Bilimi ve Yapay Zekâ, dünyamızı şimdiden önemli ölçüde dönüştürdü. Bu teknolojilerin toplumsal değerler üzerindeki etkilerinin değerlendirilmesi büyük önem taşıyor. Söz konusu uygulamaların faydaları ve olası olumsuz etkileri; kapsamları, etkileri ve geliştirilme yöntemleri açısından bütünsel olarak ele alınmalı.
Üretim, perakende, finans, sağlık, insan kaynakları ve işe alım, müşteri hizmetleri, tarım ve eğitim gibi pek çok alanda kullanılan bu teknolojiler, artık günlük hayatımızın da bir parçası.
Bu gelişmeler ve beraberinde getirdiği endişeler doğrultusunda, Etik Yapay Zekâ (Ethical AI) olarak adlandırılan yeni bir çalışma alanı ortaya çıktı. Etik ilkelere uygun yapay zekâ uygulamalarının sahip olması gereken temel özellikler şöyle sıralanabilir:
Gizlilik ve Güvenlik: Yapay zekâ sistemlerinin kullanım alanları genişledikçe kişisel verilerin ve kritik kurumsal bilgilerin gizliliğini ve güvenliğini sağlamak da giderek zorlaşıyor. Bu ilke, kullanıcıların verilerinin hangi amaçlarla kullanılacağı, nasıl işleneceği ve nerede saklanacağı konusunda açık ve anlaşılır biçimde bilgilendirilmesini esas alıyor.
Şeffaflık: Yapay zekâ sistemleri kurumlara önemli avantajlar sağlayan kararlar üretebiliyor. Ancak bu kararların hangi bileşenlere ve süreçlere dayandığının, sistemin nasıl çalıştığının ve elde edilen çıktıların hangi amaçlarla kullanılacağının açıklanabilir olması gerekiyor.
Güvenilirlik ve Emniyet: Yapay zekâ sistemlerinin hem öngörülen hem de beklenmeyen koşullarda tutarlı, güvenli ve güvenilir şekilde çalışması büyük önem taşıyor. Bu nedenle sistemlerin tasarım aşamasında devreye alınmadan önce test edilmesi, kullanıma alındıktan sonra ise düzenli olarak izlenmesi ve bakımının yapılması gerekiyor. Böylece farklı koşullar altında tutarlı ve güvenilir sonuçlar üretmeleri sağlanabiliyor.
Çeşitlilik ve Adalet: Yapay zekâ sistemleri çeşitliliği, katılımı ve kapsayıcılığı gözetmeli; farklı görüşlerin temsil edilmesini desteklemeli, tüm bireylere eşit yaklaşmalı ve toplumsal eşitliği korumalıdır. Örneğin sağlık hizmetleri, kredi başvuruları veya işe alım süreçlerinde kullanılan yapay zekâ sistemleri; aynı belirtilere, benzer finansal koşullara veya eşdeğer mesleki yetkinliklere sahip kişilere adil ve tutarlı değerlendirmeler sunmalıdır.
Hesap Verebilirlik: Yapay zekâ sistemlerinin nasıl çalıştığı ve ne tür sonuçlar ürettiği konusunda sistemleri tasarlayan ve hayata geçiren kurumlar sorumluluk taşır. Veri koruma standartlarının oluşturulması, olası risklerin belirlenmesi ve bu riskleri azaltmaya yönelik önlemlerin alınması, kurumların hesap verebilirlik yaklaşımının temel unsurlarıdır.
Bu alanda neler yapıldı?

Avrupa Komisyonu'nun desteğiyle hazırlanan Güvenilir Yapay Zekâ yaklaşımı kapsamında, Yapay Zekâ Üst Düzey Uzman Grubu (AI HLEG) ve OECD'nin 36 üye ülkesinin yanı sıra Arjantin, Brezilya, Kolombiya, Kosta Rika, Peru ve Romanya, OECD Yapay Zekâ İlkeleri'ni kabul etti.
Güvenilir bir yapay zekâ yaklaşımı, “sorumlu rekabetçilik” (responsible competitiveness) anlayışının temelini oluşturuyor. Bu yaklaşım, yapay zekâ sistemlerini kullanan veya bu sistemlerden etkilenen tüm paydaşların; sistemlerin tasarım, geliştirme ve kullanım süreçlerinin hukuka uygun, etik ilkelere bağlı ve güvenilir olduğuna duyabileceği güveni esas alıyor.
Henüz hukuken bağlayıcı olmasa da OECD'nin diğer politika alanlarındaki ilkeleri, uluslararası standartların belirlenmesinde ve ülkelerin kendi mevzuatlarını oluşturmasında bugüne kadar önemli ölçüde etkili oldu.
Peki, kurumlar ne yapmalı?
Yapay zekâ etiği yalnızca akademik bir araştırma konusu değil, kurumlar için de önemli bir gereklilik. Veri ve yapay zekâ etiğini iş süreçlerine ve kurumsal uygulamalarına entegre edemeyen şirketlerin geliştirdikleri teknolojilerde sürdürülebilir başarı elde etmesi zorlaşıyor.
Bu yaklaşımın benimsenebilmesi için kurumların etik standartlar oluşturması, olası etik riskleri belirlemesi ve organizasyon genelinde bu riskleri azaltmaya yönelik planlar geliştirmesi gerekiyor. Kurumsal uygulamaların bu yönde geliştirilmemesi; müşterilerin, iş ortaklarının ve çalışanların kuruma duyduğu güvenin zedelenmesine yol açabiliyor.
Capgemini Araştırma Enstitüsü'nün (Capgemini Research Institute) 2020 yılında gerçekleştirdiği Yapay Zekâ Etiği Yönetici Araştırması sonuçlarına göre:
Katılımcıların %71'i yapay zekâ sistemlerinin daha şeffaf ve açıklanabilir olmasını istiyor.
%67'si, yapay zekâ geliştiren şirketlerin sistemlerinin neden olabileceği olumsuz etkiler konusunda sorumluluk üstlenmesini bekliyor.
%66'sı ise yapay zekâ modellerinin adil ve tarafsız olmasını önemsiyor.
Tüm bu bulgular, kullanıcıların ve paydaşların güvenilir yapay zekâ çözümlerine duyduğu ihtiyacı ortaya koyuyor.
KoçDigital olarak bugüne kadar neler gerçekleştirdik?
KoçDigital olarak 2021 yılında, Avrupa Komisyonu'nun Güvenilir Yapay Zekâ için Etik İlkeleri'ni temel alarak kendi yapay zekâ etik ilkelerimizi oluşturduk.
Bu ilkelerin yapay zekâ projelerinde ne ölçüde uygulanabildiğini değerlendirmek amacıyla, farklı yapay zekâ etki değerlendirme yaklaşımlarını kapsamlı biçimde inceledik. Bu çalışmalar sonucunda 2022 yılında İşletmeler için Yapay Zekâ Etik Risk Değerlendirme Rehberi'ni hazırladık.
Rehberin temel amacı, projelerin risk ve etki profilini belirlemek ve olası riskleri azaltmaya yönelik proaktif adımların atılmasını sağlamak.
Bu çalışmayı tamamlayıcı bir adım olarak, Güvenilir Yapay Zekâ Kurumsal Yönetim Süreci'ni geliştirdik. Bu süreçle proje yaşam döngüsü boyunca kurum içi iletişimin güçlendirilmesini ve risklerin düzenli olarak takip edilmesini hedefliyoruz.

