“Kişisel veri ve haklar yapay zekaya karşı korunmalı"

İnsan zekasını taklit edebilen, ona yakınsayan özellikler gösteren teknolojilerin bütününe "yapay zeka” deniyor. Yapay zeka insanların yazdıkları katı kurallardan oluşan programları aşan özerk öğrenme mekanizmalarından oluşuyor. Avrupa Konseyi Parlamenter Meclisi (AKPM), insanı aşan analitik ve kestirim gücüne sahip bu mekanizmaların özellikle bireysel haklar alanında oluşturabileceği risk ve tehditler hakkında bir rapor ve karar hazırlayıp oyladı.

Avrupa genelinde bir ilk olan rapor AKPM Türk heyeti üyelerinden Selin Sayek-Böke tarafından hazırlandı. Aynı zamanda AKPM “Sosyalistler, Demokratlar ve Yeşiller Grubu” Başkan Yardımcısı olan Sayek-Böke, "Yapay Zeka ve Sağlık: Önümüzdeki Tıbbi, Hukuki ve Etik Sınamalar” başlıklı rapor hakkında DW Türkçe'nin sorularını yanıtladı.

DW Türkçe: Üyesi olduğunuz AKPM hangi nedenlerden ötürü yapay zeka ve sağlık konusunda bir rapor hazırlama gereksinimi duydu?

Selin Sayek Böke: Yapay zeka yeni ekonomik düzeni şekillendiriyor. Sağlık hizmetlerinde de bir paradigma değişikliğine yol açıyor. Bu değişim sağlık hizmetlerinde ağırlığın hastalık ve tedaviden, önleyici ve koruyucu sağlık hizmetlerine kaymasına veya tedavi protokollerinde tek-tip çözümlerden kişiye özel tasarlanmış hassas tıbba geçişe yol açıyor. Bu teknolojik gelişmeleri düzenleyen ve denetleyen yasal çerçeve ise teknolojiler kadar hızlı gelişmiyor. Oysa sağlık hizmetlerinde kullanılan yapay zekanın bir temel hak olan sağlık alanında olumlu yanları olduğu kadar, insan haklarını ve halk sağlığını tehdit eden riskleri de var. Dolayısı ile insan haklarını koruyacak çerçevelere ihtiyaç var. Eşitliği merkezine alan bir halk sağlığı anlayışını işlevsel kılacak bir yasal çerçeveye ihtiyaç var. İnsan hakları, demokrasi ve hukukun üstünlüğü Avrupa Konseyi'nin üç temel değeri. AKPM bugünün teknolojik gelişmelerinin insan haklarını gözetecek şekilde düzenlenmesi ve denetlenmesi için ihtiyaç duyulan yasal çerçevelere dair tavsiye kararlar oluşturmakla yükümlü. Bu raporu hazırlama ihtiyacı da buradan doğdu.

Yapay zekanın COVID-19 gibi salgınların öngörülmesi ya da önlenmesinde rol oynayabileceğine dair tartışmalar var. Sizin bu konudaki gözlem ve tespitleriniz nedir?

COVID-19 pandemisi iki önemli hususu su yüzüne çıkardı. Her şeyden önce sağlığın en temel insan haklarından birisi olduğunu, dolayısı ile kamucu bir anlayışla ve kamu tarafından sunulması gereken bir temel hizmet olduğunu anımsattı. İkincisi de pandemiyi yönetebilmek için teknolojik yeniliklerden mümkün olduğunca faydalanmayı, ancak teknolojiden faydalanırken yeniden önemini anımsadığımız hak temelli yaklaşımı da merkeze almamız gerektiğini. Zira hak temelli ve kamucu anlayıştan uzaklaştığımızda ne büyük ekonomik ve sosyal maliyetler ortaya çıktığını bir kez daha bu pandemi döneminde hep birlikte yaşadık, yaşıyoruz.

Pandemi başlamış olan Sanayi 4.0 devrimini de hızlandırdı. Dijitalleşme ve yapay zeka eğitimden sağlığa hayatımızın her alanında çok hızla yer buldu. Hatta yeni normal olduğu iddia edilen düzenin de temeli haline geldiler. Mutlaka bu değişimin insan hakları ve hukukun üstünlüğü temelli düzenin devamını sağlayacak şekilde, yasal düzenlemelerin hızının teknolojinin hayatımıza etki etme hızına yetişmesi gerekiyor. Yani, COVID-19 sadece teknolojinin salgın yönetimi açısından önemini ortaya çıkarmadı, aynı zamanda dijitalleşme sürecini de hızlandıran bir sürece dönüştü. Bu da özellikle yapay zekanın sağlık alanındaki etkilerinin yasal olarak düzenlenmesi ihtiyacının aciliyetini de arttırdı.

"Kişisel verilerin artan otoriterleşmenin aracı olma ihtimali var"

Yapay zeka denince aklımıza hep konunun teknolojik boyutu geliyor... Oysa siz konunun temel hak ve özgürlükler boyutunu gündeme taşıyorsunuz. Konunun pek bilinmeyen bu boyutunu açabilir misiniz?

Yapay zeka teknolojisinin temelinde veri, algoritmalar ve makinelerin öğrenme gücü yatıyor. Kullanılan kişisel verilerimiz. Bizim kişisel verilerimiz yapay zeka teknolojisine sahip şirketlerin kâr elde etmesi için ihtiyaç duyduğu birer girdi. Dolayısı ile yasal düzenleme yapılmadığı takdirde kişisel verilerimiz özel sektörün kâr amacına araç olacak birer mala dönüşüyor. Sadece özel sektörün değil, tüm dünyada devletlerin de izleme ve takip adı altında kişisel verilerin kullanımını artan otoriterleşmenin aracı yapması ihtimali  de endişe yaratıyor. Bu da bu derece hassas kişisel verilerin ve gizliliğinin korunmasını sağlayacak yasal düzenlemelere ihtiyacı doğuruyor.

Bir diğer konu da eşitsizlikler. Yapay zekanın kullandığı veri ve algoritmalar insan eliyle hazırlanıyor, ancak makineler insansız öğrenebilecek kapasiteye de sahipler artık. İnsan eli değen kısımlarda veri ve algoritmaların eşitsizlikleri doğuran yanlılıkları yeniden üretmesine engel olacak yasal düzenlemelere ihtiyaç var. İnsan eli değmeyen kısımlarda ise toplum yararına olmayacak karar ve sonuçların ortaya çıkmasına engel olacak şekilde süreçte insanları tutacak düzenlemelere. Özetle, insan haklarının korunacağı yasal düzenlemeler mutlaka yapay zekanın ortaya çıkarttığı yeni gerçeklikler gözetilerek hızla yapılmalı. Ancak o zaman teknolojiden hak temelli, adil ve eşitlikçi faydalanacağız ve toplumsal refah artacak. Aksi takdirde bu yeni çağın yeni tekellerinin ve otoriter güçlerinin oluştuğuna, bugünün sömürü düzeninin devam ettiğine şahit olacağız.

"Yapay zeka uygulamaları bağımsız kurumlarca denetlenmeli"

Gözlem ve tespitleriniz sonrası Avrupa devletlerine hangi önerilerde bulunuyorsunuz?

Her şeyden önce yapay zekaya özel, küresel yaygınlığı olacak bir uluslararası sözleşme veya benzeri bağlayıcı bir hukuki araç tanımlanması çağrısı yapıyoruz. Bu çalışmalara Avrupa Konseyi’nin tüm gerekli birimlerinin ortaklaşması ve Konsey nezdinde var olan diğer tüm sözleşmelerin de bu kapsamda etkinliklerinin arttırılması yönünde de tavsiyede bulunuyoruz. Ayrıca üye devletlerin ulusal parlamentolarının da katılımıyla yapay zeka teknolojilerinin sağlık hizmetlerinde kullanımına dair kapsamlı etki analizleri ve katılımcı tartışma süreçleriyle bütüncül bir ulusal çerçeve oluşturmalarını tavsiye ediyoruz. Üye devletlerin mutlaka ulusal sağlık hizmetlerinin sağlanmasında kullanılacak yapay zeka uygulamalarını geliştirmek ve kullanmak konusunda aktif rol üstlenmelerini, yapay zeka uygulamalarının bağımsız ve özerk kurumlar tarafından denetlenmesini sağlamalarını ve her adımda mutlaka bireysel hakların ve halk sağlığının korunmasının gözetilmesini tavsiye ediyoruz. Buna imkan verecek, "insan hakları etki değerlendirmeleri”ne dayalı hukuki ve teknik sertifikasyon alternatiflerini değerlendirmeye davet ediyoruz. Tüm üye devletleri yapay zekanın sağlık alanındaki uygulamalarında tüm paydaşların hukuki sorumluluklarının açıkça tarif edildiği hukuki bir çerçeveyi oluşturmaya davet ediyoruz. Aynı zamanda kişisel verilerin korunmasına dönük ek düzenlemelerin de yapılmasını, en önemlisi pandemilerle mücadelenin de kurumsal parçası yapılmasının önemini vurguluyoruz. Son olarak, yeni teknolojilerin var olan sosyo-ekonomik eşitsizlikleri derinleştirmemesi hatta iyileştirmesine dönük, dijital eşitsizlikleri azaltacak altyapı yatırımlarını, dijital ve yapay zeka okur yazarlığın bir halk sağlığı gerekliliği olarak eğitime dahil edilmesini tavsiye ediyoruz.

"Farklı fikirlerin kabul görmediği yerde yenilik ve teknolojik gelişme olamaz"

Bir Avrupa Konseyi üyesi ülke olarak Türkiye yapay zeka ve sağlık tartışmasında nerede duruyor? Türkiye'de neler yapılabilir?

Her şeyden önce yapay zekanın geliştirilebilmesi, uygulanabilmesi için teknolojik gelişmelerin ihtiyaç duyduğu özgürlüklere ihtiyacı var ülkemizin. Farklı fikirlerin kabul görmediği yerde yenilik ve teknolojik gelişme olamaz. Yapay zekanın da ulusal düzeyde geliştirilmemesi ve devlet yönetiminde şeffaflık ve hesap verilebilirlikten uzaklaşılması uluslararası tekellerin kâr güdüsüne teslimiyetten, hak ihlallerinin artmasına pek çok olumsuz gelişmeye imkan sağlıyor. Bu nedenle önce demokrasiyi, özgürlükleri var etmeliyiz ki toplum refahına ve halkın sağlığına katkıda bulunabilecek yapay zeka sistemleri geliştirilebilsin. Yapay zeka geliştirecek ve bu konuda dünya öncüsü olmamızı sağlayacak insan kaynağımız mevcut, ancak potansiyellerini gerçekleştirebilecekleri bir araştırma ve geliştirme ortamı maalesef yok. Ayrıca, yapay zekanın sağlık alanına dönük geliştirilmesi ve kullanılmasında bizim de kurucu üyesi olduğumuz Avrupa Konseyi’nin tüm üye ülkelerine dönük biraz önce ifade ettiğim tavsiye kararlarının mutlaka Türkiye'de de uygulanması gerekir.

Kayhan Karaca / Strasbourg

© Deutsche Welle Türkçe