Avrupa yeni bir ekonomik krize girmemek için yapay zeka (AI) kuralları oluşturuyor?

Sosyal medya bir güven kriziyle karşı karşıya. Avrupa, yapay zekanın da güven kriziyle karşılaşmasını istemiyor.

Avrupa Komisyonu, yapay zekanın toplum yaşamına tamamen yerleşmesinden önce gelişimine yön verecek etik ilkeleri Pazartesi günü açıkladı.

Bu adım, düzenleyicilerin yeni teknolojileri yakalanmaya zorlandığı ve olumsuz sonuçlara yol açtığı modeli değiştirmeyi amaçlıyor.

İngiltere Pazartesi günü internet firmalarını platformlarını zararlı içeriklerden temizlemeleri konusunda sorumlu tutacak yeni kurallar önerdi ve bu da sözkonusu kuralları koymanın önemini gösteriyor.

Yapay zeka kurallarının oluşturulması sürecinde yer alan Avrupa IBM (IBM) Ruhsatlandırma İşlerinden Sorumlu Başkan Yardımcısı Liam Benham "Bu durum binayı inşa etmeden önce temellerini atmaya benziyor... ve bunu yapmanın zamanı geldi" şeklinde konuştu.

Avrupa Birliği bir yandan rekabeti önleyen ve vergi ödemeyen büyük Teknoloji firmalarının peşine düşerek, diğer yandan da geçen yıl dönüm noktası niteliğindeki veri gizliliği yasalarını uygulamaya başlayarak, teknoloji sektörünü düzenleme konusunda küresel lider konumunda bulunuyor.

Kamuoyunun dikkatini çeken ve kötüye kullanılabileceği konusunda ciddi uyarılara yol açan yapay zeka, AB’nin yeni düzenlemeler yaptığı bir alan. Kolay bir konu değil.

Örneğin Google (GOOGL)bir grup çalışanın muhafazakar bir düşünce kuruluşunun başkanının gruptan çıkarılmasını istemesinin ardından, yapay zeka etik konseyini geçen hafta kapattı.

Avrupa Komisyonu yapay zekanın gelişimine yön vermek ve güven oluşturmak için yedi ilke kabul etti. Bu ilkeler bağlayıcı olamamakla birlikte, önümüzdeki yıllarda atılacak ilave adımlara zemin teşkil edebilir.

Şeffaflık çok önemli

Avrupa’nın dijital ekonomiden sorumlu en üst düzey yöneticisi Mariya Gabriel, yapay zekayı kullanan firmaların kamuyouna karşı şeffaf olmaları gerektiğini söylüyor.

"İnsanlar başka bir insan ile değil de bir algoritmayla temas kuracakları zaman bilgilendirilmeli. Algoritmalar tarafından alınacak kararlar doğrulanabilmeli ve açıklanmalı" diyor.

Örneğin, bir algoritmaya dayalı olarak sigorta talebini reddeden bir sigorta şirketi bu kararın neden ve nasıl alındığını müşteriye açıklamalı. İnsanlar devreye girebilmeli ve kararı değiştirebilmeli.

Avrupa Komisyonu gelecekteki yapay zeka sistemlerinin kullanım ömrü boyunca güvenli ve güvenilir olması gerektiğini, verilerin korunmasının öncelik taşıdığını ve kullanıcıların kendi verilerini kontrol edebilmeleri gerektiğini belirtti.

Bu ilkeler sorumluluğu açıkça yapay zekayı oluşturan ve kuranlara yüklüyor.

Gabriel "Bir firma yapay zeka kuruyorsa ondan sorumludur ... bir kaza durumunda bu çok önemli" diyor.

Ayrımcılık yapmama

firmaların yapay zeka sistemlerinin adil olmasını sağlamaları gerektiğini de söyledi.

Gabriel’e göre, örneğin, sadece erkekleri istihdam eden bir firmanın verilerini kullanarak oluşturulan bir algoritma işe alım sürecinde muhtemelen bayanları reddedecektir. Önyargılı verileriniz varsa, bu ciddi bir sorun olabilir.

Kar amacı gütmeyen bir kuruluş olan AlgorithmWatch, “İlkeleri uygulamak iyi bir fikir olsa da, Avrupa’nın yaklaşımın sorun var” diyor.

Grubun eş kurucusu Matthias Spielkamp "Bu ilkeler güvenilir yapay zeka” etrafında yoğunlaşıyor ve bu sorunlu bir durum, çünkü bu iyi tanımlanmış bir terim değil. Kim güvenilir, kim değil?" diyor ve gelecekte denetimin nasıl yapılacağının da henüz net olmadığını belirtiyor.

Mainz Üniversitesi profesörü filozof Thomas Metzinger de bu ilkelerin oluşturulma sürecinde yer aldı, fakat silah geliştirmede kullanılmasını yasaklamadığı gerekçesiyle bu ilkeleri eleştirdi.

Bazıları ise bu ilkelerin inovasyon üzerinde yapacağı etkilerden endişeli.

Sektördeki TechUK adlı bir grubun CEO yardımcısı Antony Walker "Bu ilkelerin taneli olmasının başta küçük ve orta ölçekli firmalar olmak üzere birçok firma tarafından uygulanmasını zorlaştıracağından endişeliyiz” diyor.

Avrupa Birliği şimdi Büyük Teknoloji firmalarıyla bir pilot programda bu ve benzeri sorulara çözüm bulmaya çalışacak.

Ivana Kottasová, CNN Business  |  London (CNN Business)