BM'den yapay zeka kullanımına ilişkin "moratoryum" çağrısı

Birleşmiş Milletler (BM) İnsan Hakları Yüksek Komiserliğinin yapay zeka sistemlerine ilişkin yeni raporu açıklandı.

Rapora ilişkin değerlendirmelerde bulunan Yüksek Komiser Michelle Bachelet, yapay zekanın insan hakları için ciddi risk oluşturduğunu vurguladı.

Satış ve kullanıma ilişkin "moratoryum" çağrısı

Yeterli güvenlik önlemleri alınana kadar yapay zeka sistemlerinin satışı ve kullanımına ilişkin acil bir moratoryum (erteletim) çağrısı yapan Bachelet, uluslararası insan hakları hukukuna uyumlu olmayan yapay zeka uygulamalarının yasaklanması gerektiğini belirtti.

Bachelet, yapay zekanın, günümüzdeki bazı büyük zorlukları aşmak için faydalı olabileceğine dikkati çekerek, "Ancak yapay zeka teknolojileri, bireylerin insan haklarını nasıl etkilediklerine yeterince dikkat edilmeden kullanılırsa olumsuz, hatta yıkıcı etkileri olabilir." uyarısında bulundu.

Raporda Çin'deki uygulamalara atıf

"İnsan hakları riski ne kadar yüksekse, yapay zeka teknolojisinin kullanımına ilişkin yasal gereklilikler de o kadar katı olmalıdır." ifadesini kullanan Bachelet, ancak risklerin değerlendirilmesinin zaman alabileceğinden, devletlerin potansiyel olarak riskli teknolojilerin kullanımına moratoryumlar koyması gerektiğini vurguladı.

Çin'in, insanların duygu durumlarını ortaya çıkarmak için yapay zeka ve yüz tanıma uygulamaları kullanan bilgisayar yazılımını Sincan Uygur Özerk Bölgesi'ndeki Uygur Türkleri üzerinde test ettiği öne sürülmüştü.

BM'nin açıkladığı raporda ise ülke ismi zikredilmezken Çin'deki uygulamalara atıfta bulunuldu.