"Büyük Birader Sizi İzliyor..."
George Orwell'in 1948 yılında kaleme aldığı 1984 adlı kitabında yer alan bu cümleyi bugün sosyal medyada sıkça duymaya başladık.
İnsanların evlerinde dahi sürekli izlendiği ütopik bir dünyayı anlatan roman, gelişen teknoloji ile gerçeğe dönüşme sürecinde hızlı bir yol kat etti.
Zira Çin'in 2020'nin başında başlattığı kontrol sistemi, kitaptaki ütopik evrenin uygulama alanına dönüştü.
Cep telefonları, tabletler, bilgisayarlar, televizyonlar hatta buzdolaplarının 'akıllandığı' teknoloji dünyası hayatımızı kolaylaştırmaya devam ederken, özel hayatın gizliliği ve veri güvenliği ağır bir tehdit altında.
Dünyanın dört bir yanında insan hakları örgütleri, söz konusu teknolojinin gelecekte daha büyük ihlallere yol açabileceği konusunda hemfikir.
Hatta bu tehdit, günümüzde sinema ve televizyon endüstrileri için de bir ilham kaynağına dönüşmüş durumda.
Cep telefonlarımıza kadar sızan tartışmalı yüz tanıma teknolojisi, dünyanın en büyük teknoloji firmalarının pazarlama stratejisinde ilk sırada yer alıyor.
Ancak bu teknolojiler her zaman aynı yolda ve aynı yönde hareket etmiyor.
Örneğin Deepfake gibi uygulamalar, yüz tanıma teknolojilerinde yaratabileceği yanılsama ile hem kişisel hem ulusal güvenliği tehlikeye atma riski taşıyor.
IBM yüz tanıma pazarından çekildi
Teknolojini yarattığı bu tartışmalar devam ederken, dikkat çeken bir adım dünyanın en büyük bilişim teknolojisi şirketi IBM’den geldi.
IBM'in CEO'su Arvind Krishna ABD Kongresi üyelerine yazdığı bir mektupta şirketin artık yüz tanıma sistemleri satmayacağını açıkladı.
IBM, teknolojinin 'ırksal adaletsizliği ve ayrımcılığı teşvik etmek' için kullanılabileceği endişeleri üzerine pazardan çekildiğini duyurdu.
IBM'in yüz tanıma hizmetlerinden vazgeçme kararı, siyahi bir Amerikalı olan George Floyd'un ABD'nin Minneapolis kentinde polis şiddeti sonucu ölmesi ve olaya yönelik protesto gösterilerinin ardından geldi.
Krishna, "Şimdi yüz tanıma teknolojisinin yerel kolluk kuvvetleri tarafından kullanılması gerekip gerekmediği ve nasıl kullanılacağı konusunda ulusal bir diyaloga başlama zamanının geldiğine inanıyoruz" dedi.
Amazon yüz tanıma hizmetlerine 1 yıl ara verdi
IBM’nin bu adımının hemen ardından dünyanın en büyük internet alışveriş sitesi Amazon’'un teknoloji birimi Amazon İnternet Servisleri (AWS), geliştirdiği yüz tanıma hizmetinin emniyet birimleri tarafından kullanılmasını bir yıl ertelediğini açıkladı.
Bilgilendirmede, "Hükümetlerin yüz tanıma teknolojisinin etik kullanımı için daha güçlü düzenlemeler yapmaları gerektiğini savunduk ve son günlerde Kongre bu zorluğu üstlenmeye hazır görünüyor, istenildiği takdirde bu konuda yardım etmeye hazırız" ifadelerine yer verildi.
Halihazırda, ABD'nin Göç ve Gümrük Muhafaza Kurumu (ICE) başta olmak üzere bazı kurumları tarafından kullanılan yazılım, yüz tanıma analizi kabiliyeti ile de kullanıcı onayı, insan sayısı belirleme ve kamu güvenliği gibi gerekçelerle yüzleri tarayıp karşılaştırabiliyor.
Güvenlik mi, özgürlük mü?
Okan Üniversitesi Öğretim Üyesi Dr. Zeynep Genel, yüz tanıma teknolojisinin yarattığı gerilimleri ve konuyla ilgili yapılan araştırmalarda çıkan korkutucu sonuçları TRT Haber'e değerlendirdi.
Kuruluşların ve devletlerin güvenlik amaçlı kullandıkları algoritmik yüz tanıma sistemlerinin, teknoloji devlerinin gizlilik ve özgürlük manifestolarıyla uyuşmadığında bir çok çatışmaya şahit olduğumuzu söyleyen Zeynep Genel, söz konusu teknolojinin artı ve eksilerinin çatışmasını şu sözlerle anlattı:
"Yüz tanıma teknolojilerinin resmi otoriteler tarafından kullanılmasının kayıp çocukların bulunması, hırsızlık vakaları ile mücadele ve sağlık gibi hayatımıza getireceği birçok faydanın yanı sıra; fişleme ve takip ile insan hakları ihlallerine de yol açabileceği endişesi var. Bu endişe, küresel güçte önemli sermayeye sahip olan IBM, Amazon gibi şirketler için politikalarına ters düşen ciddi sakıncalar sebebiyle tartışmaya neden oluyor."
Yüz tanıma sistemi araştırmalarında korkutan sonuçlar
Yüz tanıma sistemlerinin devletler tarafından kullanılmadan önce özellikle insan hakları açısından sakıncalarının kamuoyu önünde tartışılması ve vatandaşların yalnızca güvenliği için kullanılacağını garanti altına almak amacıyla Algoritmik Adalet Ligi (AJLU) kuruldu.
Genel'in aktardığına göre sektöre yön veren firmalar ve sivil toplum kuruluşlarından oluşan bu ligin 2018 yılında ABD kongre üyeleriyle yaptığı araştırma iyi sonuç vermedi.
“Yüz tanıma sistemi, Kongre üyelerinin 28’ini sabıkalı kişilerle eşleştirdi. MIT Media Laboratuarları tarafından gerçekleştirilen bir araştırma ise, IBM ve Microsoft sistemlerinin ırk, cinsiyet ve etnik köken tanıma konusunda temsil yeteneği olduğunu ele aldı ve sonuç özellikle IBM ve Microsoft’un sisteminin beyazlara tolerans gösterdiğini, diğer gruplarda ise hata yapabildiğini ortaya koydu.”
New York polis departmanı ile bir deney çalışma gerçekleştiren IBM’in aldığı sonuçlar da sistemin ırkçı, cinsiyetçi ve insan haklarını ihlal eden hatalar yapabileceğini göstermişti.
Benzer şekilde Florida ve Oregon polis teşkilatına hizmet sağlayan Amazon ve Çin Halk Cumhuriyetine hizmet sağlayan Microsoft gibi kuruluşlar da kanuni bir düzenleme olmaksızın kullanılmasının, sistemin ciddi suçlara yol açabileceğinde hem fikir.”
Facebook ise uzun zamandır bu konuda sistemlerini geliştirmeye ve korumacı algoritmaları hayata geçirmeye çalışıyor.
Çok sayıda dava gündeme geldi
Yüz tanıma yazılımı sağlayan ve öncelikle kolluk kuvvetleri için çalıştığı iddia edilen Amerikan teknoloji şirketi Clearview AI, hakkında 3 milyardan fazla görüntüye sahip olduğu için 2020’nin başlarında soruşturma başlatıldı.
Clearview o zamandan beri ABD'de çok sayıda gizlilik davasıyla karşı karşıya kaldı.
Sosyal medya devi Facebook ise geçtiğimiz birkaç yılı, yüz tanıma teknolojisinin yetkisiz kullanımı ve veri ihlali hakkında açılan davalarla geçirdi. Şirket, çok sayıda tazminat ödemeye mahkum edildi.
Dünya geçtiğimiz yıllarda bu örneklere benzer çok sayıda ihlale şahitlik etti.
Yüz tanıma sistemi hakkındaki iddialar
IBM'in yüz tanıma sektöründen çekilme kararını TRT Haber'e değerlendiren teknoloji yazarı Özgür Çetin, şirketin bu kararının aslında uzun yıllardır teknoloji firmaları ve kamuoyunda tartışılan bir konunun uzantısı niteliğinde olduğu görüşünde.
"Özellikle ABD merkezli teknoloji devi firmaların bu tarz çözümleri polis teşkilatı tarafından uzun yıllardır kullanılıyor. Örneğin Amazon'un geliştirdiği yüz tanıma teknolojisinin bazı eyaletlerdeki polis teşkilatları tarafından kullanıldığı ortaya çıkmıştı.
Yüz tanıma teknolojisi temelde suçluları ortaya çıkarmak için kullanılıyor olsa da sivil toplum kuruluşları ve kamuoyu kötüye kullanım konusunda endişeli. Ortaya atılan endişelerin başında bu teknolojinin sınırlama olmadan kullanılıyor olması. Yani kimin yüzünü, nasıl tanımlayacağının belirli bir sınırı olmadığı düşünülüyor. Bu da George Orwell'in ünlü romanı 1984'teki Büyük Birader (Big Brother) tarzı yöntemleri çağrıştırıyor."
Bu konudaki eleştirilerin haksız olmadığını söyleyen Çetin, bu verileri sadece yüz tanıma değil aynı zamanda kişilerin dini, siyasi ya da hayat görüşleri ile eşleştirilip bir ülkenin tamamında takip edecek bir sistem haline getirebilen çözümlerin de varlığı olduğu iddiaları bulunduğunu açıkladı.
"IBM’in kararındaki samimiyeti önümüzdeki yıllarda göreceğiz"
Yüz tanıma sisteminin sadece Amazon ya da IBM değil Microsoft gibi dev şirketler tarafından kullanılan ve geliştirilen bir teknoloji olduğunu hatırlatan Çetin'e göre pazarlama ve ticaret için tasarlanan bu teknolojilerin devletler tarafından kontrolsüz kullanımı sadece ABD değil tüm dünya çapında endişe ile karşılanıyor.
"IBM tarafından yapılan bu açıklamanın samimiyetini önümüzdeki yıllarda göreceğiz. Çünkü bu tarz teknolojiler büyük şirketler için önemli bir gelir kapısı ve devletler tarafından geliştirilmesi talep edilen bir teknolojik yenilik.
Özellikle bulut tabanlı bu tarz çözümler ellerinde veri olan şirketler tarafından yoğun olarak kullanılıyor. Perakende, e-ticaret, bankacılık gibi sektörler için yüz tanıma, veri analizi hatta kredi kartı harcamaları üzerinden yapılan analizler daha fazla satış, hedefli pazarlama ve benzeri faaliyetler için kullanılıyor. Büyük şirketler için önemli bir gelir kapısı olan bu teknolojinin kontrollü ve sınırlı kullanılması gerekiyor."
8.9ºC
Ankara
