Habercilik.net

IBM yapay zekanın önyargılarını tespit edecek

Dünyanın en büyük bilişim teknolojisi şirketi IBM, algoritmaların verdiği kararların nasıl ve neden verildiğini anlık olarak analiz edebilecek bir araç geliştirdi.

REKLAM ALANI

(728x90px)

Esnek veya Sabit Ölçü Verebilirsiniz.
IBM yapay zekanın önyargılarını tespit edecek
142 views
22 Eylül 2018 - 13:07
REKLAM ALANI

(300x250px)

Esnek veya Sabit Ölçü Verebilirsiniz.

Google’ın resim algoritmasının Afrika orijinli Amerikalıları “goril” olarak tanımlaması gibi örnekler, yakın gelecekte hayatın her alanında kullanılma ihtimali bulunan bu algoritmaların ne kadar önyargılı olduğunu tartışmaya açmıştı.

Fairness 360 (Adalet 360) isimi verilen araç, yapay zekanın önyargılara sahip olup olmadığının belirtilerini tarayarak ihtiyaç duyulan tertip etmeler ile ilgili tekliflerde bulunacak.

Teknoloji devleri ve diğer şirketler tarafından kullanılan algoritmaların karar verme sürecinde her vakit adaletli olmadığına değin kaygılar son zamanda artıyor.

Mesela kimi yüz tanıma algoritmalarının beyaz yüzleri tanırken siyah yüzleri tanıyamadığı ortaya çıkmıştı.

Bu algoritmalar artık emniyet, sigorta veya internet muhtevaları gibi pek çok alanda kullanıldığı için olası bir önyargının geniş tesirleri olabilir.

Algoritmalar çoğunlukla “kara kutu” mantığına göre işliyor, başka bir deyişle çalışma sürecinde algoritma sahipleri hangi kararın nasıl ve neden verildiğini göremiyor.

IBM’in bulut temelli yazılımı açık kaynaklı ve algoritma geliştirmek için yaygın olarak kullanılan platformlarla uyumlu olacak.

IBM’in arayüzünün bir örneği

Tüketiciler bir arayüz üzerinden algoritmaların nasıl karar verdiğini ve kararı verirken hangi etmenleri değerlendirdiğini görebilecek.

Algoritmanın hata oranı, performansı ve adilliği de incelenebilecek.

IBM’in Bilişsel Analiz eder Birimi Başkan Yardımcısı David Kenny, “Yapay zeka kullanan ve hatalı bir kararın yaratacağı rizikolarla karşı karşıya olan şirketlere saydamlık ve kontrol sağlıyoruz” diyor.

Google’ın geliştirdiği arayüzün kullanımına bir örnek olarak sunulan bu görselde gülen yüzler maviyle, gülmeyenler ise kırmızıyla işaretlenmiş

Diğer teknoloji şirketleri de aynı meseleye benzer analiz eder getirmek için çalışmalar yürütüyor.

Google geçtiğimiz hafta duyurduğu bir araçla kullanıcıların makine öğrenimi modellerinin nasıl çalıştığını görmesine imkan sağlamıştı.

Ama Google’ın geliştirdiği araç gerçek vakitli değil. Bu araç verileri vakit içinde değerlendirerek genel bir tablo sunuyor.

Makine öğrenimi ve algoritmalarda önyargı, yapay zeka topluluğunun son zamandaki ehemmiyetli gündem maddelerinden birini oluşturuyor.

Microsoft ve Facebook da benzer önyargı tespit araçlar geliştirdiklerini izah etmişlerdi.

Problemin bir bölümü, algoritmaların öğrenmesi için sunulan verilerin yeterli çeşitliliğe sahip olmamasından kaynaklanıyor.

Bilgisayarının sadece beyaz bir maske taktığında yüzünü tanıyabildiğini fark eden Massachusetts Institute of Technology talebesi Joy Buolamwini , 2016’da Algoritmik Adalet Birliği (AJL) isimli bir örgüt kurmuştu.

Google, 2015 seneninde resim algoritmasının Afrika orijinli Amerikalıları “goril” olarak tanımlamasının hemen peşinden, “dehşete kapıldıklarını ve içten bir şekilde özür dilediklerini” söylemişti.

2017’de de Liberty isimli insan hakları örgütü İngiltere’de polislerin, suça karışanların cezaevinde tutulup tutulmayacağına konusunda artan bir oranda algoritma kullanmaya başladığını, bu algoritmanın da yalnızca insanların yaşı, cinsiyeti ve adresini temel aldığı ile ilgili bir ikaz yayınlamıştı.

Joy Buolamwini yüzünü tanıyamayan bilgisayarının beyaz bir maske taktığında yüzünü tanıdığını ortaya çıkarmıştı

Dünya Ekonomik Forumu’ndan Kay Firt-Butterfield, yapay zeka ve etik üzerine tartışmaların yoğunlaşmakta olduğunu söylüyor:

“Bir hukukçu olarak, algoritmaların yanlış kararlarını ortaya çıkarma yolları ile ilgili yapılan tartışmaları harbiden alaka çekici buluyorum.

“Önyargıdan söz ederken ilk endişelendiğimiz konu bu algoritmaları yaratanların çoğunun genç beyaz insanlar, genelde de erkekler olması. Bu yüzden Batı’da endüstriyi daha çeşitli hale getirmemiz gerekiyor.”

REKLAM ALANI

(728x90px)

Esnek veya Sabit Ölçü Verebilirsiniz.
REKLAM ALANI

(336x280px)

Anasayfa Sağ Bloka Esnek veya Sabit ölçülerde SINIRSIZ reklam alanını şablon olarak ekleyebilirsiniz. Şuan örnek olarak sadece 2 reklam kullanıldı.

short haircutsshort hairstylesshort haircuts for black womenshort haircuts for women

Sitemizde yayınlanan haberlerin telif hakları gazete ve haber kaynaklarına aittir, haberleri kopyalamayınız.

Çanakkale escortTrabzon escortÇorum escortErzurum escortZonguldak escortİzmir masaj salonuİstanbul masaj salonu
Tekirdağ escort bayanKütahya escort bayanYalova escort bayanÇanakkale escort bayanBalıkesir escort bayanAydın escort bayanManisa escort bayanMuğla escort bayanAfyon escort bayanTokat escort bayanSivas escort bayanTrabzon escort bayanOrdu escort bayanAmasya escort bayanAntalya escortArdahan escortAnamur escortAnkara mutlu son masaj
kartal escortfrankfurt escortkepez escortmersin escort Manisa mutlu sonSakarya mutlu sonMuğla mutlu sonOrdu mutlu sonYozgat mutlu sonSakarya escortVan escortTekirdağ escortKonya escortElazığ escort