Çağın en büyük teknolojik icatlarından biri olan yapay zeka, getirdiği yeniliklerle bir arada yarattığı meselelerle da gündemde.
Temelini derin öğrenme (deep learning) ismi verilen bir sistemden alan yapay zeka eserler, internette bulunan mevcut datalardan öğrenerek kendi davranışlarını geliştiriyor.
Mevcut bilgilerde bulunan önyargı ve ayrımcılık üzere istenmeyen özellikleri de öğrenen yapay zeka eserler, geçmişte pek çok skandala da imza atmıştı.
2016 yılında Microsoft tarafından geliştirilen ve twitterde kullanıcılarla etkileşim halinde olması hedeflenen yapay zeka hesap “Tay” çok kısa bir mühlet içinde gerçek kullanıcıların tweetlerinden beslenerek ırkçı ve islamofobik tweetler atmaya başlamış ve bu sebeple Microsoft, Tay’ın tweetlerine müdahale etmek zorunda kalmıştı.
Ayrımcılığın önüne geçme hedefi
Amerikan teknoloji sitesi CNET’te yer alan habere nazaran, Google Üst Yöneticisi (CEO) Sundar Pichai, yapay zekayı besleyen datalarda bulunan ayrımcı ön yargıları engellemek için harekete geçtiklerini bildirdi.
7 Mayıs’ta başlayan ve dün sona eren “Google I/O 2019” konferansında konuşan Pichai, TCAV sistemi ile makine öğrenmesinin çalışma yollarını tahlil ettiklerini ve yapay zekanın karar verme sistemlerindeki açıklarını düzeltmeye çalıştıklarını kaydetti.
Pichai, “TCAV, şayet bir yapay zeka beslendiği bilgilerden ötürü tabip olmak için erkek olmak gerektiği üzere bir ön yargıya sahipse bu yanılgıyı açığa çıkarabiliyor.” sözünü kullandı.
