Skip to content

Algoritmik Önyargı Gençlere Nasıl Zarar Verebilir?

20 de Nisan de 2021

Temel Çıkarımlar

  • Uzmanlar, algoritmik önyargının internette çok fazla zaman geçiren gençler için zararlı olduğunu söylüyor.
  • Twitter kullanıcıları son zamanlarda Siyah yüzlerin beyazlar lehine itlaf edildiği bir sorunla karşılaştı.
  • Araştırmacılar, gençlerin gelişen beyinlerinin, algoritmik önyargının zararlı etkilerine özellikle duyarlı olabileceğini söylüyor.
Klaus Vedfelt / Getty Images
Algoritmik önyargı olarak bilinen bazı teknolojilere eklenen önyargı birçok grup için zararlı olabilir, ancak uzmanlar bunun özellikle gençlere zarar verdiğini söylüyor. Bilgisayar sistemleri önyargılı sonuçlar gösterdiğinde algoritmik önyargı büyüyen bir sorundur. Twitter kullanıcıları kısa süre önce, fotoğrafları kesen bir görüntü algılama algoritması Siyah yüzleri beyaz olanlar lehine kestiğinde platformda bir önyargı örneği buldular. Şirket sorun için özür diledi, ancak henüz bir düzeltme yayınlamadı. Uzmanlara göre bu, gençlerin internete girdiklerinde karşılaştıkları önyargıya bir örnek ve bunu diğer yaş gruplarından daha fazla yapıyorlar. “Çoğu genç, sosyal medya şirketlerinin, kullanıcıların beğeneceğini düşündükleri belirli içeriği tanıtmak için onları yerleştirdiklerinin farkında değil [in order] Duquesne Üniversitesi Hemşirelik Okulu’nda ergenler / üniversite öğrencileri arasında sosyal medya kullanımını inceleyen yardımcı doçent Dr. Mai-Ly Nguyen Steers, bir e-posta röportajında, onların platformda olabildiğince uzun süre kalmalarını sağlamak için “dedi.” Algoritma hakkında bir miktar bilinç olsa bile, yeterince beğeni ve yorum almamanın etkisi hala güçlü ve gençlerin özgüvenini etkileyebilir, “diye ekledi Steers.

Gelişen Beyinler

Rootstrap’ın Baş Veri Bilimcisi Mikaela Pisani, bir e-posta röportajında ​​açıkladığı gibi, algoritmik önyargı, prefrontal korteksleri hala gelişmekte olduğu için gençleri beklenmedik şekillerde etkileyebilir. “Yeterli beğeni ve yorum almamanın etkisi hala güçlü ve gençlerin özgüvenini etkileyebilir.” Pisani, “Gençler, algoritmaların çevrimiçi platformlarda toplumsal kümeler oluşturduğu ve gencin sosyal onay ihtiyaçları karşılanmazsa anksiyete ve depresyona yol açtığı ‘Sosyal Fabrika’ fenomenine karşı özellikle savunmasızlar,” dedi. “Algoritmalar, önceki kusurlu verilere dayalı olarak basitleşir ve bu da kimlik oluşumuna yönelik daha incelikli yaklaşımlar pahasına stereotiplerin aşırı temsil edilmesine yol açar.” ‘yetişkinliğe yolculuklar ve bu sistem bireysel kişisel gelişimi bastırmak yerine destekliyor mu? ”

Uzmanlar, bu sorunlar nedeniyle, algoritmaları tasarlarken gençleri akılda tutma ihtiyacının arttığını söylüyor. Harvard’da doktora öğrencisi olan Avriel Epps-Darling, “Gelişim uzmanlarından, veri bilimcilerinden ve gençlik savunucularından gelen girdilere dayanarak, veri gizliliği ve algoritmik tasarımla ilgili 21. yüzyıl politikaları, ergenlerin özel ihtiyaçları göz önünde bulundurularak da oluşturulabilir.” son günlerde. “Bunun yerine, gençlerin algoritmik ırkçılığa karşı savunmasız olma yollarını küçümsemeye veya görmezden gelmeye devam edersek, zararların gelecek nesiller boyunca yankılanması muhtemeldir.”

Önyargılarla Mücadele

Bir çözüm bulunana kadar, bazı araştırmacılar önyargılı algoritmalarla gençlere verilen zararı azaltmanın yollarını bulmaya çalışıyor. Steers, “Müdahaleler, gençlerin sosyal medya kalıplarının zihinsel sağlıklarını olumsuz yönde etkilediğini ve bunu hafifletmek için stratejiler geliştirmeye (örneğin, sosyal medya kullanımının azaltılması) fark etmelerini sağlamaya odaklandı” dedi. “Görüştüğümüz üniversite öğrencilerinden bazıları, dışarı çıkmak veya yayınlamak istemeseler bile” alakalı “kalmaya devam etmek için içerik üretmeye mecbur olduklarını belirttiler,” diye devam etti. “Ancak, takipçileri veya arkadaşları ile bağlantılarını sürdürmek için içerik üretmeleri gerektiğini düşünüyorlar.”

Nihai cevap, insan önyargısını bilgisayarlardan kaldırmak olabilir. Ancak uzmanlar, programcılar yalnızca insan olduğu için bu zor bir iş, diyor. Robotik firması KODA’nın Baş Teknoloji Sorumlusu John Suit, olası çözümlerden biri, merkezi olmayan ve öğrendiklerini unutacak şekilde programlanmış bilgisayarlar geliştirmek olduğunu söylüyor. Suit bir e-posta röportajında ​​”Merkezi olmayan bir ağ aracılığıyla, veriler ve bu verilerin analitiği birden çok noktadan derleniyor ve analiz ediliyor” dedi. “Veriler, algoritmasının sınırları dahilinde tek bir yapay zeka zihninden değil, yüzlerce veya hatta binlerce işlemden toplanıyor ve işleniyor.” Bu veriler toplanır ve analiz edilirken, eski “sonuçlar” veya gereksiz veriler unutulur. Bu sistem aracılığıyla, önyargı ile başlamış olabilecek bir algoritma, eğer yanlış olduğu kanıtlanırsa, sonunda bu önyargıyı düzeltir ve onun yerini alır. “Önyargı, asırlık bir sorun olsa da, bununla en azından çevrimiçi olarak mücadele etmenin yolları olabilir. Ön yargılarımızdan kurtulan bilgisayarlar ilk adımdır.