Njia Muhimu za Kuchukua
- Twitter inatarajia kutatua kile watumiaji wanachoita upendeleo wa rangi katika programu yao ya kukagua picha.
- Wito wa gwiji wa teknolojia unaweza kuwa hesabu ya kitamaduni ambayo tasnia inahitaji kushughulikia maswala ya utofauti.
- Ukosefu wa utofauti wa Tech unaathiri ufanisi wa maendeleo yake ya kiteknolojia.
Twitter inatazamiwa kuanzisha uchunguzi kuhusu algoriti yake ya upunguzaji picha baada ya kuwa mada inayovuma ambayo ilizua mazungumzo zaidi kuhusu masuala mbalimbali katika tasnia ya teknolojia.
Juggernaut ya mitandao ya kijamii iligonga vichwa vya habari baada ya watumiaji kugundua upendeleo dhahiri wa rangi katika algoriti yake ya onyesho la kukagua picha. Ugunduzi huo ulitokea baada ya mtumiaji wa Twitter Colin Madland kutumia jukwaa hilo kuitaka Zoom kushindwa kuwatambua wenzake Weusi waliotumia teknolojia ya skrini ya kijani kibichi, lakini katika onyesho kubwa la kejeli, alikuta algoriti ya upandaji picha ya Twitter ilifanya vivyo hivyo na kuwanyima upendeleo nyuso za Weusi.
Hakika, ni suala kubwa kwa wachache wowote, lakini nadhani kuna suala pana zaidi pia.
Watumiaji wengine waliingia kwenye mtindo huo na hivyo kuzua mfululizo wa tweets za virusi zinazoonyesha algoriti inayopewa kipaumbele nyuso za watu weupe na wenye ngozi nyepesi, kuanzia watu hadi wahusika wa katuni na hata mbwa. Kushindwa huku ni dalili ya vuguvugu kubwa la kitamaduni katika tasnia ya teknolojia ambayo mara kwa mara imeshindwa kuwajibika kwa makundi madogo, ambayo yameenea katika upande wa kiufundi.
"Inawafanya walio wachache wajisikie vibaya, kama vile si muhimu, na inaweza kutumika kwa mambo mengine ambayo yanaweza kusababisha madhara makubwa zaidi," Erik Learned-Miller, profesa wa sayansi ya kompyuta katika Chuo Kikuu. wa Massachusetts, alisema katika mahojiano ya simu."Baada ya kuamua ni programu gani inaweza kutumika na madhara yote yanayoweza kutokea, basi tunaanza kuzungumza juu ya njia za kupunguza uwezekano wa kutokea."
Canary kwenye Rekodi ya Maeneo Uliyotembelea
Twitter hutumia mitandao ya neva ili kupunguza kiotomatiki picha zilizopachikwa kwenye twiti. Algorithm inapaswa kugundua nyuso za kuchungulia, lakini inaonekana kuwa na upendeleo unaoonekana mweupe. Msemaji wa kampuni hiyo Liz Kelley alitweet kujibu hoja zote.
Kelley alitweet, "shukrani kwa kila mtu aliyeibua hili. tulijaribu upendeleo kabla ya kusafirisha mwanamitindo na hatukupata ushahidi wa upendeleo wa rangi au kijinsia katika jaribio letu, lakini ni wazi kwamba tumepata uchambuzi zaidi fanya. tutafungua chanzo cha kazi yetu ili wengine waweze kukagua na kuiga."
Mwandishi mwenza wa karatasi nyeupe "Teknolojia ya Utambuzi wa Usoni katika Pori: Wito kwa Ofisi ya Shirikisho," Learned-Miller ni mtafiti mkuu kuhusu kupindukia kwa programu ya kujifunza ya AI inayotegemea uso. Amekuwa akijadili athari mbaya inayoweza kutokea ya programu ya kujifunza picha kwa miaka mingi, na amezungumza kuhusu umuhimu wa kuunda hali halisi ambapo upendeleo huu unapunguzwa kwa uwezo wao wote.
Algoriti nyingi za teknolojia ya utambuzi wa uso hutumia seti za marejeleo kwa data, mara nyingi hujulikana kama seti za mafunzo, ambazo ni mkusanyiko wa picha zinazotumiwa kurekebisha tabia ya programu ya kujifunza picha. Hatimaye huruhusu AI kutambua kwa urahisi safu mbalimbali za nyuso. Hata hivyo, seti hizi za marejeleo zinaweza kukosa kundi tofauti, hivyo basi kusababisha matatizo kama yale yanayokumba timu ya Twitter.
"Hakika, ni suala kubwa kwa wachache wowote, lakini nadhani kuna suala pana zaidi pia," alisema Learned-Miller. "Inahusiana na ukosefu wa anuwai katika sekta ya teknolojia na hitaji la nguvu kuu, ya udhibiti ili kuonyesha matumizi sahihi ya aina hii ya programu yenye nguvu inayokabiliwa na matumizi mabaya na unyanyasaji."
Tech Inakosa Utofauti
Twitter inaweza kuwa kampuni ya hivi punde ya teknolojia kwenye kitengo cha kukata, lakini hii ni mbali na tatizo jipya. Uga wa kiteknolojia unasalia kuwa uwanja wenye wazungu wengi, unaotawaliwa na wanaume daima na watafiti wamegundua kuwa ukosefu wa uanuwai husababisha urudufu wa usawa wa kimfumo, wa kihistoria katika programu iliyotengenezwa.
Katika ripoti ya 2019 ya Taasisi ya AI Sasa ya Chuo Kikuu cha New York, watafiti waligundua kuwa Watu Weusi ni chini ya asilimia 6 ya wafanyikazi katika makampuni ya juu ya teknolojia nchini. Vile vile, wanawake wanachangia asilimia 26 pekee ya wafanyakazi katika nyanja hiyo-takwimu chini ya sehemu yao mwaka wa 1960.
Inawafanya walio wachache kujisikia vibaya, kama vile wao si muhimu, na inaweza kutumika kwa mambo mengine ambayo yanaweza kusababisha madhara makubwa zaidi.
Kwa juu juu, masuala haya ya uwakilishi yanaweza kuonekana kuwa ya kawaida, lakini kiutendaji, madhara yanayosababishwa yanaweza kuwa makubwa. Watafiti katika ripoti ya Taasisi ya AI Sasa wanapendekeza kuwa hii inahusiana na masuala ambayo programu mara nyingi hushindwa kuwajibika kwa watu wasio wazungu na wasio wanaume. Iwe ni vitoa sabuni vya infrared vinavyoshindwa kutambua ngozi nyeusi au programu ya Amazon AI kushindwa kutofautisha nyuso za wanawake na wanaume wenzao, kushindwa kushughulikia utofauti katika tasnia ya teknolojia kunasababisha kushindwa kwa teknolojia kukabiliana na ulimwengu tofauti.
"Kuna watu wengi ambao hawajatafakari kuhusu masuala hayo na hawatambui kabisa jinsi mambo haya yanaweza kusababisha madhara na jinsi madhara haya yalivyo makubwa," Learned-Miller alipendekeza kuhusu kujifunza picha kwa AI. "Natumai, idadi hiyo ya watu inapungua!"
