Njia Muhimu za Kuchukua
- Utafiti mpya unaonyesha kuwa watu hawawezi kutenganisha picha zinazozalishwa na AI na halisi.
- Washiriki walikadiria picha zinazozalishwa na AI kuwa za kuaminika zaidi.
- Wataalamu wanaamini kuwa watu wanapaswa kuacha kuamini chochote wanachokiona kwenye mtandao.
Msemo wa 'kuona ni kuamini' haufai tena linapokuja suala la mtandao, na wataalamu wanasema hautakuwa bora wakati wowote hivi karibuni.
Utafiti wa hivi majuzi uligundua kuwa picha za nyuso zinazozalishwa na akili ya bandia (AI) hazikuwa za uhalisia wa hali ya juu tu, bali pia zilionekana kuwa na adabu zaidi kuliko nyuso halisi.
"Tathmini yetu ya uhalisia wa picha wa nyuso zilizosanifiwa na AI inaonyesha kuwa injini za usanisi zimepitia bonde la ajabu, na zina uwezo wa kuunda nyuso zisizoweza kutofautishwa na zinazoaminika zaidi kuliko nyuso halisi," watafiti walibaini.
Huyo Mtu Hayupo
kampeni za kupotosha habari.
"Labda hatari zaidi ni matokeo kwamba, katika ulimwengu wa kidijitali ambapo picha au video yoyote inaweza kughushiwa, uhalisi wa rekodi yoyote isiyofaa au isiyokubalika inaweza kutiliwa shaka," watafiti walidai.
Waliteta kuwa ingawa kumekuwa na maendeleo katika kubuni mbinu za kiotomatiki za kugundua maudhui ya uwongo, mbinu za sasa si bora na sahihi vya kutosha ili kuendana na mtiririko wa mara kwa mara wa maudhui mapya yanayopakiwa mtandaoni. Hii inamaanisha kuwa ni juu ya watumiaji wa maudhui ya mtandaoni kubainisha halisi kutoka kwa bandia, wawili hao wanapendekeza.
Jelle Wieringa, mtetezi wa masuala ya usalama katika KnowBe4, alikubali. Aliiambia Lifewire kupitia barua pepe kwamba kupambana na bandia halisi zenyewe ni ngumu sana kufanya bila teknolojia maalum. "[Teknolojia za kupunguza] inaweza kuwa ghali na ngumu kutekeleza katika michakato ya wakati halisi, mara nyingi kugundua bandia ya kina baada ya ukweli."
Kwa dhana hii, watafiti walifanya mfululizo wa majaribio ili kubaini kama washiriki binadamu wanaweza kutofautisha nyuso zilizosanisishwa za hali ya juu na nyuso halisi. Katika majaribio yao, waligundua kuwa licha ya mafunzo ya kusaidia kutambua bandia, kiwango cha usahihi kiliongezeka hadi 59%, kutoka 48% bila mafunzo.
Hii iliwafanya watafiti kutathmini iwapo mitazamo ya uaminifu inaweza kuwasaidia watu kutambua picha ghushi. Katika utafiti wa tatu, waliwauliza washiriki kukadiria uaminifu wa nyuso, na kugundua kuwa wastani wa ukadiriaji wa nyuso za sintetiki ulikuwa 7.7% inaaminika zaidi kuliko ukadiriaji wastani wa nyuso halisi. Huenda nambari isisikike kama nyingi, lakini watafiti wanadai kuwa ni muhimu kitakwimu.
Uongo Zaidi
Feki za kina kirefu tayari zilikuwa tatizo kuu, na sasa maji yamechafuliwa zaidi na utafiti huu, ambao unapendekeza kuwa picha ghushi za hali ya juu zinaweza kuongeza mwelekeo mpya kwa ulaghai wa mtandaoni, kwa mfano, kwa kusaidia kuunda zaidi. wasifu bandia unaoshawishi mtandaoni.
"Jambo moja linalokuza usalama wa mtandao ni imani ambayo watu wanayo katika teknolojia, michakato na watu wanaojaribu kuwaweka salama," Wieringa alishiriki. "Uwongo wa kina, haswa unapogeuka kuwa picha halisi, hudhoofisha uaminifu huu na, kwa hivyo, kupitishwa na kukubalika kwa usalama wa mtandao. Inaweza kusababisha watu kutokuwa na imani na kila kitu wanachokiona."
Chris Hauk, bingwa wa faragha wa mteja katika Faragha ya Pixel, alikubali. Katika mazungumzo mafupi ya barua pepe, aliiambia Lifewire kwamba uwongo wa kina wa picha unaweza kusababisha "uharibifu" mtandaoni, hasa siku hizi ambapo aina zote za akaunti zinaweza kufikiwa kwa kutumia teknolojia ya kitambulisho cha picha.
Kitendo cha Kurekebisha
Shukrani, Greg Kuhn, Mkurugenzi wa IoT, Prosegur Security, anasema kuwa kuna michakato ambayo inaweza kuzuia uthibitishaji kama huo wa ulaghai. Aliiambia Lifewire kupitia barua pepe kwamba mifumo ya uthibitishaji inayotegemea AI inalingana na mtu aliyeidhinishwa dhidi ya orodha, lakini nyingi zina ulinzi uliowekwa ndani ili kuangalia "uhai."
"Mifumo ya aina hii inaweza kuhitaji na kuelekeza mtumiaji kutekeleza majukumu fulani kama vile kutabasamu au kugeuza kichwa chako upande wa kushoto, kisha kulia. Haya ni mambo ambayo nyuso zilizozalishwa kwa takwimu hazingeweza kufanya," alishiriki Kuhn.
Watafiti wamependekeza miongozo ya kudhibiti uundaji na usambazaji wao ili kulinda umma dhidi ya picha za syntetisk. Kwa kuanzia, wanapendekeza kujumuisha alama za maji zilizokita mizizi ndani ya mitandao ya usanisi wa picha na video zenyewe ili kuhakikisha midia sanisi inaweza kutambuliwa kwa uhakika.
Hadi wakati huo, Paul Bischoff, mtetezi wa faragha na mhariri wa utafiti wa infosec katika Comparitech, anasema watu wako peke yao."Watu watalazimika kujifunza kutowaamini watu mtandaoni, kama vile sisi sote (tunatumai) tumejifunza kutoamini majina ya maonyesho kwenye barua pepe zetu," Bischoff aliiambia Lifewire kupitia barua pepe.
