Ar intelektuali #AI strategija gali įtikinti ES, kad #Facebook turinio sutvarkymas prilygsta svaigalams?

Vasario 17 d. Briuselyje susitikęs su Europos politikos formuotojais „Facebook“ generalinis direktorius Markas Zuckerbergas (nuotraukoje) išleido baltąją knygą, kurioje išdėstė savo strategiją, kaip kovoti su žalingu turiniu socialinės žiniasklaidos platformose. Reaguodamas į Europos Sąjungos norą sustiprinti technologijų sektoriaus priežiūrą, milijardierius pareiškė, kad pramonė turėtų būti reguliuojama pasauliniu, o ne vietiniu lygmeniu.

Jis taip pat teigė, kad technologijų įmonių atsakomybė už žalingą turinį jų platformose turėtų būti ribojama, jei tik jos turi veiksmingas turinio moderavimo sistemas. Tačiau Zuckerbergo pasiūlymai Briuselyje buvo sutikti labai šaltai. Net po susitikimo su Zuckerbergu ES tvirtino, kad naujasis Facebook turinio moderavimo pasiūlymas daugeliu aspektų buvo netinkamas, ypač nenurodė konkrečių veiksmų, kurių platforma imtųsi kovodama su neteisėtu turiniu internete. „To neužtenka. Tai per lėta, per žema atsakomybės ir reguliavimo požiūriu“, – po susitikimo su „Facebook“ vyriausiuoju vadovu teigė duomenų strategijos komisaras Thierry Bretonas.

Kur blogai veikia dabartinė „Facebook“ sistema?

Technologijų milžinai turi gana siaurą langą, per kurį įtikina Europos politikos formuotojus, kad jų pačių pastangų pažaboti probleminį turinį pakanka. Komisijos Skaitmeninių paslaugų aktas – ilgai laukta 20 metų senumo ES elektroninės prekybos direktyvos peržiūra – numatoma išleisti vėliau šiais metais. Kaip pažymėjo Bretonas, „jei pamatysime, kad [„Facebook“ turinio moderavimo procesas] nėra tai, ko mums reikia, atsižvelgiant į mūsų pačių standartus, turėsime tai reguliuoti ir įtraukti į savo [Skaitmeninių paslaugų įstatymą]“.

„Facebook“ yra pasiryžusi, kad pati gali išspręsti turinio moderavimo problemą, naudodama dirbtinio intelekto (AI) ir mašininio mokymosi pažangą, kad sustiprintų savo dabartinę sistemą. Sunki užduotis nustatyti ir pašalinti probleminę medžiagą šiuo metu perduodama trečiųjų šalių specialistams, kurie savo nuožiūra nustato, kodėl vaizdas ar vaizdo įrašas yra nepriimtinas.

Pasikliauti tokia žmogiška priežiūra yra problematiška, atsižvelgiant į siaubingą kai kurių turinio moderatorių pobūdį – faktas, kad darbuotojai, moderuojantys „Facebook“ turinį Lisabonoje, Dubline ir Varšuvoje, patvirtino, kad jų darbas sukėlė PTSD. Europos institucijose. Be to, buvo suabejota žmogaus nuosaikumo veiksmingumu po to, kai „Facebook“ ne kartą nesugebėjo greitai pašalinti žalingo turinio, pavyzdžiui, 2019 m. tiesioginės Kraistčerčo mečetės atakos transliacijos.

AI gali užkimšti kai kurias „Facebook“ akląsias zonas

reklama

Dirbtinis intelektas gali žymiai sumažinti tokią priklausomybę nuo žmogaus nuosaikumo. Mašininio mokymosi būdu parengti algoritmai gali padėti moderatoriams ne tik sumažinti žalingo internetinio turinio poveikį, bet ir padidinti jų produktyvumą bei tikslumą. „Facebook“ teigia iki šiol matęs daug žadančių savo eksperimentų su dirbtiniu intelektu rezultatų – platformos teigimu, per antrąjį 2019 m. pusmetį platforma sugebėjo pažymėti 99.8 % grafinio turinio ir 99.5 % nuogybių ir vaikų išnaudojimo net prieš vartotojams pranešant apie tai. . Žinoma, technologiją vis dar reikia tobulinti – AI pagrįsti turinio moderavimo algoritmai vis dar sunkiai atpažįsta, pavyzdžiui, neapykantą kurstančios kalbos niuansus – tai Europos Sąjungai ypač rūpi problema.

Be to, Europos Sąjunga atsargiai žiūri į tai, kad „Facebook“ galėtų laisvai valdyti tokią jautrią technologiją kaip AI. Šis susirūpinimas pirmiausia kyla dėl prastų Facebook rezultatų, susijusių su Europos skaidrumo standartų laikymusi, o tai kelia pavojų, kad bendrovė gali sukurti „juodosios dėžės algoritmus“, neleidžiančius platformoje atlikti trečiųjų šalių ar vyriausybės auditų.

Skaitmeninės politikos, kurią praėjusią savaitę paskelbė ES skaitmeninės carės ir konkurencijos vadovė Margrethe Vestager, esmė yra reguliavimas, kaip įmonės naudoja dirbtinį intelektą. Nors ES nori, kad vyriausybės stebėtų rizikingesnius aspektus, pvz., veido atpažinimo technologijos naudojimą, daugelis Europos kieme esančių programų demonstruoja, kaip ja galima saugiai ir efektyviai naudoti. Ar „Facebook“ gali paimti iš jų pavyzdį?

Naujos kartos socialinės žiniasklaidos programos daro savo ženklą naujoviškai naudodamos AI

Visų pirma vienoje europietiškoje programėlėje buvo kūrybiškai panaudotas dirbtinis intelektas, kad jauniesiems vartotojams būtų suteikta saugesnė ir malonesnė patirtis. „Yubo“ – tiesioginės transliacijos programėlė, skirta 13–25 metų amžiaus žmonėms, kuri remiasi pusiausvyra tarp sudėtingų algoritmų ir jaunų žmonių švietimo apie žalą internete, kad 20 mln. naudotojų būtų saugūs platformoje. Kruopščiai parengtas algoritmas tiesioginėje transliacijoje aptinka probleminį turinį, pvz., nuogumą ar asmenį su apatiniais drabužiais – būtent tada įsijungia Yubo intervencijos sistema realiuoju laiku, siunčiant įspėjamąjį pranešimą vartotojams, paaiškinant, kodėl toks elgesys yra nepriimtinas. Jei vartotojas nepataiso savo elgesio, srautas gali būti išjungtas nuotoliniu būdu.

Tuo tarpu, siekdama užtikrinti, kad programėlė būtų skirta paaugliams ir jauniems suaugusiems, „Yubo“ bendradarbiauja su populiaria JK skaitmeninės tapatybės teikėja „Yoti“, kuri, naudodama veido atpažinimo programinę įrangą, suderina įkeltus asmens tapatybės dokumentus su vartotojo asmenukėmis. „Yoti“ technologija, kuri taip pat diegiama prekybos centruose, siekiant užtikrinti, kad jaunesni nei 18 metų asmenys nepirktų ribojamų prekių, pvz., cigarečių ar alkoholio, gali būti panaudota kitose socialinės žiniasklaidos programose, siekiant „užkirsti kelią“ savo bendruomenei arba užtikrinti, kad vartotojai kuo jie sakosi.

Yubo bandymai sunaikinti probleminį internetinį turinį pačioje pradžioje – derinant kompiuterinį moderavimą su jaunų naudotojų supratimu apie tai, ką daryti ir ko negalima, naudojant gerą internetinį protokolą – sulaukė didžiulio dėmesio technologijų sektoriuje. Jie taip pat turėtų pateikti padrąsinantį pavyzdį tiek technologijų milžinams, kaip „Facebook“, ir reguliavimo institucijoms, pvz., Europos Sąjungai, kad socialinės žiniasklaidos platformos gali rasti sveiką pusiausvyrą tarp pernelyg priklausomų nuo dirbtinio intelekto arba žmogaus priežiūros.

Dirbtinis intelektas nėra vaistas nuo iššūkių, su kuriais susiduria socialinės žiniasklaidos platformos. Kadangi „Facebook“ siekia įtikinti ES, kad ji gali moderuoti savo turinį, būtų naudinga pasinaudoti naujos kartos programėlėmis, kurios sugebėjo sukurti holistinę strategiją, apimančią AI, kad naudotojai būtų saugūs. .

Pasidalinkite šiuo straipsniu: