Sociálne médiá Trolling: Ako A.I. Je stále lepší v predvídaní Shitposts

Internet je hellscape prevádzkované trolls a ovládané márne Facebook argumenty alebo horšie. A zatiaľ čo giganti sociálnych médií na celom webe konečne, neochotne začali zavádzať silnejšie úsilie, aby sa pokúsili odrádzať od hanlivého dialógu, tieto riešenia majú tendenciu byť reaktívne, inými slovami prichádzajú po tom, čo už boli škody spôsobené.

Potom by nemalo byť prekvapením, že výskumníci umelej inteligencie dychtivo vyvíjajú systémy, ktoré dokážu predvídať online argument predtým, než sa stane. Ale ako tím výskumníkov z Cornell University nedávno vysvetlil inverzný, táto naliehavo potrebná inovácia nie je taká vzdialená od toho, aby sa snažila povedať budúcnosť.

„V minulosti sa pracovalo na zistení, či je daný komentár toxický,“ hovorí Ph.D. Jonathan Chang. „Náš cieľ je trochu odlišný, chceme vedieť, či je možné predpovedať, či sa v budúcnosti občianska konverzácia niekedy vymaní z rúk. Ak chcete preskúmať túto otázku, pozeráme sa na rozhovory medzi redaktormi Wikipédie, z ktorých niektoré zostávajú občianske a iné sa vymknú z rúk. “

Chang a jeho kolegovia analyzovali stovky správ zasielaných medzi niekedy ľahko podráždenými kurátormi Wikipédie. Oni potom použili 1 270 konverzácií, ktoré sa urážlivo obrátili na tréning strojového učenia v snahe o automatizáciu tohto druhu moderovania. Ich výsledky boli publikované v dokumente, ktorý bol prezentovaný na výročnej schôdzi Asociácie pre výpočtovú lingvistiku 15. júla.

Tak ako to robil bot? Našťastie nie je príliš otrhaný. To skončilo 65 percent presné, o niečo nižšie ako 72 percent úspešnosť ľudí. Výskumníci našli túto štatistiku vytvorením online kvízu, kde si ľudia mohli otestovať svoje zručnosti moderovania komentárov. Ukázalo sa, že je dosť ťažké zistiť, či užívatelia sociálnych médií budú buď divokí, alebo zostanú občianski.

„Myšlienkou je ukázať, že úloha je ťažká, ale nie nemožná - ak by ľudia dostali iba 50-percentnú presnosť, napríklad by to nebolo o nič lepšie ako náhodné hádanie a nebol by dôvod myslieť si, že by sme mohli trénovať stroj na prácu. lepšie, “hovorí Chang. „Porovnanie nášho modelu s ľudskými reakciami nám poskytlo určitý pohľad na to, ako je podobný, alebo odlišný, náš výpočtový prístup k ľudskej intuícii.“

Chang neverí, že by to zbavilo internet diskusií o odpadkoch, ale vidí to ako spôsob, ako pomôcť moderátorom ľudských sociálnych médií. Namiesto toho, aby museli venovať pozornosť miliónom komentárov, ktoré môžu byť zaúčtované za deň, ich algoritmus dokáže identifikovať stovky tých, ktorým hrozí, že sa zmenia na argument.

Aj keď by si človek mohol myslieť, že česanie cez všetky tieto potenciálne nepredvídateľné hádky by Changovi prinieslo záchvat smútku, vedec hovorí, že skúsenosť mu skutočne dala nádej pre ľudstvo.

„V týchto dňoch je v okolí online konverzácií veľa pesimizmu, ale to, čo vidíme, je, že dokonca aj v prípadoch, keď konverzácia začína nepriateľským spôsobom, je tu stále šanca pre účastníkov, aby mali druhé myšlienky, zmenili svoje rozhovor na ceste k jasnejšiemu výsledku, “hovorí. „Budúcnosť nie je v kameni.“

Možno je po tom všetkom nádej pre internet.