Al Capones tilgang til anti-vaxxers

De sociale mediers giganter går efter vaccineløgnere og konspiratorer for teknikaliteter. Er der en bedre måde at beskytte sandheden på?

En collage af et forstørrelsesglas og en tekst-chat-ordballon

Getty; Atlanterhavet

I slutningen af ​​august fortalte Reddit-brugere virksomhedens ledelse, at de havde blod på hænderne. Som en del af en organiseret protest, moderatorerne af snesevis af store subreddits eller fora på webstedet, delte et brev fordømmer Reddit for at undlade at handle på den voldsomme spredning af COVID-19 misinformation og tillade konspirations-minded anti-vaccine subreddits at sprede sig. Brevet understregede, at vacciner er sikre, masker er effektive, og socialt distancerende foranstaltninger er nyttige. Subreddits, der udelukkende eksisterer for at sprede medicinsk desinformation og underminere indsatsen for at bekæmpe den globale pandemi, bør forbydes, hedder det.



Reddits administrerende direktør, Steve Huffman, svarede med sit eget åbne brev og bemærkede, at dissens er en del af Reddit og grundlaget for demokrati, og at de, der er uenige med CDC, ikke overtræder webstedets politikker. Kort efter hans indlæg lukkede mange af de moderatorer, der havde delt brevet, deres subreddits i forargelse. (Blackout-protesten inkluderede forummet på 3,3 millioner medlemmer for Pokémon Go, som blev sin egen nyhed .) I sidste ende tog Huffman handling: Den 1. september, Reddit fjernede sin mest berygtede subreddit for anti-vaccine konspirationsteorier, kaldet r/NoNewNormal, og i karantæne – hvilket betyder, dækket med en advarselsskærm og fjernet fra søgeresultaterne – 54 andre, inklusive subreddit dedikeret til det antiparasitære lægemiddel ivermectin . r/NoNewNormal er blevet forbudt! Læs et indlæg i subreddit dedikeret til on-site drama. Diskuter denne dramatiske hændelse her! (Andre fejrede med memes , naturligvis.)

Men Reddits ledelse havde ikke helt imødekommet demonstranternes krav. Moderatorernes brev havde specifikt bedt om særlig opmærksomhed, håndhævelse eller regler omkring misinformation om COVID-19. Det er ikke lige, hvad de fik. Forbuddet mod r/NoNewNormal var ikke på grund af dets brugeres vane med at dele sundhedsmisinformation og desinformation, men snarere for brigadering - det vil sige deres historie med at angribe andre Reddit-fællesskaber med spam eller trolling. De 54 karantæne subreddits blev heller ikke citeret for nogen specifik manipulation af sande fakta, men snarere for at krænke første regel af Reddits indholdspolitik, som beskytter brugere mod mobning, hadefulde ytringer og trusler om vold. Den regel, forklarede en talsmand mig i en e-mail, kan fortolkes til at forbyde spredning af forfalskede helbredsoplysninger, der tilskynder til eller udgør en betydelig risiko for fysisk skade på læseren.

Med andre ord, da Reddit blev konfronteret med et problem, som dens politikker ikke dækkede - misinformation om sundhed - fik Reddit en løsning. Den brugte værktøjer udviklet til en tidligere krise i indholdsformidling, over hadefulde ytringer og chikane, og tilpassede dem til at imødekomme den nuværende. Vi må forvente, at dette drama vil udspille sig igen og igen i de kommende måneder. Platforme, deres brugere og eksperter på sociale medier er stadig i de tidlige stadier af at diskutere, hvordan effektiv indholdsmoderering omkring sundhedsmisinformation skal se ud, og mange af dem ved, at overordnede politikker ville skabe alvorlige problemer og dramatisk begrænse fornuftig debat. Indtil denne spænding er løst, stoler platformene - i betydeligt omfang - på anti-vaccine-aktivisters og COVID-19-konspirationsteoretikeres tilbøjeligheder til at bryde ikke-relaterede, eksisterende regler. I øjeblikket er det den bedste løsning, der findes.


Reddit er berygtet for at have brugt meget, meget lang tid på at beslutte, at det skulle håndtere chikane, hadefulde ytringer og andre former for misbrug på en meningsfuld måde. Platformen var en gratis for alle i mange år , udbredt af kvindehad og racisme, og en god del af brugerbasen måtte gradvist ledes mod politikker, der kunne beskytte nogles tale ved at begrænse andres tale. (Også en masse virkelig hadefulde brugere skulle fjernes .) For mange af dets nuværende brugere burde den nye moderationsdebat – den om sundhedsmisinformation – være mindre kompliceret end det, der kom før. Hvis folk diskuterer, om Bigfoot er ægte, okay. Hvis folk skændes om politiske kandidater, okay, sagde en moderator på det populære rådgivningsforum r/AmITheAsshole ved navn Frank, der – ligesom de andre moderatorer citeret i denne historie – bad om at gå under hans fornavn af bekymring over chikane. Jeg tror, ​​at der er en væsentlig forskel, når det kommer til at stille spørgsmålstegn ved grundlæggende videnskab midt i en global pandemi. Selvom [Reddits ledere] ikke er juridisk ansvarlige, er de bestemt etisk ansvarlige for at tillade ideer, der er farlige for deres brugerbases helbred og liv.

Nogle videnskabelige fakta er sort-hvid, selvfølgelig, men moderatorer kan undervurdere udfordringen med at afgøre, hvilke fakta der er i konkurrencen om en bred politik om sundhedsmisinformation. Chikane er et spørgsmål om værdier – hvad der er for ondt eller for skadeligt, fortalte James Grimmelmann, en professor ved Cornell University Law School, som har skrevet meget om indholdsmoderering. Sundhedsinformation handler om sandhed - hvad er sandheden om, hvordan vira spredes, hvilke stoffer forhindrer dem, hvilke andre foranstaltninger forhindrer dem? At moderere for sandheden er lettere sagt end gjort, fortalte han mig, især når videnskabelige fakta er i færd med at udvikle sig. I begyndelsen af ​​pandemien var sandheden for eksempel, at almindelige mennesker ikke skulle købe masker, fordi vi skulle gemme dem til sundhedspersonale. Den forståelse ændrede sig, sagde Grimmelmann. Platforme ville have gjort skade, hvis de havde modereret det på en lys linje.

I en e-mail-erklæring fremsatte en Reddit-talsmand et lignende argument: Begrebet misinformation kan være vagt og svært at definere, i betragtning af tempoet i ændringerne i vores forståelse af COVID-19, vacciner og vejledning om folkesundhed i løbet af det seneste år, skrev de. .

Reddits moderatorer ser ud til at forstå dette. De erkender, at det er kompliceret at bede virksomheder på sociale medier om at bedømme medicinsk information og kan give sjuskede resultater. Det har forskere og akademikere også påpeget. Robyn Caplan, en ph.d.-studerende ved Rutgers University, kaldte COVID-19 en krise med indholdsformidling sidste år, skrivning , Det, vi skal spørge nu, er, om vi stoler på, at teknologivirksomheder spiller denne rolle med at forene det brugergenererede internet med hierarkier for videnproduktion. Alligevel beder Redditors om ... noget. Da jeg talte med en moderator af Star Trek forum, som bad om at gå under hans brugernavn, Corgana, spurgte jeg, om han mente, at Reddit burde forbyde ethvert fællesskab, hvor folk diskuterede bivirkninger eller fejl ved vacciner. Han insisterede på, at forskellen mellem intellektuel samtale og aktiv skade skulle være indlysende. NoNewNormal var ikke en 'debat om effektiviteten af ​​vacciner' subreddit, sagde han. Det var en subreddit til at skabe propaganda til at sprede sig til andre dele af internettet.

Så måske kunne Reddit bare lave en liste over debunkede vaccine-rygter, som dem NoNewNormal var dedikeret til at forstærke, og fjerne alt det indhold. Reddit kunne vedtage en politik om kendt misinformation, og så skal de bare identificere den misinformation og fjerne den, sagde Grimmelmann. Men det ville være meget arbejde, og det ville være kompliceret på grund af webstedets afhængighed af frivillige moderatorer til at holde deres egne fællesskaber på linje. Reddit havde et værktøj til manuelt at rapportere misinformation, hvilket det ser ud til primært at have brugt til dataanalyse . En talsmand sagde, at de fleste af de rapporter, der blev indsendt gennem det, ikke var meningsfuldt handlingsrettede, og at Reddit nu tilbyder et værktøj til at rapportere indblanding fra samfundet i stedet. (En anden betegnelse, dybest set, for brigadering.) Mere vigtigt, fortalte Grimmelmann mig, en sådan politik ville være kulturelt vanskelig for Reddit at vedtage, givet webstedets historie som et sted for intellektuel og intellektuel debat. Et eksplicit forbud mod misinformation om vacciner ville repræsentere en seriøs gentænkning af, hvad Reddit er og er til.

Reddit-chefens første svar til sine rasende brugere viste respekt for denne kultur: Han bønfaldt samfundet om at have en vilje til at forstå, hvad andre går igennem, selv når deres syn på pandemien er anderledes end dit. Alligevel antydede hans indlæg også, hvordan forskellige synspunkter – hvis de var tilstrækkeligt farlige – kunne modereres på andre måder. Manipulere eller snyde Reddit for at forstærke en mening er mod reglerne, skrev han, ligesom svindel og tilskyndelse til skade. Som sådan kan Reddit faktisk straffe brugere eller fællesskaber, der advokerer for falske vaccinekort eller farlige aktiviteter, der påstås at være COVID-19-kure, såsom at drikke blegemiddel. Virksomhedens efterfølgende svar på protesten, skrevet af et medlem af virksomhedens sikkerhedsteam, præciserede, at dets regler mod personefterligning, bedrageri og manipulation også dækker deling af falske råd fra Verdenssundhedsorganisationen eller CDC eller opdigtede medicinske data. (En talsmand understregede over for mig, at disse kommentarer ikke repræsenterede ændringer af nogen Reddit-politikker eller til, hvordan disse politikker håndhæves.)

Reddit har tidligere udført lignende manøvrer for at træffe vanskelige beslutninger om moderation. I juni 2020 forbød webstedet en subreddit kaldet r/The_Donald, som fremmede voldelig og racistisk politisk retorik. Fordi dets regler mod hadefulde ytringer var vandige og utilstrækkelige på det tidspunkt, støttede virksomheden sig på den samme begrundelse, som den brugte denne måned til at fjerne r/NoNewNormal: r/The_Donald, sagde det, havde engageret sig i brigadering. På samme måde, da Reddit fjernede store QAnon-subreddits i 2018, var det ikke eksplicit på grund af deres vilde konspirationsteorier og fantasier om massemord eller anden problematisk adfærd, der forstyrrede andre brugere. Tværtimod blev de fjernet for doxing - offentliggørelse af en persons identificerende oplysninger mod deres vilje - hvilket er underlagt en stærk standard for afvisning på hele webstedet. (Reddit's indholdspolitik blev væsentligt eftersyn sidste sommer og forbyder nu en bredere vifte af krænkende adfærd.)

Sociale platforme finder det nyttigt at moderere indhold på baggrund af den slags teknikaliteter, fortalte Grimmelmann, fordi de lettere kan forsvare enhver given håndhævelsesafgørelse som den simple anvendelse af en grundregel. En væsentlig del af Facebooks bestræbelser på at dæmme op for anti-vaccineretorik har f.eks. handlet imod koordineret uægte adfærd , som henviser til netværk af falske konti, og koordineret social skade , som refererer til rigtige beretninger, der har en historie med at arbejde sammen for at unddrage sig straf for regelbrud. Men denne tilgang afhænger af, at man venter på, at dårlige skuespillere begår handlingsovertrædelser, selvom de engagerer sig i anden skadelig adfærd. Brugere af disse websteder siger, at det giver grupper tid til at vokse og rekruttere brugere til at sikkerhedskopiere websteder eller endda offline organisationer, før de bliver forbudt.

Deltagerne i Reddit-protesten håbede på noget, der kræver lidt mindre hårkløver. De ønsker en klar tilsagn om, at platformen vil beskytte sine brugere mod ideer, der kan dræbe dem. Hvis de ikke rigtig ved, hvordan det ville se ud i praksis, ved de, hvordan det gør ikke ligner. Mange af moderatorerne var ikke tilfredse med forbuddet mod et uhyggeligt forum på grund af dets anden dårlige opførsel. (Nogle ønskede endda at holde blackout-protesten i gang, indtil de 54 karantænesubreddits også blev forbudt, men de blev nedstemt.) Mange mennesker er skuffede, Ben, en lærer fra Rhode Island, der modererer anti-desinformation subreddit r/ ParlerWatch, fortalte mig. Det er sådan set bare en måde for Reddit at deeskalere situationen og standse protesten, men også undgå at tage fat på hovedproblemet.