Var "Philip Cross" en kunstig intelligens?

Sammen med Brownstone-forfatteren Jennifer Sey, fik jeg ærefuld omtale i Walter Bragmans forpustede Vigtig kontekst: Lækkede e-mails fra Brownstone Institute afslører støtte til børnearbejde, mindreårige rygning. Bragman har valgt at vedhæfte hashtagget #Brownstonefiler i en åbenlys henvisning til Twitter filer, men det er noget mindre virkningsfuldt. På tidspunktet for skrivningen har den i alt to efterfølgende tweets, begge fjendtlige over for Bragman. 

Bragman rapporter at i de lækkede e-mails, som han så, "tilbød Blumen en anekdote om antikrigsaktivistsider, der langsomt over tid blev redigeret af en enkelt, potentielt automatiseret bruger." 

Bragman har ret. Jeg bragte historien om Philip Cross i en intern e-mail på Brownstone-forfatternes liste. Historien er en vigtig historie, som jeg ikke havde tænkt så meget over siden 2018, da den brød først. I lyset af de seneste nyheder ser denne historie helt anderledes ud, end den gjorde for fem år siden. Jeg vil gense den historie i dette aktuelle stykke og følge op med en analyse af, hvordan verden har ændret sig i de sidste fem år. 

Historien brød i 2018, da det tidligere britiske parlamentsmedlem George Galloway, længe kendt for sin anti-krigs synspunkter, råbte en mystisk Wikipedia-redaktør ved navn "Philip Cross" for at lave lidet flatterende ændringer på sin Wikipedia-side. BBC News dækket Galloways ordkrig med en mystisk Wikipedia-editor.

Emnet for Galloways vrede er en produktiv Wikipedia-redaktør, der går under navnet "Philip Cross". Han har været genstand for en kæmpe debat på internetleksikonet – en af ​​verdens mest populære hjemmesider – og også på Twitter. Og han er blevet beskyldt for partiskhed for at interagere, nogle gange negativt, med nogle af de mennesker, hvis Wikipedia-sider han har redigeret.

Philip Cross-kontoen blev oprettet præcis kl. 18:48 GMT den 26. oktober 2004. Siden da har han lavet mere end 130,000 redigeringer på mere end 30,000 sider (sic). Det er et betydeligt beløb, men ikke voldsomt usædvanligt – det er f.eks. ikke nok redigeringer til at placere ham blandt de 300 bedste redaktører på Wikipedia.

Men det er det, han redigerer, som har optaget antikrigspolitikere og journalister. På hans top 10 mest redigerede sider er jazzmusikeren Duke Ellington, avisen The Sun og Daily Mail-redaktør Paul Dacre. Men også i den top 10 er en række højrøstede kritikere af amerikansk og britisk udenrigspolitik: Journalisten John Pilger, Labour-partiets leder Jeremy Corbyn og Corbyns strategidirektør, Seamus Milne.

Hans kritikere siger også, at Philip Cross har foretaget positive redigeringer af sider om offentlige personer, der støtter vestlig militær intervention i Mellemøsten. 

...

"Hans redigeringer er ubarmhjertigt rettet mod folk, der er imod Irak-krigen, som har modsat sig de efterfølgende interventionskrige ... i Libyen og Syrien, og folk, der kritiserer Israel," siger Galloway. 

Mintpress udgivet i en fremragende fordøjelse af kommentarer omkring dette spørgsmål og citerer Ron McKay i Edinburgh Sunday Herald:

Man behøver ikke være konspirationsteoretiker for at se, at der er røde tråde her. Alle disse [målrettede] er… fremtrædende kampagnefolk på sociale medier og i de almindelige medier, der kraftigt sætter spørgsmålstegn ved vores udenrigspolitik. 

Den tidligere britiske ambassadør Craig Murray, også kendt for anti-krigs synspunkter og for sine støtte fra Wikileaks-grundlæggeren Julian Assange, gjorde en lignende pointe: 

[…] formålet med "Philip Cross"-operationen er systematisk at angribe og underminere omdømmet hos dem, der er fremtrædende i at udfordre den dominerende virksomheds- og statsmediefortælling, især i udenrigsanliggender. 

Anti-krigsside medialens.org spurgte: 

Andre bemærkelsesværdige antikrigsstemmer såsom Noam Chomsky, Edward S. Herman (medforfatter til bogen Produktionskonsentration), Og Rania Khalek var også genstand for Cross's ubønhørlige kampagne for skændsel. 

Amb Murray, observerede følgende forbløffende fakta: 

Den uidentificerede redaktør, "kontoen er ansvarlig for 20.4% af alle redigeringer" af Galloways side (som Cross havde redigeret over 1800 gange), sagde BBC, som fortsætter med at detaljere indholdet af specifikke redigeringer, som var helt i den lidet flatterende eller negative retning.

OPDATERING "Philip Cross" har ikke haft én eneste fridag fra at redigere Wikipedia i næsten fem år. "Han" har redigeret hver eneste dag fra 29. august 2013 til 14. maj 2018. Inklusiv fem juledage. Det er 1,721 sammenhængende dages redigering.

Så 133,612 redigeringer af Wikipedia er blevet lavet i navnet "Philip Cross" over 14 år. Det er over 30 redigeringer om dagen, syv dage om ugen. Og det bruger jeg ikke billedligt: ​​Wikipedia-redigeringer er timet, og hvis du plotter dem, er tidskortet for "Philip Cross's" Wikipedia-aktivitet forbløffende, hvis det er en enkeltperson:

Operationen kører som smurt, syv dage om ugen, hver vågen time, uden væsentlig variation.

Amb Murray forudsat følgende graf over "Philip Cross's" produktivitet ved at ændre Wikipedia-sider efter ugedag i gennemsnit over de 14 års aktivitet: 

Hvem er eller var denne Philip Cross? Efter ovennævnte BBC-artikel trak Cross sig tilbage fra sin vandalismekarriere rangeret som nr. 308 blandt de mest aktive Wikipedia-redaktører nogensinde. Hans tidligere Twitter-konto @philipcross63 eksisterer ikke længere. Ingen, der ved, fortæller. Galloway mener at Cross er en "rigtig og sårbar person." 

Amb Murray noter at Galloway på et tidspunkt havde tilbudt en belønning på £1,000 for denne persons eller enheds identitet, "så han kan også tage retslige skridt." MediaLens stater at "BBC Trending har været i stand til at fastslå, at han bor i England, og at Philip Cross ikke er det navn, han normalt går under uden for Wikipedia." Det oplyser Everipedia.org "Cross er en jazz- og dramaentusiast." Jeg formoder, at han nok også godt kan lide lange gåture på stranden og krølle sig sammen foran en åben pejs med en kopi af New York Times. 

Amb Murray tilfører derimod: 

Der er tre muligheder her. "Philip Cross" er enten en meget mærkelig person, eller er en falsk person, der skjuler en betalt operation for at kontrollere wikipedia-indhold, eller er en rigtig frontperson for en sådan operation i hans navn.

,

Min opfattelse er, at Philip Cross nok er en rigtig person, men at han fronter for en gruppe, der handler under hans navn. Det er unægtelig sandt, faktisk har regeringen pralet, at både MOD og GCHQ har "cyberkrig"-operationer, der sigter mod at forsvare den "officielle" fortælling mod alternative nyhedsmedier, og det er netop formålet med "Philip Cross" operation på Wikipedia. Den ekstreme regelmæssighed af output taler imod, at "Philip Cross" enten er en enkeltmands- eller frivilligoperation. Jeg udelukker dog ikke muligheden for, at han virkelig bare er en enkelt ekstremt besat højrefløjsfanatiker.

En Wikipedia-redaktør i en sidekanal udtrykt bekymring at Wikipedias omdømme (som det er) måske var, når lyset blev skinnet på de usædvanlige aktiviteter af "Philip Cross." 

Havde historien en lykkelig slutning? I august 2018, rapporteret af Five Filters, “Wikipedias voldgiftsudvalg (ArbCom) har endelig stemt for ban-redaktør Philip Cross fra emnet 'britisk politik efter 1978'. Men vent – ​​ikke så hurtigt. "I et småligt træk besluttede Wikipedias voldgiftsudvalg imidlertid, at det også ville straffe redaktøren, der forsøgte at advare fællesskabet om Philip Cross' opførsel."

Jeg var opmærksom på Philip Cross-historien, da den brød ud i 2018. Dengang havde jeg ikke en forklaring på den. Det virkede uhyggeligt mærkeligt for mig, og jeg tænkte ikke på bots eller automatisering af naturligt sprog. 

De seneste banebrydende Twitter-afsløringer af eksistensen og massive omfang af et organiseret censur-industrielt kompleks (CIC) gør mistanke om officiel sektorcensur, måske i en tidligere iteration for fem år siden, langt mere plausibel. FiveFilters.org skrev i 2018, "Næsten hele Wikipedia er skrevet af kun 1 procent af dets redaktører." Det samme stykke citerer en Daniel Oberhaus-artikel i Vice fra 2017 om koncentrationen af ​​Wikipedia-redigering:

Men efterhånden som encyklopædien voksede, og antallet af samarbejdspartnere voksede med det, opstod der en kadre af hårdføre redaktører, som har stået for hovedparten af ​​Wikipedias vækst lige siden.

Matei og hans kollega Brian Britt, en assisterende professor i journalistik ved South Dakota State University, brugte en maskinlæringsalgoritme til at gennemgå den kvarte milliard offentligt tilgængelige redigeringslogfiler fra Wikipedias første årti af eksistens. Resultaterne af denne forskning, offentliggjort september som en bog, antyder, at på trods af hele Wikipedias prætention om at være et websted produceret af et netværk af frit samarbejdende jævnaldrende, "nogle jævnaldrende er mere lige end andre."

Det lange stykke på racket.news citerer flere tilfælde af CIC-aktører, der bruger AI og naturlig sprogbehandling. Det Projekt for offentlige goder, For eksempel, 

bruge AI og naturlig sprogbehandling til at 'identificere, spore og reagere på fortællinger, tendenser og presserende problemer' for at 'udføre faktatjek' og 'strategier for magtadfærdsændringer'.

En nylig historie om Igor Chodovs substack, Bill Gates-finansierede AI Chatbots promoverede COVID-vacciner (du er muligvis stødt på dem på sociale netværk) som citerer en nature.com-artikel Effektiviteten af ​​chatbots på COVID-vaccinetillid og accept i Thailand, Hong Kong og Singapore giver flere oplysninger om brugen af ​​bots i tjeneste for at kontrollere fortællinger. 

Den nylige fremkomst af højtydende store sprogmodeller gør ideen om automatisering mere plausibel. Hvis ikke i 2018, kunne en LLM nu nemt omskrive en given tekst for at skrå den i den anmodede retning. 

Var der modeller, der kunne gøre dette på det tidspunkt? Vil fremtidige kampagner til at kontrollere Wikipedia-fortællinger stole på denne teknologi? Hvad er fremtiden for en crowd-sourced videnbase som Wikipedia, der afhænger af de høje omkostninger i menneskelig tid og social interaktion ved at lave en redigering af et kontroversielt emne, når evnen til at automatisere dette gør det tæt på gratis?