Hvad folk overser i AI-debatten

Det har været interessant at bemærke, hvad der er blevet skrevet om Artificial Intelligence (AI) i de seneste uger, især hvad angår hypen omkring ChatGPT. Så vidt jeg kan vurdere, svarer det meste af dette i det væsentlige til opfattelsen eller frygten for, at AI har overgået mennesker, hvad intelligens angår. Dr Harvey Risch's øjenåbnende konto af hans 'samtale' med en AI har rigeligt vist, at dette er en fejlagtig opfattelse, og alligevel ser det ud til at fortsætte. 

En nylig oplevelse, jeg havde med en ChatGPT-entusiast, formidler det samme indtryk vedrørende den udbredte tro på, at sidstnævnte AGI (Artificial General Intelligence) er den ligeværdige, hvis ikke den overordnede af mennesker i smartness-afdelingen. Det skete i anledning af et foredrag, jeg holdt for medlemmerne af en kulturorganisation om emnet, i hvilket omfang Freuds og Hannah Arendts arbejde kan give indsigt i den aktuelle vækst af lumske totalitære kontrolforanstaltninger globalt. 

En sådan afslørende udvikling er Verdenssundhedsorganisationens forsøg på at berøve lande deres suverænitet ved at ændre dens forfatning. Dette forsøg mislykkedes for to år siden, da afrikanske lande modsatte sig de foreslåede ændringer, men i 2024 vil WHO forsøge igen, efter at have lobbyet kraftigt for afrikanske ledere i mellemtiden.

Efter min tale var der nogen, der relaterede temaet til AI. Specifikt vedrørte dette min påstand om, at Freuds begreber om Eros (livsdrift) og Thanatos (dødsdrift) på den ene side og Arendts forestillinger om fødsel (hvert menneske bringer noget unikt til verden gennem at blive født) og flerhed (alle mennesker er forskellige), kaster på den anden side lys over totalitarismens natur. Det relaterede også til spørgsmålet om, hvorvidt totalitarisme kan opretholdes af dem, der fremmer den. Det viste sig, at han, efter at emnet for mit foredrag var blevet rundsendt, havde bedt ChatGPT om at kommentere det, og bragte AI's 'svar' med til mødet i trykt format for at vise mig.

Forudsigeligt var det for en sproglig mønstergenkendelsesaktiveret og forudsigelig forskningsmaskine med en enorm database (hvilket er hvad ChatGPT virkelig er) ikke svært at pakke præcist ud, hvad de relevante freudianske og arendtianske begreber betyder – enhver studerende kunne finde dette på internettet eller også på et bibliotek. Men hvor AI'en vaklede vedrørte forbindelsen, jeg etablerede mellem disse tænkeres ideer og aktuelle begivenheder, der udspiller sig i det globale rum.

Husk, at jeg havde brugt Freud og Arendts begreber heuristisk i forhold til, hvad der velsagtens er tegn på totalitære 'bevægelser', der foretages i forskellige institutionelle områder i dag. ChatGPT - igen forudsigeligt - gjorde (og velsagtens kunne) ikke uddybe den forbindelse, jeg havde antydet i den cirkulerede titel på mit foredrag, og havde blot 'udtalt', at der var 'et eller andet' forhold mellem disse to tænkeres ideer og totalitarisme.

Årsagen til dette bør være umiddelbart åbenbar. Ingen steder i ChatGPTs database er der nogen information – i form af en læselig fortolkning – af hvilke begivenheder som WHO's vedvarende forsøg på at blive verdens styrende organ (omtalt ovenfor), er symptomatisk for, nemlig et begyndende globalt totalitært regime. For at ChatGPT (eller en hvilken som helst anden kunstig intelligens) skal være i stand til at komme med en sådan 'fortolkning', skal den enten indtastes i sin database af sine programmører – hvilket er usandsynligt, hvis ikke utænkeligt, givet dens underforståede kritik af selve konstellation af kræfter, der gav anledning til ChatGPT's konstruktion – eller AI'en skulle besidde den kapacitet, som alle 'normale' mennesker har, nemlig at kunne fortolke den erfaringsverden omkring dem. Det er klart, at ingen AI har den kapacitet på grund af dens afhængighed af at blive programmeret. 

Min samtalepartner anfægtede dette forklarende svar fra min side og argumenterede for, at ChatGPT viser sin evne til at 'ræsonnere' i hvert 'svar' den kommer med på spørgsmål, man måtte stille. Dette, påpegede jeg, er ikke en nøjagtig beskrivelse af, hvad AI gør. Husk: ChatGPT producerer antropomorfe svar i dagligdags sprog på spørgsmål stillet til det. Det gør den ved at bruge eksempler fundet i de kolossale datasæt, som den har adgang til, og som gør den i stand til at forudsige på hinanden følgende ord i sætninger. Kort sagt: den er i stand til statistisk mønsterfinding i disse enorme databaser ved hjælp af 'machine learning'. 

Det er ikke, hvad ræsonnement er, som enhver studerende, der har studeret logik og filosofihistorie burde vide - som René Descartes argumenterede i det 17.^th århundrede er ræsonnement en kombination af intuitiv indsigt og slutning eller deduktion. Man starter med en intuitiv indsigt – f.eks. at lyset er gået ud – og udleder derfra, at enten har nogen slukket dem, eller også er elforsyningen blevet afbrudt. Eller man kan ræsonnere (ved deduktion) ud fra et sæt af givne (den intuitive indsigt), at en anden er enten sandsynlig eller usandsynlig. På intet tidspunkt har man brug for massive mængder af data, som man scanner for mønstre, der udviser ligheder, og vover sig forudsigelige forudsigelser på det grundlag.

Ikke desto mindre, som man kan konstatere fra dataloger som f.eks Dr Arvind Narayanan, professor i datalogi ved Princeton University, bliver folk (som min samtalepartner) let narret af en AI som ChatGPT, fordi den virker så sofistikeret, og jo mere sofistikerede de bliver, jo sværere ville det være for brugerne at få øje på deres mangler mht. pseudo-ræsonnement såvel som deres fejl.

Som Dr. Narayanan angiver, var ChatGPT's svar på nogle af de datavidenskabelige eksamensspørgsmål, han stillede til det, falske, men de var formuleret på en så besynderlig måde, at deres falskhed ikke umiddelbart var åbenbar, og han var nødt til at tjekke dem tre gange, før han var sikker på, at dette var tilfældet. Så meget for ChatGPT's berømte kapacitet til at 'erstatte' mennesker.

Man skal dog huske, at det, der er blevet diskuteret indtil videre i komparative termer, er emnet, om en AI som ChatGPT fungerer på samme måde som mennesker på intelligensniveauet, hvilket vedrører forskelle som ræsonnement i modsætning til mønstergenkendelse, og så videre. Man kunne selvfølgelig også formulere spørgsmålet i form af mindreværd og overlegenhed, og nogle hævder, at mennesker dukker stadig op at overliste AI, selvom en AI kan udføre matematiske beregninger hurtigere end mennesker. 

Men det er først, når man flytter terrænet, at de grundlæggende forskelle mellem et menneske, set holistisk, og en AI, uanset hvor smart, kan ses i perspektiv. Dette overses for det meste af folk, der engagerer sig i debatten om mennesker i modsætning til 'kunstig' intelligens, af den simple grund, at intelligens er ikke alt der betyder noget. 

For at illustrere, hvad jeg mener, tænk tilbage på, hvad der skete mellem verdensskakmesteren Garry Kasparov og Deep Blue, IBM 'supercomputeren' i 1997. Efter at være blevet besejret af Kasparov i 1996, Deep Blue opnåede den første sejr over et menneske ved en maskine i det følgende år, og så var der også – som med ChatGPT i dag – en universel klagesang over den formodede 'død' af den menneskelige race, repræsenteret ved at Kasparov blev overvundet af en computer ( en AI). 

Ligesom i dag vedrørende ChatGPT var denne reaktion et symbol på den fejl, som langt de fleste mennesker begår, når de bedømmer forholdet mellem AI og mennesker. Normalt udføres en sådan evaluering i form af kognition, ved at vurdere, hvad der er mere 'intelligent' - mennesker eller maskiner. Men man bør spørge, om intelligens var det passende - endsige kun det mest egnede - mål til at sammenligne mennesker og computere (som repræsentative for AI) dengang, og faktisk nu. 

Forståeligt nok blev Kasparovs ydmygelse af maskinen rapporteret overalt på det tidspunkt, og jeg husker, at jeg stødte på en sådan beretning, hvor skribenten viste en stor forståelse for, hvad jeg har i tankerne, når jeg henviser til det rigtige, eller passende målestokke for sammenligning mellem mennesker og AI. Efter at have rekonstrueret de deprimerende detaljer om Kasparovs historiske rute forbi Deep Blue, denne forfatter tyede til en humoristisk, men fortællende lille fantasi.

Efter menneskets symbolske nederlag fabulerede hun eller han, holdet af ingeniører og dataloger, der havde designet og bygget Deep Blue gik ud i byen for at fejre deres epoke triumf. Det ville være forkert at skrive 'deres maskines sejr', for strengt taget var det det menneskelige hold, der scorede en sejr ved hjælp af 'deres' computer.

Punchline var forberedt, da skribenten retorisk spurgte om Deep Bluegik også ud for at male byen rød med lyserød for at nyde dens erobring. Det er overflødigt at understrege, at svaret på dette retoriske spørgsmål er negativt. Det blev efterfulgt af punchline, som sagde det åbenlyse; nemlig at 'mennesker fejrer; computere (eller maskiner) gør ikke.' 

Når man ser tilbage, slår det én, at denne forfatter var en slags visionær, der brugte en fiktion for at fremhæve det faktum, at selvom mennesker og AI deler 'intelligens' (omend af forskellig art), så gør det det. ikke markere de mest åbenlyse, irreducerbare forskelle mellem AI og mennesker. Der er andre, langt mere afgørende forskelle mellem mennesker og AI, hvoraf nogle er blevet udforsket link. , link. .