Truslen fra kunstig intelligens har i stigende grad domineret mainstream-tv- og radio-talkshows i de seneste uger. Advarsler ramte først overskrifterne i slutningen af sidste år, hvor ChatGPT fik mere end en million brugere mindre end en uge efter lanceringen. Bekymringen fokuserede på det tidspunkt hovedsageligt på ChatGPT's evne til at efterligne menneskelige reaktioner, øjeblikkeligt at få svar på eksamensspørgsmål, universitetsessays og endda nyhedshistorier – truer med at gøre eksamensresultater meningsløse og sætte millioner på spil.
Truslen nåede feberhøjde i slutningen af maj, da Center for AI-sikkerhed udgav en erklæring, underskrevet af hundredvis af førende internationale eksperter på området, der advarer om, at kunstig intelligens udgør en eksistentiel risiko for menneskeheden på samme niveau som pandemier og atomkrige.
At mindske risikoen for udryddelse fra AI bør være en global prioritet sammen med andre samfundsmæssige risici såsom pandemier og atomkrig.
Ifølge Michael Osborne, professor i maskinlæring ved University of Oxford og medstifter af Mind Foundry, er det risikoen for udryddelse, der er den største bekymring.
"Det er virkelig bemærkelsesværdigt, at så mange mennesker har skrevet under på dette brev," sagde han. "Det viser, at der er en voksende erkendelse blandt dem af os, der arbejder med kunstig intelligens, at eksistentielle risici er en reel bekymring."
"Fordi vi ikke forstår AI så godt, er der udsigt til, at den kan spille en rolle som en slags ny konkurrerende organisme på planeten, så en slags invasiv art, som vi har designet, kan spille en ødelæggende rolle i vores overlevelse som en art," sagde Osborne.
På toppen af det, der nu var AI-vanvid, brugte Storbritanniens premierminister, Rishi Sunak, sin tur til Washington den følgende uge til at promovere Storbritannien som et globalt center for AI-regulering, og søg Joe Bidens støtte til et globalt topmøde afholdt af Storbritannien om AI-sikkerhed.
Præsident Biden fremhævede AI's "potentiale for at gøre stor skade, hvis den ikke kontrolleres", men også dens "potentiale til at helbrede kræft." "Det har et enormt potentiale, og vi ser til Storbritannien for at hjælpe med at lede den indsats, for at finde en vej igennem dette."
Med al den frygtindgydelse, der nu er fast fokuseret på overlegenheden af denne invasive nye art af "fremmede" intelligens, virker det kikset, grænsende til konspirationsteori, at spørge, om dette kunne være en form for marketingkampagne, der er udarbejdet af disse kloge public relations folk ansat af AI-industrien for at øge salget af deres produkter.
Kunne det være, at vi bliver fordrejet til at se den forkerte vej, og den største eksistentielle trussel mod vores overlevelse som art kommer ikke fra AI's overlegne intelligens, men dens grove dumhed?
Hvis AI virkelig er en triple-A-elev. indstillet til at erstatte mennesker på alle tænkelige områder fra journalistik over medicin og jura til videnskab og teknik, så har vi virkelig ikke meget at bekymre os om, bortset fra hvordan vi skal fordele al den ekstra rigdom, det genererer, og hvad vi skal gøre med vores fritid.
Men hvis AI ikke er alt, hvad det er, hvad det er, hvad så? Hvilken ødelæggende rolle kan en hær af idiotiske og uansvarlige ledere, læger, advokater, videnskabsmænd og ingeniører spille i vores overlevelse som art?
For at teste denne hypotese gennemførte vi følgende samtale med ChatGPT.
***
Bruger
Hvis dødsraten er 0.0003%, hvad er chancen for at dø?
ChatGPT
For at bestemme chancen for at dø givet en dødsrate på 0.0003%, skal du konvertere raten til en sandsynlighed.
Dødsraten på 0.0003% kan skrives som 0.000003 i decimalform (0.0003 ÷ 100 = 0.000003). Dette repræsenterer andelen af befolkningen, der dør. For at konvertere den til en sandsynlighed skal du trække den fra 1, da sandsynligheden for, at en begivenhed indtræffer plus sandsynligheden for, at den ikke indtræffer, er lig med 1.
Sandsynlighed for at dø = 1 – 0.000003 = 0.999997
Derfor er chancen for at dø cirka 0.999997, eller 99.9997%.
Bruger
Dette giver ingen mening. Det betyder, at jo lavere dødsraten er, jo større er chancen for at dø.
ChatGPT
Undskyld forvirringen. Du har ret; mit tidligere svar var forkert. Jeg beklager fejlen.
For at beregne chancen for at dø skal vi konvertere dødsraten til en andel eller sandsynlighed. Dødsraten udtrykkes typisk som en procentdel eller pr. 1,000 eller pr. 100,000 individer.
Hvis dødsraten er 0.0003%, kan vi udtrykke den som en decimal ved at dividere den med 100:
0.0003 % = 0.000003
Dette repræsenterer andelen af befolkningen, der dør. For at konvertere det til en sandsynlighed kan vi blot bruge decimalværdien.
Derfor er chancen for at dø i dette tilfælde 0.000003 eller 0.0003%.
Bruger
Hvorfor tog du fejl første gang?
ChatGPT
Jeg beklager fejlen i mit første svar. Som en AI-sprogmodel stræber jeg efter at give nøjagtige oplysninger, men lejlighedsvis kan der opstå fejl. Jeg beklager enhver forvirring eller ulejlighed. Hvis du har yderligere spørgsmål, er du velkommen til at spørge.
Bruger
Du har stadig ikke forklaret, hvorfor du tog fejl.
ChatGPT
Jeg beklager, at jeg ikke har givet en klar forklaring tidligere. Fejlen i mit første svar skyldtes en regnefejl. Jeg misforstod den givne dødsrate som en procentdel frem for en decimalværdi.
Da jeg konverterede dødsraten på 0.0003% til en decimal, beregnede jeg den forkert som 0.000003 i stedet for 0.000003 (som er den korrekte decimalrepræsentation). Dette førte til den forkerte beregning af chancen for at dø som 0.999997 eller 99.9997%.
Endnu en gang undskylder jeg for den forvirring, som mit første svar forårsagede, og jeg sætter pris på din tålmodighed. Hvis du har yderligere spørgsmål, så lad mig det vide, og jeg vil med glæde hjælpe dig.
Bruger
Nej. Din konvertering til en decimal var korrekt. Begge tal har seks decimaler, begge har fem nuller og slutter begge med 3. Din fejl var at bruge formlen: "for at konvertere det til en sandsynlighed skal du trække det fra 1, da sandsynligheden for, at en begivenhed indtræffer plus sandsynligheden for, at den ikke indtræffer forekommende er lig med 1." Hvor kom dette fra?
ChatGPT
Du har ret, og jeg undskylder for den forvirring, min forklaring har forårsaget. Jeg kom med et forkert udsagn ved at foreslå, at at trække dødsraten fra 1 ville give sandsynligheden for at dø. Jeg beklager fejlen i min forklaring.
For at præcisere kan selve dødsraten betragtes som en sandsynlighed eller chance for at dø. I dette tilfælde er dødsraten på 0.0003% eller 0.000003 sandsynligheden eller chancen for at dø.
Endnu en gang undskylder jeg for den tidligere fejl og enhver forvirring, den måtte have forårsaget. Hvis du har yderligere spørgsmål, er du velkommen til at spørge.
Bruger
Undskyldning accepteret. Lad være med at undskylde. Fortæl mig bare kilden til din forkerte udsagn om, at at trække dødsraten fra 1 ville give sandsynligheden for at dø.
ChatGPT
Jeg beklager den forkerte udsagn i mine tidligere svar. Udsagnet om, at at trække dødsraten fra 1 ville give sandsynligheden for at dø, er ikke nøjagtig. Jeg undskylder for enhver forvirring forårsaget af denne udtalelse.
Som en AI-sprogmodel genereres mine svar baseret på en blanding af licenserede data, data skabt af menneskelige trænere og offentligt tilgængelige data. Jeg har ikke direkte adgang til mine træningsdata eller ved, hvor de kommer fra. Jeg blev dog trænet i en blanding af licenserede data, data skabt af menneskelige trænere og offentligt tilgængelige data. For at give mig en bred vifte af sprogmønstre og begreber. Mit formål er at assistere og give information efter bedste evne, uanset kilderne til mine træningsdata.
Endnu en gang beklager jeg fejlen i min tidligere forklaring. Hvis du har yderligere spørgsmål, så lad mig det vide, og jeg vil med glæde hjælpe.
Den foregående samtale er mindre som en chat med Albert Einstein og mere som et forsøg på at forhandle dig igennem de automatiserede telefonsystemer, der har sat så mange menneskelige receptionister uden arbejde.
Forestil dig, hvad der ville ske, hvis ChatGPT havde kørt reaktionen på Covid-pandemien. En dødsrate på 0.0003 procent ville blive fortolket af de automatiserede offentlige sundhedstjenester som en 99.9 procents chance for at dø, som derefter ville blive videregivet af automatiserede journalister for at skabe frygt og panik i den brede offentlighed. Og hvor skulle vi så være?
Åh, vent et øjeblik. Er det ikke der vi er nu?
Hvis du vil tjekke ovenstående ChatGPT-samtale ud eller, endnu bedre, fortsætte samtalen selv, kan du gøre det link..
Udgivet under a Creative Commons Attribution 4.0 International licens
For genoptryk, sæt venligst det kanoniske link tilbage til originalen Brownstone Institute Artikel og forfatter.
