Det vil OpenAI opnå med 3 stadier af AI

Besøger man openai.com vil man som det første blive mødt af teksten ’Creating safe AGI that benefits all of humanity’.

Læser man om OpenAI og virksomheden står det hurtigt klart, at det er en grundlæggende præmis for virksomheden at opnå AGI.

Nu sidder du måske og tænker: Hvad er AGI? Hvordan opnår man det? Hvad har det med mig at gøre?

AGI står får Artificial Generel Intelligence. Det er andet stadie i udviklingen af AI. 

ANI: den første bølge af AI evolutionen

Første stadie kaldes for Artificial Narrow Intelligence (ANI), eller Weak AI, og det er den type AI vi kender til i dag.

ANI er allerede en fast del af dit liv. Det står blandt andet bag de forslag din streamingtjeneste præsenterer dig for, at din telefon kan genkende dig ansigt og automatisk låses op, eller det svar ChatGPT skriver til dig.

ANI er som den flittige studerende, der kun studerer ét emne, men til perfektion. Den kan spille skak bedre end nogen verdensmester, men bed den om at lave en kop kaffe, og den vil være helt tabt.

ANI er den teknologi, der driver vores daglige digitale assistenter som Siri og Alexa. Men selvom den kan virke imponerende, er den stadig begrænset til meget specifikke opgaver.

Selvom ChatGPT er langt mere kompleks og imponerende AI end meget af det vi har set før, så befinder den sig endnu i det første stadie.

Der er naturligvis også forskel på hvor avancerede forskellige AI’er er indenfor ANI.

Det er tydeligt, at en AI som ChatGPT er bemærkelsesværdigt mere avanceret end f.eks. digitale assistenter som Siri og Alexa. OpenAI’s GPT-modeller ligger bestemt i den høje ende indenfor ANI. Der er dog ikke tale om AGI endnu.

AGI er næste stadie AI, som kan tænke og forstå

Når vi taler om AGI, taler vi om en AI, der ikke kun kan tænke, men også forstå. Forestil dig en computer, der ikke blot kan løse komplekse matematiske ligninger, men også forstå et digts dybere mening, føle musikkens rytme eller endda drøfte filosofiske spørgsmål.

AGI er ikke bare en opgradering af den nuværende AI – det er en revolution.

Det er en maskine, der kan lære og tilpasse sig lige så hurtigt og effektivt som et menneske.

Mens den AI, som vi kender i dag, er som en skarp kniv, er AGI som en menneskelig hånd. Den er fleksibel, alsidig og i stand til at udføre en lang række forskellige opgaver.

Selvom AGI er et spændende koncept, er det stadig meget teoretisk.

Ifølge en undersøgelse af Vincent C. Müller og Nick Bostrom fra Oxford UNiversitet, mener de 100 mest citerede AI-forskere, at der er 90% sandsynlighed for, at AGI vil blive en realitet inden 2070.

Dette er et forholdsvis nyt syn på AGI. For nogle få år siden var troen på AGI langt fra dominerende. Sam Altman, founder og CEO af OpenAI beskriver det således i artiklen What OpenAI really wants:

”Back in 2015, when we were recruiting, it was almost considered a career killer for an AI researcher to say that you took AGI seriously. But I wanted people who took it seriously.” 

Her er vi tilbage til OpenAI, som oprindeligt startede i 2015 med en mission om at udviklingen af AI skete på en både åben og sikker måde.

Siden 2015 er OpenAI gået fra at være en nonprofitorganisation til en ”capped profitable business”, hvilket grundlæggende betyder, at OpenAI fortsat er styret af et non-profit enhed, men også har en for-profit enhed som incitament til investorer.

OpenAI’s mission er heller ikke længere lige så åben som tidligere, som det fremgår af teksten man bliver mødt med på forsiden af deres hjemmeside. Troen på, og arbejdet mod AGI har dog ikke ændret sig.

Turing testen tester AGI

At udvikle AGI er én ting, men at verificere, at det faktisk er AGI, er en helt anden. For at kunne sige med sikkerhed, om en maskine har opnået generel intelligens på niveau med et menneske, er der behov for tests, der kan måle maskinens evner på tværs af en bred vifte af opgaver og situationer.

En af de mest berømte tests inden for dette område er Turing Testen, opkaldt efter den britiske matematiker og computerpioner Alan Turing.

Har du set filmen Ex Machina fra 2014, er du bekendt med denne test (Har du ikke set filmen, vil jeg klart anbefale den).

Alan Turing foreslog en simpel, men dybtgående test: En menneskelig dommer fører en samtale med en skjult samtalepartner. Hvis dommeren ikke kan afgøre, om denne partner er en maskine eller et menneske baseret på samtalen alene, så har maskinen bestået testen.

Turing Testen er ikke kun en teknisk udfordring. Den udfordrer også vores opfattelse af, hvad det betyder at tænke, føle og være bevidst.

For hvis en maskine kan overbevise os om, at den tænker og føler som et menneske, hvad siger det så om vores egen bevidsthed?

Ydermere, kan der være stor forskel på hvordan forskellige mennesker opfatter og vurderer samtalepartneren. Turing Testen er derfor ofte kritiseret, og vil ikke på egen hånd kunne afgøre om vi har opnået AGI.

Kan AI lave kaffe?

Mens Turing Testen fokuserer på maskinens evne til at efterligne menneskelig kommunikation, tager Coffee Testen en mere praktisk tilgang.

Foreslået af Steve Wozniak, medstifter af Apple, er denne test designet til at måle en maskines evne til at udføre en tilsyneladende simpel, men dybt kompleks opgave: At lave en kop kaffe.

For at bestå Coffee Testen skal en robot, uden forudgående kendskab, gå ind i et gennemsnitligt hjem og finde ud af, hvordan man laver kaffe. Det indebærer at finde kaffemaskinen, tilføje kaffe, vand og eventuelt sukker eller mælk, og derefter brygge drikken.

På overfladen kan det synes enkelt, men det kræver en dyb forståelse af den fysiske verden, evnen til at interagere med ukendte objekter og en form for problemløsning, der går langt ud over, hvad de fleste moderne robotter kan præstere.

Mens Turing Testen udfordrer vores opfattelse af bevidsthed og tænkning, udfordrer Coffee Testen vores opfattelse af autonomi og praktisk intelligens. Sammen giver de to tests et indblik i de mange facetter af kunstig intelligens og de udfordringer, vi står overfor på vejen mod AGI.

ChatGPT kan ikke bestå testen - endnu

Mange vil måske mene, at ChatGPT allerede er på et punkt hvor den kan bestå Turing Testen.

Der er ingen tvivl om, at den kan snyde mange. Et godt eksempel på det er et studie udgivet tidligere i år, der viste hvordan et panel af ”healthcare professionals” vurderede at svar fra ChatGPT var bedre end lægers i 79% af de testede tilfælde – både på et fagligt og empatisk niveau.

Men selv de mest avancerede AI-modeller i dag, som OpenAI's GPT-modeller, har deres begrænsninger.

Et eksempel på dette er fænomenet "Reversal Curse". Selvom en model som GPT-3 kan trænes på en udtalelse som "A er B", kan den overraskende nok ikke automatisk generalisere til det omvendte "B er A".

Dette indikerer en grundlæggende fejl i logisk deduktion i modellens træningsproces.

Hvis man fortæller et menneske, at Olaf Scholz er Tysklands niende kansler, så vil dette menneske være i stand til at besvare spørgsmålet: ”hvem er Tysklands niende kansler?”.

Det er en særlig simpel logisk følgeslutning, som er helt naturlig for et menneske. Olaf Sholz er Tysklands niende kansler, derfor er Tysklands niende kansler Olaf Sholz. Det er dog ikke er lige så naturligt for ChatGPT viser et studie.  

På den anden side er der tegn på, at udviklingen hastigt bevæger sig mod AGI. GPT-4 er ikke kun dygtig til sprogopgaver, men kan også tackle udfordringer inden for matematik, kodning, vision og mere. Dens præstation er bemærkelsesværdigt tæt på menneskeligt niveau på tværs af disse opgaver, viser nye undersøgelser.

Udviklingen sker med eksponentiel hastighed

Det er særligt udviklingen og den hastighed udviklingen sker i der er interessant. Mustafa Suleyman er medstifter af DeepMind og blandt de øverste på TIME100/AI 2023 - listen over de 100 mest indflydelsesrige personer indenfor AI i 2023. Han forventer, at vi om 18 måneder vil se modeller der er 100 gange så kraftige som de nuværende, og 1000 gange så kraftige om blot tre år. Lyt til 8000 hours: Mustafa Suleyman on getting Washington and Silicon Valley to tame AI.

Denne eksponentielle udvikling adresserer OpenAI netop med artiklen Planning for AGI and beyond, som diskuterer de potentielle fordele ved AGI, såsom at løfte menneskeheden, sætte skub i den globale økonomi og hjælpe med videnskabelige opdagelser.

Den fremhæver dog også de risici, der er forbundet med AGI, herunder misbrug, ulykker og samfundsforstyrrelser. OpenAI understreger vigtigheden af en gradvis overgang til en verden med AGI, der tillader samfundet at tilpasse sig og indføre de nødvendige regler.

Det kræver en meget omfattende viden og forståelse at gå dybere ned i hvordan en verden med AGI vil se ud. Er du nysgerrig på dette, vil jeg anbefale Mustafa Suleyman’s bog The Coming Wave fra september 2023.

Hvad mener OpenAI med Planning for AGI and beyond?

ASI er det tredje og sidste stadie i udviklingen af AI – Artificial Super Intelligence (ASI).

Hvor AGI kan matche menneskelig intelligens på tværs af en bred vifte af opgaver, går ASI skridtet videre og overgår menneskelig intelligens.

Dette stadie indvarsler ikke blot en udvidelse af AI's kompetencer, men en æra, hvor maskiner vil have evnen til at forbedre og opfinde ny teknologi autonomt, uden menneskelig indgriben.

Det er en verden, hvor AI kan foreslå løsninger på nogle af menneskehedens mest presserende udfordringer, fra klimakrisen til sygdomsbekæmpelse.

ASI repræsenterer en ny begyndelse, hvor maskiners evner udvides til et niveau, der nu kun kan forestilles.

Det åbner en verden af uendelige muligheder, men også udfordringer. De etiske og samfundsmæssige implikationer er store.

Der er bekymring for, at ASI kan lede til magtkoncentrationer, jobtab og endda trusler mod menneskehedens eksistens. Disse bekymringer er ikke ubegrundede, og nødvendiggør en omhyggelig og inkluderende tilgang til udviklingen af ASI.

I Planning for AGI and beyond udforsker OpenAI netop denne overgang fra AGI til ASI.

OpenAI erkender at vejen til ASI er fyldt med uforudsigeligheder og risici. Derfor foreslår de en gradvis og forsigtig tilgang, hvor den menneskelige kontrol og sikkerhed prioriteres højt på agendaen.

I en verden, hvor teknologiens fremskridt synes at overgå vores vildeste forestillinger, står vi over for en fremtid, hvor kunstig intelligens ikke kun vil være en del af vores hverdag, men potentielt kan forme selve fundamentet for vores samfund.

OpenAI's mission om at skabe AGI, der gavner hele menneskeheden, er ikke kun ambitiøs, men også nødvendig. Som vi bevæger os fra ANI til AGI og potentielt til ASI, er det afgørende, at vi navigerer med forsigtighed, etik og en dyb forståelse for de konsekvenser, disse teknologier kan medføre.

Det er ikke kun et spørgsmål om, hvad vi teknisk kan opnå, men også hvad vi bør stræbe efter for at sikre en harmonisk sameksistens mellem mennesker og maskiner.

OpenAI's dedikation til at udforske, forstå og guide denne rejse er et vidnedsbyrd om den betydning, AGI og ASI vil have for vores fremtid.

Som samfund står vi over for en utrolig spændende, men også udfordrende tid, hvor vores beslutninger nu vil forme fremtiden for generationer. Det er vores ansvar at sikre, at denne fremtid er lys, inkluderende og gavnlig for alle.