OpenAI's tyste værdiskift – et dyk i AI's fremtid?
OpenAI har for nylig ændret sine kerneværdier i stilhed, hvilket potentielt markerer en ny fase i deres tilgang til udviklingen af kunstig generel intelligens (AGI).
OpenAI har for nylig gennemgået en bemærkelsesværdig forandring, som har fanget opmærksomheden hos både eksperter og offentligheden. Virksomheden har ændret sine kerneværdier i stilhed, hvilket potentielt markerer en ny fase i deres tilgang til udviklingen af kunstig generel intelligens (AGI).
Hvad står OpenAI for?
De oprindelige kerneværdier, fundet på OpenAI - careers, fremhævede mod, nysgerrighed, og et ønske om at udfordre det etablerede. Disse værdier inkluderede at være dristige, omtænksomme, uprætentiøse, impact-drevne, samarbejdsvillige og vækstorienterede.
Audacious
We make bold bets and aren’t afraid to go against established norms.
Thoughtful
We thoroughly consider the consequences of our work and welcome diversity of thought.
Unpretentious
We’re not deterred by the “boring work” and not motivated to prove we have the best ideas.
Impact-driven
We’re a company of builders who care deeply about real-world implications and applications.
Collaborative
Our biggest advances grow from work done across multiple teams.
Growth-oriented
We believe in the power of feedback and encourage a mindset of continuous learning and growth.
Men i midt oktober 2023, ændrede OpenAI disse værdier til at afspejle en dybere forpligtelse til at udvikle sikker og gavnlig AGI, som vil have en massiv positiv indvirkning på menneskehedens fremtid. De nye værdier betoner et intenst fokus på AGI, hårdt arbejde, skala, skabelsen af elskede produkter, og en stærk teamånd.
AGI focus
We are committed to building safe, beneficial AGI that will have a massive positive impact on humanity's future.
Anything that doesn’t help with that is out of scope.
Intense and scrappy
Building something exceptional requires hard work (often on unglamorous stuff) and urgency; everything (that we choose to do) is important.
Be unpretentious and do what works; find the best ideas wherever they come from.
Scale
We believe that scale—in our models, our systems, ourselves, our processes, and our ambitions—is magic. When in doubt, scale it up.
Make something people love
Our technology and products should have a transformatively positive effect on people’s lives.
Team spirit
Our biggest advances, and differentiation, come from effective collaboration in and across teams. Although our teams have increasingly different identities and priorities, the overall purpose and goals have to remain perfectly aligned.
Nothing is someone else’s problem.
Med AGI i fokus
OpenAI’s vision for den videre udvikling af AI er ikke i sig selv noget nyt. Det har vi fx beskrevet i artiklen Det vil OpenAI opnå med de 3 stadier af AI.
Denne ændring af virksomhedens kerneværdier demonstrerer dog potentielt en ny og mere målrettet tilgang til hvordan virksomheden skal opnå AGI.
Ændringen faldt sammen med rygter og spekulationer om en skikkelse ved navn Jimmy Apples, der er kendt for tidligere at have forudsagt flere af OpenAI's annonceringer og tiltag med bemærkelsesværdig præcision.
Apples har været et emne for diskussion i AI-miljøet. Hans rolle som en potentiel whistleblower indenfor OpenAI har vakt interesse og spekulationer.
Ifølge Apples har OpenAI allerede opnået en form for AGI internt. En påstand, der, hvis sand, kunne have monumentale implikationer for både virksomheden og AI som helhed.
Det er i denne kontekst, at ændringen af OpenAI's kerneværdier kan ses som særligt signifikant.
Hvis virksomheden faktisk har opnået AGI, eller er tæt på at gøre det, ville det forklare behovet for en mere fokuseret og målrettet tilgang, som afspejles i de nye værdier.
Denne ændring kan være et tegn på, at OpenAI forbereder sig på de nye udfordringer og ansvar, der følger med at være i spidsen for en så banebrydende teknologisk udvikling.
Apples konspiration
Disse rygter har rejst spørgsmål om OpenAI's kommunikationsstrategi og deres beslutning om at foretage disse ændringer i stilhed.
Det spekuleres, om OpenAI's tilbageholdenhed med at offentliggøre deres fremskridt med AGI skyldes potentielle risici og etiske dilemmaer forbundet med sådan en teknologi.
Det ville dog ikke være første gang OpenAI har valgt at tilbageholde deres teknologi, fordi de ikke mente folk var klar til at modtage den.
I et interview med Wired fortalte CEO og cofounder, Sam Altman, at ChatGPT (GPT-3 modellen) ville give en mere gradvis overgang for brugerne end GPT-4 modellen, som ellers var tæt på at være klar (den blev gjort tilgængelig 3,5 måned senere d. 14. marts 2023):
”With ChatGPT, we could introduce chatting but with a much less powerful backend, and give people a more gradual adaptation, GPT-4 was a lot to get used to at once.”.
Konspirationen omkring Jimmy Apples intensiveredes, da hans X-profil (Twitter) pludselig forsvandt, og en kommentar fra Sam Altman på Reddit, hvor han kort bekræftede, at OpenAI havde opnået AGI, før han erklærede det for en joke, har kun tilføjet brændstof til spekulationernes ild.
I denne kontekst kan ændringen af OpenAI's kerneværdier ses som et signal om, at virksomheden forbereder sig på nye udfordringer og ansvar som førende inden for denne banebrydende teknologiske udvikling.
Mens rygterne og de ubekræftede påstande stadig svirrer, står det klart, at OpenAI's skift i fokus potentielt kan indikere en betydelig ændring i AI-verdenen.
