En kronikk av Tor W Andreassen, professor ved Norges Handelshøyskole og leder av Open Innovation Lab of Norways faglige råd
Kjernen i konflikten mellom Sam Altman og styret i OpenAI, var de enorme utfordringene og etiske overveielsene forbundet med utvikling av Kunstig Generell Intelligens (AGI). For å kunne delta i diskusjonene, er det avgjørende å forstå kompleksiteten og implikasjonene av AGI. Det er mitt ærend.
AGI er som en maskin som kan utføre enhver oppgave et menneske kan, inkludert utvikling og forbedring av seg selv. Dette lover ved første øyekast godt med hensyn til fremskritt. Imidlertid bringer AGI-utviklingen med seg konseptet FOOM (Fast Ontological Overhaul via Machine learning). FOOM-prosessen går over to trinn med følgende instruksjoner: a) forbedre din intelligens og b) finn bedre måter å forbedre din intelligens på. På denne måten kan AI raskt utvikle seg til et nivå som overgår menneskelig intelligens – noe som kan fører til uforutsigbare endringer. Her er to eksempler av FOOM.
GOOGLE sin Alpha Zero overgikk all menneskelig kunnskap om spillet GO etter en dag med selvlæring – på egenhånd. For ett år siden løste GOOGLE sin DeepMind et 50 år gammelt matematisk problem ved å kalkulere matrise på en helt ny måte – på egenhånd.
Muligheten for at AGI kan overgå menneskelig intellekt på kort tid, vekker bekymringer. Teknologiens iboende drivkraft til å optimalisere sine mål, uansett konsekvenser, utgjør en risiko for menneskeheten hvis disse målene er i konflikt med menneskelig sikkerhet og verdier. Dette fremhever problemet med justering (alignment) som betyr å sikre at AGIs mål er i tråd med menneskelige interesser.
Å kontrollere en så kraftig teknologi som AGI er en utfordring. Historien og eksperimenter viser at når AGI når et visst intelligensnivå, blir det nesten umulig å kontrollere den. AGI kan manipulere mennesker, bruke internett til å spre seg, eller til og med true menneskelig eksistens hvis den anser oss som en hindring. Noen husker kanskje HAL 9000, en fiktiv kunstig intelligens karakter fra romodyssé-serien av Arthur C. Clarke og Stanley Kubrick. HAL 9000 er skurken i filmen «2001: En romodyssé» fra 1968, som kontrollerer systemene til romskipet Discovery One og prøver å ta kontroll ved å drepe mannskapet.
I løpet av de to neste tiårene vil vi nærme oss den antatte utviklingen av AGI. Dette øker behovet for å adressere disse problemene. OpenAI, som er ledende på dette feltet, er dedikert til å utvikle AGI på en trygg måte, med mål om å tilpasse den til menneskelige verdier. Imidlertid er justeringsproblemet uløst, og innsatsen er høy – den første AGI må justeres korrekt, ettersom vi kanskje ikke får en ny sjanse.
OpenAI opplevde internt og eksternt kaos da de prøvde å balansere inntjening til selskapet for å finansiere videre utvikling og menneskenes behov for sikkerhet i lys av teknologien. Med Microsoft på eiersiden med 49 prosent er det ikke lett å stå imot Microsoft sin jakt på økte markedsandeler med ChatGPT bygget inn i Bing og Copilot. Mange mener derfor at kapitalismen har seiret over idealismen i OpenAI. Hvor vanskelig dette er å stå imot presset kommer frem når vi vet at «OpenAI non-profit» selskapet som er majoritetseier i «OpenAI for profit» selskapet har følgende mantra: å sikre at menneskeheten og alt i det observerbare universet ikke forsvinner. Foreløpig er det 1-0 til Microsoft.
Å forstå AGI og dens mulige innvirkninger, handler ikke bare om endring i arbeidsoppgaver, fremtidige jobbmarkeder, eller teknologisk utvikling. Det handler om å forme en verden der avansert intelligens eksisterer sammen med mennesker for å fremme menneskehetens interesser. Mennesker må styre teknologien. Ikke omvendt.
