‹ Back to podcasts ‹ Shifter

6/21/2023

Inga Strümke: Alt vi lurer på om kunstig intelligens.

Inga Strümke, forsker på kunstig intelligens ved NTNU, diskuterer kunstig intelligens med programleder Lucas Weldeghebriel. De diskuterer om maskiner kan være intelligente og bevisst, om kunstig intelligens kan fjerne jobber, og om vi er i ferd med å bli konsumenter i et samfunn som ikke lenger er laget for mennesker. Strümke argumenterer for at grunnforskning er viktig for å forstå kunstig intelligens og for å ta ansvarlige beslutninger om den.

05:50

Mennesker bruker delmål som proksier for å navigere mot det overordnede målet om å spre DNA.

09:28

Forestill deg et kapittel som utforsker hvordan vår biologiske hjerne og Transformer-arkitekturen i AI ulikt tilegner seg evner og kunnskap.

22:49

Digital teknologi kan både gjøre oss latere og smartere, men vi må ta ansvar for eget valg av hvordan vi bruker den.

34:46

En diskusjon om moral og beslutningstaking i kritiske situasjoner, spesielt relatert til selvkjørende biler og menneskelig liv.

39:10

Diskusjonen om AI og jobbstrukturen utfordrer vår forståelse av arbeidets rolle i samfunnet og fremtidens samfunnsstruktur.

Transcript

Mentioned in the episode

Inga Strümke

Gjest i podkasten, forsker på kunstig intelligens ved NTNU, har skrevet boken "Maskiner som tenker".

Lucas Weldeghebriel

Programleder i podcasten.

NTNU

Strümkes arbeidsplass, et norsk universitet.

Maskiner som tenker

Boken skrevet av Inga Strümke.

Kunstig intelligens

Et samlebegrep for mange metoder, maskinlæring er en av de mest brukte metodene.

Maskinlæring

En metode innenfor kunstig intelligens, brukes for å gi maskiner evnen til å lære av data.

ChatGPT

En stor språkmodell utviklet av OpenAI, kan generere tekst, oversette språk, skrive forskjellige typer kreativt innhold og svare på spørsmål.

OpenAI

Et forsknings- og utviklingsselskap som fokuserer på kunstig intelligens.

GPT

Står for Generative Pre-trained Transformer, en språkmodell som er trent på store mengder tekstdata.

Transformer

En type nevrale nettverk som brukes i språkmodeller, er spesielt god til å forstå sammenhenger i tekst.

Google

Et stort teknologiselskap, kjent for søkemotoren, e-posttjenesten Gmail og Android-operativsystemet.

Facebook

Et sosialt nettverk eid av Meta Platforms.

Amazon

Et stort nettbasert selskap, kjent for e-handel, skytjenester og streamingtjenesten Amazon Prime.

Silicon Valley

En region i California kjent for sin teknologiindustri.

Montessori

En pedagogisk metode som fokuserer på barns selvstendige læring.

Mark Zuckerberg

Gründer og administrerende direktør for Meta Platforms.

Wall-E

En animert film fra Pixar som skildrer en dystopisk fremtid hvor jorden er dekket av søppel, og menneskeheten lever i romskip.

Cefalo

Et norsk outsourcing-selskap som rekrutterer utviklere i Bangladesh.

Bangladesh

Et land i Sør-Asia, Cefalo rekrutterer seniorutviklere fra dette landet.

AI-akt

En lov som regulerer kunstig intelligens, forventet å komme i 2025-2026.

Sam Altman

Administrerende direktør for OpenAI.

Venture capital

Investering i selskaper i tidlig fase, ofte med høy risiko og potensiale for høy avkastning.

Palmolje

En type vegetabilsk olje som ofte brukes i matvarer, men som produksjonen har negative miljøkonsekvenser.

Kjøttindustrien

En industri som produserer kjøtt, ofte kritisert for sin miljøpåvirkning og dyrevelferd.

Kategorisk imperativ

En etisk regel formulert av Immanuel Kant, som sier at du skal handle etter en regel som du kan ønske at skal bli en universell lov.

Utilitarisme

En etisk teori som sier at den beste handlingen er den som maksimerer lykke for flest mulig.

The Moron Machine

En global spørreundersøkelse om etiske dilemmaer knyttet til selvkjørende biler.

Oslo-Øst

En bydel i Oslo, nevnt i forbindelse med predictive policing, en teknologi som bruker data til å forutsi kriminalitet.

Predictive policing

En teknologi som bruker data til å forutsi kriminalitet, ofte kritisert for å være diskriminerende.

AI-utvikler

En person som utvikler kunstig intelligens, etterspørselen etter slike personer er høy.

AI-politi

En hypotetisk etat som regulerer kunstig intelligens.

Kvantefelt

Et forskningsfelt innenfor fysikk som studerer kvanteegenskapene til felt.

Stortinget

Norges nasjonalforsamling.

Formbar kunstig intelligens

Forskningsfelt som fokuserer på å forstå hvordan kunstig intelligens tar beslutninger.

Skifter

Podcasten som intervjuet Inga Strümke.

Participants

Guest

Inga Strümke

Host

Lucas Weldeghebriel

Sponsors

Cefalo

Similar

Loading

Hei og velkommen til Skifters podcast. Ukens gjest har doktorgrad i inntil mindre enn partikkelfysikk og forsker på kunstintelligens ved NTNU. Da forstår du sikkert at jeg har med meg Inga Kjølund.

strumke her i studio. Velkommen, Inga. Tusen takk. Så utrolig hyggelig at du kunne komme. Du er jo en veldig ettertraktet person om dagen. Og det er mye e-poster om dagen. Det skal jeg ikke legge skjul på. Ja, hvor mange e-poster får du om dagen? 70 stykk. Og jeg har begynt å...

Jeg måle, altså notere ned hvor mye tid jeg bruker på å besvare e-poster med «Nei, dessverre, det kan jeg ikke ta kontakt med iLabben om dagen». Og jeg har kommet over to og en halv time for dag den siste måneden. Ja, og da tenker jeg det er utrolig god bruk av tida til en forsker og veileder og formidler. Ja, ja, her optimaliserer vi virkelig. Men kan ikke du bare lage en sånn KI-greie som automatisk sier nei?

Jeg vet ikke om jeg klarer å knø det inn i Outlook. NTNU har jo ganske strenge avtaler på hvem som får lov til å logge inn, for eksempel to-faktor-autentisering. Og så hacker jeg ikke. Men du kan ha outer reply, og der kan du bare stå nei, funktivt.

Jeg er jo veldig glad i studentene og også kollegaene mine. Hva er kunstig intelligens? Åh, det er et spørsmål, altså. Får du alltid det? La oss oppover det spørsmålet, da. Hva tror du? Ja, jeg...

Ok, greit. Jeg skal være litt alvorlig her. Jeg tenker at vi burde se på kunstig intelligens som en samlebedegnelse. For en drøss med metoder, og så er maskinlæring en av metodene, og det er det som er kulest nå om dagen. Ja, for da er det intelligens.

Det er derfor jeg hater å få det spørsmålet, fordi at intelligens ikke er veldig definert. Vi er ikke enige om hva intelligens er. Kunstig, det går bra. Ikke karbonbasert. Men intelligens, hva er det? Har det med intelligente oppførsel å gjøre? Har det med evne til problemløsning å gjøre? Har det med å ligne på mennesker å gjøre? Ja.

Vi dykker så fort ufrivillig inn i begrepsfilosofi, som bare ikke er mitt kall i livet. Det må jeg bare innrømme. Så det er kanskje mer interessant å skille mellom intelligens og bevissthet? Da blir det jo enda verre. Hvorfor det? Om vi ikke har definert intelligens, så kan vi jo ikke engang begynne å snakke.

om bevissthet. Altså til sammenligning. Vi har så vidt en beskrivelse av bevissthet på avstand. Du vet inni deg hvordan det føles å være bevisst, men du kan jo ikke engang beskrive min bevissthet. Vi vet ikke om vi har samme opplevelse av ting. Integent kan vi i hvert fall måle på forskjellige måter, men vi kan ikke måle bevissthet. Ok, la oss prøve et trett forsøk. Er det mulig å... Finnes det et skille mellom

Kan man skille mellom datamaskin og et menneske? Er det et skille der? Med tanke på hvor mye datamaskinen utvikler seg til å bli såkalt kunstintelligente, så er det et skille der.

For meg går skille virkelig på om du er resultatet av en biologisk evolusjonsprosess, eller har du blitt bygd og består av kipper og transistorer. Men for meg er hjernen en biologisk maskin. Så jeg tenker at vi er alle maskiner, og så har vi forskjellige mekanismer som gjør at vi fungerer. Men er biologi relevant med tanke på å definere intelligens? Det er jo ikke nødvendigvis det.

Nei, men det er den eneste generelle intelligensen vi har snublet over i hele universet, biologisk. Men mennesker har jo følelser, de har ikke datamaskiner. Definier følelser. Følelser er for eksempel ambisjoner, eller sinne, eller glede, kjærlighet, og så videre. Kan du definere det som en prosess?

hva skjer? Det skaper en trigger. Nå går jeg og skjønner hvilken felle jeg går i. Du bruker like vage begreper for å definere det vage begrepet. Det er ikke fordi du er teit, men fordi det her er vanskelig og vi har ikke nailet det. Jeg har en følelse. Jeg har en bra ting. Empati.

Empati, hvilken prosess er det? Det er den prosessen at du observerer noen andre sin adferd, og så lager du en indre modell av hva de sannsynligvis har som mål og problemer. Da snakker vi om generativ modellering, og vi har absolutt veldig gode maskinledningsmodeller som gjør generativ modellering. Som igjen motiverer meg til, det motiverer meg, det trigger en handling da.

Men det trenger ikke være et lighet da, eller sånt? Nei, men det kan vi også oversette til prosess- eller maskinlæringsspråk for den del. Hvis det utløser et eller annet ønske i deg om en adferd, så kan vi si at det appellerer til din taps- eller optimaliseringsfunksjon. Så det blir relevant for hvilke handlinger du velger å utføre for å oppnå dine mål. Ok da, så hva med selvoppholdelsesdriften da?

overlevelsesdrift? Ja, jeg vil jo si at vi mennesker har mange proksier som vi har utviklet fordi det er for vanskelig for oss å forholde oss til de faktiske overordnede målene våre. Det overordnede målet våre er jo å spre DNA. Men

hvordan akkurat vi skal gjøre det, er et litt for vanskelig optimaliseringsproblem, fordi at verden består av så mye greier vi ikke klarer å modellere, og så mange mennesker som vi ikke har full oversikt over. Så i stedet for det så har vi fått proksier, eller håper si delmål, som vi kan bruke for å se hvor bra vi ligger an i forhold til det overordnede målet våre, som popularitet, seksdrift, stereotypier for hva vi liker,

og jeg tenker at

De er bare, for deg, direkte en tapsfunksjon. Altså, hvor populær er jeg? Eller er jeg populær? Ja eller nei? Hvilke handlinger kan jeg utføre for å bli mer populær? Så du går gjennom livet og gjør egentlig optimalisering opp mot noen metrikker, for eksempel popularitet. Hvor mye du får det. Ja, knett opp. Så du tenker at det bare er faktorer som tilsammen fører til selvoppholdelse? Ja. Ja.

Men du prøver jo virkelig å oversette alle begreper til maskinlæring eller kunstig intelligens språk. Men det er jo for at det er i den konteksten vi har den diskusjonen. Det betyr jo ikke at alle er nødt til å snakke med det som formål og formulere det sånn at vi kan forstå det i konteksten med kunstig intelligens. Så kunstig intelligens

Så uansett hva jeg sier, så har du en god forklaring på at det jeg sier egentlig, det kan se ut på en annen måte. Det er ikke meningen. Jo, det er jo din rolle som superekspert på dette området. Men jeg lurer på, hva er det du selv tenker? Du sa at kunstnerkringen er en samling av mange teknologier. Og så sa du at forskjellen på oss som maskiner er det biologiske. Ja.

Og så at vi sannsynligvis utfører forskjellige prosesser. Jeg tror ikke det hjernen gjør er det samme som for eksempel et neuralt nettverk i en datamaskin gjør. Selv om det går an å finne likheter, så tenker jeg ikke at prosessene svarer til hverandre. Ok, det må du forklare.

Nei, altså for eksempel hvis du skal gjøre bildegjenkjenning med maskinlæring, så bygger du opp et neuralt nettverk på en spesifikk måte, og så lar du det trene seg på hundre tusenvis av bilder til å lære seg å klassifisere dem inn i riktig kategori. Er det en bil, er det en hund, er det en giraff, eksempelvis.

Det er jo ikke sånn vi mennesker lærer i det hele tatt. Vi sitter ikke og ser på 100 000 bilder, og så lærer vi oss uten at kategoriene, eller generaliserer til å skjønne kategoriene. Vi gjør et eller annet. Jeg vet ikke hvor mange hunder eller biler en kid er nødt til å se før han klarer å skille alle hunder og biler fra katte og hus. Altså vi ser det instinktivt?

Det er jo et veldig godt spørsmål. Hvor mye av de evnene vi klarer å utvikle veldig raskt som er medfødt, og det gir jo mening at fordi at forfederne våre har vært nødde å putte ting de møter på i verden i riktige kategorier, så har den evnen, eller anlegg for å utvikle den evnen raskt, blitt videreført gjennom evolusjon. Det gir mening.

Så hvis en datamaskin må trenes på millioner av bilder, og vi kan nesten bare se en hund en gang, og så klarer vi å definere essensen av hunden. Ja.

Så sier noe om forskjellen i kapasitet den biologiske hjernen har, eller ikke kapasitet, men i... Altså anlegg for evne. Vi har anlegg til å tilegne oss noen evner veldig raskt. Språk også har vi jo anlegg for. Så det er et eller annet med oppbyggingen av hjernearkitekturen, som ligger veldig til rette for

av visse typer problemer. Men det gjelder jo ikke for eksempel differensialegninger. Det har vi veldig dårlig anlegg for. Det finnes mange evner vi er nødt til å trene og utdanne oss for i mange år for å klare å tillegne oss. Og det er evner som maskiner tillegner seg mye raskere enn vi gjør.

Men maskiner, altså bare sånn, hvis jeg spør chatgpt om hva 1 pluss 1 er, så svarer den 2. Men den regner ikke det ut, gjør den det? Nei. Hvordan forklarer den hvordan det skjer? Ja, ok, så chatgpt har en modell inni seg, en språkmodell, som heter GPT. Ja.

Det står for Generative Pre-trained Transformer. Så de tre ordene forteller oss noe om hvordan den er bygd opp, og hvordan den er trent opp, og hva den gjør. Så greia med generative er at den genererer språk, og greia med transformer, det er...

det navnet på en spesifikk oppbygging av en neural nettverk som var et enormt forskningsgjennombrudd innenfor kunstig språkforståelse som ble publisert i 2017. Siden 2017 har vi egentlig hatt tilgang til den teknologien som man trenger for å få sånn chatbot som chatgrippet til å funke. Og det som Transformer-arkitektur gjør, det er at den har et stort vokablar, alle ordene den kan, og

Og så regner den ut for hver settningssnutt du gir den, eller for hvert ord du gir den, så regner den ut sannsynligheten for at det påfølgende ordet skal være hvert av ordene i den sitt vokabular, og så gir den det mest sannsynlige ordet. Hmm.

Og måten å regne ut den sannsynligheten på, det er ganske hysterisk, innfløkt og komplisert, men det koker ned til at en skjønner hvilket ord i en setning som fortjener mest oppmerksomhet. Så for eksempel hvis jeg sier, jeg var i en bilolykke i går, så skjønner du at jeg ikke vil snakke om liksom i går, jeg vil snakke om bilolykke. Så du skjønner hvilket ord som fortjener oppmerksomhet, selv om det ikke nødvendigvis var det siste ordet jeg sa. Så selv om setningen er sekvenser, så er det ikke det umiddelbart forrige ordet som er mest viktig, det kan være et annet ord.

Det er det Transformer-modellen klarer veldig godt. Hvilket ord her er meningsbærende i setningen? Hva skal vi gi oppmerksomhet? Hvordan finner den ut det? Nei, det er... Det er opp til...

Det har jeg ikke greid å lage en god forklaring på enda, fordi denne Transformer-arkitekturen er veldig komplisert. Og dette er ikke midt ned i mitt forskningsfelt. Så hvis jeg skal prøve å forklare det, så hadde jeg begynt å rante om noen key-value pairs og noen oppslag og noen attention-mekanismer, og så hadde det bare blitt utrolig dårlig. Så jeg må rett og slett anbefale YouTube-videoer eller andre gjester.

Så det er rett og slett for vanskelig for en doktor i partikkelfysikk? Men det er jo ikke så rart. Partikkelfysikk handler jo ikke om transformernevralenhet. Og så har jeg aldri forsket, jeg har ikke en eneste publikasjon innenfor dette feltet som er kunstig språkforståelse. Men du har jo en

Du forstår jo dette feltet. Poenget mitt var ikke å si at du ikke var så smart, men poenget mitt er å si at når en så smart og flink person som deg sliter med å forklare det, så lurer jeg på for vanlige folk, hvorfor?

hvordan skal de forholde seg til disse tingene? Hvordan skal de forstå hva som egentlig skjer nå? Ja, sant. Så grunnen til at jeg ikke forstår det, er jo sannsynligvis ikke at det er for dumt, eller at det er umulig å forstå, eller noe sånt. Det er jo fordi at jeg ikke har

investert nok tid i å forstå det. Vi må alle styre tidsbruken vår. Og vi kan ikke forvente at vanlige folk der ute skal bare si «Ok, nå skal jeg forstå et eller annet». Du nesten må ha mastergrad i datavitenskap for å forstå. Absolutt ikke.

Men jeg tenker ikke at vi er nødt til å forstå teknologi inngående alle mann alle, for at vi skal kunne bruke det på en ansvarlig måte. Jeg har en bil, jeg har ikke snøring på hvordan bilen fungerer. Jeg lærte meg om bensinmotoren andre år på fysikk, men så la jeg den kunnskapen i en skuffe i hjernen min, og så låste jeg skuffen. Så jeg har ikke peiling på hvordan bilen min fungerer.

Men jeg har sertifikat, og jeg har den til EU-kontroll hver gang jeg må. Og derfor er den trygg å bruke, og jeg klarer å bruke den trygt. Så jeg tenker at noe sånt noe må vi gjøre med kustilligens. Ok, men det er interessant da. Jeg skjønner heller ikke bil, men jeg tenker det er sånn... På en time tror jeg jeg kan klare å lære og skjønne hvordan det fungerer. Sånn ish.

Altså bare sånn. Tror du ikke det? Jeg vet ikke, bilen min gjør en sånn mystisk greie nå og da. Det er en grunn til at det finnes mekanikere da. Ja. Ok, så

Det er vanskelig å forklare. Du sier at neuralnet er hakket mer innfløkt og kompleks enn biler, og det kan jeg gå med på i all min organse. Men det er også litt sånn, er det ikke viktigere å forstå denne typen teknologi enn å forstå hvordan en bil fungerer? Fordi det er så gjennomgripende.

Jo, det er viktig at noen forstår det, og det er viktig at de rette rollene i samfunnet forstår det. Og jeg er jo litt frustrert over at det per nu ikke er noen som eier ansvaret for at riktig instans skal forstå det. Vi har ikke tilsyn, for eksempel, med avanserte AI-systemer. De bare skjer. Selv om vi vet at reguleringene våre ofte ikke er tilstrekkelige eller adekvate for å treffe AI.

av systemet. Du bruker mye tid til å snakke med politikere, gjør du ikke? Ja, veldig mye. Jeg er jo glad for at vi har blitt opp å si interessert. Det har skjedd etter denne våren. Jeg tenker at jeg hater jo chat-gpt av mange grunner, men så elsker jeg den av noen grunner også. Og en av grunnerne er at politikere har skjønt at de må tenke på kunstig intelligens. Takk, chat-gpt!

High five, open AI. Og en annen ting som bekymrer meg, det er at vi har, altså tradisjonelt, så har det alltid vært veldig vanskelig å overbevise ledere, og de som sitter

å bestemme, og på pengesekken, om at grunnforskning er viktig. Selv om vi har sett at grunnforskning er det som har ført til de aller største fremskrittene våre. Altså, Einstein satt og lurte på hvordan det føltes å ri på en lysstråle, og takket være det fikk vi GPS mange ti år senere. Så det er umulig å planlegge hva som skal komme ut av grunnforskning, og veldig ofte så kommer det bare ut frustrasjon og regninger.

Det vi ser nå er at veien fra grunnforskning innenfor kunstig intelligens til enorm samfunnspåvirkning er kjempekort. Jeg har aldri vært borte i et fagfelt der det er så kort fra forskningsfronten til impact. Da frustrerer det meg litt ekstra at vi for eksempel i Norge nærmest ikke finansierer grunnforskning. Hvordan skal vi da forvente at det finnes kompetanse

i Norge, hvor vi jo må ta våre egne beslutninger, som er tilstrekkelig for å forstå den nye teknologien som kommer. Men tenker du grunnforskning generelt, eller er det grunnforskning spesifikt på dette feltet? Nei, altså jeg tenker jo at grunnforskning er viktig på alle felt, hele tiden, men akkurat nå viser kunstig intelligens oss hvor mye det brenner, hvis man ikke forstår det. Ja.

Og etter at jeg har tilbrakt ni år med høyere utdanning i fysikk, så har jeg blitt litt sliten over å prøve å argumentere for viktigheten av grunnforskning. Men akkurat nå er kunstig intelligens bare et litt slående eksempel. Ja, jeg skjønner. Men jeg følger deg veldig, fordi at...

Altså, man skiller jo ofte mellom grunnforskning og anvendt forskning, ikke sant? Ja, ja, og så etterpå innovasjonen, ikke sant? Ikke sant? Men grunnforskning har ikke et spesielt mål annet enn å finne ut av ting, mens anvendt forskning er sånn, å, vi må løse dette. Yes, nemlig. Og det er veldig viktig å lage salgspitchen, ikke sant? For vi vet ikke hva vi skal prøve å finne ut. For da kan du ikke love noen ting om hvilken effekt

det skal ha. Men utenpå er det en utfordring jeg ser med det, er jo at hvis vi ikke driver med grunnforskning, så begrenser vi oss av de problemene som er rett fra nesen våre. Det begrenser veldig på hva vi kan finne ut av. Og som du sier, så er jo ofte de aller største vitenskapelige gjennomruddene det er jo

gjennom grunnforskning, fordi vi ikke kunne forestille oss hva det ville føre til. Som du sier, Einstein kunne ikke se for seg GPS. Men det arbeidet han gjorde var en sånn grunnstein for å kunne lage GPS. Det er grunnsteiner. Ja, absolutt. Grunnforskning har jo som formål å bare utvide vår forståelse av universet, og hvert forskningsfelt sitt univers. Men er det generelt sett, er Norge dårligere enn

andre land, relativt sett? Eller er det sånn dårlig over hele fjølet? Det kommer så klart an på hvem vi sammenligner oss med, men det skal sinnssykt godt gjøres å være dårligere enn Norge til å finansiere grunnforskning. Ok, så vi er i samling med andre ganske dårlig på grunnforskning? Vi er kjempedårlige på å finansiere grunnforskning, og

Ola Bortenmo sparket jo hele styret i forskningsrådet og reduserte pengene som de basically fikk for å dele ut til forskning. Det var det i høst, jeg tror det var i høst eller tidlig i vår. Men i alle fall, forskningsrådet er nærmest tvunget i kne. Så hovedkilden til forskningsmidlene i Norge sliter. Og, altså,

Det står bare ekstremt dårlig til med forskningsfinansiering i Norge akkurat nå, og det bekymrer meg helt sinnssykt. Nå blir det en diskusjon om forskning, og det er forstås litt interessant, men det er en slags distanse mellom det man kaller folket og forskningen.

Ja, herregud, det er distanse mellom de aller fleste og forskningen. Ja, ikke sant? Og sånn sett så har jo et modert chat-GPT aktualisert ting da. Man ser noe som man ikke forstår, og hvorfor forstår vi ikke det? Jo, fordi vi forsker ikke på det. Jeg tror det blir legitimt, altså

Altså, politikere er jo selgere, ikke sant? De skal jo selge en politikk for å få stemmer slik at de kan få makt, ikke sant? Det var sånn veldig på spissen da. Og så har de gode intensjoner og alt det der, mange av dem. Men tidligere så har liksom ikke kunstig intelligens vært noe, et sånt salgs... Nei. En salgsgreie. Nei, nei. I 2021 fikk jeg ingen til å snakke med meg om kunstig intelligens. Fordi folk bryr seg ikke om kunstig intelligens. Og nå plutselig bryr folk seg, og da har politikerne lyst til å snakke med meg. Men har du inntrykk av i hvilken grad det måtte...

Altså, hvor gjennomgripende er det? Altså, folk, er det sånn alle snakker om chat-GPT, eller er det sånn de med mest utdanning, altså det er det som første skanse, liksom.

Det er et veldig godt spørsmål, og jeg vet jo ikke om jeg har pulsen på stemningen i befolkningen, men det jeg vet, det er jo at skjøtting på det, er et gigaproblem i skolen, og de aller fleste har et forhold til skolen. Sånn sett så har det truffet en sektor som nærmest alle har et forhold til. Så derfor vil jeg tro at alle sammen, for eksempel som har barn i skolen, eller går skole selv, nå tenker litt på kunstintelligens. Er kunstintelligens gjør det oss dummere? Ja.

Ja, det blir litt som å spørre og gjøre biler oss latere. Ja, det gjør vi det. Ikke nødvendigvis. Du kan bruke bilen til å kjøre på fjellet og ta turer du ikke kunne ha tatt ellers. Men du kan også bruke den til å kjøre til postkassa. Men totaliteten er vel at det blir lettere å bevege seg uten å bruke biologisk kraft?

Ja, det blir lettere, men det blir også lettere å komme til plasser hvor du kan bruke mer biologisk kraft på en artigere måte. Det kommer an på hvordan vi bruker teknologien, og hvor bevisst vi er på hvilke av våre svakheter det appellerer til. For vi er jo late av natur. Evolusjonen har jo fortelt oss at det ligger roen når du kan, når du er komfortabel. Så vi vet at vi har en situasjon

en sånn indre motivasjon til å ikke bevege oss. Hvis vi vet det, så kan vi gjøre noe med det. Da kan vi tenke, å, men jeg må bevege meg likevel, og så kan vi ta kontroll. Det som bekymrer meg med kunstig intelligens, det er at utviklingen skjer primært av kommersielle aktører i et veldig kapitalstyrt marked. Og det er veldig mye adferd psykologi

som går inn i å utvikle de grensesnittene som pakker inn de kunstig intelligente systemene. Så de er laget for å være veldig avhengig av skapene, veldig oppvisende, veldig deilig og intuitiv å bruke. Så de går forbi veldig mange av forsvarsmekanismene som vi tar. Så de spiller på våre svakheter. Ja, kunstig intelligens er godt egnet til å gjøre oss dummere og latere og mindre kritisk. Men

Men det er ikke en selvfølge at det må være sånn. Hvis jeg lurer litt på en eller annen filosof som jeg bare akkurat så vidt har hørt om, og så er det tre minutter å sjekke han opp, så kan jeg spørre chat-grippet det, og så får jeg en mye mer tilgjengelig innføring enn hvis jeg nødvendigvis begynner å google og sjekke Wikipedia og sjekke en blogg og litt sånn. Så det er også en anledning til å bli mye smartere.

Men da må vi som brukere ha tatt hak selv. Jeg er enig i det alltid sånn, alle ting representerer både en trussel, men også en mulighet. Mitt inntrykk er at maskinen egentlig har tatt over allerede.

I den forstanden, ikke sånn at det er en bevisst maskin, men hvor avhengig vi er av maskiner for å ta valg. Altså hvor vi outsourcer våre valg til maskiner i dag. Ja, men det var litt artig det du sa nå, fordi at du ...

endrer i løpet av setningen av de så endrer du hvem som har aktørskapet først har du maskinen har tatt over og da tenker jeg at nei nei, maskinen tar ingenting maskinen gjør ikke en drit, men så har du vi outsourcer mye av våre valg til maskinen så det er vi mennesker som er aktørene og så bestemmer vi at maskinen skal gjøre alt mulig rart og hvem bestemmer da?

Hva vi gjør? Hvem er det effektivt som er beslutningstaken? Hvis jeg spør en maskin hva skal jeg gjøre? Og den sier jeg gjør blå. Og så går jeg og gjør blå. Så er det jeg som eier beslutninger. Hvis det vises at blå er kriminelt så er det jeg som går i fengsel. Men likevel så skjedde jo ikke beslutningsprosessen hos meg noe mer enn at jeg tenkte jeg gjør det maskinen sier.

Ja, og det er det jeg mener med latskap, på en måte. For livet handler jo om valg, på godt og vondt, i mye stor grad. Ikke sant? Og når det er veldig behagelig å ikke ta de valgene, så er det jo noen andre som tar de valgene, og det er maskiner som gjør det, og de sier blå, da. Ja. Og når jeg sitter på bussen, eller båten, eller hva det er, alle sitter jo inni en maskin. Ja. Ingen snakker på hverandre. Altså, man er inni en...

Jeg vet ikke. Jeg føler bare at vi er blitt suget inn i en sånn datamaskinland. Ja, jeg synes også det er bekymringsverdig hvor mye av livene våre vi tross alt lever ut digitalt.

Men kanskje ikke av den mest nærliggende grunnen. Så jeg tenker jo, når jeg ser noen som sitter på telefonen sin, så tenker jeg, ok, de kommuniserer kanskje med venner, de leser kanskje noe av et dukt, de slapper kanskje av, så jeg tenker mye hvert. Det er kanskje mye positivt som foregår på skjermen. Det som bekymrer meg mer, det er at...

Vi har utviklet oss gjennom mange millioner år til å ha intuisjon for den fysiske verden. Og i den fysiske verden er det for eksempel sånn at hvis det finnes et hemmelig objekt, så kan jeg grave det ned. Og hvis ingen finner hullet mitt i bakken, så fortsetter det objektet å være hemmelig. Sånn er det jo ikke i den digitale verden i det hele tatt. Vi har ingen intuisjon for kopieringsmessig

kopiering, informasjonsprosessering kryptering det er veldig mange filer man ikke kan se om de har blitt dekryptert utilsiktet

Så det at vi nesten lever ut livene våre i en verden som vi ikke har noen forutsetninger for å ha en intuisjon eller forståelse for, det synes jeg er det skumle. Og det seneste i morges, da jeg overnatte hos en venninne, som sa at jeg bare elsker kodelåsen på døra mi, så hvis jeg noen gang flytter, så er det først jeg skal få med det kodelåset på døra. Så jeg bare, du skal bytte ut et tannhjul med en datamaskin som sannsynligvis har en lendig sikkerhets...

Er du gal? Og så hadde vi en lang diskusjon om hva... Det er det mest behagelige å gjøre. Ja, og det var akkurat det som var hennes argument da. Jeg kan sitte på jobb med appen min og åpne døra for noen jeg trenger aldri å sende rundt en nøkkel. En gang den er teit, den nøkkelen din kan kopieres. Det er mye mer behagelig for meg å ha bare tilgang til en app som kan låse opp døra. Mens jeg er hjemme, jeg har...

et stykke teknologi hjemme, og det er høytaler da, og de er ikke liksom på Bluetooth den gang, de er kun på WiFi, og der må ofte bytte WiFi-passordet, altså ingenting, sånn er Alexa, eller sånn er overvåkningssystemer, nei, ikke det hele tatt, jeg skjønner ikke at folk tør. Interessant det, hvordan de som vet mest om noe, er de som bruker det minst. Altså folk i Silicon Valley bruker stort sett ikke smarttelefon. Nei, og jeg har ikke sagt, og de sender barna sine på Montessori-skoler uten skjerm, og...

Det er så talende. Og det sier så mye. Ja, men det er jo... Jeg synes det er litt trist også. Fordi de som vet, vet.

Og det er en sånn, jeg vet ikke, det er noe usosialt ved det. Det er noe... Usolidarisk. Usolidarisk, bra. Det er det, ja. De som produserer teknologien vet at de selv ikke burde bruke den. Mark Zuckerberg sin...

Rådgjøvere sier jo at han skal slette Facebook-dataene sine jævnlig, og han får jo slette dem i en grad som vi vanlige dødelige brukere sannsynligvis ikke har tilgang til å slette dem. Fordi at de skjønner hvor viktig det er med hans personverden. Ja.

Ja, dette er veldig interessant. Dette med å si at vi er jo utviklet oss, altså evoluert. Utviklet seg til evoluert, ja. Evolved. Ja, evolved i en fysisk verden, ikke sant? I millioner av år, eller hvor mange år, jeg vet ikke. Hvor mange år er det?

I hvert fall millioner av år. Jeg vet at mens de som søvner vandret på jorden, da var vi noen sånne artige små rotter. Og det var da vi utviklet hørsel. Ja, ikke sant. Eller sinnssykt god hørsel. Men vi er jo som rotter.

Vi er jo som rotter da, i en digital verden. Ja. Som rotter er i en fysisk verden for millioner av år siden. Ja, det kan jeg kanskje si. Ja, jeg er jo ikke det. Altså, vi er jo ikke som barn som ikke vet vårt beste, og som vandrer rundt og ser godteri og vil bare spise godteri. Hei, er du en CEO eller CTO i et vekstselskap og trenger flere utviklere? Da vet du at det er ganske krevende å finne dyktige utviklere i Norge. Men,

Men håpet er heldigvis ikke ute. Cefalo er et norsk outsourcing-selskap som har klart å bli en av de aller beste arbeidsgiverne for seniorutviklere i Bangladesh. Cefalos spesialitet er å rekruttere og bygge langsiktig utviklingsteam sammen med den norske kunden. Og det å ha faste utviklere gjennom Cefalo skal i praksis oppleves som å ha egen ansatte.

Så er du interessert i å høre mer om å ha eksterne utviklere, så vil Cefalo gjerne ta en veldig hyggelig prat med deg. Så sjekk ut cefalo.no, altså C-E-F-A-L-O.no.

Hva er en god metafor til hvem vi er i den digitale verdenen? Nei, jeg vil ikke egentlig si at vi er i den digitale verdenen, så er vi bare aliens. For vi er smarte, og det finnes miljøer der vi fungerer i, og der vi kan være veldig intelligent. Men så finnes det noen miljøer som vi bare ikke har forutsetninger for å bevege oss i på en trygg måte, og det er for meg den digitale verdenen. Jo, men selv...

er det ikke den trygg, altså de som vet, altså de som vet, de holder seg unna. Det er akkurat det. Fordi at de vet at selv om de selv tenker at de har kontrollen, så har de ikke kontrollen. Fordi det er, som et barn da,

så er det noen andre som er mye smartere enn deg, som har laget et miljø som er tenkt ut på en måte som gjør at du egentlig ikke vet hva du gjør. Du blir styrt inn i et spor, altså en rute. Ja, blir du styrt eller er det bare på internett? Eller du blir nødget inn i en sti.

Ja, men det er jo ingen der som har en plan om hva den stien skal være. Det er jo bare masse forskjellige isolerte systemer som påvirker det. Og så tenker jeg at det er ingen som har en overordnet plan om hva et menneske

mennesker skal gjøre på internett. Det er mer sånn, vi vil ha cookies, ikke sant? Vi vil ha dataen om adferden der, sånn at vi kan vise den annonsen, og så ha det bra. Jo, jo, nei, det er ikke en sånn grand scheme, det er ikke en sånn svær greie, men det er mange små, ikke sant? Ja. Ok, jeg går inn i Facebook, da er det som en rutin der, man blir styrt gjennom, ikke sant? Ja, ja, bilen din. Ja, ikke sant? Det samme, altså, alle produkter man er inne i, digitale produkter, så er det en sånn, det er en sånn, man kaller det en sånn kundereise, da, eller sånn, man skal liksom

definere folk gjennom en... Du bruker sånne fine ord. Vi skal se når det er en reise. En reise? Gratis? Nei, nettopp. Når det skjer, så er vi enda mer avhengig av at vi har myndigheter med tilsyn og som kan regulere. Og da trenger man kompetanse. Ja.

Ja, man tenker lykke til med å utdanne eller få tak i riktig kompetanse akkurat nå. Jeg tror det er vanskeligst du kan gjøre i Norge i dag å prøve å ansette en AI-utvikler. For det er jo skrikende behov for denne kompetansen. Og vi utdanner jo ikke nok folk, vi har jo ikke nok studieplasser.

og vi trenger jo kompetansen allerede. Og det finnes absolutt masse mega smarte folk med AI-kompetanse i Norge, men jeg tenker vi har kanskje ikke nok av dem, og så tenker jeg at vi ikke har dem på de rette plassene. Men trenger vi noen AI-utvikler? Eller trenger vi egentlig sånn AI-politi?

Ja, men AI-politiet hadde jo da vært et mandat eller et apparat, en samling mennesker. Så spørsmålet hadde vært hvilke kompetanser skal vi putte inn der? Og da må vi ha just og it-sikkerhet og kanskje etikere. Ja, etik er jo filosofi.

Etikk i moralfilosofi. Filosofi er jo veldig masse mer, og det er alle de andre tingene, sånn som begrepsfilosofien vi var inne på, det er den jeg er litt redd for. For jeg tenker når vi bare, hmm, er det lurt å gjøre predictive policing, liksom Oslo-Øst, da tenker jeg ikke at vi har lyst på en filosofisk samtale. Da har vi lyst på en veldig praktisk samtale. Er datamaskiner etiske?

Det er et spørsmål om hvilken prosess etikk er. Hva mener du med etikk? Nei, jeg angrer på det. Etikk handler jo om å gjøre avveininger mellom forskjellige interesser, og så forstå de avveiningene i en gitt kontekst. Så etikk er ikke som naturvitenskap, det handler ikke om å gjøre en måling eller finne et riktig svar. Nei, men etikk handler vel om

Altså en måte du kan gjøre, for å ta kant da, kategorisk imperativ. Jeg synes det oppsummerer litt sånn, hva er den riktige måten du gjør det på, som alle kan gjøre, på en måte? Altså hva er det riktige å gjøre?

Det er jo det som er etikk egentlig. Ja, og etikk prøver å si hva er det riktige å gjøre, gitt de forskjellige interessene her, avveiningen mellom dem, og akkurat den konteksten som beslutningen skal finne sted i. Så hva som er etisk eller riktig å gjøre i en situasjon, er det kanskje ikke i en annen situasjon. Og da begynner det å bli veldig vanskelig å definere det for datamaskiner. For da betyr det at vi ikke kan bruke regler.

Det er for mye usikkerhet, det er for mange forskjellige situasjoner. Men for det ønsker vi vel jo, for jeg ønsker jo at det ikke er regler jeg også. For jeg ønsker at det, det er et eksempel med en bil, en selvkjørende bil, som må kjøre til den ene siden. Midt imot så kommer det en buss med ti barn. På den venstre siden så kommer det tre eldre personer, og på den høyre siden så er det to barn.

Du må drepe noen av dem. Hvem skal du kjøre på? Har du hørt om det eksperimentet som heter The Moron Machine? Nei. Det er en global spørreundersøkelse som blir gjort om akkurat dette. Du kommer inn i en spørreundersøkelse der det alltid er en sånn type situasjon som er skildret, og så er spørsmålet hva bør bilen gjøre, og så har du flere alternativ.

Og det her ble gjort, altså det spør undersøkelsen ble gjennomført i

hvertfall 100 land, om ikke mer. Så de samlet inn massevis av data og tok med alle landene der de fikk mer enn 100 svar eller noe sånt. Og så laget de noen grafer som viser hvordan forskjellige plasser i verden svarer. Og det er enorme forskjeller. Så jeg tror de laget tre sånne clusters med vestlige, østlige og sørlige deler av verden. Og du ser at kulturer med lik historisk bakgrunn prioriterer menneskeliv likt, men helt annerledes enn andre plasser i verden.

Så da er vi igjen på det med avveininger i en kontekst. Så spørs hvem du spør og når. Ja, men jeg tenker jo at jeg liker at det ikke er et svar.

Hvorfor liker du at det ikke er et svar? Fordi da kanskje jeg overlever hvis jeg er blant de eldre. Liker du ikke at du blir kategorisk drept? Jeg vil ikke at det skal være en regel som sier at jeg skal bli drept. Jeg vil at det skjer, eller at det ikke skjer. Du vil at det skal være tilfeldig? Ja. Da er det jo det som er styret prinsippet. Da sier du at du egentlig ikke vil at beslutningene skal finnes.

Jeg vil jo det. Jeg vil at noen skal prøve å gjøre det beste de kan, og så skjer det som skjer. Det jeg synes er interessant med det her sporvognsproblemet som det i praksis er med selvkjørende biler, det er at hvis det er et menneske som kjører,

eller havner i en ulykke, så finnes det ikke en beslutning der. Fordi menneskene er helt nede, og vi klarer ikke å ta beslutninger og ta inn over oss observasjoner raskt nok. Så da er det tilfeldig hva som skjer. Mens i det du putter en maskin der, så har de kapasitet til å ta inn over seg observasjoner og ta en beslutning. Så beslutningsrommet oppstår i det du plasserer en maskin der.

Det jeg hører deg si, det er egentlig at jeg vil ikke at beslutningsrommet skal oppstå. Nettopp. Ja, det skal være tilfeldig, for det føles på en eller annen måte mest rettferdig. Det er ikke meritten og alderen din som skal avgjøre om du overlever. Nettopp. Det skal heller være tilfeldig. Er det det riktige svaret? Det finnes ingen riktig svar. Men skjønner du hvorfor jeg synes det er det beste svaret for meg? Nei. Ok, så det er uvanlig å tenke det, fordi jeg...

jeg vil ikke at min død skal være et resultat av en kalkulasjon av en datamaskin. Og den følelsen tror jeg er veldig mange deler. Og det tenker du for deg selv. Men si at du hadde zoomet ut og sett på et helt samfunn. Ville du da ha sagt ok, her er det bedre om vi prioriterer de som kan ha mest verdi for samfunnet eller her bare skal det være tilfellig hvem som overlever? Ja, da er vi inne på den andre filosofisk utilitarismen.

og gi mest verdi for flest. Så ja, det er jo... Ja, jeg vet ikke. Det er selvfølgelig... Men jeg vil ikke at vi skal snakke om sånne ting. Nei, ok, greit. Vi driter det. Nei, ok, og...

grunnen til at jeg stiller disse spørsmålene er jo ikke at jeg prøver å lede deg inn til det jeg mener er riktig svar, for jeg vet virkelig ikke hva som er riktig svar, men dette viser hvor hysterisk komplekst det er, og hvor vanskelig beslutningen vi noen gang enda opp må måtte ta. Og som jeg tenker at de aller fleste områder i samfunnet ikke er helt modne for å ta, jeg tror jeg kom på

En sektor der vi har denne modigheten, og det er medisin. Medisin har man veldig lenge vært nødt til å ta vanskelige beslutninger av typen. Denne medisin koster en million kroner i uka og kan forlenge et liv med et halvt år. Skal vi gjøre det? For da er det penger som ikke kan gå til andre. Medisin har man vært nødt til å nærme strengende ut verdien til et liv. Å gjøre avveining av livskvalitet opp mot samfunnsøkonomi.

Men jeg tror ikke det er noen andre sektorer jeg klarer å komme på, der man har den modenheten til å ta sånne diskusjoner. Ja, for du kaller det modenhet. Så du mener det er riktig å ta disse, altså, i motsatt til meg da, så mener du, du er kanskje ikke sikker på svaret, men du mener at det er bedre at det kalkuleres enn at det er tilfeldig.

Nei, det kan jo være en beslutning at du vil at det skal være tilfeldig. Men da må det være en beslutning. Ja, men hva ville du gjort da? Vil du at det skulle være tilfeldig, eller en kalkulasjon hvis du var i farsom? Det synes jeg er så synd at jeg ikke har noen ryggmarksrefleks heller. Så hvis jeg bare må si noe, så har jeg bare... Så da blir det random da? Da er vi tilbake på tilfeldig. Ja, men da blir det tilfeldig. Ok, det er tatt. Ok, neste punkt.

Vil AI fjerne alle jobber for folk? Det er jo en veldig kort del av menneskets historie at vi har hatt jobber. Så for meg gir det ikke nødvendigvis mening å se på jobb som en sånn naturlig del av livet.

Jeg tenker ikke at maskiner noen gang vil komme og si «fløtte, jeg skal ha jobben din». Men det kan godt hende at vi kan automatisere alle prosessene som må utføres i samfunnet for at det skal gå rundt. Det tror jeg. Men målet vårt er jo ikke at det skal gå rundt, og så kan alle bare være lykkelig. Målet vårt er jo hvis du ser ut økonomisk vekst.

Og jeg hater jo det målet. Og lønnen er jo omtrent det eneste maktmiddelet mennesker faktisk har mot myndigheter. Og nå høres det ut som jeg ikke liker myndigheter. Jeg liker myndigheter veldig godt. Men i praksis er jo liksom nektet å jobbe det eneste du kan gjøre utover press oppover. Så

Jeg tror det er urealistisk å tro at maskiner bare skal overta alle oppgavene våre uten at veldig mye av samfunnet kollapser. Da må vi finne en annen måte å strukturere maktforhold på. Jeg må tenke litt, ja. Ok, så...

Kan du forklare det litt enklere så jeg forstår? Det handler ikke om man skal jobbe eller ikke. Det handler om samfunnsstrukturen. Ja, for meg gjør det det. Man ser for det at alle prosesser kunne bli utført av maskiner. Mennesker trenger ikke å jobbe lenger. Hvordan skulle det samfunnet sett ut? Hvem skal ta beslutninger? For alt som får det til å gå rundt i samfunnet er jo jobber. Ja.

Jeg ser ikke før meg den samfunnsstrukturen en gang. Jeg vet ikke hvordan et sånt samfunn skulle sett ut. Nei, men ja. Vi må jo omtrent tilbake til steinhallen for å finne et godt eksempel. Da var seg alle rundt og sørget for at de var varme og ikke sultne. Men tror du at det er sånn sirkulært at vi går tilbake til steinen vår igjen? Det ender opp med det. Det er mange sånne sirkler, så vi er egentlig på sånn uendelig

Grunnen til at jeg ikke tror det, det er at vi har tilgang til informasjonen og vi har en evne til kommunikasjon som gir oss en anledning og en lyst til å leve helt annerledes enn da.

Så i det allermeste av menneskehetens historie, så har vi jo vært nødt til å forholde oss til små grupper av mennesker. 100 folk, landsbyen vår. Nå kan vi jo faktisk forholde oss, tror vi i alle fall, til hele verden. Så vi tar inn over oss

mye større, mer komplekst system, og så påvirke det vi erfarer fra hele det systemet, beslutningene våre. Så det blir jo umiddelbart kaotisk da. Jeg aner ikke hvordan man skal ha strukturert et sånt samfunn i det hele tatt, der vi ikke jobber, men har tilgang til å kommunisere med i hele verden. Ja, men

Men så du tror ikke at vi kommer til et punkt hvor vi ikke jobber? Fordi du klarer ikke å se for deg hvordan det vil være? Og nei, den gode nyheten er jo det at jeg ikke klarer å se for meg noe, betyr ikke at det ikke går an å fikse det. Men jeg tenker at din lokale partikelfysiker slash AI-forsker kanskje ikke er etter vedkommende til noe. Men mener du da at man ikke bør frykte å miste jobben din?

Sånn som samfunnet er lagt opp nå, så er det jo helt krise hvis du mister jobben din. En ting er at du mister inntekt, men du mister jo også en av dine fremste identitetsmarkører. Hvis noen sier, hei, hvem er du? Så er du veldig fort inne på hva som er jobben din. Det å ikke ha en jobb akkurat nå, tenker jeg er et gigaproblem. Det er så mye vi må forandre hvis vi ikke skal ha jobb lenger. Vil noen miste jobben din?

En ting er at alle mister jobben, men vil noen miste jobben sin?

Ja, hvis ledelsen bestemmer at denne prosessen skal utføres av en maskin, og tilstrekkelig nok av arbeidsoppgaven til en arbeidstaker, automatiseres vekk, gis til maskinen, og vet om den ikke passer inn i andre roller eller klarer å videreutdanne seg, så ja. Ok, så fra det ene eksempelet og trekker opp på et litt makronivå, tror du at det vil være mange som mister jobben på grunn av AI?

Åh, det er et så sinnssykt vanskelig spørsmål, for det er så mye usikkerhet rundt det. Det ene er jo, er det kun snakk om enkeltoppgaver, og så må det menneske som før utførte enkeltoppgaven bli en slags tilsynsperson, oppsynsperson? Er den personen egna til å gjøre andre oppgaver i stedet, og få det til å gå bedre i bedriften? Og

hvor raskt vil nye jobber oppstå? Altså, nye jobber har jo alltid oppstått, men det betyr jo ikke at de kommer til å fortsette å oppstå i fremtiden. Nei, men man sier jo det at ved innføringen av alle teknologier så har man fryktet for at folk miste jobben sin, men så har det vist seg at det blir skapt nye jobber da.

som egentlig har bare skapt flere og flere jobber. Ja, og mer og mer sånn fantasijobber. Ja. Altså, vi gikk fra å jobbe som direkte, skaff mat, gjør sånn at noen kan bo, til nå liksom, influencer. Hallo! Du er influencer også? Nei, det er jeg faen ikke. Hahaha.

Domme større. Men det som er interessant i denne konteksten, det er jo at før har økonomien vært veldig avhengig av at folk har det bra. I 1800-tallet så jobbet sånn 95% av alle i jordbruk. Hvis folk ikke hadde det bra, så laget de ikke mat, og nå gikk det jævlig dårlig for samfunnet. Økonomien i dag er ikke like avhengig av at folk har det bra.

Hvor mange mennesker jobber i jordbruk nå? Det er sånn 2% eller etter ennå. Det er i stor grad helt automatisert. Vi er mye mindre avhengig av mennesker som har det bra. Og vi er jo veldig mange flere enn vi trenger å være for å få det til å gå rundt. Så et spørsmål som jeg synes er skremmende viktig akkurat nå, det er å stille oss hvilken rolle har vi mennesker i et samfunn som egentlig ikke er laget for mennesker?

Ingen av våre økonomiske mål handler egentlig om at samfunnet skal være en bra plass for mennesker. Så hva blir rollen vår faktisk? Jeg aner ikke. Hva tenker du da? Det spørsmålet skremmer meg. Du har jo tenkt på det spørsmålet, så hva tenker du? Jeg tenker at vi mennesker ender opp som konsumenter. Og det er jo ikke noe jeg vil være. Nei. Altså i motsetning til produsenter? Ja, i motsetning til...

produsenter eller aktører. Har du sett Wall-E? Ja, der har vi det. Litt karikert, men der har vi det. Da blir jo planeten så ødelagt av søppel at menneskeheten må...

På et romskip, der har du sånn teknisk seriologikk. Hvor de bare sitter på sånne svevende stoler og drikker milkshake. Og konsumerer. Mentalt og fysisk, så bare sitter de der og konsumerer. De slutter å ta aktive valg.

Er det det du frykter at det kommer til å skje? Altså, ikke akkurat det, at vi reiser med romskip, men at noe sånt skjer, at vi sitter og bare konsumerer. Ja, vi må skille mellom frykte og forvente. Jeg vet ikke hva jeg forventer. Jeg synes samfunnsutvikling er veldig vanskelig å få, ja, skulle spåne om, og så har jeg jo hodet langt inn i min egen avhold, det har jeg jo. Men ja, frykte, ja. Altså, vet jeg ikke hva jeg forventer. Men er det også en sånn, altså, mennesker er mennesker,

Det er jo noe som er uforutsigbart ved det. Det er vanskelig å tenke en, se for seg en modell med mennesker, fordi den vil bli utviklet av menneskene. Ja, ja, yes. Og vi ser jo at makroøkonomi er jo en artig sport. Ikke sant? Fordi at hvis du, ja, du kan ikke anta at mennesker er rasjonelle aktører. Kanskje hvis du zoomer langt nok ut, men... Det er egentlig som anvendt forskning og grunnforskning. Mennesker er grunnforskning.

Det er en artig parallell. Å prøve å modellere systemet av mennesker er jo nærmest kaotisk. Hvis noen snakker med naboen, og naboen har fått seg en kulbil, så kan han ha diggård og kjøpe seg en kulbil. Vanskelig å modellere. Det er for mange variabler.

Altså modeller kan du lage hvis du har kjente variabler, ikke sant? Relativt kjente variabler. Altså hvis du har full kontroll på variablene, så kan du lage eksperimenter for eksempel, hvis du har veldig full kontroll. Nå snakker jeg om ting jeg ikke har peiling på, men for meg så er det sånn, hvis det er en ting som er tre variabler, og du kan påvirke variablene, så kan du også predikere hva utfallet vil bli, på en måte. Ja, hvis du kjenner relasjonen mellom variablene. Så det er jo sånn vi gjør i naturvitenskap. Jeg er i naturlov som forbinder de her tre variablene, men jeg

tenker kanskje ikke at det finnes naturlover for mennesker. Nå tenker jeg at vi snakker statistikk, og vi kjenner ikke de statistiske fordelingene som folk oppfører seg etter. Det er uendelig antall variabler. Det er mange variabler, men vi kjenner dem heller ikke.

Nei, nei, nei. Jeg vet ikke hva som driver an for menneskelig adferd. Hvis vi er ordentlig, ordentlig uheldige, så er det jo faktisk kvantusikkerhet i hjernen vår. Og da snakker vi ekte bokstaver tilfellighet, sier han i kildene tilfelligheter vi har i universet. Ok, vi må runde av. Vi skal løpe videre. Det jeg lurer på til slutt. Hvis du skal gi noen råd

til den yngre delen av befolkningen. Hvilken karriere bør man gjøre? Hva er en smart karriere å velge? Det smarteste du kan gjøre, det er å finne ut hva du er nysgjerrig på. Virkelig. Hvis du er nysgjerrig på...

kvantbiologi. Så ikke tenk at du er nødt til å bli ututvikler, fordi ellers får du ikke jobb. Virkelig, vær så snill. Altså, jeg gjorde kvantefelt høyre ved endelig temperatur på masteren min, og nå har jeg vært på Stortinget og snakket med politikere om hvordan vi burde regulere kunstig intelligens.

Så en ting er at du sannsynligvis ikke kommer til å jobbe med akkurat det du studerer, men du kommer til å bruke de evner du tilegner deg. Og den beste måten å tilegne deg evner på, det er å drive med ting som du synes er skikkelig verdt å drive med. Så følg nysgjerrigheten, ikke komforten, og ikke tenk. Altså ikke ta inn over det der spørsmålet om hva vil være nyttig for samfunnet om 20 år, det er ikke ditt ansvar. Nei, så bare gjør noe som du selv synes er spennende, fordi da har du faktisk sjansen til å bli veldig god på det.

Ja, rett og slett. Ha det gøy med det du gjør, og gjør ting du synes er gøy. Ok, men da er det et element at du må velge noe som du kan bli veldig god på. Du må bli veldig god på noe.

Ja, og så en sånn tilleggstips, det her er jo å gjøre noe som er litt vanskelig. Altså ikke gå for den umiddelbare flytsonen. Jeg skjønner at det er gøy å spille fotball, men ta noe som du tenker at du må videreutvikle dine mentale eller intellektuelle evner for å få til. Hvis du skal gi et råd til gründere,

Få deg en jobb. Nei, jeg vet ikke, jeg har ingen versjon Norge, eller jeg tror det. Jeg aner ikke hvor selvfeltet der funker. Lykke til med det her, hva heter det for noe? Venture capital. Det synes jeg er det verste i verden. Lykke til, masse lykke til. Min fulle medfølelse.

Men disse open AI-guttene, ChatGPT, Sam Altman, de kommer jo fra denne bransjen, og starter et miljø. Ja, det kan gå bra. Men det jeg tenkte du kanskje ville si, da, var når man utvikler produkter, det etiske rundt det, er det smart å gjøre, fordi det kommer til å bli...

regulert på et eller annet tidspunkt? Og så hva er det forut? Veldig god spørsmål. For det er mulig å si hvor strengt det kommer til å bli regulert. Det er vanskelig å si hva man blir å kunne komme unna med. Og så er det vanskelig å si hvor mye forbrukere kommer til å bry seg om det. Forbrukere sier jo

og etikk er så viktig, og jeg skal ikke ha kindering med palmolje, eller hva det er, og så fortsetter vi å kjøpe fra Amazon, som har kanskje den mest uetiske praksisen noe sted, hvis vi ikke tar med kjøttindustrien. Ja,

Så veldig vanskelig å spå hva som er lurt å gjøre. Men jeg sier forhold deg til gjeldende reguleringer og de vi ser i horisonten. For eksempel hvis du lurer AI, så les igjennom AI-akt, for den kommer sannsynligvis i 2025-2026 en gang. Men handler det om å forholde seg til gjeldende regler og fremtidige regler mer enn at du må være etisk fundert? Jeg tenker sånn at du måtte, det som Google hadde før, «don't do evil» type ting.

Nå gjelder ikke det lenger, men... Det ene er at det ikke gjelder lenger, og det andre er at det er ekstremt vagt. Altså, hva skal det bety? Det er klart jeg synes at etikk er viktig, men etikk er ikke bindende og det er en elendig koordinerende mekanisme. Vær etisk, vær snill, ikke sant? Det er veldig vanskelig å skjønne hva det skal bety da, men...

Jo, jo, jo, herregud, så klart. Tenk bærekraft, tenk ikke utnytting, tenk maksimere menneskelig autonomi, lykke til med å selge et produkt som oppfyller alle de. Jeg hater jo markedskapitalisme. Jeg gjør jo virkelig det. Ikke fordi jeg ikke liker optimaliseringsalgoritmer, som jo kapitalismen er, men fordi jeg ser at utfallet er så himmelropende at det skal lite bærekraftig. Ja, det stemmer. Samtidig så er jo kapitalismen har jo ført til en del utvikling da, også.

Ja, som sagt, det er en fantastisk optimaliseringsalgoritme. Altså, hvis man vil ha utvikling og økonomisk vekst, så er det helt spektakulært effektivt. Veldig bra, alt er sitt bruk. Men tror du ikke folk i dag vil si at det er ingen, det er ikke mange i dag som vil si at det var bedre på 50-tallet?

Det kommer helt an på hva du måler. Nei, velferden var ikke bedre, men CO2-nivåen i atmosfæren var bedre. Vi vet ikke nå om det på lang sikt var lurt det vi gjorde. Nei, det er selvfølgelig et godt poeng. Men sånn menneskelig tilfredshet tror jeg er høyere nå enn før, men planetens tilfredshet er mye lavere.

Næringslivsledere, nå kommer det ny teknologi, hvordan skal de forholde seg til dette? For det kommer jo nye ting hele tiden. Hvordan forholder man seg til det? Ikke tenk at dette er et tog du er nødt til å hoppe på. Hvis ikke så blir du ukulest i gjengen. Nei.

Gå tilbake og tenk hva er de overordnede målene våre? Hva er våre resonneter? Hvorfor finnes vi? Hva er de problemer vi vil løse? Så forstå teknologien til strekke litt og finn ut hvordan den kan hjelpe til å løse problemer bedre. Og hvis den ikke kan det, så trenger du ikke bruke den. Ok, vi skal avslutte helt på tampen med det vi egentlig snakket om rettførsending, og det var spørsmålet hva er det som opptar deg mest?

innenfor det du holder på med? For du holder på med dette hele tiden. Du snakker jo mange mikrofoner om AI og dessverre, det er diverse. Ja, dessverre. Hvilken problemstilling er det du er mest opptatt av innenfor dette spaceet?

Det er jo det som er mitt forskningsspørsmål. Det heter forklarbar kunstig intelligens, det blir kort XI, som jo objektivt sett er den kuleste forkortelsen i universet. Og det handler om at, så sier du at du har laget et AI-system, eller en maskinlæringsmodell, som klarer å løse et eller annet problem,

hva har det forstått? Så det er litt som å snakke med en alien og si, hva har du skjønt om verden? Eller om det er domene? Hva baserer du beslutningen dine på? Hvilke antakelser har du gjort? Så utvikler vi metoder for å prøve å finne ut det. Ja, for å skjønne hva det er du egentlig forstår. Ja. Det er en sånn hjernekirurgi for maskinverksmodeller. Og dette er grunnforskning? Ja. De metodene må vi utvikle fra bunn. Merker du at

Tror du nå at vi vil få mer finansiering av grunnforskning innenfor dette feltet? Nei. Du tror ikke det, nei? Nei. Hvor skal de pengene komme fra? Det må jo kuttes andre plasser. Når vi har en så dårlig tradisjon for å finansiere grunnforskning i det hele tatt,

Hvordan skal vi motivere det? Ja, nei, ok, det blir mindre motorvei der, og så blir det litt mindre sykehus der, men så blir det mer grunnforskning på NTNU. Lykke til med å selge det. Ok, så din helt til slutt, din siste appell til politikere, hva må du gjøre? Bare ring meg, ordne seg.

Inga, tusen takk for at du kunne komme. Takk for meg. Veldig hyggelig og innsiktsfullt å snakke med deg. Og så masse lykke til videre, både i kampen for grunnforskning, men også med å spre det budskapet. Jeg holder på å si glad budskap. Men det jeg har lært nå, det er ikke... Ja, spre det nyanserte budskapet. Budskapet er nettopp. Ha det fint. Ha det.

Hei, hvis du likte denne episoden, så abonner på den og gi den gjerne en 5-stjerners rating med dine tanker. Hvis du er interessert i temaene vi tar opp på denne podcasten, så anbefaler jeg deg å gå inn på skifter.no. Og hvis du mener vi fortjener deg, så kan du gjerne støtte oss ved å abonner på Skifter. Takk for at du hørte på, så ses vi neste uke.

Hei, er du en CEO eller CTO i et vekstselskap og trenger flere utviklere? Da vet du at det er ganske krevende å finne dyktige utviklere i Norge. Men håpet er heldigvis ikke ute. Cefalo er et norsk outsourcing-selskap som har klart å bli en av de aller beste arbeidsgiverne for seniorutviklere i Bangladesh. Cefalos spesialitet er å rekruttere og bygge langsiktig utviklingsteam sammen med den norske kunden.

Og det å ha faste utviklere gjennom Cefalo skal i praksis oppleves som å ha egen ansatte. Så er du interessert i å høre mer om å ha eksterne utviklere, så vil Cefalo gjerne ta en veldig hyggelig prat med deg. Så sjekk ut cefalo.no, altså C-E-F-A-L-O.no.