Velkommen til Teknisk Sett, en podcast fra TU. Mitt navn er Jan Moberg, og jeg sitter her på NTNU med Odd-Rikard Valmått. Hei Jan. Ja, her går du unna, Odd-Rikard. Jeg går unna, men jeg vet finst det. Det er jo ikke måte på hva vi får inn døra her av kompetanse og temaer. Det er moro, det er fantastisk.
Nå skal vi ta opp et tema som er temmelig mystisk og litt skremmende. Det har vært det i mange ti år. Jeg har lurt på det i mange ti år. Det er en av de store spørsmålene i teknologilivet. AI, Artificial Intelligence.
Kunstig intelligens. Hva er det? Hvordan fungerer det? Kommer det til å overta verden? Hvor er du på det temaet nå, Rikard? Er du helt sikker på at vi kommer til å skape noe som er smartere enn oss? Om det er skummelt eller bra, det vet jeg ikke. Det er ingen som vet. Kommer vi til å få oppleve det? Det er
En del av det, ja. Men du sier jo at du kommer til å oppleve å bli fraktet rundt i en autonom bil. Ja, det tror jeg. Men det er kanskje bare en... Det er en liten bagatell. Jeg snakker om større tenkende systemer. Nå, før vi filosoferer mer rundt det, så må vi introdusere gjesten i denne podcasten. Hun heter Vilde Gjerum og er PhD-kandidat her ved NTNU. Og temaet er forklarbar kunstig intelligens. Vilde? Nei. Du hører at vi er opptatt av dette. Ja.
Og ifølge det du holder på med, så skal du kunne forklare dette. Ja, eller prøve i hvert fall. Ja, og bare ut fra samtalen vi innledde med, så er det jo kanskje et poeng da, at vi prøver å forklare litt mer hva som er bak dette litt sånn skumle begreppet AI. Ja, og i hvert fall når man tenker inn for maskinlæring og store neurale nettverk, så har vi ikke så god forståelse for hva det er som foregår.
hvordan de egentlig tenker da. Skal vi bare ta det med en gang? Her kom både AI og neurale nettverk. Skal vi bare forklare neurale nettverk for lytterne? Ja. Neurale nettverk er inspirert av hvordan hjernen vår og neuronerne i hjernen vår fungerer. Og det er egentlig bare mange ligninger satt sammen i en spesiell struktur. Det er egentlig bare matte. I stedet for et
et neuron, så har du en ligning. Ja, en ganske relativt enkel ligning også. Men de er veldig, veldig mange, og det er det som gjør det vanskelig. Og distribuert. Du kan bygge disse neurale nettverkene på mange spennende måter. Ja, det er
Det finnes mange forskjellige måter å strukturere dem, som har litt forskjellige hensikter bak de forskjellige, men helhetlig er neuralet nettverk egentlig bare en veldig komplisert funksjon. Akkurat. Det er matte. Ja, vi må komme oftere hit og drikke hardt og få gode forklaringer på ting vi lurer på.
Jeg må gjøre den gamle matteboka som hadde på en, så da vil jeg ikke. Men Vilde, du har etter hva vi skjønner en kjeppest når det gjelder neural network, fordi du hører jo på oss at vi er litt usikre. Hva er det egentlig som...
som foregår der inne. Vi er litt engstelige for at dette her blir brukt uten at de skjønner hva som foregår. Ja, det er jo sånn at AI-systemer og maskinlæring brukes rundt oss hele tiden. Kanskje ofte når vi ikke heller er klare over det selv. På Netflix, Spotify, på telefonene våre.
Men en ting som jeg synes er veldig viktig er at vi må kunne forstå hva det er de gjør. Neurale nettverk er ofte omtalt som en black box. Det vil si at de har ingen innsikt i hva som foregår inni dem. Det gjør at man kanskje ikke har så høyt tillit til hva det er de gjør, og kan jeg stole på dem? Det gjør at man kan bli litt redd for hva det er de gjør, og hva det er de brukes til.
Du nevnte en eller annen tjeneste TV og musikk, de styrer jo oss. De foreslår ting, ikke sant? De styrer jo interessene våre. De styrer oss i en retning. Og det var jo egentlig litt skummelt da. Men hva er egentlig frivillige, ikke sant? Ja, det er jo også en stor diskusjon rundt det etiske. Og det kommer jo inn på mer sånn om er det det å styre hva man skal synes er interessant og sånn, men også at
Når man ikke vet hvordan de fungerer, hvordan kan vi forsikre oss om at det er trygt å bruke de, at de er rettferdige og sånne ting. Så det tror jeg er en veldig viktig del av for at AI skal ta steget videre og bli brukt mer, er at man har en god forståelse for hvordan de fungerer.
Og det vil jo gjøre at hvis man vet hvordan de fungerer, og hvordan de kanskje, der de ikke fungerer godt, så kan man forbedre dem mye lettere. For det er jo litt sånn at man kanskje har lyst til å bare putte masse data på, bare gi dem mer data, og tenke sånn, da ordner det seg. Løse enda større oppgaver. Ja, og det kan bli litt brute force, men i stedet for hvis man har en forståelse for hvordan de fungerer, kan man på en smartere måte forbedre dem, og få mer nytte av dem.
Du, bare før vi går videre, du var inne på det, maskinlæring versus AI, en kjapp oppklaring. Dette er jo litt som flytter over i hverandre. Ja, de brukes litt om og om, og veldig ofte når man snakker om AI, så mener man ofte maskinlæring. Men maskinlæring er en underkategori av AI. De er datadrevne modeller, at de bruker store datasetter og lærer seg ting.
Så de er ikke helt det samme, men veldig ofte så mener man maskinlæring når man snakker om AI. Ja, for at AI spiser jo data. Det er jo kanskje måten vi spiser ut
kan trekke en parallell til programmering da. Ja. Nå betømmer vi data inn i, og så prosesserer vi og blir smartere og smartere. I hvert fall syns ikke det foregår i mitt naturlig intelligente hodet. Ja, og dem er jo resultatet av en maskinlærings algoritme er veldig avhengig av hvordan dataen er fikk.
Den kan ikke lære seg noe som ikke er i dataen. Og derfor er det jo veldig viktig at man vet hva slags data man gir den. Det er en måte å finne mer ut hva den kan lære seg. Men ja, og at hva som ligger i den dataen når det er så store datasett, det har man rett og slett ikke alltid vite. Det er for mye data.
Det er jo interessant som du var inne på. Når vi snakker sammen nå, så innser jeg at jeg føler ikke godt nok med på hvordan dette brukes rundt meg heller i dag. Enten det er Netflix eller Spotify eller mobiltelefon. Ja, ansiktsgjentgjeninger. Ja, du var inne på strømbrukk, reklame. Vi er jo egentlig litt for ignorante egentlig.
Kanskje en samling av hvordan jeg burde ta og tenke på det? Jeg tror vel jeg er veldig få tenkende på det i hverdagen. Ja, altså det er jo kanskje til en viss grad litt med å kreve at folk skal sette seg inn i
Alle metoderne. Jeg har studert ganske lenge for å forstå det her. Jeg tenker på den daglige bruken av AI. Vi er jo alle brukere hele tiden. Ja, man er det. Og man vet kanskje ikke om det. Vi har akseptert det som noe helt naturlig, men det er...
AI som ligger i barn. Det er også litt med datasamlinger som de prøver å akseptere cookies og sånn, men hvor stor effekt det egentlig har. Teknologiene flyter jo sammen. Det blir ganske kraftfullt etter hvert. En ting er jo hva du blir eksponert for. En annen ting er hva som blir luket ut. Det kunne vært morsomt å sette baksiden av medaljen. Her er hva vi serverer deg av informasjon, men hva er det du går glipp av?
Ikke sant? Det er mange ting å tenke på. Du, Vilde, vi må komme innom dette, for vi snakket om det før sending. Jeg spurte deg, hvor er vi nå, og hva tenker vi om AI? Og så sa du noe som var verdt å reflektere over, nemlig at vi tenker alltid, eller dere da, tenker alltid fremover. Og at i dag så er det litt sånn sjakkmaskin. Been there, done that. Er vi så flinke til å bare...
assimilere det som allerede har skjedd, at vi bare flytter oss videre.
Ja, det som er med en sånn litt evig diskusjon da, med kunstig intelligens, er hva som er, hva er intelligens? Hvor setter vi den grensa? Og der har man ofte sett litt at det er gjerne det neste vi ikke har fått til, som er intelligens. Så før så tenkte man kanskje at, oi, en sjakkmaskin, det hørtes veldig vanskelig ut, oi, oi, oi, så imponerende, mens i dag så er vi kanskje litt sånn, ja, så klart har vi det. Ja.
Det er litt interessant hvordan man ser at begrepet intelligens flytter seg litt lengre unna, sånn at vi aldri helt er der. Da er vi nødt til å ta opp et begrep til, nemlig singularitet. Det er noe som kanskje høres enda mer skremmende ut, Rikard. Ja, det er vel kanskje det jeg tenker på. Det er av og til blitt skremt. Hvordan skal vi forklare det? Singularitet?
Åh, det synes jeg er litt vanskelig å forklare. Når vi passerer punktet hvor datamaskinen blir smartere enn oss. Ja, når den blir smartere enn oss, ja. Og at en ting man tenker litt på, det er jo den her kunnskapseksplosjonen. At hvis vi har klart å lage et system som er smartere enn oss, så klarer jo det systemet å lage noe som er smartere enn seg selv, og da...
Da må man lage uendelig intelligens. Da løper det fra mennesket. Og når det da går i gigahertz, i stedet for 3G-systemet vårt, og har tilgang på all verdens data, vi må lese side etter side, og de kan ta inn internett på et plunk. Hvor havner vi da?
Det må man jo faktisk nesten bare vente oss til. Ja, og så blir det sånn som Elon Musk, sånne dommedagsprofeter. Ja, man må jo håpe at det kommer på den gode siden, at vi klarer å utnytte det til det gode, men jeg er også litt opptatt av at vi må ikke, altså vi må gjerne snakke om det og tenke på det, men at å vite om
veien dit, altså alle de tingene vi bruker det til før det, som også kan være skadelig hvis man bruker det innenfor helse eller bank finans, altså der man påvirker folk sine liv, at vi i dag hvis vi ikke klarer å løse de
problemer rundt det i dag, så har vi ikke sjans mot det til slutt. Nei, det er det du er inne på med den forklarebare kunstig intelligensen, at du i hvert fall er bevisst på hva som skjer opp igjennom, og at teknologien må jo påvirke at den brukes til det gode. Men du var inne på det tidligere, men mennesket er jo heller ikke bare snilt. Nei, og det er jo litt interessant at vi skal lære opp
nye intelligente systemer basert på det vi kan. Det er bare å se på historien. Vi er ikke sånn kjempesnille. Nei, men jeg vil jo håpe at man ikke programmerer inn for mye følelser og aggresjon og missunnelse og alle de guffende tingene med menneskehjern. Nei, men det som er at vi kan, jeg kan kanskje fort være litt uheldig å gjøre det, for vi har bare data fra i dag og tidligere, og i den datan så ligger
Blant annet de dårlige egenskapene våre. Hvis ikke vi er litt opps på det, så kommer vi til å... Det er jo data de bruker til å lære seg. Og den dataen er fryktelig viktig. Og så er jeg ganske overbevist om at militæret kommer til å bli en stor bruker. Og de skal jo ikke lage snille datamaskiner. De skal jo lage aggressive maskiner som helst ikke brukes vilt. Nei, og det er jo...
Hva skal jeg si? Veldig mye teknologi, altså man har ansiktsgjenkjenning på telefonene sine for å åpne låseskjermen. Den kan jo også brukes. Man tenker at den er veldig enkel og snill, men den kan selvfølgelig også brukes på en farlig måte. Ja, og det gjelder jo mesteparten av teknologien. Den kan brukes på to måter. Vi skal avslutte med hvordan du endte opp her, Vilde, for det er en litt interessant historie. Vi
Både i TU og ellers, vi trenger jo flere kvinner inn i teknologi. Og du har endt opp her på NTNU. Men du skulle jo egentlig bli veterinær. Hva skjedde? Jeg gikk på videregående og skulle egentlig bli veterinær. Og så fikk jeg tilbud om å reise til Trondheim og NTNU og besøke de teknologistudiene som er her under jenterprosjektet ADA.
Og jeg var her og fikk høre kule foredrag og snakke med studenter om det de gjorde, og skjønte at kubbenetikk og robotikk var kjempekult. Så da ble det rett og slett hele omvendingen.
Og så ble det til og med doktorgrad av det til slutt. Det er en suksesshistorie. Ja, det er det, men det viser jo også at dette ADA-programmet virker. Jeg har vært med her på en samling nede på det runde huset her nede, hvor vår president i Tekna og vår nestleder i styret i TV, Lise Løngsten Srandeberg, holder et ganske flott foredrag om hvordan hun havnet opp i det.
Det er jo flott å se at det virker. Ja, det gjør det. Det er flott. Vilde Gjærum, PHD-kandidat ved NTNU, takk til deg. Dette er kjempespennende å høre på, og vi må bare ønske deg lykke til videre med den forklarbare kunstig intelligensen. Ja, tusen takk. Tusen takk for at jeg fikk komme. Bare hyggelig. Og takk til Odd-Rikard Valmått, og mitt navn er Jan Moberg.
Dersom du ønsker å konsumere enda mer innhold fra oss i TUNO og DIGI.no, anbefaler vi at du blir abonnent. Det vil gi deg tilgang til alt vårt innhold innen energi, elektrifisering, forsvar, fly, samferdsel, byggenæring, industri, maritime næringer, karriere og mye, mye mer fra vår kjendige redaksjon. Du vil da også få tilgang til alle sakene Odd Rikard skriver om sine 687 favorittområder.
Vi har også egne avtaler for bedriftsabonnement, og, som om ikke det var nok, medlemmer av NITO og Tekna får halvpris.