Jeg er kunstig intelligens!

Hei, og velkommen til Skifters podcast. Mitt navn er Magnus Sarnes, og nylig la digitaliseringsminister Nikolaj Astrup fram en ny nasjonal strategi for kunstig intelligens. Dette er et felt hvor ting endrer seg raskt. Det betyr at det er en strategi som ikke gir alle svar på alle spørsmål, men forhåpentligvis bidrar til å sette en retning for arbeidet med kunstig intelligens i Norge, både i offentlig og privat sektor fremover. Og den etablerer noen overordnete prinsipper som jeg håper vil stå seg over tid, selv om dette er et område som endrer seg veldig raskt. Hva betyr denne strategien for norske bedrifter, og for det og mer? Senere i episoden prater vi med filosof og AI-ekspert Einar Duenger Bøhn. Men nå er du her, Ingeborg Frøysnes. Velkommen! Tusen takk! Du er to uker inne i rollen som politisk rådgiver i IKT Norge. Du kommer fra stillinger som COO i start-upen Ansys Technologies, som bruker kunstig intelligens innenfor blant annet tekstanalyse. I et intervju du gjorde for to år siden, så sto du som representant der og etterlyste nettopp en nasjonal strategi for kunstig intelligens. Nå har du fått det. Hva har forandret seg fra forrige uke da du ikke hadde til i dag? Det er nok ikke så mye som har forandret seg på den ene uken, men hva som kommer til å skje videre, det har forandret seg. Og det at man nå har en nasjonal føring, et nasjonalt ambisjonsnivå for hvor vi vil være som KI-nasjon, det er kjempeviktig. Nå har vi også et utgangspunkt som vi kan jobbe videre utifra. Og vi kan også holde regjeringen ansvarlig for de ambisjonene de har lagt, og at disse følges opp på en god måte. Men kunstig intelligens, er ikke det et bøssord på linje med blockchain og alt annet? Og er ikke det her teknologi som utvikles så fort at føringene vi har i dag kan være helt irrelevant i morgen? Det er nok en bøss fordi at man ikke vet nok om hva det faktisk er, og hvilken samfunnsnytte det kan ha. Og når man ikke vet hva det er, så høres det veldig avansert ut og veldig abstrakt. Og så blir det på en måte en slags salgsteknikk. Og derfor blir det en pass. Men nå har vi jo kommet dit at man er fullt klar over hvilken nytteverdi det har. Og at det faktisk er reelt. Og ikke minst de mulighetene det gir for verdiskapning og effektivisering av for eksempel det offentlige. Ja. Så man har nok beveget seg forbi at det bare er et passord, og denne strategien er jo et konkret eksempel på at man nå tar dette på alvor. Vi kunne kanskje hatt en nasjonal strategi for noe som quantum computing, eller hva som helst annet. Hvorfor akkurat kunstig intelligens? Det er jo et ganske hvitt begrep. Det favner jo veldig mange typer teknologier under ett. Det er veldig mange forskjellige bruksområder. For eksempel NLP-teknologi er jo veldig god til å lese og analysere store mengder tekstdata. Det er jo klart at innenfor det offentlige har man bruk for den type teknologier som kan bistå med innenfor beslutningsstøtte eller effektivisering og automatisering. Det vi er bruksområdet, det ser vi jo igjen i strategien. Grunnleggende verdier i Norge må også gjelde for kunstig intelligens, menneskerettighetene, personvernet, førevarprinsippet, demokrati, mindretalsvern, trepartssamarbeidet. Alt dette må også omfattes av kunstig intelligens. Først og fremst, er du fornøyd med den? Du som etterlyste den for to år siden. Jeg er veldig fornøyd med at vi har fått den, og at det har gått forholdsvis kjapt. fra de lansert at de ønsket å lage den. Og så er det et veldig godt utgangspunkt, fordi at kunstig intelligens beveger seg i et sånn komplekst landskap mellom akademia, næringslivet og offentlig sektor. Og derfor det at denne strategien favner såpass bredt, tyder jo også på at man har skjønt at det er komplekse problemstillinger Så jeg er veldig fornøyd med utgangspunktet, og så blir det kjempespennende å se hvordan den følges opp. Ja, for det er jo en del ting som skal vurderes og utredes, i alle fall det har regjeringen intensjon om, da skrives det i strategien. Så er det et par ting som er konkret, for eksempel skal det opprettes en regulatorisk sandkasse for personvern, som vi har skrevet om på skifter. Men burde den ikke være mer spits for å få mer ut av den? Jo, det kan man godt si, men i og med at den favner såpass vidt, så er det ikke mulighet for det i denne strategien. Men det er jo nettopp derfor oppfølgingen blir så viktig. Det er jo da man kommer med konkrete tiltak. Og det at de lanserer regulatorisk sandkasse for personvern er jo et veldig godt eksempel på mulige tiltak man kan forvente seg i fremtiden. Du ser jo på andre lands nasjonale AI-strategier, så er det jo i oppfølgingen av disse at de virkelige tiltakene og konkrete reguleringer eller konkrete tiltak kommer. Er det også da uenighetene kommer? Det er det nok. Ja da, det er jo det. Det er jo ikke så mye å være uenig i med denne strategien, sånn sett. For den er innom mange punkter. Hvis det er en ting man kanskje skulle vært litt uenig i, så er det dette med finansiering. Fordi det er litt omtalt. Ikke sant? Og så vil det selvfølgelig være sånn, som med alle strategier i regjeringen lenge frem, at de konkrete tiltakene må følges opp i de årlige budsjettene. Viktig disclaimer, hilsen finansdepartementet. Det er vanskelig å gjennomføre mange av de ambisjonene strategien legger uten å ha konkrete finansieringstiltak som støtter det. La oss gå tilbake til din rolle som CEO i et selskap som jobber med kunstig intelligens. Hadde den rollen, og kommer dine tidligere kollegaer der til å jobbe på en annen måte nå som de har det dokumentet her til grunn? Ja, det er jo... To forskjellige verdener som møtes. Fordi i startup-bransjen, det er i alle fall min erfaring, så er man veldig i sin egen boble og prøver å få hverdagen til å gå rundt og lande prosjekter og dette med å formidle kunstig intelligens på en forståelig måte til aktører som gjerne ikke har møtt på det tidligere. Det er mange sånne utfordringer med tilgang på data og samtidig dette ønsker om å hente penger, og alle de tingene gjør at man blir veldig fokusert på det man gjør, og sine egne arbeidsoppgaver. Og så har du denne strategien som skal se det store bildet. Og de fleste av de områdene strategien snakker om vil jo berøre en startup på en eller annen måte. Men jeg tror kanskje spesielt dette med tilgang på data og regelverk, og også finansieringsmuligheter og virkemiddelapparatet at det er der de kanskje største konsekvensene for en start-up hverdag kommer til å finnes da. Så denne strategien kan fungere som et slags bindevev mellom de ulike institusjonene som er med å drive kunstig intelligens fram? Ja, og det tror jeg også er en forutsetning for at man faktisk lykkes at man ser det store bildet og at det er samhandling på tvers av alle disse sektorene og områdene. Og det er kanskje en annen ting med denne strategien, at delvis oppfordres det private til å ta mye av ansvaret. Da kan man jo diskutere i hvilken grad det er helt riktig. Det blir en diskusjon som kommer. I strategien er det meisla ut noen klare etiske prinsipp. De er nesten direkte oversatt fra det man finner i ekspertgrupper til EU på det området her. Hvorfor skal vi ha et eget norsk dokument som bare kopierer det EU sier? Jeg tror ikke vi kommer til å få et eget norsk dokument som kopierer det EU sier. EU har gjort et kjempearbeid på dette med etikk og etisk bruk av kunstig intelligens, så at man benytter seg av det grunnlaget, det er veldig positivt at man ikke gjør den jobben selv. Og så tror jeg nok man kommer til å, i form av regelverk, skreddersi disse løsningene for norske verdier. Norske verdier er i stor grad like som EU, bygger jo også på menneskerettighetskommisjonen i Europarådet. Så jeg tror nok det er i regelverket at man kommer til å se den kanskje mer nasjonale versjonen av de etiske prinsippene. Hvor fort tror du at det kommer til å komme diskusjoner om nye lover som gjelder kunstig intelligens og bruken av det? Det er jo allerede diskusjoner rundt det. Og så er det interessant, for det er flere sider av det man kan diskutere. For du har... Dette med et regelverk som styrer tilgang på data og etisk bruk av den dataen, det er en sida av det. Men så har du også et annet juridisk perspektiv, og det er hvordan lager man kontrakter som virker for løsninger der resultatene kan endre seg fra dag til dag. Når du har selvlærende algoritmer, du har ulike typer løsninger som kanskje vil variere. Hvordan takler man det fra et juridisk ståsted i form av kontraktingåelser? Så det er også et interessant aspekt ved den debatten. Da hører vi at det kommer til å berøre mange institusjoner, mange ulike fagfelt. Hva bør man gjøre først? Ja, det er sånn høne eller egge spørsmål, føler jeg. Man trenger jo konkrete use cases for å skjønne hva kunstig intelligens er og hvilken nytteverdi det har. og for å kunne diskutere etiske retningslinjer og et juridisk lovverk som legger til rette for innovasjon og at man kan teste ut nye muligheter. Så det trenger man. Samtidig så trenger man å styrke akademia, styrke forskningen, sørge for at man har utviklere, man har utviklere som forstår etikk og så videre. Og så i tillegg så må man jo legge til rette for at løsningene som utvikles tas i bruk, kommersialiseres, videreformidles. Så hva man skal begynne med først, det blir et veldig vanskelig spørsmål. Jeg tror det nok er lurere å begynne i den grad det lar seg gjøre med alt samtidig. For man ser også hvor avhengig disse tingene er av hverandre. Hvor flink kan Norge som nasjon bli sammenlignet med resten av verden? Jeg tror ikke det er et spørsmål om å bli flinkest. Det er et spørsmål om å legge til rette for å faktisk kunne anvende denne typen teknologi for å å få nytteffektene av det. For det er så mange besparinger, det er så mye innenfor velferdssystemer som kan forbedres, det er så mye potensielt vekstskapning innenfor næringslivet, at det å bli flinkest i seg selv er ikke noe mål, men det å kunne legge til rett for at vi klarer å utnytte det potensiale der, det er det viktigste. Og så har man jo veldige forutsetninger i stor grad i det datakvaliteten vi har, Og den tilliten man har til det offentlige er også viktige forutsetninger. Så det er mye bra som ligger til rette for at man skal kunne klare det. Jeg har snakket både med digitaliseringsminister Astrup og direktør i datatilsynet Bjørn-Erik Thun om ikke den strategien her eller føringene som legges kommer for tidlig, at det kan være hemmende for utviklingen av teknologien når man skal følge slike retningslinjer eller plassere seg inn i et rammeverk når det er så tidlig. Hva er dine tanker om det? Mine tanker er at det ikke er for tidlig. Grunnen til at jeg sier det er fordi det er de erfaringene jeg har gjort meg fra startupbransjen, og det selskapet jeg var i tidligere, hvor man så, altså da vi startet der og gikk ut til kunder, så var det enten at de hadde svært store mengder data som de ikke ante hva de skulle gjøre med, Ellers visste de akkurat hva NLP-teknologi var og hvordan de ville bruke det, men de hadde ikke data. I løpet av de årene jeg var der så man en markant endring i markedet, og at bedrifter ble mer og mer bevisst på hva slags type data de hadde, og hvilke muligheter de kunne utnytte. Og det skiftet kommer jo fordi at man har satt kunstintelligens på dagsordenen. Man har snakket masse om det. Man har lett etter konkrete eksempler som gjør at det blir forståelig. Så å sette kunstintelligens på dagsordenen og gi det den politiske tyngden det har fått gjennom denne strategien, det er kjempeviktig for den videre utviklingen av den næringen. Hvis vi koker det helt ned, hva er det viktigste med den strategien her? Det viktigste med strategien er at vi nå har fått en nasjonal AI-strategi. Rett og slett fordi det betyr at nå prioriterer vi kunstig intelligens. Nå satser vi på kunstig intelligens, og vi satser på kunstig intelligens som et land med alt det fører med seg. Dette er en... en allsidig satsing som krever at alle tar i et tak, og det er et viktig utgangspunkt for den videre utviklingen. Da kan vi sette punktet om der. Takk for praten. Takk skal du ha. Da tar vi opp, faktisk. Hei, Einar. Hei. Hei, hvem er du? Jeg heter Einar Duenger Bøhn og er professor i filosofi på Universitetet i Agder og er med på dette senteret for forskning på kunstig intelligens, KER, på universitetet. Du har ved flere anledninger snakket om kunstig intelligens foran digitaliseringsminister Astrupse. Har han hørt på det? Jeg vet ikke, ikke så mange ganger. Jeg tror jeg har møtt han to ganger. Jeg vet ikke om han har hørt på det, jeg har ikke peiling. Nå vil du se på den strategien som ligger foran deg her da. Første inntrykk... Noe bra og noe dårlig, som alle sånne strategier. Det er noe bra her, men jeg synes den er også veldig vag og litt forpliktende, som veldig mange sånne meldinger er. Så vi kan jo se mer på det, men den har noe bra. Jeg synes det er bra at den fokuserer på at den er veldig klar på etikk, rett og slett, og samfunnsansvar. På en måte. Den bruker veldig vage begreper, ikke nok, og lite forpliktende, men den er ganske klar på at det er viktig da. Så den sier for eksempel at det er veldig viktig med transparante systemer, at det er veldig viktig med etterprøvbarhet, og at det er veldig viktig med å forsiktig prøve oss frem litt. Sånne ting er jo veldig klokt. Har nordmenn og norske bedrifter noe som vi ikke hadde før dokumentet ble lagt frem? Nei, det er det som er utsikkert. Dette er jo på en måte god etikk som jeg tror alle er enige i. Jeg tror ikke det er noen land som sier vi skal utvikle kårene, vi er ikke så opptatt av at det skal gjennomsiktes og etterprøvebart eller ansvarlig. Jeg tror det er ganske sånn at alle er enige i det her da. Altså noe av det etiske, men det er jo bra at det sies eksplosivt, det synes jeg, og det er veldig bra synes jeg på slutten at han nevner disse sju prinsippene Som er nesten direkte oversatt av den prinsippen EU legger seg på. Ja, så det er en slik ekspertgruppe som EU har satt ned som har rett og slett spesifisert sju prinsipper, og den hviler regjeringen på, sier de her. De følger de sju prinsippene, og de sju prinsippene er jo ikke dumme, de er jo gode prinsipper, så det er jo bra at de på en måte er såpass konkrete og sier disse sju prinsippene. Nå kan vi jo etterlyse litt mindre piggybacking på EU-gruppa. De bare tar til seg de sju prinsippene uten noe mer diskusjon. Det kan vi jo se på. Er disse sju gode for norske forhold, for eksempel? Er det de optimale for norske forhold? Skulle vi være litt mer kritiske forhold til det? Sånne ting, men altså det... Jeg vet ikke hvor mye som hører hjemme i en sånn melding. Jeg synes det er bra at de er spesifikke på det da. La oss løfte det et nivå hele den strategien der, basere seg jo eller gå ut ifra en definisjon som også er hentet fra EU. Ja. Hva synes du om den? Nei, den er ganske svak synes jeg. Det er den som når de definerer hva kunstig intelligens er, KI som de kaller det da. Det er jo også en annen ting om vi skal kalle det KI eller AI. Ja. Ja, skal vi bli enige nå? Nå er det litt sånn at noen sier KI, noen sier AI, men spørsmålet er hva blir etablert til slutt? Tenk på PC. PK, personlig, nei, PD, personlig datamaskin, ble det ikke. Det ble PC, personal computer, også på norsk. Sa man PD? Nei, jeg vet ikke, men det er litt sånn analogi. Jeg tror AI blir etablert som greie da. KI kanskje blir borte etterhvert, jeg vet ikke. Men i hvert fall, definisjonen er ganske dårlig. Den er ganske svak. Hvorfor det? Altså, hør hva han sier da. Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data i den hensikt å oppnå et gitt mål. Det gjør jeg også. Jeg er noen som utfører handlinger fysisk basert på tolkning og behandling av strukturerte eller ustrukturerte data i den hensikt å oppnå et gitt mål. Så i følge av det som det er, så er jo jeg kunstig intelligent. Slik at den er ganske svak. Den sier ganske lite da. Hvis du tenker etter hva den sier, så sier den egentlig ingenting. Enkelte koinsystemer kan også tilpasse seg gjennom å analysere og ta hensyn til hvordan tidligere handlinger har påvirket omgivelsene. Det kan jeg også. Slik at jeg tror til og med katta mi faktisk gjør det her. Hun utfører handlinger fysisk basert på tolkning og behandling av strukturerte og utstrukturerte data i hensyn til å oppnå et mål. mat eller kos eller komme inn. Så jeg tror faktisk denne definisjonen favner absolutt alt som handler på noen som helst måte. Sånn sett er den helt inntillstigende, eller egentlig helt håpløs for meg. Og dette er jo ekspertgruppa EU-assattene som har gitt. Men det gjør ikke det enda mer bedre. Bare fordi den kaller seg Independent High Level Expert Group, så blir den ikke noe bedre. Dette er en håpløs definisjon, for å være helt ærlig. Hva ville du heller hatt der da? Her må man nok tenke litt mer sånn... Jeg har jo... Jeg jobber litt med hva den definisjonen er. Alle er uenige. Dokumentet skal ha det at det er vanskelig å definere. Det er ingen som ordentlig er enige om noe som helst. Men jeg tror en generell god definisjon er at kunstig intelligens, det er intelligens. I dag er det digitale datamaskiner som utfører handlinger som vi ville kalt intelligent hvis mennesker gjorde det. Og med intelligens så mener vi kompleks problemløsning. Det er den beste definisjonen jeg vet om, som jeg tror favner veldig godt. Og så kommer dette i grader, så noen systemer er mer autonome enn andre. Det nevnes så vidt et eller annet sted i meldingen at det er grader av autonomitet. Det at et system er autonomt betyr at det kan ta valg selvstendig, uten at vi må håndprogrammere inn hva valget skal være. Så i ikke-autonome systemer får du data inn, og så er det håndprogrammert, så å si, absolutt vanskelig å gjøre for absolutt alle data som kommer inn. I mer autonome systemer, sånn som maskinlæringsteknikker og sånn, så er det at du får data inn, men så er det ikke håndprogrammert hva den skal velge for alle dataene som kommer inn, men den lærer seg mønsterig entjening basert på den datamengden, og så tar den egne valg som vi ikke har håndprogrammert inn på ny data av samme type som jeg lærte på. Men er det ikke, altså når man går gjennom det her, og det er så mange forskjellige nivåer, er det ikke forståelig at man ender på en sånn endelig enormt generell beskrivelse av hva det er. Det er derfor den jeg ga nå, den er veldig generell for å faenne alt, men den spesifiserer jo hva som er kunstig her. Og hva intelligens er, det gjør ikke den her. Den her fauner jo absolutt alt som handler på noen som helst måte. Den skiller jo ikke mellom mennesker og maskiner her, for eksempel. Den kommer litt skjevt ut da. Den kommer fryktelig dårlig. Jeg begynte å le når jeg så den definisjonen, faktisk. For å være helt ærlig. Men det er ikke noe veldig viktig for det som kommer senere, men det bare viser litt sånn Svak forståelse kanskje av hva kunstliggjens er. Vi har jo snakket litt sammen om den meldingen her, eller den strategien, og noen ting er gode, noen ikke fullt så gode. Hva vil du skru ut først da? Skru ut først, jeg synes det er veldig bra at de er som sagt veldig klare på etikken. De har sju prinsipper, det synes jeg er ganske bra, selv om det er litt ukritisk å ha tatt over det fra EU-gruppa, så synes jeg det er veldig bra, og de sju prinsippene er jo gode. Så vi kunne diskutere mer, skal vi ha en til, skal vi spesifisere litt mer i forhold til norske forhold? Greit nok. Jeg tror det er veldig godt at det er syv prinsipper, at de er såpass klare, sånn at vi kan når som helst, og privatnæringslivet offentlig, kan peke på meldingen og si at disse prinsippene bør vi følge fra regjeringen. Det synes jeg er veldig bra. Så i den forstand så har både offentlige instanser og bedrifter noe mer håndfast å holde seg til enn før strategien. Du kan klage og si at dette ikke er samsvar med nasjonalstrategien, ikke sant? Hvis noen ikke følger disse synsprinsippene. Så jeg synes det er veldig godt. Det er veldig bra. Og så synes jeg det er veldig bra at de fokuserer på norsk språk, norske språk, samisk og norsk, og dialekter. At de ikke bare overtar Microsoft og amerikanske systemer med sine språk, så alle må begynne å snakke engelsk. Men vi vil likevel kalle det AI. Ja, kanskje. Jeg kan godt gå for KI, men jeg er bare sånn vanlig til å si AI. Men det synes jeg er veldig bra, at de fokuserer på at det skal være brukvennlig for norske forhold på norsk språk. Det er veldig viktig, tror jeg. Og så en siste ting som jeg synes er veldig bra, som jeg liker litt, som kanskje er litt mer av det kontroversielle i denne meldingen, det ligger litt mellom linjene her, at de går inn for å åpne og liberalisere litt på personverden. Med blant annet en regulatorisk sandkasse. Ja, så de skal sette ned noen grupper som skal se hvordan de kan teste ut nye måter å gjøre ting på, samle inn ny data, mer data. Et par steder sier at de vil gjøre det lettere å dele data, de skal gjøre det mer åpentillengelig data, og så sier de at de skal ta hensyn til personene hele tiden. Men mitt inntrykk er at det er litt liberalisering her. De vil at forskerne skal ha lettere tilgang til persondata, for eksempel. Og dette var jo ting som vi og andre har snakket med dem om når de har vært rundt i miljøene og spurt etter råd. Så det synes jeg er bra. For den dataensamlingen, den må jo vel ligge til grunn for å faktisk komme noen vei. Ja, KI hviler jo på datamengder, i hvert fall sånn det er i dag, at det skal trenes opp på store datamengder. Så for å få bra kunstnettliggjeng så trenger du bra og store datamengder. Sånn sett er det viktig for å få satsa på at du liberaliserer litt på den datatilgangen. Jeg tror det er veldig viktig å ikke henge oss opp i det gammeldagste personverdenbegrepet om at det handler bare om innsamling. Samling minst mulig. Den holdningen er litt gammeldags, men jeg tror vi egentlig er tapt i praksis. Jeg tror det er viktig å begynne å se litt mer nyansert på det, som mange gjør, og skille mellom for eksempel innsamling av data, eierskap av data, lagring av data, bruk av data. Dette er forskjellige ting. Hvor mye skal vi samle inn? Hvor skal vi lagre det? Hvor lenge skal vi lagre det? Hvem skal eie det? Hvem skal bruke det? Sånne ting er veldig viktig å skille. Det kan være at vi kan samle inn masse, men at eierskapet er veldig strengt, eller at bruken er veldig strengt, at reguleringen ligger på bruk, eller en innsamling i større grad enn før. Så graderer du alle disse. Men det blir 4-5 begreper, i stedet for ett. Gir den strategien her noen... mer fast holdepunkt når man skal finne svar på spørsmål at du nå stiller? Nei, det er veldig vagt på personvernet, det bare sier personvernet litt sånn generelt. Og plutselig hoppet vi bort fra skryt. Ja, nei, den kunne ha sagt mer om spesifisert mer på personvernet, men det ligger mellom linjer synes jeg da, at vi skal dele mer, kanskje samle mer, kanskje lage noen syntetiske data, kanskje lage noen speildata, litt sånn data som kan være det samme som det du samler uten at du kan legge et navn på datan, for eksempel at personen blir fjernet, men datan blir beholdt. Så ligger det vel kanskje en oppfordring her også til norske næringsdrivende om å rett og slett åpne opp mer? Ja, det virker sånn. Det er jeg litt uklar på, men jeg synes det er en bra ting at det ligger mellom innene litt. Det er et hint kanskje om at det er er på vei mot et litt mer liberalt og nyere oppdatert personverden begrep da, enn det man hadde før, bare liksom samle inn minst mulig. Men de tør ikke å forplikte seg, så det er lite forpliktende. Men jeg synes det er bra at det Det ligger litt mellom linjene. Så dette var bra ting. Og det her med forpliktelse, eller mangelen på forpliktelse, det er vel kanskje gjennomgående her. Ja, det tror jeg. Og jeg har jo forhold til flere sånne meldinger. Humaniora-meldingen som kom for et par år siden, som var viktig for oss i humanioristiske fag også. så var det jo litt sånn, ikke sant, veldig lite forpliktende. Litt sånn hint, men det er litt sånn, bør vurdere heller enn må, ikke sant? Det blir litt lite forpliktende, men det ligger litt i denne sjangerens natur også, at de vil litt sånn nudging og guiding heller enn tvang da. Så det kan, det er litt sånn i sakens natur at det er lite forpliktende, men jeg synes det kunne vært litt mer ambisjøst da, og litt mer konkret på mange ting som vi kan komme tilbake til. Men en positiv ting jeg glemte, som kanskje har vært den ene, er at de sier et sted helt på slutten, altså jeg jobber på universitetet og er opptatt av høyere utdanning, og der sier de et sted på slutten her at så sier de at de synes høyere utdanningsinstitusjoner skal eller bør vurdere å integrere etikk i IKT-utdanninger. Ja, der er du helt enig. Det er jeg helt enig i. Så dette skal vi komme tilbake til, som jeg synes er veldig viktig da. Men det er positivt at de nevner det, men jeg ville gått mye lenger her og forpliktet meg mye mer og vært mye mer konkret på det punktet her da. Men de sier, helt morslutten her, høyere utdanningsinstitusjoner bør vurdere, veldig vagt, du kunne sagt liksom, oppfordres på det sterkeste, eller burde absolutt, eller må, eller de bør vurdere hvertfall hvordan personvernetikk kan bli integrert del av utdanningen i for eksempel informatikk og datavinskap. Og der har jeg ganske mye å si, fordi jeg synes der kunne man gått mye lenger og vært mye mer ambisjøs. Det er et av de punktene der jeg har vært mye mer ambisjøs. Og sagt for eksempel at de oppfordret på at sterkest eller høyere utdanningsinstitutioner skal utvikle en slags profesjonsetikk innenfor IKT-utdanninger for eksempel. Fordi de sier flere steder i meldingen at andre fag og andre utdanninger må læres opp i KI. Så du må dryppe litt K-E? Ja, overalt. Til og med i barneskolen vil du ha litt programmering og litt K-E inn, at du skal lære deg mattefagene og naturfagene og sånn. Men det er jo likevis ikke viktigere at K-E-utdanninger også får litt drypp fra samfunnsfag og samfunnsbevissthet og etikk. Og det sier de i denne ene lille setningen i morslutten, men det synes jeg man kunne styrka mye mer da. Altså man utvikler en slags profesjonsetikk på oppfordret til å utvikle en profesjonsetikk innenfor IKT-utdanninger. Hvorfor er det viktig da? For jeg tror det handler om samfunnsansvar. Tenk på sånne ting som politiet og legeyrket. 200 år siden var det ikke noe særlig profesjonsetikk på det. Det var det som legen bestemte, og det var det som han som hadde sitt store. Politikonstableren i byen bestemte all det siste ordet. Mens i dag er det egne profesjonsetikker, altså det er institusjonaliserte konvensjoner og etiske retningslinjer på hvordan du skal være en politikonstabel, hvordan du skal være en lege, hvordan du skal oppføre deg møtene med pasienter og kriminelle for eksempel. Samme gjelder læreryrket, det er profesjonsetikker som de opptrenes og lærer seg i utdanningene. Og det gjør at de er en del av en tradisjon. Og det gjør at de får en stolthet av å være en del av en tradisjon. Og det etablerer konvensjoner som gjør det mye vanskeligere å oppføre deg som en tulling, fordi du er en del av en profesjon. Og det tror jeg kan være lurt, også nå når vi ser større og større påvirkning og viktighet av IKT-utdanninger, altså informasjon- og kommunikasjonsteknologi. For hvis du oppfører det som en tulling der, da kan det gå... Ja, da kan det gå ganske alvorlig. Hvis du lager systemer uten å tenke over konsekvensene, hvis du helt fritt forsker på det her i en privat bedrift uten å tenke over hvilken profesjon du er en del av. Hvis du er en del av en profesjon og har en yrkestolthet i det, så blir det et menneske at du på en måte... Du får litt sånn skamfølelse av å bryte med de tradisjonene, og det tror jeg kan være ganske sunt da. Men bør ikke et teknolog som er god på sitt bare få lov til å være god på sitt og ikke utsettes for alt rundt? Jo, på en måte så er jeg helt enig selvfølgelig. De må jo fokusere på at de må ikke ha 8 80 prosent av utdannelsen skal ikke være etikk. Da kommer det ikke veldig langt. Men det integreres til en viss grad, sånn som det gjør med leger, politi, lærere, en del forskjellige yrker. Og det beskjedet allerede nå for meg på tidlig stadie. Ja, jeg mener det beskjedet fra barneskolen av. Når du begynner å lære programmering for eksempel, så skal du ikke bare lære Python. Du skal lære Python, du skal lære... faktisk at det her kan ha innvirkning, du skal ha en samfunnsforståelse av hva du gjør da, og en menneskelig forståelse, et humanistisk aspekt i den utdanningen, i den programmeringen. Bevisstgjøring av det fra tidlig av, og at den strammes mer og mer i høyre opp. Men det betyr ikke at etikk skal ta over disse utdanningene, for det tror jeg er bare tull. Men det betyr akkurat som, altså det er ikke sånn at politikonstabler først og fremst lærer seg på etikk. Men det er en viktig del av utdanningen at de er en del av denne profesjonsyrket. Og det tror jeg også kommer til å bli viktig fremover. Grunnen til at det er litt vanskelig i dag er selvfølgelig at mange IKT-utdanninger er spredt på forskjellige institutter, fakulteter, private og offentlige. Det er ikke en høyskole du går på, sånn som i politiet, sånn som i lege- og medisinstudiet. Så det er selvfølgelig en praktisk problem, men at man kunne tenkt litt mer i de banene, det synes jeg hadde vært veldig... Det er et av de punktene i meldingen jeg synes hadde vært veldig kult om vår regjering trodde litt. Litt foran er jo ikke bare følte noen vage regler, men at det sa her skal vi virkelig gå inn for en... Så der er det en utfordring? Ja, jeg vil utfordre alle til det egentlig, regjeringen da. De sier det mye oftere andre veien, at alle andre fag og utdanninger må lære seg i KI, fordi det er så viktig. Jeg skulle ønske de sa like mye, og kanskje litt mer, at KI også bør lære seg en slags profesjonsetikk. Fordi de er jo, og det hadde jo bare styrka meldingen, for de er jo veldig opptatt av sikker, trygg, tillitsbasert, gjennomsiktig, god etisk bruk av KI. Det er jo det hele meldingen sier flere steder. Og du tror på dem? Ja, jeg tror de er opptatt av det, men jeg tror bare ikke de har tenkt så veldig konkret gjennom akkurat hvilke forpliktelser det innebærer da. Det er bare litt sånn sier det på sånn nivå som alle er enige. Det er jo ingen land som vil ha sagt vi skal utvikle KJ og være verdensledende, men vi er ikke så opptatt av personverns sikkerhet, at vi går fortere frem enn hva som er ansvarlig, vi er ikke opptatt av gjennomsiktighet, ingen som vil ha sagt det, ikke sant? Så alle er jo egentlig enige i det som blir sagt her. Så det hadde vært litt kult om de konkretiserte litt mer. De er litt sånn som skal ha begge deler, mens jeg ville kanskje ha litt mer styrke på den ene siden. Litt mer sånn tenke på nasjonalsere data, for eksempel. Altså, hvorfor tenker vi ikke på nasjonalsere data? De snakker om trafikkdata, for eksempel helsedata, at det er viktig at det deles, at forskere deles mellom systemene, at det standardiseres. Hvorfor ikke gå enda lenger og si at det er ganske viktig at mange av våre nasjonale interesser når det gjelder data, rett og slett nasjonaliseres og bevares og lagres og utvikles på nasjonal grunn, og ikke via utenlandske selskaper. For plutselig så bruttes det internasjonale bånd mellom land, og da sitter vi der uten dataene våre. Jeg skulle ønske det var litt mer diskusjon på sånne ting. Så litt mer mot? Litt mer gutts, litt større ambisjoner og litt mer... bevissthet på hva er de nasjonale interessene våre, og ikke bare hva kan vi følge EU på. Vi kunne vist litt større forståelse for det globale presset eller spillet som utvikling og bruk av KI er. De er litt sånn de piggybacker på EU, som sagt. Og de viser ikke noe stor forståelse for at dette er et globalt spill. Og når Kina og USA og tunge private aktører fra Kina og USA begynner å utvikle og implementere systemer, så er det fryktelig vanskelig for et lite land å si nei og ikke være med på det. Men er ikke nettopp det årsaken til at å piggybacke på EU å ha en litt større aktør? Jo, og derfor er det viktig at man samarbeider med EU for eksempel, som kan være ganske tung mot USA og Kina for eksempel, men jeg tror det er også derfor det er viktig å fokusere mer på hva er viktig for nasjonen Norge da altså hva kan være i tillegg vi kan være med på å bidra med hva slags dataskonnasjonal selv men også hva slags systemer av KI har vi lyst til å utvikle selv hva skal vi satse på og forske på å utvikle selv i stedet for å bare låne av andre på universitetet som jeg jobber hvorfor bruker vi Microsoft hvorfor har ikke universiteten utviklet egne systemer vi har jo kompetansen til det hvis vi vil men det er billig Det er det som er poenget, det er billig å kjøpe Microsoft. Og da har vi Microsoft, en internasjonal privat aktør, som styrer veldig mye av vår virksomhet, og det er veldig mye nudging i det, veldig mye sånn dytting i retning av hvordan vi skal arbeide, fordi systemet kommer med en struktur. Og den er ikke utviklet i Universitetet i Agder, den er utviklet i Silicon Valley, ikke sant? Men er ikke systemene gode da? Jo, de er gode, men det er også sånn, Mange ting som på en måte, det er et eksempel, men det er mange ting som jeg tenker, har vi egentlig tenkt gjennom hva vi ønsker oss selv, eller har vi bare kjøpt det billigste systemet? Mange systemer vi bruker på jobb som ikke er gode, noen Canvas for eksempel, er forferdelige, bare ødelegger min undervisning hele tiden. Slik at det er veldig mange ting vi kan ha mer diskusjon på, mer bevisstgjøring. Her er det veldig sånn, Det er antatt bare at vi skal følge med i den internasjonale, globale trenden. I strategien. Ja, det er ikke stilt noen spørsmål om i hvilken grad vi skal det, hva vi ønsker å delta i, ikke, hva vi ikke ønsker å delta i. Det er liksom bare antatt. Her skal vi være med i verdensleden i toppen. Men det er jo litt sånn, noen sa liksom, hvis alle var begynt å anta at vi skulle være med i VM alle sammen, i en viss spørsmål, så er det på et tidspunkt som jeg lurer på... Hvorfor skal jeg være med i VM, liksom? Må jeg være med også? Så litt mer sånn bevisstgjøring, tenker jeg da, men det er kanskje for å bli for filosofisk og akademisk, kanskje, jeg vet ikke. Hva ønsker du da i oppfølgingen? Jeg skulle ønske det var litt mer presisert og fokusert, konkret forslag til hvordan høyere utdanning skal forholde seg til nye trender og digitalisering og KI. Spesielt at K-utdanningen kanskje kan prøve å få litt mer profesjons- og etisk forståelse, samfunnsforståelse integrert i sin utdanning, uten at det skal gå på bekostning av utdanningen, men at de skal få litt tillegg forståelse av hva de driver med. Det vil jeg ha litt mer av, litt mer spesiell fokus på det, men også at man følger opp litt mer hvordan vi skal tenke omkring digitale data fremover. Skal vi nasjonalisere? Ikke. Hvilke typer skal vi prøve å nasjonalisere? Hva har vi nasjonalisert allerede? Hva er det mer vi burde? Litt mer konkret diskusjon om det her, ønsker jeg meg. Det er jo varslet en stortingsmelding om datadrevet økonomi. Det er litt spennende å se. Det er litt gutts i meldingen. Det er jo personverdene, synes jeg. Litt mellom linjene, kanskje. Men det er i hvert fall her at de vil tenke litt nytt om det. De har litt sånn lekesankasse, som de kaller det. Litt sånn utforsker- personverdens begrep egentlig, det synes jeg er spennende. Det høres ut som et vepsebol også. Ja, det er fort det at det kan bli det. Men jeg synes det er spennende at man prøver det, og takker det. Og så synes jeg det som sagt var veldig bra at de følger opp dette med språk, at det er tegn på at vi er litt bevisst da. At vi ikke bare skal ta inn over oss internasjonale systemer, men tenke lokale forhold. Ja, for der er det tydeligste norske avtrykket. Ja. Og det er jo mange, spesielt eldre, som synes det er slitsomt å komme i banken når ingen snakker norsk. Eller hvis du ringer banken, så er det en chatbot som snakker engelsk. Da er det en krise for mange, ikke sant? Men hadde vi flyttet ut, tatt bort til den seksjonen, så kunne kanskje strategien her like godt vært skrevet i Sverige? Ja, det er nesten det. Jeg vet ikke helt hva han... De snakker litt om Norden, og at vi er liksom egne... Vi har litt sånn forståelse av hva er det de sier da? Jeg vet ikke om de konkretiserer det, men det er litt sånn nordiske forhold vi må tenke på. Vi har høy grad av tillit blant annet, det skal bevares. Det er jo veldig viktig. Men bortsett fra det, så kunne han bare skrevet i hvor som helst TV nesten. Skal vel ikke ha all mulig tillit til kunstinteligen, skal vi det? Nei, altså du skal ikke ha ukritisk tillit. Det er en filosof som heter Onora og Niel som har argumentert veldig for at tillit er litt sånn tvetydig. Altså du skal ha tillit selvfølgelig, det er bra med tillit, men det er jo ikke bra med ukritisk tillit. Du skal ha tillit fordi du har fortjent det. Ikke fordi vi bare skal ha tillit til hvem som helst. Det er jo livsfallet å gå rundt og ha tillit til vilkårlige folk og systemer. Men Norge og Norden har jo ganske sånn høy grad. Vi stoler jo på banken vår, vi stoler jo på forsikringsselskapet vår til en viss grad. Jeg bodde i USA i mange år, der er jo tilliten åpenbart lavere når du går inn i en bank eller til et forsikringsselskap. Du føler at alle skal lue deg hele tiden og signere bunke med papirer før du får lov til å gjøre noe som helst. Så vi har jo et høyere grad av tillit i Norge til systemet og til staten og regjeringen egentlig. Det synes jeg er veldig bra. Så det er jo bra at de vil bevare. Sånn sett er det fokus på at det er noe litt sånn lokalt, litt sånn skandinavisk kanskje, men også norsk lokalt. Og det med språk. Men hvis du bare bytter av det med språk med et annet språk, så vil det sikkert de fleste land gå til Tyskland og Italia. De vil jo bevare tysk og italiensk de også. Tror du vi får en, eller håper du vi får en veldig snarlig oppfølging av det her, konkret? Eh... Jeg vet ikke, jeg tror kanskje at det vil sige inn sakte, men sikkert. Folk vil tenke litt på det, spesielt dette med de sju reglene, så det var veldig bra at det var såpass konkret. Men hvis vi går ut og spør på gata, hva synes du om vår nye nasjonale strategi for kunstig intelligens? Det er ikke så mange som har lest den, tror jeg. Jeg tror ikke. Så har det noe å si for meningen? Jeg tror nok større bedrifter og sånn leseren, ikke sant? Altså hvis du går til sånn som Telenor og sånn, så kommer de til å lese den. De kommer til å ha en forståelse av det her. Og det er jo ganske, altså jeg har holdt mye foredrag rundt til små bedrifter og store, og De er veldig samsopbevisste og veldig opptatt av etikk, og det er ingen som fnyser av det. Så de er veldig opptatt av det. Så jeg tror det er viktig at det kommer en sånn melding, og at den gir noen pekepinner. Så jeg er enig med Astrid på at det kan være et godt utgangspunkt, men jeg synes vi skal følge opp mer med mer konkrete, forpliktende ting. Men sånn er det jo alltid. i politikken. En annen ting som jeg mener man kunne hatt mer konkretisert med, er jo litt mer konkret fokus på reguleringer, altså hva slags reguleringer skal vi ha på kunstig intelligens? Ja, men er det ikke veldig tidlig å gå inn og regulere den typen teknologi? Jeg så han sa det et sted der. Etter han stod inne der så står det at vi kan ikke begynne å regulere for tidlig, for det kan hemme innovasjon, det kan skaper skjevheter i utviklingen da. Men samtidig er regulering for sent, har vel kanskje veldig litt å si. Ja, regulering for sent er jo ofte, da kan det være for sent, ikke sant? Så det er et sånt dilemma, akkurat når du skal begynne å regulere, men at man kunne sett litt på det, synes jeg, som en regulering er en sånn type sånn Men det er jo igjen, det er jo ikke akkurat i den sånn inne meldingen, du skal ikke komme med konkrete lovforslag i meldingen. Nei, men kom med et du da. Nei, altså noen reguleringer sånn som at man kunne si litt mer om hva slags data som skal nasjonaliseres, synes jeg er en god ting å tenke på. Også litt sånn aldersgrenser, sånn som smarttelefoner, reklame basert på kunstig intelligens gjennom smarttelefoner og apper. Helt sånn, hva skjedde med det at barn skal vernes mot reklame, som vi har et godt kulturfornøyde, ikke sant? Kastet rett over bord uten noe diskusjon egentlig, når smarttelefonen kom. Nå er det bare helt fritt frem med reklame egentlig på telefonen. Og det er noen som har anbefalt aldersgrenser for eksempel på filmer og apper og sånn, men Veldig mange kids har jo da bare mobiltelefonen i faren sitt navn, som det bare er en ulik begrensel på seg. Det ble bare sånn ukritisk kastet over bord. Sånne ting, reguleringer, synes jeg det kunne komme mer av. Hva med bruk av kunstig intelligens i skoleverket? Skal vi regulere det? Det har det vært litt diskusjon om i det siste. Skjermbruk, blant annet. Skjermbruk og kunstig intelligens henger ofte sammen. Skjermbruken, målerett av reklamen gjennom barnas skjermbruk, er jo basert på kunstig intelligens. Så at man tok mer tak i sånne ting, har jeg håpet at man gjør etter hvert, og jeg tror det kommer til å skje da. Nå har det vært veldig spennende og innovativt med ny digital teknologi. Neste ti år, jeg minns både at det blir mye mer fokus på regulering. Hva skal reguleres? Og forhåpentligvis kanskje litt sånn, hva skal reguleres i hvilke land? Det er ikke gitt at alle land skal ha samme regulering, ikke sant? Det er litt sånn reaksjon her... Vi ser reaksjoner mange steder om at plutselig folk tenker, oi, hva skjedde med det som var unikt hos oss? Sånne ting kanskje, litt sånne reguleringer, men det er jo mange typer reguleringer man kan tenke seg. Ja, men da får vi samle oss igjennom ti år og se hvor vi havner. Ja, det blir spennende å se. Jeg tipper at neste ti år blir faktisk fokus på reguleringer. Hvem er det som skal sitte og bestemme eller vurdere hva som er god KE eller AE eller ikke. Ja, jeg synes at det hadde vært litt interessant å Jeg har foreslått før også at man kan opprette et AI-råd, litt a la bioteknologirådet, eller KI-råd som jeg har sagt. Kunstig intelligenseråd a la bioteknologirådet med et bredt mandat, med et delvis valgt mandat i gruppa. Flere områder, vanlige folk i arbeidslivet, vanlige folk i forskning, politikere, at det er veldig mange forskjellige lag og nivåer av samfunnet er representert i samme råd, sånn som i bioteknologirådet, og at man har noe lignende med et mandat fra innerste regjeringshold omtrent, at man har noe lignende på kunstig intelligens, tror jeg hadde vært en veldig god idé, som kunne vært ganske, ha en tyngde og komme med råd om bruk og utvikling av KI, spesielt i offentlig sektor, men også i privat, og hatt en diskusjon på det, og oppfordret til samfunnsdebatt om konkrete ting, og hatt en litt sånn bredt og godt mandat da. Og da er det viktig at det er bredt også, som sagt tidligere, at det ikke bare er teknologer som sitter der, men at det også sitter samfunnsvitere, at det også sitter humanister, at det også sitter ikke akademikere, det er privat, det er offentlig, altså at det er veldig mange som er med og bidrar da. Kunne du tenkt å sitte der? Jeg er ikke så veldig god på sånne ting, egentlig. Jeg liker å kritisere. Men det hadde sikkert vært gøy å si det, men jeg tror ikke det. Men kanskje, jeg vet ikke. Når du sier det, kanskje det hadde vært gøy. Sånn avslutningsvis, et K i råd. Kunne man ikke hatt et råd for quantum computing og blockchain og alt mulig? Hvorfor kunstig intelligens? Ja, nei, man kan jo sette ned råd for alt. Nei, altså det er litt det samme som hvorfor bioteknologi liksom. Hvorfor ikke nanoteknologi? Det er et godt spørsmål, man bør kanskje ha råd for alle, men jeg tror kanskje sånn som bioteknologi er veldig potensielt veldig stor impact da. At vi begynner å genmanipulere, det har liksom en del uante konsekvenser, og der skal man tro ganske forsiktig frem da. Så det er veldig viktige og ganske tungt etiske problemstillinger som reiser seg når du begynner å tenke på det. Og KI er litt sammenlignbart. Jeg tror ikke det er så tungt faktisk som bioteknologi, men jeg tror det er ganske nærmere da. Nærmere enn for eksempel blockchain, som er mer sånn politisk greie. Mens KI er litt mer sånn, hvor mye ansvar skal vi mennesker fraskrive oss til maskiner? Hvor mye skjønn skal vi unngå? Hvor mye skal vi gjøre alt automatisk? Hva skjer med moralsk ansvar? Hva skjer med menneskelige relasjoner når helsevernet begynner å bruke kunstig intelligente roboter i stedet for personer? Det er så tungt å være en sånn menneskelig ensyn som må tas, at det kunne vært veldig godt med sånne råd, tror jeg. Takk for praten. Takk. Har du mye å tenke på nå? Jeg kommer til å tenke på det du sa, men det er noe jeg egentlig er uenig i. Jeg vet ikke om det er det. Det er et godt tegn, da. Hei, er du en CEO eller CTO i et vekstselskap og trenger flere utviklere? Da vet du at det er ganske krevende å finne dyktige utviklere i Norge. Men håpet er heldigvis ikke ute. Cefalo er et norsk outsourcing-selskap som har klart å bli en av de aller beste arbeidsgiverne for seniorutviklere i Bangladesh. Cefalo's spesialitet er å rekruttere og bygge langsiktig utviklingsteam sammen med den norske kunden. Og det å ha faste utviklere gjennom Cefalo skal i praksis oppleves som å ha egen ansatte. Så er du interessert i å høre mer om å ha eksterne utviklere, så vil Cefalo gjerne ta en veldig hyggelig prat med deg. Så sjekk ut cefalo.no, altså C-E-F-A-L-O.no.