Episode 104 - Kan vi miste kontrollen over den kunstige intelligensen?

Teksting av Nicolai Winther Velkommen til Teknisk Sett, en podcast fra TU. Jeg sitter her med Odd-Rikard Wallmoth. Hei, Jan. Hei, Odd-Rikard. Mitt navn er Jan Moberg, og jeg er... Du er sjefen her i TU. Ja, der kom det. Der kom det. Jeg hørte det noen ganger nå. Ja, nå tok jeg det. Det har gått opplært, Odd-Rikard. Ja, jeg vet hvor jeg reporterer den. Men det er nesten som å bare kunne tappe inn i et system. Jeg stopper, og du fyller på. Du skulle tro du var en sånn kunstig intelligens... Ja, det var at jeg hadde litt IQ. Vi har jo vært opptatt av dette her, og vi tenkte vi skulle snakke litt om kunstig intelligens i dag, eller AI. For å hjelpe oss med det, så har vi invitert vår gode venn, astrofysiker og fremtidsforsker, Erik Knut. Velkommen, Erik. Hei, hei. Vi har jo snakket sammen mange ganger før. Det har vi. Dette er du også opptatt av. Jeg er det, jeg har jo vært det i alle år. Jeg hører jo til den generasjonen, vi ser jo ganske like ut her vi sitter. Vi er sånne der hvite menn med hvitt hår. Grått hår. Og vi har jo alle sammen vokst opp i disse visjonene av generell kunstintelligens, typ Hal i 2001, en rom, professor i boksen, maskinen som kan alt, som snakker og tenker og kanskje til og med føler som et menneske. Så ja da. Men du Erik, vet du storyen hvordan det her begynte? Jeg har hørt det var noen amerikanske forskere som jobbet med det man ofte kalte kunnskapsbaserte systemet på 50-tallet, men de fikk ikke penger. Og så de søkte mye til forsvaret og sånt, så kalte de det for kunstig intelligens. Og da... Drukna vi i mammon akkurat. Ja, det var da. Markedsføring. Eldste historien i verden. Ja, men hvor står vi da, Erik? Det er jo et par tonangivende teknologer i verden, mektige menn som krangler. Noen av dem er livredde for hva som kommer, advarer oss og vil reise til Mars for å søke tilflykt. El og mesk, ja. Mens andre sier at dette her må bli kjempespennende. Nei, altså, du har jo den offentlige debatten der, som du sier, Mark Zuckerberg i Facebook har vært veldig tydelig på at han tror dette blir veldig bra, at det blir veldig nyttig. Bra for menneskeheten. Bra for menneskeheten. Vi kommer til å beholde kontrollen over de kunstig intelligensene. Elon Musk og da også Stephen Hawking har blandet seg inn i dette, selv om dette egentlig ikke er hans fagfelt. Altså, Musk er jo nærmere. Han kommer jo fra IT-bransjen. Altså, Og Musk mener jo at dette her er noe som vi fort kan komme til å miste kontrollen over hvis i det øyeblikk det blir intelligent, da. Så tenker man seg for eksempel at en del av intelligens er jo selvstendige handlinger og motivasjon. Så jeg synes i hvert fall... Jeg vet ikke hvor realistisk debatten er akkurat nå, for vi er rent faktisk sett ganske langt unna, men jeg synes allikevel den er nyttig, fordi vi må jo tenke litt over da, hva mener vi med kunstig intelligens? Mener vi bare noen som er smart til å løse sjakkoppgaver? Eller mener vi noen som da for eksempel har en oppfatning av et seg, et jeg, har ønsker, har følelser og drifter og motivasjon, da kan det jo hende at de kan bli riktig slemme mot oss. Ja, og Møske er ikke alene. Bill Gates, Kurtzweil, Stephen Hawking har jo med seg på det. Og her er noe av problemet vårt da, er at veldig mye av det som skjer på dette området ser jo ikke vi som sitter her. Altså vi ser det som kommer ut av produkter. Vi ser... Vi ser IBMs Watson, vi ser Amazons Alexa og tilhørende systemer, vi ser selvkjøring, styringssystemer, analysesystemer som helt klart... Droner til forsvaret. Ja, og vi ser jo ting i dag som vi tenker hvis vi hadde gått fem-ti år tilbake så hadde sagt ja, men det kan jo ikke gjøres av en maskin og så gjøres det av en maskin. Det vi jo ikke vet noe om, det er hva gjør de store selskapene på bakrommet? Selv om vi liker å snakke med dem, og jeg vet at dere om noen uker skal gå og hilse på selskaper i Silicon Valley, så er det mye vi ikke får høre. Og vi vet definitivt ikke hva forsvaret i USA gjør. De har milliarder av dollar. Det har jo lekket ut at de blant annet bruker kunstig intelligens til etterretning. At de bruker kunstig intelligens til å finne den der Nåla Høystakken. Du har en zillion Facebook-meldinger. Den er en terrorist, ikke sant? De har jo for lengst innsett at dette kan aldri mennesker gjøre. Men vi vet jo ikke hvor langt de har kommet, og når da sånne folk som Mørsk er ute og advarer, så får jeg jo litt sånn kulllysninger og tenker, vet han, har han hørt noen rykter som sånne som oss ikke får høre? Helt sikkert, men det er jo ikke, det er jo, dette henger jo sammen, når Odd Rikard og jeg skal føle på ekte frykt, så setter vi oss foran PC-en og ser på den siste videoen fra Boston Dynamics. Ja, den som har jo oppbygger som backflip. Ja, og så tenker vi da når denne blir kunstig intelligent og får noen våpen og sånn, så da Det er ikke langt til de her scenariene for Robocop. Du kan skape ganske... fryktfulle besvarer. Jeg tenker jo at, altså, på den ene siden som sagt, så synes jeg diskusjonen er interessant, men jeg er også redd for at det kan bli en avsporing, fordi at vi lett får en sånn diskusjon, at ja, så lenge den komplette kunstig intelligensen ikke er der, så er det ingen fare. Men det vi ser da er jo at veldig mange aktører i dag lager det du kan kalle delviset kunstig intelligenser, altså maskiner eller programvarer som er veldig flinke å løse i en oppgave, oppgaveorientert. Og der finnes det noen områder som vi bør holde øye med, du nevnte droner. Ja. Militære droner for eksempel En sånn stygg hemmelighet om de militære droner vi bruker i dag Er at det er ekstremt manuelt, ikke sant? Det er masse folk på bakken Ved nye beholdkontroller Og det er de to dere ser Så er det de 170 vi ikke ser, men som også er rundt Jeg leste en bok av en sånn Skrevet av en dronepilot Mens jeg leste tenkte jeg, himmel og hav så masse mennesker er her Men den er jo menneskeløs Og det er jo det som skaper inntrykket Samt at den har jo fantastisk sensorikk Da Og det er jo et element for virkelig å kunne utvikle AI. Og det er det som er hele poenget, at hvis du ser på det kostnadsmessige her, så ligger det selvfølgelig i for eksempel amerikanske flyvåpnes interesse å redusere antall mannskap du trenger på den, og da øker du automatiseringsgraden. Og da øker selvfølgelig risikoen også for at du kan få en drone som ikke bare analyserer, men som også er med på å gi beslutningsstøtte, og kanskje til og med etter hvert har beslutninger. Men altså, de... Smarte folka ser for seg et dommedagsperspektiv, men jeg tror det er masse små dommedager foran oss i og med at flere og flere yrkesgrupper blir eliminert av delvis intelligente systemer. Ja, det er jo en annen type frykt da, at vi blir overflødige. Ja, men det kommer til å skje i tiltagende grad i de neste ti årene. Det er ikke mange yrker som ikke kommer til å bli påvirket av en eller annen form for bomberfly og jagerflypilot. Jeg tenkte at hvis vi i dag skulle ha tatt beslutningen om nytt jagerfly til Norge, så lurer jeg på om vi hadde hatt den samme diskusjonen. Om ikke noen hadde sagt, vent nå litt, kanskje vi... Skal ha et førerløst etter. Ja, altså kineserne bygger UAV'er som kan fly i hypersonisk fart. Kanskje vi bør tenke på noe annet, ikke sant? For her har jo utviklingen gått utrolig fort. Jeg tenker jo en annen form for sånn AI-katastrofer, om man vil kalle det det, eller sånn, er jo selvfølgelig som sier at arbeidsplass forsvinner, eller rett og slett at tjenester er stattes av kunstig intelligenser. Det har vi allerede sett i stor grad. Tenk hvor mange sånne bestillingssystemer, hvis dere bestiller flybilletter eller søker etter om dere skal kjøpe noe, så er det jo veldig ofte slik at det ikke lenger er noe, altså det er jo ikke noen mennesker bak der, alt er gjort av til dels ganske smarte systemer. Ja. Og der tror jeg det er ganske entyrig å gå i retning av at alt mulig fra strømregning til forsikring, for eksempel, hvor mange kommer... Og det handler ikke bare om hvem som jobber der, men også om deg som kunde. Hvor ofte kommer du i fremtiden i det hele tatt til å møte en beslutning tatt av et menneske på et eller annet sted? Jo, men det er jo også de som forsøker å fremstille det vi ser som kunstig intelligens, mens det egentlig bare er en... en rask og grunnig fremstilling av data. Det er et stykke derfra til at systemet har selvstendige beslutninger. Ja, men det er veldig mye behandlingsalgoritmer fra selve dataene til du ser det på skjermen. Og de blir smartere og smartere, og hjelper oss og vil etter hvert eliminere veldig mange menneskelige mellomtiden. Men for å dra litt tilbake til det, fordi det har jo kommet litt... kritikk nå, du var inne på det Erik før sendingen her, mot blant annet IBM sin Watson. Om at det er jo egentlig kanskje mer et avansert statistikksystem enn kunstig intelligens. Ja, nei, altså det har jo, nå har det jo vært skal jo IBM ha all mulig de har vært utrolig flinke til å selge inn Watson, og de har også de har også tatt i bruk på veldig mange plattformer. veldig mange områder. Men det jeg har sett i det siste er at det selvfølgelig etter hvert som det tas i praktisk bruk, så oppdager også folk svakhetene ved det. Som da blant annet er selvfølgelig at fylts og i en del tilfeller er det kanskje litt overrasket hvor gode resultater de faktisk får. Men jeg tenker at det overrasker ikke meg egentlig, for det er klart vi er jo nå jeg tror at vi Man snakker ofte i AI-sammenheng om om det kommer en ny AI-vinter. Du har jo vært flere. Du startet med AI på 50-tallet, og så hadde man stor tro på det utenfor på 60-tallet, og så døde det hen. Det kom en vinter. Forskningen stoppet stort sett, og ingen trodde det var mulig. Så kom ekspertsystemet på 80-tallet, husker du sikkert. Da studerte jeg IT, alle snakket om det. Og så kom en ny AI-vinter, og så var det stille veldig lenge. Nå er det kommet enda en boom. Nå klatrer AI oppover på hype-syklusen igjen. Jeg tror ikke at det kommer en vinter etter dette. Nå tror jeg faktisk at de er inne for det. Nå er vi på gang. Nå tåler Watson en liten dipp. Ja, for nå tjener de penger på det også. Og nå er det så mange. De fem største selskapene i verden er ikke lenger oljeselskaper, det er IT-selskaper. Og alle fem putter milliarder av dollar i AI. Jeg tror det kommer noe ut av det. Men jeg tror også at vi er... Det er ting ved dette her som helt klart, hadde det vært lett så hadde vi løst det, det tror jeg. Det er ting ved det å få til intelligente beslutninger som er så krevende. Naturen brukte fire milliarder år på laget oss, så jeg tror vi trenger noen ti år til. Så jeg tror liksom ikke AI-kalipsen er der enda. Nei, det er det ene, men det andre er jo at vi må ikke glemme nå, selv om vi får noen slags slag i mot oss, altså mot disse systemene, at det faktisk leveres også til daglig. Det er jo bevis på at det blir ikke en ny vinter. Samtidig så blir jo jeg også skeptisk når for eksempel legestaden stopper Watson og sier at det ikke er godt nok. Det er jo noen motkrefter her. Og jeg sier ikke at det er nødvendigvis feil alle sammen, men vi må være på vakt for at systemene fighter må ta Uber, ta denne kulturelle og politiske motstanden slike ting møter da. Så vi må jo passe på å se på det. Altså vi er jo, hvis alle som kjenner sin teknologihistorie kjenner jo igjen denne situasjonen. Det er kjempeinteressant å leve i en tid med så mye innovasjon. Og samtidig så er det klart at du ser alt det som folk også så da dampmaskinen og elektrisiteten kom, som var jo, jo, nå skjer det masse spennende, og så har du masse motstand, og så har du de politiske diskusjonene, og så har du sånn, ja, samfunnet blir fantastisk, nei, alt går under, ikke sant? Så vi er jo der igjen da. Ja, vi er det. Men i høyere hastighet. I høyere hastighet, selvfølgelig. Et tema før, eller et segment før vi går videre, hvor står Norge i dette med kunstig intelligens? Ja, - Det utvikles ganske mye morsomt i Norge, spesielt blant annet rett og slett mot oljeindustrien. Vi har en ganske betalingsdyktig industri som kan drive dette, og det skjer mye nå innenfor kunstig intelligens, systemer som kan hente ut og behandle de enorme datamengdene som de sitter med fra ti år tilbake. Så det er petabyte på petabyte? Ja, det er helt enormt, og den verdien er jo ikke til stede, med mindre du får gjort noe til et forståelig format, sånn at datamaskinen kan lese det, og da kan du bytte på å handle det. Og så har vi jo faktisk, nå snakker vi om Watson her, vi har jo, Watson er jo faktisk et Norge har flere Watson-prosjekter gående. Men vi er jo egentlig perfekt plassert for akkurat dette her, fordi dette handler jo til syvende og sist, fordi det meste av det som skjer nå er privat, så handler det til syvende og sist altså hvor er det lønnsomt? Og sant å si, hvor Hvor er det det er mest å vinne på å ta i bruk kunstintelligens? Jo, det er jo blant annet høytlønnsvirker. Du kan spare mye mer penger på å være staten lege eller en ingeniør, enn en part staten butikkansatt, for å si det sånn. Så det er jo også, og ikke minst, det er jo en annen drivkraft her, og det er jo etter hvert at vi er på vei mot en krønt kjøpetsmarked på grunn av eldrebølgen. Det kommer til å bli vanskelig å få tak i. Det blir selvforsterket, da. Det blir selvforsterket, ja. Det kommer til å bli vanskelig å få tak i kvalifiserte folk utenfra, fordi nesten alle rike land går på en eldrebølge nå. Ja. Og det betyr at det vil også legge et stert press i markedet på å si hvor mye kan vi automatisere da. Og derfor har jeg også vært på sånne konferanser med eksempel kommuner, kommunale konferanser, hvor de også snakker om nå om i hvilken grad kan de kommunale behandlingssystemene hele automatiseres, for det bør ikke egentlig ha folk til å sitte og gjøre veldig mye av det som gjøres. Så her, det er jo fremdeles kjempeoppgaver som gjenstår, og sånn sett så tenker jeg jo at vi er veldig opptatt av at AI skal ta bort arbeidsplasser, men vi kan se det motsatte også, at på en rekke områder hvor vi rett og slett ikke kommer til å klare å skaffe folk fort nok, så kan AI fort fases inn og rett og slett erstatte, om ikke hele jobben, kanskje 80% av jobben. Ja, men det tror jeg tilfeller spesielt i kommunal- og statlig sektor. Ikke sant? Veldig mye saksbehandling, veldig mye forvaltning. Altså det kommer i løpet av de neste sånne, i løpet av to eller tre stortingsperioder så kommer det en regjering som kan love store kutt i statsadministrasjonen ved hjelp av... Da blir det ikke valgt, men det er jo da ikke en fare at denne utviklingen går inn for silor eller lommer i samfunnet. Det er jo helt ok. Og det er sånn det må bli, tenker jeg. Ja. Jeg tror alt i alt, det er derfor jeg sier at i denne diskusjonen, jeg må si at jeg legger ikke så stor vekt på det Mark Zuckerberg sier her. Det er andre som også er positiv. Han har litt karrierende motiver kanskje? Han har litt karrierende motiver, men det er andre som jo forsker på AI som peker på at hovedproblemet i denne diskusjonen er at den er litt sånn, den er litt prematur. Og jeg husker et annet case på det, det var, husker du nanoteknologi? For en del år siden var det fryktelig mye diskusjon om hvordan nanoteknologien skulle løpe løpsk og forvandle alt til en grå gør, ikke sant? Det grey goo-scenariet. Altså, nano kommer jo på et eller annet tidspunkt, akkurat som biotek, men det tar tid. Og jeg pleier å si at en stor fordel med det er at det tar tid gir oss også handlingsrom, det gir oss rom til å tenke oss om, og lage lovverk, og regulere det, og ta beslutninger, og alt mulig sånn. Så jeg tror jo... Sånn sett så synes jeg egentlig at den utviklingstakten vi har i AI nå, som på den ene siden skuffer meg litt som sånn nerd, på den andre siden fra samfunnsmessig perspektiv så synes jeg det er helt greit. Vi kommer til å ha fortsatt en periode der det loves mer enn det leveres. I høyeste grad. Men det er helt ok, det stopper ikke utviklingen likevel. Nei, jeg tror ikke det. Vi er inne på et ganske sunt spor for tiden. Jeg tror det. Så lenge dette her faktisk gir synlige resultater, både på bunnlinjen, men også i forhold til kundene, så tenker jeg, da kommer de jo ikke til å slutte med det. Da er det ikke lenger bare et akademisk prosjekt med håp om en gang å skape en professor i en boks. Men avslutningsvis ... Eirik og Rikard, ser dere Musk og Hawkins sin frykt? Nei, jeg er kanskje ikke spart nok til å se det. Men det jeg frykter er å ta på arbeidsplassen når det skjer de neste 10-20 årene. Veldig mange store grupper av arbeidslager vil finne seg noe annet å gjøre. Og så spørs det da, har vi jobb til disse folka? Kanskje ikke de som lager podcast, eller? Du har jo allerede automatiserte journalister, altså. Hva tror du, Erik? Om 15 år, om 10 år, så er dette her en robot. Da sitter vi på kjøretid og mikter til GTN. Nei, jeg er faktisk enig i det at jeg tror ikke at vi er utsatt for noen trussel fra generell kunstig intelligens på veldig, veldig lenge. Og jeg tror også, som vi ofte har sett med teknologi før, er at nettopp fordi vi har tid til å liksom vi har tid til å område oss da, så tror jeg faktisk også at vi får ting på plass i tide, så jeg er ikke så redd for det. Veldig bra, da sier vi takk til Eirik og Drickard, og vi kommer garantert tilbake til dette temaet.