Ukens annonsør er Hexagon. For industribedrifter er tilgang til kritisk informasjon avgjørende for sømløs prosjektgjennomføring, sikker drift og effektivt vedlikehold. Hexagon sørger for at dataene som samles inn på ditt industrianlegg benyttes til å forbedre effektivitet, sikkerhet, produktivitet og også bærekraft.
Teksting av Nicolai Winther
Teksting av Nicolai Winther
Du hører på Teknisk Sett, en podcast fra TU. Mitt navn er Jan Moberg, og jeg sitter i studio med Odd-Rikard Valmoth. Hei, Jan. Odd-Rikard, vi må snakke om noe som er veldig, veldig spennende, og kanskje litt vanskelig.
Ja, men det tror jeg er det mest spennende. Ja. Veldig spennende. Ja. ChatGPT. Ja, og det har vi brukt selvfølgelig begge to. Prøv det. Ja, absolutt. Og nå blir du integrert litt i produktene vi bruker. Bing, Microsoft har virkelig kommet litt tilbake på banen. Ja. Og Google ligger litt og gisper. De kjelper. Men kaller vi det maskinlæring, eller kaller vi det kunstig intelligens?
Det blir vel mest omtalt som AI, vel? Ja, artificial intelligence. Det med dito og epineo og tett koblet. Ja, men det er noen som har en hang-up da med at vi må kalle det maskinlæring. Ja, uten maskinlæring er det ingen AI. Nå har vi jo da, som noen sikkert har lyttet til, en kapasitet i rommet med oss. Nemlig det jeg tror kanskje er den nordmann som sitter tettest på den utviklingen. Velkommen til deg, Knut Rysvik i Microsoft.
Tusen takk. Du hører dette her nå, vi er litt gira, men før vi går dit så må vi jo nevne at du har bakgrunn fra både Fast og Yahoo og Google og i Microsoft siden 2009.
Det stemmer. Det har vært veldig privilegiert å få være med på søkemotorutvikling fra en veldig sped begynnelse, og sett stor innovasjon i Norge og etter hvert globalt. Vi må jo spørre deg, fordi dette fast search and transfer-miljøet fra midten av 90-tallet, vi tenker kanskje ikke på alt som har kommet derfra, men det må jo ha vært et utrolig spennende start. Det er
Det var en fantastisk start. Vi hadde en liten tilbakeblikk her. Vi hadde et sånn 50-årsjubileum for Institutt for datateknikk på NTNU. Da holdt jeg et innlegg, og da bladde jeg en del i gamle artikler. Det var mye snakk om fast i media når vi startet det. Professor Arne Halås, som var min veileder og våre aller store mentor,
Han uttalte en gang at, det her var i 6-7-90'erne og sånt, så en gang i fremtiden, så kommer de til å si, husker dere den gangen vi bare søkte på nøkkelord? Ja. Og det måtte jeg ta fram når jeg hørte den. Når sa han det? Han sa det i 7-90'er, tror jeg. Fantastisk. Ja, jeg tror det var et intervju med han i, jeg lurer på om det var i VG faktisk, at han sto frem og sa det. Og han var på det 50-årsjubileumet og sånn.
Det var stor visdom, Arne, at du klarte å si det da, for nå begynner vi å nærme oss det punktet, og det har ikke gitt alle professorer å være så visionære eller teknologer for den delen. Nei.
Men Knut, du har jo da etter hvert jobbet i Fast Certain Transfer. Da de solgte til Yahoo først søkemotoren, så ble du med dit, og så var du i Google, og så ble du hentet av gamle kjente til Microsoft i 2009. Og siden har du jobbet sentralt i Microsoft, litt i Norge og mye på Headquarter. Du tenkte at du ville være på Headquarter hvis du først hadde den jobben?
Når jeg begynte her så var det en av de store attraksjonene at jeg fikk lov å sitte her i Bellevue, Washington State og følte på et stort hovedkontor og stemning av energien som var der.
Så siden da har jeg faktisk pendlet på en 14-dagersbasis frem og tilbake der, og etablert en liten base der. Det høres litt som tutt, men... Ja, men det høres som... Jeg har jo vært mye der borte i studietiden og ellers, så jeg synes det høres litt som å få litt best fra to verdener, da.
Ja, du får det, og bit litt jetlag. Ja, og bit litt jetlag, men det klarer du å håndtere etter hvert. Men da du begynte der borte i 2009, for vi må jo ende opp her og snakke om chat-GPT, men hvordan kom vi dit? Ja, hvordan kom vi dit?
Vi startet jo med en av de store tingene på søkefronten i rundt 2009. Det var noe som heter for machine learning ranking. Stilte et spørsmål til deg om det var machine learning eller AI. Men det å finne ut hvordan du sorterer treffene. Du gjør et søk på to, tre, fire, fem nøkkelord og så...
får du ti tusenvis av treff hvem skal være øverst og det er en kunnskap som har eksistert siden 70-tallet med professor Sjålten og det var TFIDF som var med trikker og sånt for å gjøre det, og det holdt ikke i måneden til hvert, så man begynte liksom å bare generere masse egenskaper med treffene og lage sånn, få en maskinleggingsmodell til å finne ut hva skal være øverst her hva klikker folk mest på, hva blir vi mest klar i så det var på en måte en sånn
startet søkemotoren, pusha grenser for maskinlæring og etter hvert AI. Når det var populært å kalle det AI i 2009, så skulle ingenting hete AI.
det var fortsatt vinter da men så begynte ting å komme og man oppdaget at nevrale nettverk faktisk var veldig bra igjen, vi introduserte det i ranking og fikk en boost på det og så tok jo det her av og kanskje var stemmegjenkjeningen en av de applikasjonene som virkelig pushet pushet tersken for nevrale nettverk stor breakthrough med deep learning
og vi tenkte fryktelig lenge på hva vi kan bruke det til. Til talegjenkjending var det en opplagt ting, hvordan putter vi det inn i søk? Da begynte det å nærme seg stabekontroll, forslag til nye spørsmål, og så videre kom opp. Så det bygde seg på en måte inn fra siden, men selv ved kjernen av søk har det alltid vært det med fin siden som inneholder det her.
Hvorfor har du spurt dette? Helt til man begynte å se at man kunne ta de modellene man har brukt for oversettelse utvidet midler, så begynte man å få noen gjennombrud. I de siste årene har vi sett store gjennombrud på språkmodeller.
Jeg tenker at dette er en kunnskapskjerne som vi burde snu på. Vi må bruke kunnskapskjerne først, og så forer vi den med informasjon på alt vi har på nettet. Så det er på en måte en total invertering av hvordan man har laget søkemotor før.
Og det er i ferd med å bevege seg ut mot den store publikken nå? Det og det. Vi bruker jo GPT-4-modeller fra OpenAI på Bing og har hatt et samarbeid med dem de siste par årene.
Det har vært snakk om at GPT-3, som var noe av det vi først fikk kjennskap til, det var en relativt liten modell, inneholdt relativt lite kunnskap. Og GPT-4 er vesentlig større. Når vi kommer dit, at når vi søker så inneholder det alt på nettet.
Det gjør du i dag, altså i den grad du kan se at du inneholder alt på nettet, men Bing har en stor andel av det vi tror finnes på nett. Og de bruker da resultatene fra nettet som en kontekst inn til den moderne GPT-4.
Så i stedet for bare å bruke det du skriver seg etter GPT, eller det du har gjort de siste to-tre runderne her, så henter den ut masse informasjon fra det den gjør på et nettsøk, altså et konvensjonelt nettsøk, og bruker det som kontekst inn. Sånn at GPT får enorm mengde informasjon og sammenstil henter ut ting fra. Men basert på den...
kunnskapsbasen modellen har. GPT utvikler seg ikke, altså den lærer ikke av sin egen bruk. Det er en sånn basismodell, men den fores med enormt mye kontekst, og så har GPT-modellene den egenskapen at de
Faglig kalles det in-context learning. Når du gir en innblikk i hva du tenker på, eller står med instruksjoner du gjør, så kan jeg lære fra det og tilpasse modellen for akkurat denne samtalen, basert på det du ga. I stedet for bare det du skriver, gir vi resultatene fra et stort nettsøk og bruker en modell for å tilpasse det inn i GPT.
Men vi er nå helt i starten. Er dette en ett år gammel baby? Ja, den er ganske dyktig. Det må jeg spørre deg om, for du har jo vært med i dette gamet lenge, så det siste året må jo ha vært formidabelt. Det har vært det, bare det å få ta i denne modellen, og bruke den, har vært en enorm wow. Men også på de
Med trikkene på kvalitet og relevans vi bruker i Bing, så har vi sett enorme boost, ikke bare i den sjette, men det vi kan bruke denne modellen til ellers. Så vi har sett en eksponensiell taktøkning, så det har vært alligevel givende. Når du først sitter på headquarter i Bellevue hos Microsoft, så må det jo være litt. Microsoft har jo tapt en del slag opp igjennom også. Vi snakket om mobiltelefonen her. Den vant jo ikke. Nå er vi litt på vinnersporet her. Det må jo skape litt trøkk.
Det er en enorm oppsving. Industrien har hatt tøffe dager med nedbemanning og økonomisk press.
Og så har vi også visst at vi ligger og ruger og utvikler og pusher på et enormt gjennombrud her. Så den energien som har poppet opp det siste har vært enorm. Og det ser vi jo i innovasjonstakene. Jeg har ikke tallet selv lenger på hvor mange AI-annonseringer vi har gjort de siste månedene, men det er mange. Men er dette i din karriere, din lange karriere, hvor spesielt er det som skjer nå?
Jeg vet at dette er det største gjennombruddet jeg har fått lov å være med på. Det sier ikke litt det. Nå sitter dere på hesten som leder løpet, og det løpet skal jo gå noen runder. Men det kommer jo til å spre seg i resten av samfunnet også. Så det er jo sikkert mange som tenker nå...
Altså de som skriver, sånn som oss da. Når vi får et fantastisk nytt verktøy som er mye mer enn en spellcheck, og når er det ikke lenger bruk for oss? Et verktøy har du fått. Det finnes i chat-gapet, det finnes i bing-chat, en kan begynne å skrive for deg, du kan få Office til å hjelpe deg å skrive, så det begynner å være der, verktøyet for deg. Ja.
Jeg tror du har noen måneder på deg på å tilpasse hvordan du gir det kontekst og hvordan du bruker det, sånn at det faktisk kan være nyttig for deg. Ja, det har jeg testet i en artikkel jeg skrev om elektrisitetens historie, hvor den påstod at Alessandro Volta fant opp batteriet i 1849.
Det riktige svaret er 1799. 50 år off. Men ok, det var ganske velformulert ellers. Men mye, mye ord. Litt facts forløpig. Men himmel og hav, det blir jo farlig for sånne som oss. Du kan jo se et fantastisk godt eksempel. Jeg har ikke fått lest hele boka ennå, men Reid Hoffman.
styreleder i LinkedIn, hadde også tilgang til GPT-4 i en tidlig fase, og han publiserte en bok som var skrevet av GPT-4 nettopp. Han har jobbet, brukt modellen, han skriver ikke bare skrive bok om det her, han har brukt den aktivt for å lage kapitler, for å justere og sånt,
Men det er en fantastisk god illustrasjon på hvordan han har klart å bruke dette verktøyet til å generere noe som sannsynligvis er middels pluss litterært verk. Du var jo inne på det før sending, Knut, at du ser på dette her fortsatt som en god kopilot for oss mennesker. Ja, det er akkurat det. Dette er ærene av kopilota som er
i gang. Vi kjører det på søk. Det er enkelt å få denne modellen til å hallucinere, og vi kan på en måte påvirke denne retningen der det er en send-out-sekvense som er falsk eller som er feil.
Men det kan vi gjøre på de meste tingene, så derfor trenger du å ha et tankesett om at du er en kaptein, dette er co-piloten din, du gir den guiding for hva den kan hjelpe deg med. Søk en ting, du kan bruke det til skriving, du kan bruke det til koding, programmering, det hadde jo funnet seg ganske lenge faktisk i GitHub co-pilot. Dette har kommet i flere og flere ting, Microsoft ruller ut i alle...
alle produktområdene våre. Men det vil nok komme enda mer. Du får det integrert i Office og overalt. Du får det integrert i Office, og du får det integrert i Edge og i Windows. Men vi må jo spørre da til de som er veldig sci-fi interesserte. Kommer den til å bryte løs og få sitt eget liv? Det må vi jo tenke at vi som kunnskapsrike mennesker er i stand til å styre det.
Dette er et enormt kraftig verktøy vi kan bruke til noe nyttig og fantastisk givende for oss. Hvor utrolig de største nytteffektene kommer da når du ser inn i kristallkrola? En ting er skriving, men du ser bort fra det?
tenker at det er et enormt potensial i medisin og helse. Som er verdtig for legen eller pasienten? For begge. En persons helse bør i stor grad være en dialog med både
og behandler og ting rundt. Eller kopiloten som du tar med deg inn. Kanskje du har en ny ledsager du sjekker av i navboksen. Du har med deg en kopilot inn. Så er det ting du kan for å forstå et medisinsk språk for en pasient, for å skjønne hva det er for noe, for å skaffe deg kunnskap som er utenfor
populær vitenskapelige forhold, så kan et sånt verktøy være fantastisk. Og på den andre siden, en behandlerskje, der det er et enormt presser og en rapportering, du skal sette deg inn i enormt mange vitenskapelige materiale for å være
være i stand til å ta de rette kuttene og de rette snittene og gi deg den rette medisin, så kan sånn sammenstilling av informasjon og gjøre en behandler en vilkårlig plass i verden langt mer produktivt. Vi har jo, jeg ser du har det ikke, men jeg går med digital klokke med alle mulige helsesensorer, og du har noen gammel og du har den på ringen, det er viktig.
Ja vel, ok, jeg tar det tilbake Men vi går jo med et sensoroppsett Veldig mange av oss Men det er ikke noe særlig behandling av det Av dataene Og hvorfor? Det har jo passet perfekt inn i visjonen din Det har passet perfekt inn i visjonen Og de dataene, de er der Du går til legen og tar en blodprøve Det er ett datapunkt En gang i året så tar du en blodprøve Og så måler den blodtrykket ditt Hvis du går tilbake og husker statistikk 1
Så ikke det her er nok datamengde for å ta noen beslutninger. Så bare en datakobling der tror jeg vil være enormt viktig. Bra.
Bra, vi må avslutte, men på veien til det, Knut, må vi spørre deg. Du har jo vært med i FAS, og dette miljøet du beskrev på NTNU, det var jo fantastisk for Norge, men nå jobber du i Headquarter, Bellevue, Washington med Microsoft. Hvordan ser du på utviklingen i Norge? Hvor kan vi ta en rolle her i Norge, i de norske miljøene? Der har vi jo flere spennende ting pågående med
Norwegian Open AI Lab og Norway og en del sånne initiativer. Jeg tror det er et stort potensiale for både å delta på grunnforskningen her, og ikke minst bruke de applikasjonene som er givende for vårt samfunn. Så der tror jeg mulighetene er enorm, ikke bare for datavitenskap, men i hele spektret.
Det kan jeg nevne som en liten avslutning at jeg har tatt med en liten bistilling som deltids-amanensis på NTNU, så jeg håper at jeg får lov å være med litt litt der. Du kan nå oss i Akademia her i Norge. Jeg kan nå oss i Akademia her i Norge. Knut, lykke til videre. Vi skal følge spent med, og takk for at du kom inn om oss. Takk til Odd-Rikard Valmått, og mitt navn er Jan Moberg.