Jansen er administrerende direktør i Felleskatalogen, og har nylig tatt en master i helseinformatikk fra NTNU, med fordypning i hvordan store språkmodeller kan brukes til å transformere fritekst til datamaskinbare kliniske retningslinjer. I podkasten snakker hun om hvordan kunstig intelligens-oppsummeringer, enten det er fra steder som ChatGPT eller Google Overview, gir søkeren oppsummerende svar fra flere kilder – både sikre og ikke sikre. En tysk studie publisert tidligere i år viser blant annet at Google Overview bruker YouTube som den mest siterte kilden til helserelaterte spørsmål.
– Jeg tror vi kommer til å se flere og flere eksempler, både innen forskning, men også reelle kliniske eksempler, på at man har brukt KI på en måte som kan skade pasienten. Det kommer også flere eksempler nå på at man har spurt ChatGPT om et helseråd og fått et svar som gjør at man tar feil valg om egen helse.
Hun forteller at de ser at store chatboter er inne og crawler Felleskatalogen.no mange tusen ganger hver måned.
– Vi har bestemt oss for ikke å begrense disse mulighetene, fordi vi mener det er bedre at chatboter som ChatGPT, Perplexity osv., bruker Felleskatalogen som kilde, enn at de bruker YouTube, utdaterte kilder eller i verste fall allerede KI-generert innhold, sier Jansen.
Felleskatalogen har i sine undersøkelser funnet ut at det er svært viktig hvordan informasjonen på nettsiden presenteres for språkmodellene. At strukturen som allerede er i FK, med avsnitt, tabeller, doseringer osv, blir utnyttet til en fordel, og ikke blir delt opp og gjengitt feil.
– Språkmodellene er egentlig ganske gode til å forstå struktur, men da må strukturen være intakt når svaret blir generert. Så vi må sette dette sammen slik at informasjonen blir tilgjengeliggjort på en god måte for språkmodellene. Det jobber vi med nå, forteller hun.
I podkasten Grenser for KI snakker Sondre Lindahl, førsteamanuensis ved institutt for informasjonsteknologi og kommunikasjon ved Høgskolen i Østfold, med ledende forskere på KI, eksperter på valgmanipulasjon og demokrati og ledende stemmer i teknologidebatten i Norge.
Hør hele episoden med Bente Jansen på Spotify, eller der du lytter til podkast: