Kunstig intelligens endrer informasjonsbildet
Kan vårt kunnskapsgrunnlag for klinisk praksis bli påvirket av KI-produsert fagstoff og av algoritmestyrt utvalg av informasjon? Som et eksperiment ble det laget en fullstendig KI-generert artikkel for å sette odontologi i sammenheng med høyaktuelle, men for oss ganske fjerne forskningstemaer som kvante- og nanoteknologi. Resultatet ble feiende flott ved første øyekast, men hva med faglig verdi? Er det risiko for å bli ledet ut på faglig utrygg grunn av KI-generert fagstoff?
Man skal ha bodd lenge under en stein for ikke å ha hørt om at kunstig intelligens (KI) kan påvirke samfunnet. Det spenner fra nesegrus fremtidstro til dommedagsprofetier. Uansett, ulik slags KI er overalt i den elektroniske hverdagen. Søkemotorene gir nå oftest KI-svar. Gigantiske amerikanske og kinesiske selskaper dominerer utviklingen, mens Europa løper etter.
Råmaterialet for tekgigantene er den enorme informasjonsmengden på det store internettet, ikke minst alt vi selv har gitt fra oss til ulike nettjenester.
Mye av moderne digitalt klinikkutstyr er, eller vil bli, gjennomsyret av KI i ulike former. Da er det gjerne snakk om beslutningsstøtte basert på data fra slik som røntgenopptak, digitale avtrykk og journalsystemer.
Generativ KI, derimot, lager nytt innhold, mer eller mindre selvstendig. Dette er et hett tema generelt, i utdanning og forskning, i pressen og i kreativ aktivitet som skjønnlitteratur og musikk. Diskusjonene går høyt om det er juks og uredelighet, om hvor grensene går, og om fare for ondsinnet bruk.
Kunnskapsgrunnlaget og KI
Grunnlaget for hva vi anser som gjeldende god klinisk praksis er oftest basert på samlet informasjon fra vitenskapelig publisering. Dette systemet er under press, blant annet fordi informasjonsmengden vokser voldsomt og det er massevis av publikasjonskanaler som med urette kaller seg vitenskapelige, blant annet såkalte røvertidsskrifter som er rent profittdrevet.
KI henter informasjon fra alle hjørner av internett, fra solid vitenskapelig informasjon til grums i ekkokamre. Dette behandles med statistiske algoritmer, gjerne i såkalte store språkmodeller (large language models, LLM). Dataselskapene kan i prinsippet justere KI-algoritmene sine etter politiske, kulturelle eller økonomiske påvirkninger og andre føringer. Dette er ikke transparente prosesser, mildt sagt.
Kjære KI: Lag en artikkel om kvante- og nanoteknologi med odontologisk vinkling
Bakgrunnen er at Norges forskningsråd nettopp definerte kvanteteknologi som et innsatsområde (som jeg ikke kan noe om). Nanoteknologi er et annet moderne satsingsfelt. Odontologi har knapt plass i disse feltene. Idéen var å la en stor språkmodell, ChatGPT-6 fra OpenAI (gratisversjonen), lage en vitenskapelig artikkel med maksimal bruk av populære uttrykk som quantum og nano, og sette det i sammenheng med karies. Altså en ganske spenstig problemstilling.
Det skulle være stramt artikkelformat, med litteraturreferanser og illustrasjon. ChatGPT var ikke vanskelig å be. Hovedtekst, referanser og illustrasjon var klar etter cirka 20 minutter foran skjermen med 10-12 instruksjoner (prompter) fra min side. Det eneste manuelle var å sette inn et høyst oppdiktet forskningsgruppenavn. All hovedtekst og illustrasjon er levert av ChatGPT. Hele resultatet finnes i lenken i slutten av denne kronikken. For ordens skyld: Artikkelen er tydelig merket med at den er helt KI-generert.
Det kritiske spørsmålet
OK, dette er en kunstig fremstilt tekst, men den er verbalintelligent, fremstår som seriøs ved første øyekast, og med en elegant utført illustrasjon. Språket er nærmest feilfritt. Referansene, som den selv har funnet, er korrekt plassert i teksten, referanselisten er formatert slik den skal. Artikkelen kunne til og med oppfattes som faglig innovativ.
Spørsmålet er: Hvor mye av lignende artikler, om enn ikke fullt så kunstig framstilt, finnes der ute? Vil de for eksempel kunne inngå i kunnskapsoppsummeringer som i sin tur påvirker klinisk praksis?
KI er kommet for å bli, om du skulle være i tvil
Det er ikke spørsmål om ja eller nei til KI, vi må lære oss å leve med teknologien. KI er nyttig ved å gi oversikt over store informasjonsmengder og ved være en språkvasker, altså en effektiv assistent. Det er etter hvert, god skikk å redegjøre for i hvilken grad KI har vært involvert i arbeidet.
Utover dette mer redaksjonelle, hva når menneskelig tankevirksomhet overlates til (eller tas over av?) generativ KI, kanskje med en bevisst agenda. Alle med internettilgang kan jo lage overbevisende produkter som i eksempelet her, og med en vinkling som støtter et eller annet synspunkt.
Det er viktig med kritisk tenkning sies det ofte, men det krever en viss grunnkunnskap og en dose humanintelligens. Tradisjonelle redaktørstyrte medier har sin rolle, blant annet fordi de opererer i åpent lende – man vet hvem som snakker.
Kunstig intelligens kan alt, men har lite forstand.
Lenke til hele den KI-genererte artikkelen:
Takk til deltakerne i den høyst uformelle morgenkaffezoom-gruppen ved Institutt for klinisk odontologi (IKO) i Bergen. Teksten i denne kronikken er bevisst ikke behandlet av en KI-assistent.
En illustrasjon i en «vitenskapelig artikkel» produsert av kunstig intelligens (ChatGPT-6). Figuren er laget helt automatisk basert på noen få enkle instruksjoner (prompter) om at det skulle inneholde buzzwords som kvantefysikk og nanoteknologi i forbindelse med karies.
Illustrasjon: ChatGPT