Sprogmodeller som ChatGPT kan være gode og produktive. Men de har en iboende fejl: De fabulerer.
- Der er nogle udfordringer med deres troværdighed. De er født som en fabulerende teknologi. De er født til at sætte ord sammen. De er populært sagt født til at lyve, siger Anders Kristian Munk. Han er professor på DTU og forsker i kunstig intelligens.
Han er en af oplægsholderne på HI-messen.
- Den kunstige intelligens baseret på sprogmodeller har antaget en form, som virker menneskelig. Det virker forbløffende meget som menneskelig intelligens, siger han.
Det, som chatbot'en kommer med, skal holdes op mod andre ting. Man er nødt til at have andre øjne på det
Anders Kristian Munk, professor, DTU
- Chatbot'er som ChatGPT er nogle vi føder med en hel masse ting, som mennesker har gjort og sagt. Den sætter så tingene sammen efter sandsynlighed. Men de er ikke superviserede i, hvad der er rigtige svar og hvad der er forkerte svar. Derfor skal de hegnes ind.
- Man er nødt til at verificere med andre teknologier, eksempelvis vidensdatabaser. Det, som chatbot'en kommer med, skal holdes op mod andre ting. Man er nødt til at have andre øjne på det, siger han.
- Det sidste år eller to har vi set, at chatbot'ene forsøger at løse problemet med troværdighed. De prøver i højere grad at få informationer udefra. De dobbelttjekker oplysninger. Det er det, man kalder "reasoning-modeller", og som i ChatGPT blev indført med ChatGPT o1, siger Anders Kristian Munk.
Ikke bare ChatGPT
I offentligheden er ChatGPT og andre sprogmodeller blevet identisk med kunstig intelligens. Men Anders Kristian Munk understreger, at der er mange andre former for kunstig intelligens.
- Sprogmodeller er bare én af mange mulige kunstige intelligenser. Der er mange former for maskinlæring, som man eksempelvis bruger til at stille en brystkræftdiagnose eller til at udarbejde en vejrudsigt. Den slags anvendes mange steder, men har ikke noget med sprogmodeller som ChatGPT at gøre.
- Mange har en fornemmelse af, at der skete noget afgørende, da ChatGPT 3.5 kom ud i 2022. Men det har været en lang udvikling inden for mange områder inden da.
- Sådan noget som billedgenkendelse kendte man allerede til i 80'erne, men det er først nu, at vi har computerkraft til rådighed, så det kan bruges til noget.
Hvad vejrudsigter angår, så understreger Anders Kristian Munk, at det er en helt anden genre end den kunstige intelligens i sprogmodellerne.
- Vi har en historisk base. Vi ved, hvordan vejret er blevet i mange situationer. Så vi har en facitliste. Det har vi ikke, når det gælder chatbotsne.
Sværere at skelne
Anders Kristian Munk anerkender, at der er et problem i, at mere og mere indhold på nettet er skabt af chatbots.
- Med de store sprogmodeller bliver det sværere og sværere at skelne mellem, hvad der er skabt af mennesker, og hvad der er skabt af chatbots, siger han.
Polariseret debat
Anders Kristian Munk og hans forskerkolleger har de sidste år studeret den danske offentlige debat om kunstig intelligens.
- Diskussionen drejer sig især om den kunstige intelligens troværdighed, sikkerhed og om dens bias.
- Mange af diskussionerne drukner i hype, hvor vi taler om kunstig intelligens som noget, der enten kommer til at løse alle samfundets problemer eller som er en trussel mod civilisationens fremtid. Der er en usund tendens til diskussion på meget høje nagler.
- Når man taler om bias, så giver det ikke mening at tale om en chatbot uden bias. En chatbot skal kunne gå i dialog og for eksempel kunne tale med en kunde. Den skal skabe oplevelser. Den ville miste sin appel og charme, hvis vi virkelig gjorde den neutral og unbiased.
Stort energiforbrug
En af debatterne om kunstig intelligens drejer sig om, at teknologien har et meget stort energiforbrug.
- Alle er enige om, at kunstig intelligens har et kæmpe fodaftryk i energiforbruget. Det er ikke bare de enkelte opkald til teknologien, det er også al den energi, der bruges til at træne modellen. Man skaber et energiforbrug, der ikke var der før. Men på den anden side, så kan kunstig intelligens medvirke til, at man ved intelligent styring sparer energi et andet sted. Der er store diskussioner om, hvor stort et aftryk teknologien reelt har, siger Anders Kristian Munk.
På HI-messen skal han udrede nogle af de mange begreber, der findes om kunstig intelligens. Det bliver tirsdag 30. september på Technomania Brain Stage.
BREAKING