Chatbots er ikke objektive orakler, men subjektive maskiner

Lyt til artiklen:

Søren Hauberg er professor i maskinlæring på DTU og ekspert i kunstig intelligens. Her giver han nogle bud på, hvad vi skal være særligt opmærksomme på i forhold til kunstig intelligens.

Hvad omhandler din forskning om kunstig intelligens kort fortalt?

”For tiden fokuserer jeg på usikkerheden, der er forbundet med kunstig intelligens. Kunstig intelligens handler om at bygge modeller og algoritmer, der kan lave forudsigelser og løse problemer. Rent empirisk har man observeret, at modellerne er vanvittigt skråsikre. De mener selv, at deres forudsigelser er ufejlbarlige, så meget af den forskning, jeg laver, handler om at prøve at få modellerne til at forholde sig til nøjagtigheden af forudsigelserne”, forklarer Søren Hauberg og fortsætter: ”Hvis vi fx ønsker at bygge en kunstig intelligens, der skal forudsige, hvad temperaturen bliver i morgen, vil vi jo gerne have et svar som 22 grader plus/minus 5 grader, men den form for selvrefleksion mangler i høj grad i modellerne.”

Modellerne er vanvittigt skråsikre. De mener selv, at deres forudsigelser er ufejlbarlige.

Hvordan bør vi forholde os til kunstig intelligens?

”Jeg tror, vi skal starte et andet sted end ved frygt. Når man eksempelvis skriver med en chatbot, og den svarer på spørgsmål, har man lyst til selv at svare: ’Tak’ og engagere sig med den. Det skyldes, at maskinen er meget tæt på at kopiere autentisk menneskelig opførsel, og så vil man gerne behandle den som et menneske, hvilket er meget pudsigt. På sin vis er det fuldstændigt hul i hovedet, for maskinen har ingen følelser, men alligevel har man det, som om man sidder overfor en virkelig person. Chatbotten er et ekstremt flot poleret og overbevisende spejlbillede, men der er jo ikke noget inde bagved, og det kommer man nemt til at glemme, når man bliver charmeret af den her utroligt veltalende robot”, uddyber Søren Hauberg.

”Vi har skabt noget kunstigt, der på sin vis minder om liv, og det rejser mange spørgsmål og overvejelser, som helt naturligt leder til frygt. Er vi som mennesker overhovedet egnede til at kunne rumme det, og kan vi stå inde for de konsekvenser, det måtte have?”

Mange af problemerne kan kunstig intelligens hjælpe os med at løse.

”Men det er ikke konstruktivt at være bange for, at kunstig intelligens overtager verdensherredømmet”, fortsætter Søren Hauberg. ”Der er så mange håndgribelige og store problemer i verden, som vi bør håndtere, og mange af problemerne kan kunstig intelligens hjælpe os med at løse. Det nytter ikke noget at være optaget af en hypotetisk frygt for menneskehedens eksistens.”

Hvad er de største faldgruber i anvendelsen af kunstig intelligens?

”Anvendelse af kunstig intelligens til fake news i forbindelse med valg og politiske handlinger har været et problem længe, men heldigvis er der ret stort fokus på det. En anden faldgrube er, at sprogmodeller ofte lanceres uden en varedeklaration. Hvem er afsender? Der er kommet en ny kinesisk model, som er censureret efter kinesiske normer og temmelig sikkert også i høj grad politisk styret. Det er relativt nemt for os i Vesten at gennemskue.

Hvad glemmer chatbotten at fortælle?

Men hvad med de amerikanske chatbots? Her er vi mere på kulturel øjenhøjde med afsenderen, så det kan være vanskeligt at se, hvor kontrolleret og censureret modellen er. Hvad glemmer chatbotten at fortælle? Den foretager en subtil filtrering af informationer, men hvilke budskaber lægges der vægt på?”

Søren Hauberg uddyber: ”Jeg tror, vi skal være pinagtigt opmærksomme på, at chatbots ikke er objektive orakler, men i den grad subjektive maskiner, som er blevet skabt med en stærk, men udeklareret kulturel baggrund. Derfor har vi brug for systematisk kildekritik af de informationer, vi får fra chatbots og sprogmodeller.”

Udviklingen går rivende hurtigt, og det er umuligt at følge med.

”Et andet stort problem med kunstig intelligens er, at udviklingen går rivende hurtigt, og det er umuligt at følge med. Overgangen fra forskning til produkt er ufattelig kort. Man bygger et stykke software, der skal flyttes fra én computer til en anden, hvilket sker på ingen tid. I andre brancher tager det årtier at bevæge sig fra forskning til produktion. Hvis der sker et eller andet storslået gennembrud i nanoteknologi, hører vi ofte om det flere år før, det kommer til at påvirke vores liv i praksis, og vi har mulighed for at vænne os til tanken. Når der sker et gennembrud inden for kunstig intelligens, har vi ikke tid til at forholde os kritisk til, hvad den gode anvendelse af den nye teknologi egentlig er, hvilket ikke nødvendigvis er en fordel for samfundet.”

Hvad kan man gøre for at forbedre implementeringen af kunstig intelligens?

”Det giver ikke mening at forbyde noget. Kunstig intelligens har et enestående potentiale til at forbedre samfundet. Der er så mange positive virkninger af kunstig intelligens, og vi kan få hjælp til at løse problemer langt bedre end før. Vi kan udvikle medicin hurtigere, lave bedre vejrudsigter og klimamodeller, gøre vores fødevarer mere holdbare og bæredygtige ved at optimere transport, energiforbrug og opbevaring osv.

Men samtidig må vi konstatere, at mulighederne kommer med en pris. Det er ikke gratis, og fremtidens udfordring bliver at skabe balance mellem den kunstige intelligens’ enorme potentiale og de nævnte faldgruber”, slutter Søren Hauberg.

Læs også “Kunstig intelligens”.