Leksikon
AI-hallucination
En hallucination er, når en AI svarer forkert med fuld overbevisning. Forstå hvorfor det sker, og hvordan man bygger AI-løsninger, der kan stoles på.
Hvad er en hallucination?
En hallucination er, når en AI giver et svar, der lyder rigtigt — men er forkert. Ikke med tøven. Med fuld overbevisning. Det er den vigtigste ting at forstå, før man slipper en sprogmodel løs på noget, der betyder noget.
Hvorfor det sker
En sprogmodel ved ikke noget i egentlig forstand. Den forudsiger det mest sandsynlige næste token ud fra mønstre i sin træning. Det meste af tiden rammer den rigtigt. Men når den mangler viden, gætter den — og et velformuleret gæt kan ligne et faktum til forveksling.
Sådan holder man det i skak
Giv den fakta: Med RAG svarer modellen ud fra dine egne data i stedet for sin hukommelse.
Bed om kilder: En løsning kan vise, hvor svaret kommer fra, så det kan tjekkes.
Hold mennesket inde: På de vigtige beslutninger godkender et menneske — AI'en forbereder, mennesket bekræfter.
Derfor er det ikke gratis at "bare bruge ChatGPT"
Forskellen mellem en sjov demo og en løsning, du tør sætte i drift, er præcis håndteringen af det her. En AI, der nogle gange tager fejl uden at sige det, er ikke et problem — hvis den er bygget med de rette spærrer.
Ikke en fejl, du kan fjerne helt. Men en risiko, der kan styres — og det er hele forskellen.
Flere opslag i leksikonet
Se hele leksikonet →Relaterede ydelser
Skal det her omsættes til noget, der virker hos jer? Så er det typisk her, vi kommer ind.
Fra begreb til løsning
Skal et af begreberne her omsættes til noget der rent faktisk virker i din virksomhed, så tag en uforpligtende snak med os.