Leksikon
LoRA
LoRA er en effektiv metode til at finjustere en AI-model uden at træne den hele. Forstå teknikken, der gør specialtilpasning billig nok til alle.
Hvad er LoRA?
LoRA (Low-Rank Adaptation) er en smart metode til at finjustere en AI-model uden at træne hele den enorme model om. I stedet for at ændre alle modellens millioner af parametre, tilføjer LoRA et lille, ekstra lag, der trænes — og lader resten være urørt. Resultatet er næsten det samme, til en brøkdel af regnekraften.
Hvorfor det er en stor ting
Almindelig fine-tuning af en stor model kræver dyrt udstyr og meget tid. LoRA gør det muligt at specialtilpasse en model på beskedent hardware — endda et almindeligt grafikkort. Det har gjort finjustering tilgængeligt for almindelige virksomheder, ikke kun for de store laboratorier. (Familien af lignende metoder kaldes samlet PEFT — parameter-effektiv fine-tuning.)
Hvornår det er relevant
LoRA giver mening, når du vil have en model til at ramme en bestemt tone, et bestemt format eller en snæver, gentaget opgave — og har gode eksempler at træne på. Husk dog tommelfingerreglen: skal modellen bare kende dine fakta, er RAG ofte både billigere og mere fleksibelt. LoRA er til opførsel, ikke til viden.
Flere opslag i leksikonet
Se hele leksikonet →Relaterede ydelser
Skal det her omsættes til noget, der virker hos jer? Så er det typisk her, vi kommer ind.
Fra begreb til løsning
Skal et af begreberne her omsættes til noget der rent faktisk virker i din virksomhed, så tag en uforpligtende snak med os.