Leksikon
Selvhostet AI - lokale sprogmodeller
Selvhostet AI kører sprogmodeller på dine egne servere, så data bliver i huset. Læs hvornår det er besværet værd — og hvornår en ekstern tjeneste er bedre.
Hvad er selvhostet AI?
Selvhostet AI betyder, at du kører en AI-model på dine egne — eller europæiske — servere i stedet for at sende dine data til en ekstern tjeneste som ChatGPT. Det er blevet en reel mulighed for almindelige virksomheder, fordi de åbne modeller som Llama og Mistral er blevet stærke nok til rigtigt arbejde.
Hvorfor overveje det
Den klare fordel er kontrol. Dine data forlader aldrig huset, hvilket kan være afgørende ved følsomme oplysninger, fortrolige dokumenter eller krav om, at data bliver i EU — kort sagt digital suverænitet. For nogle brancher er det ikke en luksus, men en betingelse.
Der kan også være penge i det: kører du store mængder gennem en model, bliver det på et tidspunkt billigere at hoste selv end at betale pr. token.
Hvad det koster dig
Det er ikke gratis bekvemt. En selvhostet model kræver hardware, opsætning og vedligehold, og de bedste åbne modeller ligger ofte et hak under de stærkeste lukkede. Du bytter altså en smule rå styrke og bekvemmelighed for kontrol og uafhængighed.
Hvornår det giver mening
Tommelfingerregel: jo mere følsomme data og jo større volumen, jo mere taler for at hoste selv. Skal du bare have besvaret almindelige spørgsmål uden følsomt indhold, er en ekstern tjeneste typisk både nemmere og billigere. Som med det meste afhænger det af opgaven — det regner vi gerne igennem med dig, før I beslutter jer.
Flere opslag i leksikonet
Se hele leksikonet →Relaterede ydelser
Skal det her omsættes til noget, der virker hos jer? Så er det typisk her, vi kommer ind.
Fra begreb til løsning
Skal et af begreberne her omsættes til noget der rent faktisk virker i din virksomhed, så tag en uforpligtende snak med os.