Leksikon
Sentence Transformers
Sentence Transformers er værktøjet til at lave embeddings til søgning og RAG. Forstå biblioteket bag semantisk søgning — gratis og lokalt.
Hvad er Sentence Transformers?
Sentence Transformers er et bibliotek og en familie af modeller, der er specialiseret i at lave embeddings — altså at omsætte tekst til tal, der koder mening. Det er et af de mest udbredte værktøjer til at bygge semantisk søgning og RAG.
Hvad der gør det praktisk
Modellerne er små, hurtige og kan køre lokalt — også uden et dyrt grafikkort. Det betyder, at den del af en AI-løsning, der handler om at finde det rigtige indhold, ofte kan klares billigt og uden at sende noget til en ekstern udbyder. Først når det fundne skal formuleres til et svar, kommer en større sprogmodel ind.
Hvorfor det er relevant
I en RAG-løsning er det embeddings, der afgør, om systemet finder det rigtige at svare ud fra. Sentence Transformers er ofte det praktiske valg til netop den opgave — gratis, lokalt og godt nok til de fleste behov. Det er et godt eksempel på, at en god AI-løsning ikke behøver være én stor model, men flere små, der hver gør deres del.
Flere opslag i leksikonet
Se hele leksikonet →Relaterede ydelser
Skal det her omsættes til noget, der virker hos jer? Så er det typisk her, vi kommer ind.
Fra begreb til løsning
Skal et af begreberne her omsættes til noget der rent faktisk virker i din virksomhed, så tag en uforpligtende snak med os.