Transformer

ChatGPT und semantische Vektorräume: Architektur und Funktionsweise

Gepostet am February 19, 2025 | Martin Funk

ChatGPT und semantische Vektorräume: Architektur und Funktionsweise

ChatGPT verwendet semantische Vektorräume, die auf transformerbasierten Modellen basieren. Die zugrunde liegende Architektur stammt aus der GPT (Generative Pre-trained Transformer) Modellfamilie, die von OpenAI entwickelt wurde.

[Mehr]

Methoden zur Erstellung semantischer Vektorräume

Gepostet am February 19, 2025 | Martin Funk

Methoden zur Erstellung semantischer Vektorräume

Es existieren mehrere etablierte Methoden, um semantische Vektorräume zu erstellen. Diese Methoden lassen sich grob in statistische Verfahren und neurale Netze unterteilen und haben sich über die Jahre stark weiterentwickelt.

[Mehr]

Word2Vec GloVe FastText BERT Transformer TF-IDF LSA Word Embeddings