Fine-Tuning

Fine-Tuning trainiert ein vortrainiertes KI-Modell auf Ihren eigenen Daten weiter. Danach kennt es Ihre Fachsprache, trifft Ihren Ton und löst domänenspezifische Aufgaben besser als das Ausgangsmodell. Klingt verlockend. Ist aber der letzte Schritt, nicht der erste.

Drei Wege, ein Modell anzupassen

Prompt Engineering ändert nur die Eingabe. Schnell, günstig, flexibel — reicht oft für 80 % der Fälle. RAG füttert das Modell zur Laufzeit mit externen Dokumenten. Ideal, wenn aktuelle Daten entscheidend sind.

Fine-Tuning geht weiter: Es verändert die Gewichte des Modells selbst. Nötig, wenn konsistentes Verhalten in einer Domäne gefragt ist und Prompting an seine Grenzen stößt. Ein Finanzdienstleister wollte Vertragsklauseln klassifizieren. Prompt Engineering: 74 % Genauigkeit. Nach Fine-Tuning: 93 %.

Was es kostet — und wann es sich lohnt

GPT-3.5 mit 15 Mio. Tokens: rund 120 $. Open-Source-Modelle wie Llama mit LoRA-Adapter: 300-3.000 $. Vollständiges Fine-Tuning eines 40-Milliarden-Parameter-Modells: 20.000-35.000 $.

Unser Rat: Starten Sie mit Prompt Engineering. Testen Sie RAG. Fine-Tunen Sie erst, wenn beides nicht reicht. Die meisten Unternehmen, die bei uns anfragen, brauchen kein Fine-Tuning — sie brauchen bessere Prompts und saubere Daten.