Modellentwicklung & Fine-Tuning
Individuelles Modelltraining und parametereffizientes Fine-Tuning, das produktionsreife Modelle mit intakter Sicherheitsausrichtung und vollständiger regulatorischer Dokumentation ausliefert.
Die meisten Fine-Tuning-Projekte scheitern, bevor das Training beginnt
Die GPU-Rechnung ist nicht der teure Teil des Fine-Tunings im Unternehmen. Ein Modell mit 7B Parametern wird auf einer einzelnen A100 für 100–400 $ an Rechenleistung feinabgestimmt; ein 70B-Modell kostet 4.000–9.750 $ pro Trainingslauf. Was Projekte zum Scheitern bringt, ist alles rund um die Trainingsschleife: das Kuratieren Tausender domänenspezifischer Beispiele, das Verhindern, dass das Modell vergisst, was es bereits weiß, das Validieren, dass die Sicherheitsausrichtung das Training überstanden hat, das Quantisieren für den Produktionsbetrieb und der Aufbau der Monitoring-Pipeline, die Drift erkennt.
Gartner prognostiziert, dass bis 2027Organisationen kleine, aufgabenspezifische KI-Modelle dreimal häufiger einsetzen werden als allgemein einsetzbare LLMs. Der Wandel ist bereits im Gange: 68 % der Unternehmen die 2024 Modelle feinabgestimmt haben, berichteten von einer bis zu dreifachen Verbesserung der Aufgabengenauigkeit. Doch die Lücke zwischen einem Notebook-Experiment und einem Produktions-Deployment ist der Punkt, an dem die meisten Projekte ins Stocken geraten. Unser Ansatz besteht darin, die gesamte Pipeline zu konstruieren, nicht nur die Trainingsschleife (eine Disziplin, die ausführlich beschrieben wird in unserer Forschung zur Entwicklung von Systemen jenseits von API-Wrappern).
Wann Fine-Tuning die richtige Wahl ist (und wann nicht)
Prompt Engineering dauert Stunden. RAG dauert ein bis vier Wochen. Fine-Tuning dauert zwei bis acht Wochen, einschließlich Datensatzerstellung, Training, Sicherheitstests und Produktionshärtung. Wir beginnen jedes Engagement damit, zu bewerten, ob Fine-Tuning überhaupt notwendig ist.
Feinabstimmen, wenn:
- das Modell neues Verhalten oder Ausgabeformate benötigt, die Prompting nicht zuverlässig erzeugen kann;
- Ihre Domäne spezialisierte Argumentationsmuster aufweist, die generische Modelle inkonsistent handhaben;
- Sie kosteneffiziente Inferenz im großen Maßstab benötigen — ein feinabgestimmtes 7B für 0,20 $/M Tokens ersetzt ein 70B für 2 $/M;
- Sie agentische Systeme aufbauen, bei denen die Zuverlässigkeit von Tool-Aufrufen entscheidend ist — feinabgestimmte SLMs verbesserten die Tool-Aufruf-Erfolgsquote in Benchmarks von 10 % auf 79 % (siehe eine funktionierende Demo eines solchen agentischen Terminplanungssystems).
Nicht feinabstimmen, wenn:
- das Problem im Wissensabruf besteht (nutzen Sie RAG);
- der Datensatz weniger als 1.000 Beispiele pro Aufgabe enthält;
- Prompt Engineering bereits eine akzeptable Genauigkeit erreicht;
- sich das Basismodell schneller ändert als Ihr Neutrainings-Rhythmus.
Wenn RAG das Problem löst und Fine-Tuning nur Budget verschwenden würde, ist es unser Ansatz, dies zu sagen, bevor ein Training überhaupt umrissen wird, statt Ihnen ein Projekt zu verkaufen, das Sie nicht brauchen. Diese Ehrlichkeit ist fester Bestandteil unserer Herangehensweise an ein Engagement.
Die Wahl des Frameworks ist entscheidend
Die Landschaft von 2026 hat sich um klar abgegrenzte Werkzeuge konsolidiert, von denen jedes ein anderes Problem löst.
| Framework | Am besten geeignet für | Einschränkungen / Hinweise |
|---|---|---|
| Unsloth | Am schnellsten bei Single-GPU-Setups | Die Open-Source-Version kann nicht über eine GPU hinaus skalieren; Multi-GPU-FSDP ist der Pro-Stufe vorbehalten |
| Axolotl | Produktionsstandard für Multi-GPU-Training | YAML-gesteuerte Reproduzierbarkeit über A100- und H100-Cluster hinweg |
| Hugging Face TRL | Wenn das Trainingsziel am wichtigsten ist | DPO, GRPO, PPO oder jede RL-basierte Alignment-Arbeit |
| LLaMA-Factory | Erstmaliges Fine-Tuning über eine Web-UI | Zugänglich, aber die meisten Teams wachsen schnell darüber hinaus |
| TorchTune (Meta) | PyTorch-native Integration | Für das Meta-Modell-Ökosystem |
Wir wählen anhand Ihres Trainingsumfangs, Ihrer Modellarchitektur und Ihrer Ziele aus. Die meisten Produktions-Deployments nutzen mehr als eines: Axolotl für überwachtes Fine-Tuning, TRL für die Präferenzoptimierung und Unsloth für schnelles Prototyping.
Die Sicherheitsausrichtung überlebt naives Fine-Tuning nicht
Forschungsarbeiten der EMNLP 2024 zeigten, dass das Fine-Tuning von LLMs mit neuem Faktenwissen die Neigung zu Halluzinationen erhöht. Unabhängig davon wiesen Forscher aus Princeton, Stanford, Virginia Tech und IBM nach, dass standardmäßiges Fine-Tuning es Modellen ermöglichte, das Sicherheitstraining vollständig zu umgehen. Forschung der ICLR 2026 hat seither gezeigt, dass sorgfältiges Hyperparameter-Tuning diese Risiken mindert, doch Standard-Framework-Konfigurationen werden ohne Schutzmaßnahmen ausgeliefert.
Der Mechanismus: Aggressive Parameteraktualisierungen in den oberen Schichten überschreiben sicherheitsrelevante Merkmale. Die Wahl des LoRA-Rangs ist entscheidend — Adapter mit höherem Rang auf Attention-Schichten können Verweigerungsschaltkreise destabilisieren, und die sichere Konfiguration hängt von der spezifischen Modellarchitektur und den Aufgabendaten ab.
Unser Ansatz besteht darin, sicherheitswahrende Pipelines zu implementieren (fundiert durch unsere Forschung zur KI-Sicherheits-Governance im latenten Raum):
- selektives LoRA, das kritische Schaltkreise schützt;
- zurückgehaltene Sicherheits-Benchmarks bei jedem Checkpoint;
- frühes Stoppen anhand zusammengesetzter Metriken, die Aufgabenleistung gegen Fähigkeitserhaltung abwägen;
- kontinuierliches Monitoring auf Alignment-Verschlechterung während des gesamten Trainings.
Datenkuratierung ist der eigentliche Engpass
GPU-Stunden sind ein Posten. Datenkuratierung ist das Projekt:
- SMEs dazu zu bringen, 5.000–50.000 hochwertige Beispiele zu annotieren;
- das Auflösen von Annotationskonflikten mit Inter-Annotator-Agreement-Metriken;
- das Durchführen von MinHash/LSH-Deduplizierung;
- die Kontaminationsprüfung gegen Evaluierungssätze;
- das Dokumentieren der Herkunft mit Datasheets.
RLAIF (bei dem GPT-4 als Labeler dient) reduziert die Kosten für Präferenzdaten, führt jedoch einen Bias des Lehrermodells ein. Synthetische Daten durch Teacher-Student-Distillation bootstrappen Trainingssätze, wobei die Qualität durch die Fähigkeiten des Lehrermodells begrenzt ist.
Ein Engagement wird so umrissen, dass es das Design der Datenpipeline, Annotations-Workflows, Qualitätsvalidierung und Dokumentation für regulierte Branchen abdeckt: FDA-Software-Validierung, Validierungsberichte für Finanzmodelle und technische Dokumentation gemäß EU AI Act mit Modellkarten, die die Anforderungen von Artikel 11 Absatz 1 erfüllen.
Vom Training zur Produktion
Quantisierung
Feinabstimmen in FP16, Adapter zusammenführen, dann quantisieren. AWQ INT4 mit dem Marlin-Kernel liefert das beste Durchsatz-zu-Qualität-Verhältnis für das vLLM-Serving (741 Tok/s). GPTQ integriert sich mit TensorRT-LLM und TGI. GGUF ist nativ für llama.cpp und Ollama. Wir passen die Quantisierung an Ihren Serving-Stack an.
Anbieter vs. Open Source
OpenAI berechnet ~3 $/M Tokens für das Fine-Tuning von GPT-4.1. Mistrals feinabgestimmtes Small 3.1 für 0,20 $/M erreicht bei eng abgegrenzten Aufgaben dasselbe Niveau wie ihr Large 3 für 2 $/M. Anthropic bietet kein öffentliches Fine-Tuning an. Anbieter-APIs eignen sich für schnelle Iteration, wenn die Daten-Governance eine Drittanbieter-Infrastruktur zulässt.
Open-Source-Modelle (Llama 3, Mistral, Qwen) mit selbst gehostetem Training sind die richtige Wahl, wenn Daten auf Ihrer Infrastruktur verbleiben müssen oder regulatorische Anforderungen dies verlangen. Die meisten Unternehmen nutzen beides.
Monitoring und Neutraining
Produktionsmodelle driften. Unser Ansatz besteht darin, Pipelines aufzubauen, die die Vorhersagequalität verfolgen, Daten- und Konzept-Drift erkennen und ein Neutraining auslösen, wenn Schwellenwerte überschritten werden. MLflow oder Weights and Biases übernehmen das Experiment-Tracking, wobei Modell-Registries eine vollständige Nachverfolgbarkeit von den Trainingsdaten bis zum bereitgestellten Artefakt bieten.
Post-Training-Alignment: über SFT hinaus
Der Produktionsstandard von 2026 ist eine modulare Pipeline: SFT für das Befolgen von Anweisungen, DPO oder SimPO für die Präferenzausrichtung und GRPO für das Reasoning.
DPO verdrängte RLHF PPO, indem es das Belohnungsmodell eliminierte. SimPO entfernte das Referenzmodell und übertraf dabei DPO um 6,4 Punkte auf AlpacaEval 2. GRPO (von DeepSeek R1) nutzt verifizierbare Belohnungen, um Reasoning durch reines RL zu trainieren (eine Technik, die wir untersuchen in unserer Forschung zum Graph Reinforcement Learning), mit emergenter Selbstreflexion und Verifikation. Wir implementieren diese mithilfe von TRL, dem Framework, das die Dynamik des RL-Trainings richtig hinbekommt.
Was wir liefern
Jedes Engagement wird so umrissen, dass es ein einsatzfähiges System hervorbringt:
- das feinabgestimmte Modell mit vollständigen Modellkarten;
- die Trainingspipeline als reproduzierbaren Code mit Experiment-Tracking;
- eine Evaluierungssuite, die gegen das Basismodell und Alternativen über Genauigkeit, Latenz, Robustheit und Kalibrierung hinweg vergleicht;
- das quantisierte Deployment-Artefakt mit optimierter Serving-Konfiguration;
- Monitoring-Dashboards mit Drift-Erkennung und Auslösern für das Neutraining;
- für regulierte Branchen sektorspezifische Validierungsdokumentation (EU AI Act, FDA, Validierung von Finanzmodellen).
Das Engagement bringt außerdem eine ehrliche Einschätzung hervor: ob Fine-Tuning der richtige Ansatz war, was das Modell nicht leisten kann und wo die Leistungsgrenze liegt. Dokumentierte Einschränkungen von Anfang an sparen mehr Geld als optimistische Prognosen.
Modellentwicklung & Fine-Tuning
KI für Materialrückgewinnung und Sortierung schwarzer Kunststoffe | Veriprajna
Ruß-Pigment absorbiert nahinfrarotes Licht. Jede schwarze PP-Schale, jeder PE-Behälter und jedes ABS-Gehäuse, das Ihr optischer Sortierer übersieht, landet im Reststoff und anschließend auf der Deponie. Wir bauen die MWIR-Sensorik- und Edge-KI-Schicht, die es zurückgewinnt.
KI für die Crew-Einsatzplanung von Airlines: IROPS-Recovery, die funktioniert, wenn Legacy-Solver versagen | Veriprajna
KI-gestützte Crew-Einsatzplanung und IROPS-Recovery für mittelgroße Airlines. Ergänzen Sie Jeppesen oder IBS mit ML, das kaskadierende Störungen, Lücken im Crew-Tracking und DOT-Erstattungsrisiken bewältigt.
Biosicherheit für KI in Pharma & Biotech | Veriprajna
Im Jahr 2022 betrieb Collaborations Pharmaceuticals sein kommerzielles De-novo-Wirkstoffforschungsmodell mit umgekehrter Belohnungsfunktion. In weniger als sechs Stunden erzeugte es 40.000 Kandidatenmoleküle, darunter Analoga von VX. Das war MegaSyn, ein LSTM aus der Ära 2019, das auf einer einzigen Workstation lief.
Explore Solution →Häufig gestellte Fragen
Wie viel kostet es, ein 7B- gegenüber einem 70B-Modell mit unseren Domänendaten feinabzustimmen?
Die GPU-Rechenleistung für ein 7B-Modell beläuft sich auf 100–400 $ pro Trainingsiteration auf A100-Infrastruktur, wobei die Gesamtprojektkosten (einschließlich Datenkuratierung, Evaluierung und Deployment) von 500–2.000 $ für kleinformatige bis zu 5.000–15.000 $ für produktionsreife Deployments reichen. Ein 70B-Modell erfordert 800–1.500 GPU-Stunden zu 4.000–9.750 $ pro Lauf, wobei Produktionsprojekte typischerweise im Bereich von 10.000–50.000 $ liegen. Die GPU-Rechnung ist selten der größte Posten. Datenkuratierung, SME-Annotationszeit, Sicherheitsvalidierung und regulatorische Dokumentation übersteigen die Rechenkosten oft um das 2- bis 5-Fache. Wir umreißen den Umfang anhand der tatsächlichen Komplexität Ihrer Aufgabe und Ihrer Datenbereitschaft, nicht allein anhand der Modellgröße.
Wann sollten wir feinabstimmen vs. RAG vs. Prompt Engineering einsetzen?
Beginnen Sie mit dem günstigsten Ansatz, der das Problem löst. Prompt Engineering dauert Stunden und kostet fast nichts. RAG dauert 1–4 Wochen und ist die richtige Wahl, wenn das Modell Zugriff auf aktuelles oder proprietäres Wissen benötigt, mit dem es nicht trainiert wurde. Fine-Tuning dauert 2–8 Wochen und ist gerechtfertigt, wenn das Modell neues Verhalten, Ausgabeformate oder domänenspezifisches Reasoning erlernen muss, das Prompting nicht zuverlässig erzeugen kann. Der Produktionsstandard von 2026 ist hybrid: RAG liefert aktuelle Fakten, Fine-Tuning formt das Modellverhalten und Prompt Engineering steuert die Ausgabequalität. Wir beginnen jedes Engagement damit, zu testen, ob die einfacheren Ansätze das Problem lösen, bevor wir Fine-Tuning empfehlen.
Welches Fine-Tuning-Framework sollten wir verwenden: Axolotl, Unsloth oder TRL?
Jedes löst ein anderes Problem. Unsloth ist am schnellsten bei Single-GPU-Setups und hervorragend für Prototyping, doch Multi-GPU-FSDP ist auf ihre kommerzielle Pro-Stufe beschränkt. Axolotl ist der Produktionsstandard für Multi-GPU-Training mit YAML-gesteuerter Reproduzierbarkeit. TRL verwenden Sie, wenn das Trainingsziel am wichtigsten ist, insbesondere für DPO, GRPO, PPO oder jede Reinforcement-Learning-Alignment-Arbeit. Die meisten Produktions-Deployments nutzen mehr als eines: Axolotl für überwachtes Fine-Tuning, TRL für die Präferenzoptimierung und Unsloth für schnelles Experimentieren. Wir wählen anhand Ihres Trainingsumfangs, Ihrer Modellarchitektur und Ihrer Ziele aus.
Wie verhindern wir katastrophales Vergessen und die Verschlechterung der Sicherheit während des Fine-Tunings?
Standard-Fine-Tuning-Konfigurationen werden ohne Schutzmaßnahmen gegen eines der beiden Probleme ausgeliefert. Forschung der EMNLP 2024 zeigte, dass Fine-Tuning mit neuem Faktenwissen die Neigung zu Halluzinationen erhöht, und separate Studien wiesen nach, dass naives Fine-Tuning das Sicherheits-Verweigerungsverhalten vollständig deaktivieren kann. Wir implementieren sicherheitswahrende Trainingspipelines: selektives LoRA, das kritische Modellschaltkreise schützt, LoRA-Rang-Kalibrierung, die auf jede Modellarchitektur abgestimmt ist, zurückgehaltene Sicherheits-Benchmarks bei jedem Trainings-Checkpoint, frühes Stoppen anhand zusammengesetzter Metriken, die Aufgabenleistung gegen Fähigkeitserhaltung abwägen, sowie durch Skalierungsgesetze fundierte Lernraten-Zeitpläne, die die Parameterstörung in sicherheitskritischen Schichten minimieren.
Welche minimale Datensatzgröße ist erforderlich, um ein LLM effektiv feinabzustimmen?
1.000 hochwertige Beispiele pro Aufgabe sind das praktische Minimum für überwachtes Fine-Tuning mit LoRA. Unterhalb dieser Schwelle dominiert Overfitting, und Sie sind mit Few-Shot-Prompting oder RAG besser bedient. Qualität zählt mehr als Quantität: 2.000 sorgfältig kuratierte Beispiele mit hohem Inter-Annotator-Agreement übertreffen 20.000 verrauschte Beispiele. Für die Präferenzoptimierung (DPO/SimPO) benötigen Sie mindestens 5.000–10.000 Präferenzpaare. Für Reinforcement Learning mit verifizierbaren Belohnungen (GRPO) verschiebt sich die Anforderung von gelabelten Daten hin zu einer zuverlässigen Verifier-Funktion. Wir bewerten Ihre vorhandenen Datenbestände und gestalten die Annotations-Pipeline so, dass sie die von Ihrer Aufgabe geforderte Qualitätsschwelle erreicht.
Wie stimmen wir ein Modell für zuverlässiges Tool-Calling in agentischen Workflows feinab?
Out-of-the-Box-Modelle halluzinieren häufig Tool-Parameter, wählen falsche Funktionen oder scheitern an mehrstufigen Sequenzen. Fine-Tuning mit strukturierten Tool-Calling-Datensätzen hat die Erfolgsquoten in Benchmarks von 10 % auf 79 % verbessert, und feinabgestimmte Modelle zeigen bei ungesehenen Szenarien 57 % höhere Tool-Call-Belohnungen im Vergleich zu Basismodellen. Der Ansatz umfasst das Kuratieren von Tool-Calling-Trainingsdaten mit korrekten Funktionssignaturen, Parametertypen und mehrstufigen Ketten und anschließend das Fine-Tuning mit SFT, gefolgt von Reinforcement Learning unter Verwendung von Ausführungs-Feedback als Belohnungssignal. Wir bauen die Trainingsdaten-Pipeline auf, trainieren das Modell und validieren es vor dem Deployment gegen Ihre tatsächliche API-Oberfläche.
LoRA vs. QLoRA vs. vollständiges Fine-Tuning: welcher Ansatz für unseren Anwendungsfall?
Vollständiges Fine-Tuning aktualisiert jeden Parameter und liefert die höchste Obergrenze, erfordert jedoch 8+ GPUs für alles oberhalb von 7B Parametern. LoRA friert das Basismodell ein und trainiert kleine Adaptermatrizen, wodurch die trainierbaren Parameter um über 90 % reduziert werden bei minimalem Qualitätsverlust bei Produktions-Rangeinstellungen von 64–128. QLoRA fügt eine 4-Bit-Quantisierung des eingefrorenen Basismodells hinzu und senkt den VRAM um 33 % bei einer 39-prozentigen Verlängerung der Trainingszeit. Für die meisten Unternehmensanwendungsfälle ist LoRA mit Rang 64–128 der richtige Standard. QLoRA, wenn der GPU-Speicher wirklich knapp ist. Vollständiges Fine-Tuning nur, wenn Sie über das Rechenbudget, die Datensatzgröße zur Rechtfertigung (50.000+ Beispiele) und eine Aufgabe verfügen, die nachweislich von der Aktualisierung aller Parameter profitiert.
Was verlangt die Konformität mit dem EU AI Act für feinabgestimmte KI-Modelle?
Wenn Ihr Fine-Tuning Rechenleistung nutzt, die ein Drittel der Trainings-Rechenleistung des ursprünglichen Modells übersteigt (oder ein Drittel von 10^23 FLOPs, falls das Original unbekannt ist), behandelt Sie der EU AI Act als neuen GPAI-Anbieter mit vollständigen Konformitätspflichten: technische Dokumentation, Modellkarten, Zusammenfassungen urheberrechtlich geschützten Materials und Risikobewertungen. Die vollständige Durchsetzung für Hochrisiko-KI-Systeme beginnt am 2. August 2026, mit Bußgeldern von bis zu 35 Millionen EUR oder 7 % des weltweiten Jahresumsatzes. Die harmonisierten technischen Normen (CEN/CENELEC JTC 21) werden noch finalisiert, mit Zielsetzung Q4 2026. Wir erstellen Modellkarten und technische Dokumentation, die auf die Anforderungen von Artikel 11 Absatz 1 und Anhang IV ausgerichtet sind, so gestaltet, dass sie unter den aktuellen Rahmenwerken verteidigungsfähig und an die endgültigen Normen anpassbar sind.
Sollten wir ein Open-Source-Modell feinabstimmen oder eine Anbieter-Fine-Tuning-API nutzen?
Anbieter-APIs (OpenAI zu ~3 $/M Tokens für das Training von GPT-4.1, Google Vertex für Gemini, Mistral zu 0,20 $/M für Small 3.1) sind die richtige Wahl für schnelle Iteration, wenn die Daten-Governance das Senden von Trainingsdaten an Drittanbieter-Infrastruktur zulässt. Open-Source-Modelle (Llama 3, Mistral, Qwen) mit selbst gehostetem Training sind die richtige Wahl, wenn Daten auf Ihrer Infrastruktur verbleiben müssen, Sie volle Kontrolle über die Trainingsdynamik benötigen oder regulatorische Anforderungen dies verlangen. Die meisten Unternehmens-Deployments nutzen 2026 beides: Anbieter-APIs für Prototyping und Baselines, Open Source für die Produktion, wenn Datensouveränität oder Kostenoptimierung eine Rolle spielen. Wir helfen Ihnen, diese Entscheidung anhand Ihrer Einschränkungen zu treffen, nicht anhand von Plattformtreue.
Wie beurteilen wir, ob unser feinabgestimmtes Modell tatsächlich besser ist als das Basismodell?
Einfache Genauigkeit auf einem zurückgehaltenen Testsatz ist notwendig, aber nicht ausreichend. Wir bauen Evaluierungssuiten, die die aufgabenspezifische Leistung mit statistischen Signifikanztests messen, die Erhaltung allgemeiner Fähigkeiten mithilfe zurückgehaltener Benchmarks aus dem Fähigkeitsspektrum des Basismodells (um katastrophales Vergessen zu erkennen), die Beibehaltung der Sicherheitsausrichtung mithilfe standardisierter Sicherheits-Benchmarks, Latenz und Durchsatz unter Produktionslast, die Kalibrierungsqualität (weiß das Modell, was es nicht weiß) sowie die nach relevanten Untergruppen aufgeschlüsselte Leistung, um durch Trainingsdaten eingeführte Verzerrungen zu erkennen. Die Evaluierungssuite wird mit dem Modell als reproduzierbarer Code ausgeliefert, nicht als einmaliger Bericht.
Entwickeln Sie Ihre KI mit Zuversicht.
Arbeiten Sie mit einem Team zusammen, das über umfassende Erfahrung im Aufbau der nächsten Generation von Unternehmens-KI verfügt. Wir helfen Ihnen, eine KI-Strategie zu entwerfen, zu entwickeln und einzuführen, der Sie vertrauen können.
Veriprajna Deep-Tech-Beratung ist auf die Entwicklung sicherheitskritischer KI-Systeme für die Bereiche Gesundheitswesen, Finanzen und Regulierung spezialisiert. Unsere Architekturen werden anhand etablierter Protokolle validiert und mit umfassender Compliance-Dokumentation belegt.