Aus Open Source — Themen & Einführungen. Strategieseite: Digitale Souveränität Agentur. Verwandt: Open Source Self-hosted AI Plattform.
Was Soofi S ist
Soofi (“Sovereign Open Source Foundation Models”) ist ein deutsches Forschungsprojekt, das im September 2025 gestartet wurde und über das IPCEI-CIS-Programm des Bundesministeriums für Wirtschaft und Klimaschutz gefördert wird (Förderkennzeichen 13IPC040A). Das erste Modell, Soofi S, ist ein 30B-Parameter Mixture-of-Experts-Modell, trainiert mit rund 27 Billionen Token, mit Fokus auf deutsche und englische Texte. Das Konsortium vereint deutsche Forschungseinrichtungen, Universitäten und Start-ups; Unterstützung wird unter anderem vom KI-Bundesverband, der Deutschen Telekom und dem Bundesministerium referenziert (Quelle: NXT EU auf X).
Der Fokus liegt auf industrieller KI: technische und regulatorische Dokumente, Code-Generierung, agentische Systeme und unternehmensspezifische Anwendungen — einsetzbar auf europäischer Cloud- und Edge-Infrastruktur statt ausschließlich über Drittanbieter-APIs. Zum Zeitpunkt der Veröffentlichung befindet sich Soofi S in praxisnahen Tests mit Industriepartnern; eine allgemeine Veröffentlichung zur direkten Nutzung ist noch nicht erfolgt, interessierte Organisationen werden auf direkten Kontakt mit dem Konsortium verwiesen.
soofi-trainer: der offene Agentenstack rund um das Modell
Neben dem Modell-Strang veröffentlicht das Konsortium soofi-project auf GitHub, darunter soofi-trainer (MIT-Lizenz) — ein agentisches System, das Nutzer durch die LLM-Spezialisierung führt: von der Use-Case-Analyse über die Methodenempfehlung (RAG, Fine-Tuning, LoRA/QLoRA, SFT, DPO) bis zum verwalteten Trainingsjob. Technisch kombiniert der Stack Muster, die wir bei Kunden bereits produktiv betreiben:
- LangGraph-ReAct-Orchestrierung — ein Interaction Agent, ein Advisor Agent, ein Dataset Agent und ein Training Agent, koordiniert über A2A und per AG-UI/SSE-Streaming angebunden.
- MCP-first-Integration — ein Vector-MCP-Server für die Wissensbasis-Suche (
search_documents,list_metadata) sowie ein als MCP exponiertes Training Gateway für das Job-Management, plus ein MCP Inspector zum Debugging. - RAG auf Weaviate — Markdown-Wissensdokumente mit YAML-Metadaten, automatisch mit SHA-256-Änderungserkennung eingelesen, Embeddings je Provider konfigurierbar (OpenAI, Ollama
bge-m3oder andere). - Austauschbare Inferenz-Backends — standardmäßig OpenAI, mit einsetzbaren Profilen für Ollama, LM Studio, NVIDIA Triton und vLLM über LiteLLM für On-Prem-H200-Deployments.
- Sprach-I/O — Whisper-basierte STT und OpenAI/Piper-TTS, Deutsch und Englisch, mit Push-to-Talk im UI.
- Betriebs-Grundgerüst — Docker Compose mit domänenbezogenen Teil-Dateien, Portainer, Grafana/Prometheus und MinIO als Objektspeicher.
Ergänzend gibt es einen AAS-Stack (BaSyx Asset Administration Shell Registries und Browser) und einen EDC-Stack (Eclipse Dataspace Connector Provider/Consumer, mit einem MCP-gewrappten Consumer) — beides zielt auf Industrie-4.0- und Data-Space-Interoperabilitätsanwendungen, nicht nur auf Chat.
Warum das über die Modell-Datenblatt-Zahlen hinaus zählt
Ein leistungsfähiges Open-Weight-Modell ist eine Schlagzeile; ob es produktiv nutzbar ist, entscheidet sich wie bei jedem selbstgehosteten Stack: Entscheidungen zum Model Serving, Kubernetes Platform Engineering, Terraform / OpenTofu Infrastruktur und eine RAG / Retrieval-Schicht, die tatsächlich gegen Ihre Dokumente evaluiert wird — nicht gegen den Demo-Korpus des Anbieters. Der Referenzstack von Soofi setzt das bereits voraus: MCP-Server, LangGraph-Agenten und ein Training Gateway, das Fine-Tuning als verwalteten Job behandelt statt als Einmal-Skript.
Für Organisationen, die Soofi S konkret aus Gründen der digitalen Souveränität evaluieren — EU-gehostete Inferenz, auditierbare Gewichte, keine erzwungene Abhängigkeit von einem einzelnen US-Cloud-Anbieter — schließt das Modell eine Lücke, Governance, Datenpipelines und operative Verantwortung bleiben aber Engineering-Arbeit.
Weitere Einführungen
Digitale Souveränität — Governance und Datenkontrolle · Europäische digitale Souveränität & EuroStack · Einführung in LLM-Agenten · Einführung in RAG & Retrieval
Hinweis zu Marken und Status
Soofi, Soofi S und soofi-trainer sind Projekte des Soofi-Konsortiums und bleiben dessen Eigentum — dies ist technische Einordnung, keine Empfehlung, Partnerschaftsaussage oder Verfügbarkeitsgarantie. Der Modellzugang ist laut Angaben des Konsortiums derzeit auf Industrietests beschränkt.
Soofi S und den soofi-trainer-Stack für Ihre Organisation evaluieren
Von der LLM-Spezialisierungsberatung bis zu produktivem RAG, Training Gateway und Kubernetes-Plattform — wir scopen und liefern die Bausteine rund um das Modell.
