Text-to-Speech für lokale LLMs und Chatbots
Ein Sprachmodell auf Ihrem eigenen Computer, über Ollama, llama.cpp oder LM Studio, hält Ihre Gespräche privat. Die Antworten an einen Cloud-Sprachdienst zu schicken, würde das zunichtemachen. Auch die Stimme sollte lokal sein.
Die SuperClonica-Engine vertont Text offline auf einem normalen Prozessor oder einer NVIDIA-Grafikkarte, aus Python oder als kleiner HTTP-Dienst. Dieser Leitfaden zeigt, wie Sie sie an ein lokales Modell anbinden, die Verzögerung kurz halten und Antworten gut klingen lassen.
So fügt sich ein lokaler Sprachassistent zusammen
Jeder Teil lässt sich einzeln tauschen: anderes Modell, andere Stimme, dieselbe Kette.
- Optionale Spracherkennung, etwa ein lokales Whisper-Modell, macht aus Ihrer Stimme Text.
- Das Sprachmodell schreibt die Antwort lokal.
- SuperClonica macht aus der Antwort Sprache, ebenfalls lokal.
- Nichts verlässt den Computer, und es gibt keine Gebühren pro Zeichen oder Anfrage.
Die Stimme gratis anhören
Bevor Sie Code schreiben, öffnen Sie die Seite einer Stimme, geben eine typische Antwort mit 30 bis 100 Zeichen ein, wählen die Sprache und klicken auf die Schaltfläche zum Vertonen. In wenigen Sekunden hören Sie, wie Ihr Assistent klingen wird, ohne Konto.
Jeden Satz sprechen, sobald er fertig ist
In unseren Messungen dauerte ein kurzer Satz im Median 0,12 s auf einer RTX 5070 Ti und 0,43 s auf einem Desktop-Ryzen mit vier Threads.
- Installieren Sie die Engine einmal: python -m pip install superclonica-cpu oder superclonica-gpu-cuda für eine NVIDIA-Grafikkarte.
- Erstellen Sie die Engine einmal, tts = Superclonica(), und nutzen Sie sie wieder: Das Laden dauert einige Sekunden, jeder weitere Satz Sekundenbruchteile.
- Während das Modell seine Antwort streamt, schneiden Sie sie an Satzenden und vertonen jeden Satz: audio, rate = tts.synthesize(sentence, voice="F1", lang="de").
- Spielen Sie jeden Satz ab, während der nächste entsteht, mit einer Audiobibliothek wie sounddevice oder indem Sie die Datei speichern und abspielen.
Antworten, die laut gut klingen
Modelle antworten gern in Markdown: Sternchen, Listen, Tabellen und Code klingen vorgelesen seltsam. Bitten Sie das Modell im Systemprompt, in kurzen, schlichten gesprochenen Sätzen ohne Listen und Formatierung zu antworten, und entfernen Sie den Rest vor der Vertonung. Die Engine spricht Zahlen in den meisten Sprachen als Wörter aus und entfernt Emojis und unbekannte Zeichen von selbst. Für ein Programm, das nicht in Python geschrieben ist, betreiben Sie die Engine als lokalen HTTP-Dienst, docker run -d -p 8000:8000 -v superclonica-models:/models superclonica/superclonica:cpu, und senden jeden Satz an POST /synthesize; Werkzeuge, die einen OpenAI-kompatiblen Sprach-Endpunkt erwarten, brauchen einen kleinen Adapter.
Die Stimme wählen
Die zehn Standardstimmen des Modells, M1 bis M5 und F1 bis F5, gehören zur kostenlosen Engine und brauchen keine zusätzlichen Dateien. Für einen persönlichen Assistenten mit Charakter wählen Sie eine Stimme aus dem Katalog, etwa eine der Jarvis-Stimmen, und testen sie zuerst an einer typischen Antwort. Für Ihre eigene Stimme oder die eines einverstandenen Familienmitglieds trainieren Sie sie im Studio auf einem Computer mit NVIDIA-Grafikkarte oder bestellen sie auf der Börse. Jede Stimme spricht die 31 Sprachen von Supertonic 3; Chinesisch wird noch nicht unterstützt.