Supertonic vs. SuperClonica: dasselbe Modell, schneller und sauberer

Tempo

Beide Engines liefen im selben Prozess und kamen bei jedem Satz abwechselnd dran, mit wechselnder Reihenfolge. So bremste die Hintergrundlast des Rechners beide gleich stark. Jeder Aufruf bekam einen neuen Seed, wie in einem Chat, in dem jeder Satz neu ist. Beide Engines wurden vorab erstellt und aufgewärmt.

Auf der Grafikkarte kommt der Gewinn von CUDA-Graphen: Das ganze Modell wird einmal aufgezeichnet und dann mit einem einzigen Befehl gestartet. Auf dem Prozessor sind die Modelle für Multithreading umgeschrieben. SuperClonica war auf der Grafikkarte bei allen 10 Sätzen und auf dem Prozessor bei allen 24 Sätzen schneller.

Klang

Das Modell ist dasselbe, daher stimmen Stimme und Intonation überein. Der Unterschied liegt darin, was um die Wörter herum passiert: Stille an den Rändern, Rauschen in den Pausen und gelegentliche Störgeräusche, die das Modell hinzufügt.

Die Grafik zeigt einen Satz auf einer gemeinsamen Zeitachse. Das Original lässt eine halbe Sekunde Stille vor dem ersten Wort und mehr als eine halbe Sekunde nach dem letzten; SuperClonica lässt 0,08 und 0,2 s, deshalb beginnt die Sprache früher. Auch das Grundrauschen in den Pausen zwischen den Wörtern ist entfernt.

Was unsere Tests mit Tausenden Generierungen zeigen

Zehn Sätze sind nur eine Stichprobe. Diese Ergebnisse stammen aus unseren eigenen, viel größeren Testläufen.

• Störgeräusche am Satzende. Nach dem letzten Wort hängt das Modell manchmal ein Klicken, ein Atmen, ein Brummen oder eine zusätzliche Silbe an. In zwei Läufen mit 1800 und 1392 Sätzen (12 und 18 Sprachen, Erkennung mit Whisper) gab es 27 und 26 solcher Enden. Nach der Bereinigung durch SuperClonica blieben 0 und 3.
• Keine abgeschnittenen Wörter. Die Bereinigung wird mit einem Phonemerkenner gegen die Rohausgabe des Modells geprüft. Bei den letzten Versionen sind das über 25 000 Generierungen in mehr als 30 Sprachen, ohne einen einzigen bestätigten Schnitt in echte Sprache.
• Weniger Stolperer bei langen Texten. SuperClonica teilt Text an natürlichen Pausen in Stücke von höchstens 160 Zeichen, das Original teilt nach 300. Ein wiederholtes Wort kam bei Stücken bis 160 Zeichen 1-mal in 1800 Generierungen vor, bei Stücken von 200–290 Zeichen in 1–4 % der Fälle.
• Kein Clipping. Das Modell erzeugt manchmal Spitzen über Vollaussteuerung. Ein vorausschauender Limiter senkt nur diese Spitzen ab.

Weniger abgehackte Enden

Das Modell bricht den letzten Laut manchmal bei voller Lautstärke ab, als würde die Aufnahme mitten im Wort abgeschaltet. Man hört ein Klicken oder ein verschlucktes Ende. SuperClonica führt solche Enden in ein natürliches Ausklingen und erhält dabei den Laut selbst.

Wir nutzten Chat-Sätze mit je 4 Standardstimmen, mit gleicher Stimme und gleichem Seed für beide Engines. Als Abbruch gilt ein Lautstärkeabfall um mehr als 25 dB innerhalb von 2 ms am Ende der Sprache. Unten drei Beispiele mit vergrößertem Satzende; die gestrichelte Linie markiert das Ende der Sprache.

Zahlen

Das Original gibt Ziffern unverändert an das Modell weiter. Kleine Zahlen liest das Modell selbst richtig, bei großen irrt es sich in manchen Sprachen. SuperClonica spricht Zahlen in 27 Sprachen als Wörter aus.

Geprüft wurden die Zahlen an einem Satz mit 3, 25, 2024 und 150, zwei Seeds pro Sprache, Erkennung mit Whisper.

Hören Sie selbst

Alle Sätze aus der Messung. Unter jeder Aufnahme steht ihre Lautstärkehüllkurve, die Stille vor und nach der Sprache ist schattiert.

Wo das Original-Supertonic besser ist

SuperClonica gewinnt nicht überall. Das sind die Kompromisse, die wir kennen.

• Start. Beim Start prüft SuperClonica die CUDA-Graphen auf der Grafikkarte und schreibt die Modelle für den Prozessor um, deshalb dauert der Start länger: 9,5 s gegenüber 1,2 s auf der Grafikkarte und 4,0 s gegenüber 0,9 s auf dem Prozessor. Am besten erstellt man die Engine einmal und behält sie.
• Lange Absätze auf der Grafikkarte. Text wird in Stücke von höchstens 160 Zeichen geteilt, daher kann ein langer Absatz etwas langsamer ausfallen als im Original; in unserer Messung kam das nicht vor. Dafür gibt es weniger Stolperer.
• Zahlen ohne Beugung. Im Russischen wird „в 2024 году“ mit der Grundzahl statt der Ordnungszahl gelesen, und englische Jahreszahlen klingen wie gewöhnliche Zahlen. Der Parameter numbers=False gibt die Ziffern wie im Original an das Modell weiter.

So haben wir gemessen

Supertonic 1.3.1 (Modell supertonic-3) ohne Nachbearbeitung gegen SuperClonica 0.6.23 mit Standardeinstellungen. Beide Engines liefen mit Tempo 1,05 und 8 Schritten, jeder Satz hatte bei beiden dieselbe Stimme und denselben Seed. Grafikkarte RTX 5070 Ti, ONNX Runtime GPU 1.26 (10 Durchläufe). Prozessor Ryzen 7 5800X, 4 Threads für beide, 24 Chat-Sätze in 8 Sprachen (2 Durchläufe).

Der Rechner war ein Arbeitsrechner mit geöffneten Anwendungen. Auf einem freien Rechner sind die absoluten Millisekunden niedriger, das Verhältnis bleibt aber gleich. Die Klangwerte stammen aus einem separaten Lauf auf der Grafikkarte; Stille und Rauschen werden in 10-ms-Rahmen relativ zum Pegelmaximum des Satzes gemessen.

SuperClonica ist eine unabhängige Ableitung von Supertonic und keine offizielle Veröffentlichung von Supertone. Das Modell Supertonic 3 steht unter seiner eigenen Lizenz.