The Pulse
Tencent veröffentlicht Hy4-Gewichte mit Einschränkungen für große Anbieter
Tencent hat sein Hy4-Modell mit 770 Milliarden Parametern als Open Weights sowie in FP8- und Basisversionen verfügbar gemacht. Für große Model-as-a-Service-Anbieter gelten laut den Lizenzbedingungen von Tencent separate Anforderungen.

Tencent hat herunterladbare Gewichte für Hy4 veröffentlicht, ein multimodales KI-Modell, dessen Sprach-Backbone 770 Milliarden Parameter hat. Die Veröffentlichung wurde am 20. November öffentlich, berichtete Sulat AI & Tech News. Das Hauptmodell, eine FP8-Version und ein vortrainiertes Basismodell sind auf Hugging Face, ModelScope und GitCode verfügbar.
Hy4 verwendet eine Mixture-of-Experts-Architektur und aktiviert pro Token 49 Milliarden Sprachparameter. Laut der Modellkarte von Tencent verarbeitet das Modell Text, Bilder und Videos; sein Kontextfenster umfasst 1.048.576 Token.
Drei Gewichtssätze
Die Veröffentlichung umfasst das instruktionsoptimierte Hy4, Hy4-FP8 und Hy4 Base. Sulat zufolge speichert die FP8-Version das Modell in 8-Bit-Zahlen, während es sich bei der Basisversion um das vor dem Chat-Tuning vortrainierte Modell handelt.
Laut dem Medium umfassen die Dateien auf Hugging Face insgesamt etwa 1,55 TB für Hy4, 0,79 TB für Hy4-FP8 und 1,54 TB für das Basismodell. Zusammen mit den Gewichten wurde eine Systemkarte veröffentlicht, die die Sicherheitsbewertung des Modells behandelt.
Das Sprach-Backbone hat 78 Schichten: eine dichte Schicht und 77 Mixture-of-Experts-Schichten. Jede Mixture-of-Experts-Schicht enthält 256 geroutete Experten und einen gemeinsamen Experten; ein Token aktiviert acht geroutete Experten sowie den gemeinsamen Experten.
Ein separater Vision-Encoder hat 1,23 Milliarden Parameter. Zum Modell gehört außerdem ein DFly2-Entwurfsmodell mit 3,3 Milliarden Parametern für spekulatives Decoding. Bei dieser Technik schlägt ein kleineres Modell Token vor, die das größere Modell überprüft.
Lizenzbedingungen
Hy4 verwendet die Tencent Hy License und nicht die Apache-2.0-Lizenz, die für Hy4 Preview gilt. Sulat zufolge leitet sich die neue Lizenz von Apache 2.0 ab und ergänzt kommerzielle Bedingungen für große Model-as-a-Service-Anbieter.
Ein Unternehmen, das Dritten Fernzugriff auf Inferenz oder Fine-Tuning bereitstellt, benötigt eine separate schriftliche Lizenz, wenn sein weltweiter Bruttoumsatz in einem beliebigen Zeitraum von zwölf Monaten 50 Millionen US-Dollar übersteigt, berichtet Sulat. Das Medium berichtet, dass ebenfalls eine separate Lizenz erforderlich ist, bevor ein solches Unternehmen das Modell in einem Produkt mit mehr als 100 Millionen monatlichen Nutzern einsetzt.
Sulat zufolge ist die interne Nutzung ausgenommen, sofern weder das Modell noch ein Derivat oder deren Ausgaben Dritte erreichen. Fine-getunte, quantisierte, destillierte, zusammengeführte und beschnittene Versionen gelten den Bedingungen zufolge als abgeleitete Werke, so das Medium.
Bewertung und Einschränkungen
In der Modellkarte nennt Tencent unter anderem Computer-Workflows, Spieleentwicklung, Finanzarbeit und Forschung als Anwendungsbereiche. Bei einer Bewertung mit 213 Finanzfachleuten und 579 Finanzaufgaben erreichte Hy4 eine durchschnittliche Punktzahl von 3,04 von 4. DeepSeek-V4.1-Flash-1017 kam auf 2,97, Kimi K3.1 Pro und GLM-5.3 jeweils auf 2,68.
Das Unternehmen sagt, Hy4 liege bei einigen anspruchsvollen internen Tests noch hinter führenden proprietären Modellen zurück. Dazu zählen Mathematik auf Forschungsniveau, Coding über lange Zeithorizonte, die Selbstverbesserung des Modells und anspruchsvolle visuelle Frage-Antwort-Aufgaben. Die Benchmark-Tabelle für das Basismodell enthält außerdem den Hinweis, dass der Kontakt mit synthetischen Instruktionsdaten während des Mid-Trainings gelegentlich dazu führen kann, dass das Modell bei Few-Shot-Evaluierungen das erwartete Antwortformat verfehlt, wodurch die Ergebnisse möglicherweise verzerrt werden.
Die Veröffentlichung unterstützt laut Sulat den Einsatz mit den Inferenz-Frameworks vLLM und SGLang. Das Repository enthält dem Medium zufolge außerdem Fine-Tuning-Skripte für DeepSpeed, LLaMA-Factory und ms-swift.
Quellen
- Originalquelle Tencent · Seite 1 huggingface.co
Weitere gelesene Seiten
- Tencent · Seite 2 huggingface.co
- Sulat AI & Tech News news.sulat.com
Verwandte Meldungen
- Kyutai veröffentlicht AURA-5B für nicht kommerzielle Talking-Head-Videos
- Studie zeigt: KI-Schutzsysteme können unbelegte Erklärungen liefern
- TuringSpace-Test findet Lücken beim räumlichen Handeln führender KI-Modelle
- AWS leitet HyperPod-Inferenz über Cluster hinweg über einen einzigen Endpunkt
- AWS Quick ergänzt Antworten mehrerer Agenten und im Chat erstellte Geschäftsprozessabläufe