Modellkarte · Öffentliche experimentelle Veröffentlichung
quantum-1.6-pilot
49.3MParametergröße
49.295.872 Parameter
Veröffentlichte Architektur
Zusammenfassung
Ein experimentelles deutsches Textvervollständigungsmodell mit 49,3 Mio. Parametern, das nach einer berichteten Continued-Pretraining-Phase veröffentlicht wurde.
- Status
- Öffentliche experimentelle Veröffentlichung
- Modelltyp
- Experimentelles Textvervollständigungsmodell im Stil von LlamaForCausalLM
- Vorgesehene Nutzung
- Forschung zu dokumentierten Continued-Pretraining-Abläufen · Lokale deutschsprachige Textvervollständigungsexperimente
- Sprachen
- Deutsch
- Abstammung
- Die Veröffentlichungskarte berichtet Continued Pretraining ausgehend von Quantum 1 Base. Die öffentliche Konfiguration legt eine Initialisierung nur der Gewichte, einen neuen Optimierer, Scheduler und Schrittzähler sowie einen eingefrorenen quantum-1-Tokenizer fest; kein abschließendes öffentliches Run-Manifest bestätigt jedes konfigurierte Detail.
- Veröffentlichungsstatus
- Öffentlich als experimentelle F16-GGUF-Veröffentlichung verfügbar; das öffentliche Artefakt umfasst 98.990.560 Byte.
- Lizenz
- Im öffentlichen Repository ist derzeit keine Modelllizenz angegeben. Die Möglichkeit zum Herunterladen definiert für sich allein keine Wiederverwendungsrechte.
Technisches Dossier
Dokumentierte Modellfakten.
Informationen, die mit öffentlichen Projektquellen verknüpft sind. Unbekannte Veröffentlichungsdaten, Lizenzbedingungen und nicht belegte Client-Kompatibilität werden nicht abgeleitet.
- Version
- 1.6.0, entsprechend dem öffentlichen Dateinamen quantum-1.6-pilot-v1.6.0-f16.gguf und dem Veröffentlichungsmanifest
- Architektur
- Im Stil von LlamaForCausalLM; Hidden Size 512; Intermediate Size 1.536; 12 Schichten; 8 Attention-Heads; 8 KV-Heads; gekoppelte Einbettungen
- Vokabular
- 16.384 Token
- Kontext
- 512 Token
- Tokenizer
- Benutzerdefinierter eingefrorener quantum-1-Tokenizer mit einem Vokabular von 16.384 Token
- Trainingsdaten
- Ungefähr 100 Mio. deutsche Basistrainings-Token plus 500 Mio. zusätzliche deutsche Token, wie in der öffentlichen Modellkarte dokumentiert.
- Trainingskonfiguration
- Die öffentliche Konfiguration zielt auf ungefähr 30.518 Schritte, abgeleitet aus 500 Mio. Token bei effektiv 16.384 Token pro Schritt. Ein abschließendes öffentliches Run-Protokoll ist nicht verlinkt.
- Evaluation
- Die Hugging-Face-Modellkarte berichtet einen Validierungsverlust von 3,348852 und eine Perplexität von 28,4700. Es wurden weder ein versionierter Evaluationsbericht noch standardisierte Downstream-Aufgaben-Benchmarks veröffentlicht.
- Veröffentlichung
- F16-GGUF, ungefähr 99 MB
- Quantisierung
- Die öffentliche Veröffentlichung stellt ein F16-GGUF bereit; Q8- oder Q4-Varianten sind nicht aufgeführt
- Hardware
- Der minimale RAM-Bedarf wurde nicht formal gemessen
- Inferenz
- Die Kompatibilität mit llama.cpp ist dokumentiert. Werkzeuge für Android-Vergleiche sind vorhanden, derzeit ist jedoch kein abgeschlossener öffentlicher Android-Validierungsbericht verlinkt.
Primärquellen:Hugging-Face-Modellkarte ·Trainingsdokumentation ·Generierungsdiagnose
Referenzbefehl für Vervollständigung
llama-completion -m quantum-1.6-pilot-v1.6.0-f16.gguf -p "Berlin ist" -n 64 --temp 0 --top-p 1 --top-k 0Completion-Prompting ist der dokumentierte Referenzweg. Ein Chat-Template wird nicht zugesagt.
Forschungskontext
Wie diese Veröffentlichung in das Experiment einzuordnen ist.
Diese Veröffentlichung berichtet Continued Pretraining mit fester Architektur und festem Tokenizer. Öffentliche Konfiguration und Code sind verfügbar, ein abschließendes Run-Manifest und vollständige Trainingsprotokolle sind jedoch nicht verlinkt.
Repository-Referenz
Die Modellkarte des Piloten.
Eine visuelle Momentaufnahme der Parametergröße und der vorgesehenen Forschungsnutzung des Modells.
MODELLKARTE
rappidAI · research
quantum-1.6-pilot
Parametergröße
49,3M
Parameter
49,3 Mio. veröffentlichte Parameter gegenüber dem konfigurierten Echelon-Ziel von 506 Mio.
Primäre Nutzung
Forschung zu dokumentierten Continued-Pretraining-Abläufen
- Modelltyp
- Experimentelles Textvervollständigungsmodell im Stil von LlamaForCausalLM
- Kontext
- 512 tokens
- Vokabular
- 16.384
ZUGEHÖRIGE RESSOURCEN
Weiterführende Evidenz prüfen.
Einschränkungen
Lesen Sie zuerst die Grenzen.
Semantisch schwache und faktisch unzuverlässige Ausgabe
Ausgaben können unvollständig oder inkohärent sein
Auf ein Kontextfenster von 512 Token begrenzt
Kein Instruction-Tuning oder Chat-Alignment
Es wurden keine standardisierten Aufgaben-Benchmarks veröffentlicht
Nicht für Medizin, Recht, Finanzen, Sicherheit oder andere Hochrisikoanwendungen geeignet
Nicht als allgemeiner Produktivassistent vorgesehen
Die Kompatibilität mit Drittanbieter-Clients wurde nicht durch einen veröffentlichten Validierungsbericht belegt
Dieses Modell ist experimentell und nicht produktionsreif. Es darf nicht für Hochrisikoentscheidungen eingesetzt werden.