OpenAmer-Max-Ultra — 32B

Sechste Stufe der Familie, benannt nach Parameterzahl. Stufe Ultra: über 30 bis 100 Milliarden Parameter. Basis: Qwen2.5-32B-Instruct, trainiert mit QLoRA.

Messung — und die unangenehme Wahrheit

Stufe Parameter Prüfstand (45 Fälle)
Desktop 14,70B 44/45 (97,8 %)
Pro 24,00B 43/45 (95,6 %)
Phone 3,09B 43/45 (95,6 %)
Ultra 32,00B 41/45 (91,1 %)
Tab 7,62B 42/45 (93,3 %)
Watch 0,60B 37/45 (82,2 %)
Basis Qwen2.5-14B (ohne Training) 14,7B 22/45 (48,9 %)

Ultra ist die größte Stufe und trotzdem nicht die beste. Sie liegt zwei Punkte unter Desktop und einen unter Pro. Mehr Parameter haben auf diesem Prüfstand nicht geholfen; mit 2.890 Trainingssätzen ist die Datenmenge für 32 Milliarden Parameter zu klein, um den Vorsprung der kleineren Stufen zu wiederholen. Wir schreiben das hier hin, statt die Zahl zu verschweigen.

Der Prüfstand misst knappe Fakten, Formatbefolgung, Verneinungen und Ehrlichkeit bei Fragen, deren Antwort niemand kennt. Er misst nicht freie Schlussfolgerungen oder langen Kontext. 45 Fälle sind ein Signal, kein Beweis.

Ein Befehl

ollama run amersacirovic/openamer-max-ultra

Dateien

Datei Größe Zweck
openamer-max-ultra-q4.gguf 18,49 GB Q4_K_M, für Ollama und llama.cpp
Adapter separat — openamer-max-ultra-adapter

Technische Daten

  • Basismodell: Qwen/Qwen2.5-32B-Instruct (Apache-2.0)
  • Training: QLoRA, r=32, alpha=64, 1 Epoche, 2.716 Sätze, 4 Bit NF4
  • VRAM-Spitze beim Training: 25,79 GB (L40S, 48 GB)

Grenzen

  • Kleiner als Desktop bewertet (41 gegen 44 von 45) — siehe Tabelle oben.
  • Trainingsdatenmenge rechtfertigt 32B nicht; die kleineren Stufen sind effizienter.
  • 45 Testfälle sind eine kleine Stichprobe.
  • Die Antworten sind auf Deutsch, Englisch und Bosnisch trainiert; andere Sprachen sind nicht geprüft.

Herkunft

Amer Sacirovic. Apache-2.0. Gebaut mit lokalem Training und HuggingFace-Jobs.

Wenn dir das hilft: Spenden-Link.

Downloads last month
117
GGUF
Model size
33B params
Architecture
qwen2
Hardware compatibility
Log In to add your hardware

We're not able to determine the quantization variants.

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for openamer-max/openamer-max-ultra

Base model

Qwen/Qwen2.5-32B
Quantized
(159)
this model