VoxCPM-Kernel/VoxCPM2-Arabic-Teacher-Comparison

VoxCPM2 Arabic: dialect adapters vs teacher-v1 vs teacher-v2

24 held-out sentences, each read by three models with the same reference voice, text and seed. Every row has one audio column per model, to listen to side by side.

At a glance

What	24 rows × 3 generated audios + the reference voice
Dialects	all 17
Selection	the first held-out sentence of each dialect, plus a second one for bahraini, gulf, hejazi, iraqi, msa, najdi and saudi, where the models differ most; not chosen by quality
Decoding	original LocDiT (10 steps, CFG), bf16, voice cloning from reference audio only
Models	VoxCPM2-Arabic-Dialects, teacher-v1 (not released), VoxCPM2-Arabic-Teacher-v2
License	CC BY-NC-SA 4.0 (the references include SADA clips)

Columns

column	content
id, dialect, text	row id, dialect, the sentence
reference	the voice being cloned (a held-out speaker of that dialect)
current_adapters	VoxCPM2 + the 11 dialect LoRA adapters; base VoxCPM2 for msa, sudanese, yemeni, algerian, moroccan, tunisian, libyan (no adapter)
teacher_v1	one model for 17 dialects (dialect tag), 642 h of real speech, LoRA on every module
teacher_v2	one model for 17 dialects, 103 h of filtered real + 32 h of filtered synthetic speech, LoRA on the language model only
cer_*, utmos_*	per model: CER (better of Whisper large-v3 and Cohere Transcribe Arabic, after Arabic normalization) and UTMOS (1-5)

Whole evaluation set (1020 clips, 17 dialects)

	CER	WER	UTMOS	speaker sim	dialect region
current adapters	4.9 %	15.0 %	2.48	0.94	64 %
teacher-v1	7.1 %	19.1 %	2.34	0.94	69 %
teacher-v2	4.8 %	14.6 %	2.35	0.95	64 %

The hejazi, najdi, gulf and msa references are TV-drama clips (SADA) with reverberation and music. teacher-v2 keeps more of that sound than the adapters, which is most of its UTMOS gap.

Rows

#	dialect	sentence	CER adapters / v1 / v2	UTMOS adapters / v1 / v2
0	bahraini	والعكس أيضا، الشركات الأمريكية اللي ما تهني، تب هي تستفيد إن…	3.1 / 13.7 / 2.3 %	2.43 / 2.34 / 2.33
1	bahraini	إنه يبين في ألفان و خمسون، يمكن توصل الارتفاع في درجة حرارة …	17.6 / 18.7 / 17.6 %	2.44 / 2.63 / 2.46
2	algerian	واللي ڨد ما يجاوب يغلط في الإجابة، وكانو الشباب هذم فقراء مس…	5.3 / 5.3 / 5.3 %	2.59 / 2.71 / 2.35
3	egyptian	بأعتقد إن الماسونية والأفكار الغريبة دي مخالفة لمجتمعنا وبلد…	0.0 / 1.1 / 0.0 %	2.73 / 3.08 / 3.2
4	hejazi	يا جدو سرحان يا جدو سرحان ليه القسوة هذي كلها إنت ما كنت كده	1.7 / 11.7 / 26.7 %	2.24 / 1.41 / 1.55
5	hejazi	أ وخصوصا إنه ما في أي حاجة ضده، حتى الأجهزة الأمنية إللي في …	2.4 / 6.0 / 3.6 %	1.99 / 1.37 / 1.79
6	iraqi	استمر الحال الموضوع فترة طويلة يعني، عادي تروح وترجع إنه أمي…	2.6 / 3.2 / 3.9 %	2.13 / 2.13 / 2.42
7	iraqi	نضال صديگتي اللي گالتلي عنه، وعدت وياه أسبوع كامل ونضال صديگ…	5.9 / 11.8 / 19.6 %	2.84 / 2.48 / 2.42
8	gulf	أيه، هذا هو اللي رباه أبوي عقب وفاة أمه وأبوه في حادث سيارة.…	3.4 / 21.3 / 19.1 %	1.24 / 1.26 / 1.27
9	gulf	أنت بكرة تمر علينا عشان نقفل المحضر.	0.0 / 5.7 / 0.0 %	2.08 / 1.3 / 1.29
10	lebanese	علي، لتا تقدر تظهر من الباركنغ. ب بيي قدى كتير و أكيد مثل كل…	11.5 / 14.6 / 12.5 %	2.93 / 2.65 / 3.06
11	libyan	الفگرة هنيا إنك إنت ديما تخلي الذگرة الطيبة بس، حتى لما نذگر…	6.7 / 12.4 / 10.5 %	1.72 / 2.33 / 2.19
12	moroccan	ما لقيت لا غذا طايب لا والو، لا خبز لا تا حاجة. طاجين بارد م…	3.9 / 15.0 / 3.9 %	1.8 / 1.35 / 1.86
13	msa	لكل انسان مفهوم للضحك ما هو مفهومك انت للضحك وماذا يعني لك ا…	0.0 / 0.0 / 0.0 %	1.8 / 1.73 / 1.49
14	msa	تعال شوف تلفزيون إللي خربها فيصل.	0.0 / 6.2 / 6.2 %	2.64 / 2.9 / 2.55
15	najdi	أحلى مشعل طلعت الصورة؟	0.0 / 23.8 / 14.3 %	3.14 / 1.26 / 2.45
16	najdi	والله العظيم عاد حتى إذا رجعت البيت الحين والله ما أدري إيش …	0.0 / 0.0 / 0.0 %	2.34 / 2.41 / 2.07
17	palestinian	لعل وعسى إنهم يكون شوية هيك تبلسم صوتهم يهدي قلبي شوي على عل…	1.9 / 7.5 / 0.9 %	2.84 / 2.31 / 2.93
18	saudi	ف تقدمت تبي تشوف وش السالفة وشافت قدامها سيارة كابرس موقفه و…	5.5 / 5.5 / 18.7 %	1.36 / 1.31 / 1.28
19	saudi	بشكل طبيعي جدا ولع السجارة حقته ويده كانت ترتجف جدا وجاي يمي…	3.9 / 0.8 / 14.0 %	1.29 / 1.26 / 1.25
20	sudanese	فحصل مشكلة في الهيلكوبتر. فقمنا اضطرينا نمشي بالأرض. أحمد به…	5.9 / 3.7 / 5.9 %	2.5 / 2.38 / 2.58
21	syrian	العرب السنة المسلمين العرب السنة السوريين ستة عشر مليون نصفن…	9.6 / 7.0 / 7.9 %	2.74 / 2.95 / 2.65
22	tunisian	هذي ديما نوقفش عليه، أم بالعكس أنا نوقف أكثر لأنو الأكثر هو …	7.9 / 6.3 / 18.9 %	1.46 / 1.83 / 1.77
23	yemeni	قالوا له تروح لعند الغشمي، قد هو بيحول لك بسيارة.	14.9 / 10.6 / 10.6 %	2.56 / 2.71 / 2.47

Load

from datasets import load_dataset

ds = load_dataset("VoxCPM-Kernel/VoxCPM2-Arabic-Teacher-Comparison", split="train")
print(ds[0]["dialect"], ds[0]["text"], ds[0]["cer_teacher_v2"])

License

CC BY-NC-SA 4.0, non-commercial. The references are held-out clips of the lahgtna and SADA corpora (SADA: CC BY-NC-SA 4.0); the audio was generated with VoxCPM2 (Apache-2.0). The newer Teacher-v3 is not in this set.