Egyptian-English 5M SFT + card + eval

README.md

@@ -0,0 +1,116 @@
+---
+license: apache-2.0
+language:
+- ar
+- en
+base_model: oddadmix/Emhotob-5M-v2
+pipeline_tag: text-generation
+library_name: transformers
+tags:
+- translation
+- egyptian-arabic
+- english
+- arabic
+- small-language-model
+- slm
+- tiny-lm
+- chatml
+- scaling-study
+metrics:
+- bleu
+- chrf
+---
+
+# Emhotob-5M-Egyptian-English-v1 — Bidirectional Egyptian Arabic ↔ English (~5.1M params)
+
+A **5.1M-parameter** model that translates **both ways** between **Egyptian colloquial Arabic (المصرية العامية)** and **English**.
+A single set of weights serves both directions; a direction-specific system prompt selects
+which way to translate.
+
+Finetuned from [`oddadmix/Emhotob-5M-v2`](https://huggingface.co/oddadmix/Emhotob-5M-v2), a tiny Llama-architecture
+base (hidden 128, 5 layers, 4 heads, vocab 32000, tied embeddings).
+
+> **Scaling study.** This is one rung of a from-scratch Arabic scaling study that runs an
+> identical SFT + eval recipe across bases from 0.5M to 50M parameters to locate where
+> translation *emerges*. On the headline MSA↔Egyptian pair, output is degenerate at ≤1M,
+> becomes real-but-rough at 5M, and usable at 10M+. See the sibling
+> [`oddadmix/50M-Egyptian-English-v1`](https://huggingface.co/oddadmix/50M-Egyptian-English-v1) for the fluent reference.
+
+## Evaluation
+
+Deterministic held-out set of **3,000 pairs** (`seed=42`),
+decoded **greedily** (`do_sample=False`, no repetition penalty), scored with sacreBLEU:
+
+| Direction | sacreBLEU | chrF |
+|---|---:|---:|
+| **English → Egyptian** | **5.05** | 25.62 |
+| **Egyptian → English** | **10.09** | 27.37 |
+
+Saved weights are the best checkpoint by validation loss (`eval_loss = 2.467`). 20 samples
+per direction with references are in [`eval_bidirectional.json`](./eval_bidirectional.json).
+
+### Example translations
+
+Real greedy-decoded outputs from the held-out set:
+
+**English → Egyptian**
+
+| Source | Model output | Reference |
+|---|---|---|
+| So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless under | يعني إيه اللي أقدر أجي لك؟ أنا هاخدك ده ولا دي؟ حتى لو اتنين، اتنين، شوفتوا شوية شوية من الفلوس، كل واحد هيبقى فيه حاجات | طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حي |
+| Prayer niches (mihrabs) | مفيش أي حاجة | محاريب الصلاة |
+
+**Egyptian → English**
+
+| Source | Model output | Reference |
+|---|---|---|
+| طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حي | Well, what do you get to you? So if you get to you, it's not like this, it's just what's going on inside, she's just wai | So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless under |
+| محاريب الصلاة | My dear, the way I'm going to see. | Prayer niches (mihrabs) |
+
+## Usage
+
+ChatML format. **Pick the system prompt for the direction you want:**
+
+```python
+import torch
+from transformers import AutoModelForCausalLM, AutoTokenizer
+
+model_id = "oddadmix/Emhotob-5M-Egyptian-English-v2"
+tok = AutoTokenizer.from_pretrained(model_id)
+model = AutoModelForCausalLM.from_pretrained(model_id, dtype=torch.bfloat16).to("cuda").eval()
+
+SYSTEM = "أنت مترجم محترف. ترجم النص الإنجليزي إلى اللهجة المصرية العامية."
+
+def translate(text, system=SYSTEM):
+    prompt = (f"<|im_start|>system\n{system}<|im_end|>\n"
+              f"<|im_start|>user\n{text.strip()}<|im_end|>\n<|im_start|>assistant\n")
+    ids = tok(prompt, return_tensors="pt", add_special_tokens=False).to(model.device)
+    if tok.bos_token_id is not None:
+        bos = torch.tensor([[tok.bos_token_id]], device=model.device)
+        ids["input_ids"] = torch.cat([bos, ids["input_ids"]], dim=1)
+        ids["attention_mask"] = torch.cat([torch.ones_like(bos), ids["attention_mask"]], dim=1)
+    out = model.generate(**ids, max_new_tokens=256, do_sample=False,
+                         eos_token_id=tok.eos_token_id, pad_token_id=tok.pad_token_id)
+    return tok.decode(out[0, ids["input_ids"].size(1):], skip_special_tokens=True).strip()
+```
+
+## Training
+
+- **Base model:** `oddadmix/Emhotob-5M-v2` (Llama arch, hidden 128, 5 layers, 4 heads, vocab 32000, tied embeddings;
+  **5,080,704 params** after resizing for 2 ChatML tokens)
+- **Dataset:** `oddadmix/egyptian-translation-dataset-2.9-openai-batch`
+- **Method:** HuggingFace `Trainer`, ChatML, **prompt-masked cross-entropy** (loss only on the
+  assistant turn). Each row is exploded into **two** training examples (one per direction).
+- **Hyperparameters:** 3 epochs · effective batch 64 · LR 3e-4 (cosine, 5% warmup) ·
+  bf16 · max length 1024 · `load_best_model_at_end` on `eval_loss`.
+- **Eval split:** 3,000 deterministic held-out pairs (`seed=42`), scored both directions.
+
+## Limitations
+
+A ~5.1M model: reliable on short/common sentences, but drift, repetition, and errors appear
+on long or rare inputs. Gender is disambiguated only from context. For fluent translation use the
+50M sibling.
+
+## License
+
+Apache-2.0, inherited from the base model.

config.json

@@ -0,0 +1,32 @@
+{
+  "architectures": [
+    "LlamaForCausalLM"
+  ],
+  "attention_bias": false,
+  "attention_dropout": 0.0,
+  "bos_token_id": 0,
+  "dtype": "bfloat16",
+  "eos_token_id": 32001,
+  "head_dim": 32,
+  "hidden_act": "silu",
+  "hidden_size": 128,
+  "initializer_range": 0.02,
+  "intermediate_size": 384,
+  "max_position_embeddings": 2048,
+  "mlp_bias": false,
+  "model_type": "llama",
+  "num_attention_heads": 4,
+  "num_hidden_layers": 5,
+  "num_key_value_heads": 2,
+  "pad_token_id": 1,
+  "pretraining_tp": 1,
+  "rms_norm_eps": 1e-06,
+  "rope_parameters": {
+    "rope_theta": 10000,
+    "rope_type": "default"
+  },
+  "tie_word_embeddings": true,
+  "transformers_version": "5.12.1",
+  "use_cache": false,
+  "vocab_size": 32002
+}

eval_bidirectional.json

@@ -0,0 +1,223 @@
+{
+  "eval_size": 3000,
+  "seed": 42,
+  "generation": {
+    "do_sample": false,
+    "repetition_penalty": 1.0,
+    "no_repeat_ngram_size": 0
+  },
+  "directions": {
+    "en2egy": {
+      "bleu": 5.048483909657537,
+      "chrf": 25.619999712369623,
+      "samples": [
+        {
+          "source": "So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless undershirt, eating the best piece of meat you'll ever have in your life.",
+          "reference": "طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حياتك.",
+          "hypothesis": "يعني إيه اللي أقدر أجي لك؟ أنا هاخدك ده ولا دي؟ حتى لو اتنين، اتنين، شوفتوا شوية شوية من الفلوس، كل واحد هيبقى فيه حاجات كتير هتبقى في حياتك."
+        },
+        {
+          "source": "Prayer niches (mihrabs)",
+          "reference": "محاريب الصلاة",
+          "hypothesis": "مفيش أي حاجة"
+        },
+        {
+          "source": "Cardamom, grains of paradise, cardamom, black pepper, and a little salt. We'll just sprinkle these on, with some bay leaves, and we'll add a big lemon so it doesn't darken — here's the big lemon.",
+          "reference": "حبهان وفلفل اسود وشويه ملح، هنرشهم عليها مع ورق لوري، وهنحطلها ليمونة كبيرة عشان لونها ما يغمقش - اهي ليمونة كبيرة.",
+          "hypothesis": "الحمامات، برافو، من غير ما تاكل، وبعدين ناكلها في شوية. هنحط على طول في يوم من الأيام، ونضيف شوية كتير، هنضيف شوية كتير."
+        },
+        {
+          "source": "Man, these things happen. Sometimes Liverpool loses the match, and other times Real Madrid wins it.",
+          "reference": "يا عم الحاجات دي بتحصل، ساعات ليفربول بتخسر الماتش وساعات ريال مدريد بيكسب.",
+          "hypothesis": "يا حاجات الحاجات دي بتتفرج على الماتش، ساعات ليفربول ماتش، وفي ماتش، وفي ماتش، وفي ماتش، وفي ماتش."
+        },
+        {
+          "source": "I will be fine, don't worry",
+          "reference": "انا هبقى كويسة، ما تقلقيش",
+          "hypothesis": "هبقى ماشي، ما تقلقش"
+        },
+        {
+          "source": "I want grilled chicken, kofta on charcoal, and Pepsi.",
+          "reference": "انا عايز فراخ مشوية وكفتة على الفحم وبيبسي.",
+          "hypothesis": "عايز أركب الفراخ، كسبت رجلي، وبعدين في شارع رجلي."
+        },
+        {
+          "source": "Your age",
+          "reference": "سنك",
+          "hypothesis": "أهلاً بيكم في إيه"
+        },
+        {
+          "source": "By the way, today, it's interesting to see how these two teams will handle the result, each playing in their own way. Whether it's Klopp trying to give hope, even if it's just 10%, that we can achieve the impossible in Madrid against a very tough opponent, or, if not, we’ll at least have a clear, explicit, and realistic goal so the season doesn't slip away from us. A win would make all Liverpool fans completely quiet with Jurgen Klopp and give them an injection of hope until the end of the season, at least. Unlike United, who desperately need an automatic, clear, and decisive reaction starting from the Europa League against Real Betis. These tough, historic results stay in our memories regardless of your position in the league—we all remember them.",
+          "reference": "على فكره، النهارده الموضوع هيبقى interesting نشوف الفريقين دول هيتعاملوا مع النتيجه ازاي، وكل واحد هيلعب بطريقته. سواء كلوب هيحاول يدي أمل، حتى لو بنسبة ١٠٪، إننا نقدر نعمل المستحيل في مدريد قدام خصم تقيل جداً، أو لو لأ، يبقى على الأقل عندنا هدف واضح وصريح وواقعي عشان الموسم ما يضيعش مننا. الفوز هيخلي جمهور ليفربول يسكت تماماً مع يورجن كلوب ويديهم جرعة أمل لحد نهاية الموسم على الأقل. على عكس يونايتد اللي محتاج رد فعل سريع وواضح وصريح ابتداءً من اليوروبا ليج قدام ريال بيتيس. النتائج الصعبة والتاريخية دي بتفضل في الذاكرة مهما كان مركزك في الدوري – كلنا فاكرينها.",
+          "hypothesis": "على فكره، النهارده هيبقى في فرقتين دول هيحصل في الآخر، كل اللعيبة هتبقى معاه حاجة في كل ماتش. سواء كسبت يا جماعة، حتى لو مش هينفع، حتى لو مش هينفع أكتر من كده، أو لو مش هينفع أكتر من كده، أو لو مش هينفع أكتر من كده. كسبوا هينفعوا كل ليفربول، مش هينفع أكتر من كده، أو لو مش هينفع أكتر من كده. كسبوا يونايتد اللي فعلاً محتاجة فرصة، وده في الدوري الأوروبي اللي فاتت لحد آخر الموسم. الاتنين، اللي كسبوا يونايتد اللي فعلاً محتاجة أنجح في الدوري الأوروبي، من آخر الموسم اللي فاتت من الدوري الأوروبي. دي حاجة، بصراحة، كفاية حاجة مهمة في حياتنا في الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل فاضي من الدوري، كل بدري من الدوري، كل بدري"
+        },
+        {
+          "source": "So, do we have to pay here?",
+          "reference": "يعني إحنا لازم ندفع هنا؟",
+          "hypothesis": "يعني احنا عندنا دلوقتي؟"
+        },
+        {
+          "source": "I think we will know that.",
+          "reference": "أظن إحنا هنعرف ده.",
+          "hypothesis": "أنا شايف إننا عارفين إن كده."
+        },
+        {
+          "source": "Option please, excuse me, thank you.",
+          "reference": "أوبشن لو سمحت، بعد إذنك، شكراً.",
+          "hypothesis": "احنا إحنا إحنا إحنا الحمد لله."
+        },
+        {
+          "source": "That's what people say, I don't know.",
+          "reference": "ده اللي الناس بتقوله، معرفش.",
+          "hypothesis": "ده بيقول إيه، أنا مش عارف."
+        },
+        {
+          "source": "No sir, he's going to clean up this mess. He might come if France fails in this tournament. No sir, they supported him until he asked 'which cup is this?' I mean, this is Mbappe, he'll play in 2026. On paper, yes, but if he gets eliminated early, like in the round of 16, God knows. He was eliminated from Euro 2021, true, but when they gave him a chance to continue, he did really well.",
+          "reference": "لا يا باشا، هو هينضف الليلة دي. ممكن ييجي لو فرنسا فشلت في البطولة دي. لا يا باشا، كانوا معاه لحد ما قال هو الكاس ده إيه؟ يعني ده مبابي، هيلعب في 2026. على الورق آه، بس لو خرج بدري زي دور الستاشر، الله أعلم. هو خرج من اليورو 2021، صح، بس لما ادوله فرصة يكمل، أثبت نفسه جامد.",
+          "hypothesis": "لا يا باشا، هو هيجيب كده. ممكن ييجي لو فرنسا خسروا في البطولة دي. لا يا باشا، هما اتنين صحين لحد ما سألوا 'مزيكا' هي اللي بيحصل؟ يعني ده مبسوط، ده مبسوط، هو ده مبسوط، زي كده في الـ16، إن شاء الله. كان تاني تاني، أيوه، بس لو بيجيب تاني، بس لما بيجيبه فرصة، بيقولوا عليه كويس."
+        },
+        {
+          "source": "Let me tell you, I ask them to parse what's underlined, and I say, 'the champion raises the cup.' 'Champion' is the subject. Then, Malak (a student) says to me, 'the subject is marked with a kasra (wrong grammatical case)'—can you imagine? I swear that's what happened!",
+          "reference": "بص بقى، انا بسألهم يعربوا اللي تحتها خط، وبقول لهم البطل بيرفع الكاس، يعني 'البطل' هو المبتدأ. تقوم ملك، تخيلي، تقول لي: 'المبتدأ مرفوع بالكسر'! تخيلي! والله حصل كده.",
+          "hypothesis": "بص، أنا بطلب سؤال يجيب إيه اللي فاهم، وأنا بقول له: 'توتلي، أنا بتكلم معايا، 'أنا بتكلم معايا' 'أنا' أوكي' 'أنا' أوكي' 'أنا' أوكي' أوكي؟ والله ده اللي حصل!"
+        },
+        {
+          "source": "What's my standard anyway? Forget about his standards, the awards' standards, and all that stuff.",
+          "reference": "هو ايه اصلا المعيار بتاعي؟ سيبك بقى من معاييره ومعايير الجوايز وكل الكلام ده.",
+          "hypothesis": "إيه اللي بيحصل يا فندم؟ على فكرة، من وجهة نظري�� وشوفنا، وكل ده."
+        },
+        {
+          "source": "I wish I could go back to being young, to the days when I didn't carry worries like I do now.",
+          "reference": "يا ريت أرجع صغير تاني لأيام ماكنتش شايل هم زي دلوقتي.",
+          "hypothesis": "يا ريت أروح ليكم معانا السنة اللي فاتت لما ما عملتش مشكلة كده."
+        },
+        {
+          "source": "My question is, what kind of work is Guardiola doing with this one and that one? Where did he succeed? In Barcelona, he definitely succeeded with both. You can only succeed in Germany? No, I mean, can you appreciate what this man has done? This man worked hard and did something amazing.",
+          "reference": "أنا سؤالي هو إيه الشغل اللي جوارديولا بيعمله مع ده ومع ده؟ هو نجح فين؟ في برشلونة نجح فعلاً مع الاتنين. يعني النجاح بس في ألمانيا؟ لا، أنا قصدي تقدّروا الراجل ده عمل ايه؟ الراجل ده تعب وعمل حاجه كبيرة.",
+          "hypothesis": "سؤاله يا عم، إيه شغلك؟ هو هو اللي بيعمله؟ في برشلونة هو اللي حصل؟ في برشلونة، هو فعلاً كان عنده شغل. ممكن يكون فعلاً هو اللي حصل في ألمانيا؟ لا، أنا ممكن أقدر أترجمه اللي هو ده كان بيعمل إيه؟ الراجل ده اتعملت."
+        },
+        {
+          "source": "Check yourself, Mr. Harry. You destroyed Tottenham Club—looks like you were the problem. They might win this year now that Kane is gone or whatever.",
+          "reference": "راجع نفسك يا عم هاري، انت خربت نادي توتنهام، شكلك كنت انت السبب. يمكن يكسبوا السنة دي بعد ما كين مشي ولا أي حاجة.",
+          "hypothesis": "تشوف نفسك يا أستاذ حسن، انتوا اتفضلوا توتنهام، بصوا على توتنهام، يعني كده كان هيبقى مشكلة. ممكن تكسب السنة دي دلوقتي إن كيه جامد أوي أوي."
+        },
+        {
+          "source": "Let's go, I'll get up, go to Rouh El Nagham, and call you on the phone.",
+          "reference": "يلا، هقوم أروح روح النغم وهكلمك في التليفون.",
+          "hypothesis": "يلا بينا، هجيبوا يا راجل، واسمعلك في التليفون."
+        },
+        {
+          "source": "And he'll make the kids deal with a mean stepmother.",
+          "reference": "وهيخلي العيال يتعاملوا مع مرات أب شريرة.",
+          "hypothesis": "وهعمل العيال اللي بيحبوا العيال مع بعض."
+        }
+      ]
+    },
+    "egy2en": {
+      "bleu": 10.08533077833871,
+      "chrf": 27.374331591136315,
+      "samples": [
+        {
+          "source": "طب أجيب لك إيه؟ أجيب لك دي ولا دي؟ تخيل كده المنظر، قاعد دلوقتي لابس فانلة بحمالات وبتاكل أحلى حتة لحمة ممكن تكلها في حياتك.",
+          "reference": "So what should I get you? Should I get you this or that? Just imagine the scene: sitting now, wearing a sleeveless undershirt, eating the best piece of meat you'll ever have in your life.",
+          "hypothesis": "Well, what do you get to you? So if you get to you, it's not like this, it's just what's going on inside, she's just waiting for a long time, and you're waiting for the longest pieces of your life."
+        },
+        {
+          "source": "محاريب الصلاة",
+          "reference": "Prayer niches (mihrabs)",
+          "hypothesis": "My dear, the way I'm going to see."
+        },
+        {
+          "source": "حبهان وفلفل اسود وشويه ملح، هنرشهم عليها مع ورق لوري، وهنحطلها ليمونة كبيرة عشان لونها ما يغمقش - اهي ليمونة كبيرة.",
+          "reference": "Cardamom, grains of paradise, cardamom, black pepper, and a little salt. We'll just sprinkle these on, with some bay leaves, and we'll add a big lemon so it doesn't darken — here's the big lemon.",
+          "hypothesis": "He's his friend and keeps sugar, she's safe with them with a bit of friend, and we'll still stay a bit of bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger bigger"
+        },
+        {
+          "source": "يا عم الحاجات دي بتحصل، ساعات ليفربول بتخسر الماتش وساعات ريال مدريد بيكسب.",
+          "reference": "Man, these things happen. Sometimes Liverpool loses the match, and other times Real Madrid wins it.",
+          "hypothesis": "Hey, these things are happy, someone who loves the match and Real Madrid won."
+        },
+        {
+          "source": "انا هبقى كويسة، ما تقلقيش",
+          "reference": "I will be fine, don't worry",
+          "hypothesis": "I will be good, don't worry"
+        },
+        {
+          "source": "انا عايز فراخ مشوية وكفتة على الفحم وبيبسي.",
+          "reference": "I want grilled chicken, kofta on charcoal, and Pepsi.",
+          "hypothesis": "I want to change, I'm not a bit and come back to the camera and come back."
+        },
+        {
+          "source": "سنك",
+          "reference": "Your age",
+          "hypothesis": "For the idea"
+        },
+        {
+          "source": "على فكره، النهارده الموضوع هيبقى interesting نشوف الفريقين دول هيتعاملوا مع النتيجه ازاي، وكل واحد هيلعب بطريقته. سواء كلوب هيحاول يدي أمل، حتى لو بنسبة ١٠٪، إننا نقدر نعمل المستحيل في مدريد قدام خصم تقيل جداً، أو لو لأ، يبقى على الأقل عندنا هدف واضح وصريح وواقعي عشان الموسم ما يضيعش مننا. الفوز هيخلي جمهور ليفربول يسكت تماماً مع يورجن كلوب ويديهم جرعة أمل لحد نهاية الموسم على الأقل. على عكس يونايتد اللي محتاج رد فعل سريع وواضح وصريح ابتداءً من اليوروبا ليج قدام ريال بيتيس. النتائج الصعبة والتاريخية دي بتفضل في الذاكرة مهما كان مركزك في الدوري – كلنا فاكرينها.",
+          "reference": "By the way, today, it's interesting to see how these two teams will handle the result, each playing in their own way. Whether it's Klopp trying to give hope, even if it's just 10%, that we can achieve the impossible in Madrid against a very tough opponent, or, if not, we’ll at least have a clear, explicit, and realistic goal so the season doesn't slip away from us. A win would make all Liverpool fans completely quiet with Jurgen Klopp and give them an injection of hope until the end of the season, at least. Unlike United, who desperately need an automatic, clear, and decisive reaction starting from the Europa League against Real Betis. These tough, historic results stay in our memories regardless of your position in the league—we all remember them.",
+          "hypothesis": "By the way, today, this is the team will be to seeing these team will be with the team, and everyone will play with the money. Whether Klopp will try to give him good, even if it's 10%, we can do the problem. When Klopp will tell you to make them to do the next season, or if no, it's a really normal and become a really difficult to be a really difficult for us. The team will start a big deal with Bayern Klopp and Klopp, and they'll be a big deal with a big deal with a big deal with the season. At the point offer, they need a very important and realistic to be a big deal with the league—the league is coming in the league. The team is the most important thing, and this is the best strongest st"
+        },
+        {
+          "source": "يعني إحنا لازم ندفع هنا؟",
+          "reference": "So, do we have to pay here?",
+          "hypothesis": "So we need to make here?"
+        },
+        {
+          "source": "أظن إحنا هنعرف ده.",
+          "reference": "I think we will know that.",
+          "hypothesis": "I think we'll know this."
+        },
+        {
+          "source": "أوبشن لو سمحت، بعد إذنك، شكراً.",
+          "reference": "Option please, excuse me, thank you.",
+          "hypothesis": "How are you solved, after yourself."
+        },
+        {
+          "source": "ده اللي الناس بتقوله، معرفش.",
+          "reference": "That's what people say, I don't know.",
+          "hypothesis": "This is what people say, I don't know."
+        },
+        {
+          "source": "لا يا باشا، هو هينضف الليلة دي. ممكن ييجي لو فرنسا فشلت في البطولة دي. لا يا باشا، كانوا معاه لحد ما قال هو الكاس ده إيه؟ يعني ده مبابي، هيلعب في 2026. على الورق آه، بس لو خرج بدري زي دور الستاشر، الله أعلم. هو خرج من اليورو 2021، صح، بس لما ادوله فرصة يكمل، أثبت نفسه جامد.",
+          "reference": "No sir, he's going to clean up this mess. He might come if France fails in this tournament. No sir, they supported him until he asked 'which cup is this?' I mean, this is Mbappe, he'll play in 2026. On paper, yes, but if he gets eliminated early, like in the round of 16, God knows. He was eliminated from Euro 2021, true, but when they gave him a chance to continue, he did really well.",
+          "hypothesis": "No sir, he will come to this match. You can come if France fans started if France fans started in this tournament. No, sir, they were with him until he said, what's the main match? So, this is Martinelli, he played in 2026. By the way, but if he went to the European Ramadan, but when he got a big difference, it's good. He was going to sit in the European 2021, right, but when God grant him a big difference."
+        },
+        {
+          "source": "بص بقى، انا بسألهم يعربوا اللي تحتها خط، وبقول لهم البطل بيرفع الكاس، يعني 'البطل' هو المبتدأ. تقوم ملك، تخيلي، تقول لي: 'المبتدأ مرفوع بالكسر'! تخيلي! والله حصل كده.",
+          "reference": "Let me tell you, I ask them to parse what's underlined, and I say, 'the champion raises the cup.' 'Champion' is the subject. Then, Malak (a student) says to me, 'the subject is marked with a kasra (wrong grammatical case)'—can you imagine? I swear that's what happened!",
+          "hypothesis": "Look, I'm just asking them they're them wrong, and I say they're the strongest matches, so 'The guy' is saying 'The guy' is wrong.' What does you think? You're going to try! I swear him, I swear him."
+        },
+        {
+          "source": "هو ايه اصلا المعيار بتاعي؟ سيبك بقى من معاييره ومعايير الجوايز وكل الكلام ده.",
+          "reference": "What's my standard anyway? Forget about his standards, the awards' standards, and all that stuff.",
+          "hypothesis": "What's wrong with my friend? Let me tell you about him, and the friend is with the friend and everything."
+        },
+        {
+          "source": "يا ريت أرجع صغير تاني لأيام ماكنتش شايل هم زي دلوقتي.",
+          "reference": "I wish I could go back to being young, to the days when I didn't carry worries like I do now.",
+          "hypothesis": "I wish I'm a bit of a little different, I didn't see they're like now."
+        },
+        {
+          "source": "أنا سؤالي هو إيه الشغل اللي جوارديولا بيعمله مع ده ومع ده؟ هو نجح فين؟ في برشلونة نجح فعلاً مع الاتنين. يعني النجاح بس في ألمانيا؟ لا، أنا قصدي تقدّروا الراجل ده عمل ايه؟ الراجل ده تعب وعمل حاجه كبيرة.",
+          "reference": "My question is, what kind of work is Guardiola doing with this one and that one? Where did he succeed? In Barcelona, he definitely succeeded with both. You can only succeed in Germany? No, I mean, can you appreciate what this man has done? This man worked hard and did something amazing.",
+          "hypothesis": "I'm a question, what's this working with this guy with this, and this is with this? Where is it? There's Barcelona trophies. So, for example, in Germany? No, I mean, I mean, I'm telling this man what to think? This man would have been something bad."
+        },
+        {
+          "source": "راجع نفسك يا عم هاري، انت خربت نادي توتنهام، شكلك كنت انت السبب. يمكن يكسبوا السنة دي بعد ما كين مشي ولا أي حاجة.",
+          "reference": "Check yourself, Mr. Harry. You destroyed Tottenham Club—looks like you were the problem. They might win this year now that Kane is gone or whatever.",
+          "hypothesis": "The idea, man, you tried to watch Tottenham, you're the real team, you're the real team. Maybe they won't win this year after Khaled, nothing."
+        },
+        {
+          "source": "يلا، هقوم أروح روح النغم وهكلمك في التليفون.",
+          "reference": "Let's go, I'll get up, go to Rouh El Nagham, and call you on the phone.",
+          "hypothesis": "Come on, I'll go go to go to go to go to the goal and go to the goal."
+        },
+        {
+          "source": "وهيخلي العيال يتعاملوا مع مرات أب شريرة.",
+          "reference": "And he'll make the kids deal with a mean stepmother.",
+          "hypothesis": "And you're going to the kids to the kids."
+        }
+      ]
+    }
+  }
+}

generation_config.json

@@ -0,0 +1,10 @@
+{
+  "_from_model_config": true,
+  "bos_token_id": 0,
+  "eos_token_id": 32001,
+  "output_attentions": false,
+  "output_hidden_states": false,
+  "pad_token_id": 1,
+  "transformers_version": "5.12.1",
+  "use_cache": true
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2ced96ecb0a5d011917cdbbf9cfc20e37ef74c9df0130ddfd4eafe03fe007af9
+size 10166472

tokenizer_config.json

@@ -0,0 +1,15 @@
+{
+  "backend": "tokenizers",
+  "bos_token": "<s>",
+  "eos_token": "<|im_end|>",
+  "extra_special_tokens": [
+    "<|im_start|>",
+    "<|im_end|>"
+  ],
+  "is_local": false,
+  "local_files_only": false,
+  "model_max_length": 1000000000000000019884624838656,
+  "pad_token": "<pad>",
+  "tokenizer_class": "TokenizersBackend",
+  "unk_token": "<unk>"
+}

training_args.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7f5377fa72e20e02162eb1bc65c227e1a040142ef426408be65ad8bedca944bc
+size 4792