wiktionary_examples: drop quoted third-party lines, relabel CC BY-SA 4.0

artifacts/source_findings.md

@@ -1038,3 +1038,41 @@ say so in the datasheet instead of pretending a before/after can be regenerated.
 
 **Lesson:** a file name is metadata, not evidence. Two texts did not match the
 work their file name gives, and 4 translator credits were wrong.
+
+## wiktionary_examples — Polish Wiktionary usage examples (rebuild)
+
+**Investigated** — 2026-10-05 (October 2026 rights audit, `artifacts/rights_audit_2026-10/reports/wikis_ugc.md`).
+
+**Verdict** — `added`, rebuilt for v0.2.6. Quotations from third-party works dropped;
+1,818 documents / 534,521 characters (v0.2.5: 8,639 / 2,889,761). Licence relabelled
+`CC-BY-SA-3.0` → `CC-BY-SA-4.0`.
+
+**Enumeration** — official dump `plwiktionary-20261001-pages-articles.xml.bz2` (sha1
+`a097f6e2…`), parsed by `src/fetch_wiktionary_examples.py`. 116,157 Polish entries;
+78,245 example lines, of which 32,664 carry `{{źródło}}`/`<ref>` and 319 name a source by
+hand ("(z Internetu)", "(B. Prus: Lalka)", "(Wikipedia)", Bible references, "(…)"). The
+audit's sample estimated 23% cited; the full count is 42%.
+
+**License evidence** — verified: Wikimedia Terms of Use (contributors license their text
+CC BY-SA 4.0; page sha256 `913bdefc…`) and the pl.wiktionary footer linking BY-SA 4.0,
+both read 2026-10-05. Inferred: pre-June-2023 text was under 3.0, whose §4(b) allows an
+adaptation under 4.0. Quoted lines are used on Wiktionary under Art. 29, which does not
+pass to a corpus. Evidence in `data/wiktionary_examples/wiktionary_examples.license-evidence.json`.
+
+**Blockers** — none to merge. Quotations pasted without a source marker cannot be
+detected; NERGAL pass before release.
+
+**Unmarked-quotation sample** — kept (decided 2026-10-05) after a web check of 100 random
+released lines (seed 20261005, of 7,749): no line was found copied from another source
+(95% upper bound 3.7%). One line occurs on a 2017 forum post, copied from Wiktionary,
+where it has been since 2007; one is a paraphrase of a 2014 news quote, not verbatim.
+Web search cannot see unindexed print. Per line in
+`data/wiktionary_examples/wiktionary_examples.quotation-sample.jsonl`.
+
+**200-character gate** — kept (decided 2026-10-05). It removes 29,265 of the 31,094
+entries with a kept example; several headwords per document is not done.
+
+**Lesson** — (1) a template-only citation filter misses about 1% of quotations, which
+contributors attribute by hand in parentheses; survey the uncited lines before trusting
+it. (2) An end-of-section regex for `{{przykłady}}` must be anchored to line start, or an
+inline `{{tłum}}` cuts the section and hides cited lines.

data/wiktionary_examples/wiktionary_examples.license-evidence.json

@@ -0,0 +1,75 @@
+{
+  "license": "CC-BY-SA-4.0",
+  "spdx": "https://spdx.org/licenses/CC-BY-SA-4.0.html",
+  "status": "documented-open-cc-by-sa",
+  "review_scope": "licence of contributors' text on pl.wiktionary and removal of quoted third-party text; not independent legal advice",
+  "checked_at": "2026-10-05",
+  "evidence_url": "https://foundation.wikimedia.org/wiki/Policy:Terms_of_Use",
+  "sha256": "913bdefc49f13fbb3d12b5402712b10739cede9d6f4a76e7ad49f3304772b434",
+  "statement": "When you submit text to which you hold the copyright, you agree to license it under: Creative Commons Attribution-ShareAlike 4.0 International License (\"CC BY-SA 4.0\"), and GNU Free Documentation License (\"GFDL\")",
+  "site_footer": {
+    "url": "https://pl.wiktionary.org/wiki/dom",
+    "sha256": "14a12e875b9ab07f33586f43fb2f9b98eda42110963471917df7d6dd62cedc28",
+    "statement": "Tekst udostępniany na licencji Creative Commons: uznanie autorstwa, na tych samych warunkach, z możliwością obowiązywania dodatkowych ograniczeń.",
+    "license_link": "https://creativecommons.org/licenses/by-sa/4.0/deed.pl"
+  },
+  "chain": [
+    {
+      "hop": "Wiktionary contributors -> Wikimedia Foundation",
+      "basis": "Terms of Use: contributors license their text CC BY-SA 4.0 (CC BY-SA 3.0 before June 2023)",
+      "mark": "V"
+    },
+    {
+      "hop": "Wikimedia dump -> polish-dynaword",
+      "basis": "plwiktionary-20261001-pages-articles.xml.bz2, sha1 a097f6e2b005d1235936a19ed8e800e29a6f2fad, matched to the published dump checksum",
+      "url": "https://dumps.wikimedia.org/plwiktionary/20261001/",
+      "mark": "V"
+    },
+    {
+      "hop": "pre-June-2023 revisions under CC BY-SA 3.0 -> released as 4.0",
+      "basis": "CC BY-SA 3.0 §4(b) lets an adaptation be licensed under a later version with the same elements",
+      "url": "https://creativecommons.org/licenses/by-sa/3.0/legalcode",
+      "mark": "I"
+    }
+  ],
+  "attribution": "author = \"Wikisłownik contributors, <page URL>\"; the page history names the contributors (CC BY-SA 4.0 §3(a)(2) allows a URI)",
+  "finding": "Contributors' own usage examples are CC BY-SA 4.0. Quotations from third-party works (used on Wiktionary under the Art. 29 quotation right) are not, and are dropped: lines with {{źródło}}/<ref>, lines naming a source by hand, and excerpts marked (…).",
+  "release_scope": {
+    "pages_scanned": 869406,
+    "polish_entries": 116157,
+    "entries_with_examples": 31094,
+    "lines_dropped_cited": 32664,
+    "lines_dropped_hand_attributed": 319,
+    "lines_dropped_under_10_chars": 50,
+    "lines_kept": 45212,
+    "documents_200_chars_or_more": 1829,
+    "documents_released": 1818,
+    "dropped_duplicates": 11
+  },
+  "audit_trail": "wiktionary_examples.citations.jsonl, written by the fetcher next to its output, not part of the corpus: per entry, the sources of its dropped lines (199 dropped lines carry a citation marker with no source text)",
+  "quotation_sample": {
+    "file": "wiktionary_examples.quotation-sample.jsonl",
+    "checked_at": "2026-10-05",
+    "method": "random.seed(20261005); random.sample(non-empty lines of the released parquet in row order, 100); each line searched on the web as an exact phrase (the whole line or its most distinctive 10-15 words); a second span was searched when the first gave nothing conclusive, and for every line of rows 51-75; the file records the logged queries",
+    "seed": 20261005,
+    "lines_in_release": 7749,
+    "lines_sampled": 100,
+    "classes": {
+      "mirror_only": 44,
+      "none": 41,
+      "generic": 13,
+      "copied_from_wiktionary": 1,
+      "paraphrase_not_verbatim": 1
+    },
+    "quotations_found": 0,
+    "upper_bound_95": "3.7% of released lines (Wilson, 0/100)",
+    "limits": "web search only: printed or paywalled sources that are not indexed cannot match; the search engine does not strictly enforce exact-phrase queries"
+  },
+  "not_checked": [
+    "quotations pasted without any source marker: the filter cannot see them; a 100-line web sample found none (quotation_sample)",
+    "whether a contributor's example paraphrases a protected text",
+    "the 3.0 -> 4.0 relabel of pre-2023 text (inferred from 3.0 §4(b), not reviewed by a lawyer)",
+    "GFDL dual licensing; only the CC BY-SA grant is relied on",
+    "personal data in example sentences (NERGAL scrub runs before release)"
+  ]
+}

data/wiktionary_examples/wiktionary_examples.md

@@ -3,39 +3,100 @@
 Polish Wiktionary usage examples
 
 ## Dataset description
-- **Source (upstream):** https://dumps.wikimedia.org/plwiktionary/latest/
+- **Source (upstream):** https://dumps.wikimedia.org/plwiktionary/20261001/
 - **Domain:** lexicographic
 - **Language:** Polish (pl)
-- **License:** `CC-BY-SA-3.0`
-- **Created (range):** 2004-03-22, 2026-08-15
-- **Added:** 2026-07-19
+- **License:** `CC-BY-SA-4.0`
+- **Created (range):** 2004-03-22, 2026-10-01
+- **Added:** 2026-07-19; rebuilt 2026-10-05 without quoted third-party text
 
 ## Licensing — traceable basis
-Wikimedia dumps explicitly released under CC-BY-SA 3.0; attribution to contributors + share-alike preserved. Derived subset: usage-example sections from Polish-language entries only, grouped one document per headword.
+Wiktionary contributors license their text under CC BY-SA 4.0: the Wikimedia
+[Terms of Use](https://foundation.wikimedia.org/wiki/Policy:Terms_of_Use) (read
+2026-10-05) and the pl.wiktionary footer, which links
+`creativecommons.org/licenses/by-sa/4.0/deed.pl`. Text contributed before June 2023
+was under CC BY-SA 3.0, which allows an adaptation under a later version (3.0 §4(b)).
+v0.2.5 labelled the source `CC-BY-SA-3.0`; this release labels it `CC-BY-SA-4.0`.
+
+Not every example sentence is contributor text. Many are quotations from books,
+press, the NKJP corpus, the web or Wikipedia, used on Wiktionary under the quotation
+right (Art. 29 of the Polish copyright act). That right does not pass to a corpus,
+and the CC BY-SA grant does not cover them. The fetcher drops them:
+
+| line | lines | released |
+|---|---:|---|
+| carries `{{źródło}}` or a `<ref>` | 32,664 | no |
+| names its source by hand, e.g. "(B. Prus: Lalka)", "(z Internetu)", "(Wikipedia)", "(Mt 4:19)", or is an excerpt marked "(…)" / "[…]" | 319 | no |
+| shorter than 10 characters | 50 | no |
+| contributor's own example | 45,212 | yes, if its entry reaches 200 characters |
+
+The hand-attribution patterns come from a survey of the dump and also drop a few
+lines that end in a Latin gloss in parentheses. Quotations pasted with no source
+marker cannot be detected and may remain.
+
+To measure them, 100 random released lines (of 7,749; `random.seed(20261005)`) were
+searched on the web as exact phrases on 2026-10-05:
+
+| result | lines |
+|---|---:|
+| found only on Wiktionary or sites that republish it | 44 |
+| not found | 41 |
+| too short or common for a match to mean copying | 13 |
+| found elsewhere, copied *from* Wiktionary (2017 forum post; on Wiktionary since 2007) | 1 |
+| paraphrase of a 2014 news quote, not verbatim | 1 |
+| copied from another source | **0** |
+
+0 of 100 puts the share of unmarked quotations below 3.7% (95%, Wilson). Printed or
+paywalled sources that search engines do not index cannot match. Per line:
+`wiktionary_examples.quotation-sample.jsonl`. The source is kept (decided 2026-10-05).
+
+Evidence: `wiktionary_examples.license-evidence.json`.
+
+## Attribution
+Each row's `author` is `Wikisłownik contributors, <page URL>`, e.g.
+`https://pl.wiktionary.org/wiki/czyta%C4%87`. The page history names the
+contributors; CC BY-SA 4.0 §3(a)(2) allows attribution by a URI. The row `id` is
+`wiktionary_examples_<page id>`.
 
 ## Provenance
-Parsed directly from the official Wikimedia dump (plwiktionary-latest-pages-articles.xml.bz2); not routed through SpeakLeash. Usage-example sections of Polish-language entries extracted and grouped one document per headword.
+Parsed from the official Wikimedia dump `plwiktionary-20261001-pages-articles.xml.bz2`
+(sha1 `a097f6e2b005d1235936a19ed8e800e29a6f2fad`) by `src/fetch_wiktionary_examples.py`;
+not routed through SpeakLeash. One document per Polish-language headword: the lines of
+its `{{przykłady}}` section, in source order. The fetcher also writes
+`wiktionary_examples.citations.jsonl` (not part of the corpus) listing, per entry, the
+sources of the dropped lines.
+
+869,406 pages scanned → 116,157 Polish entries → 31,094 with at least one kept example
+→ 1,829 at 200 characters or more → 1,818 after deduplication.
 
 ## Statistics
 | documents | characters | tokens (tiktoken proxy) |
 |---:|---:|---:|
-| 8,639 | 2,889,761 | 1,115,820 |
+| 1,818 | 534,521 | 207,181 |
 
+v0.2.5 had 8,639 documents (2,889,761 characters). Most of the drop comes from the
+200-character document gate: removing the quotations leaves most entries with one or
+two short examples. The gate is kept (decided 2026-10-05).
 
 ## Per-document license metadata
 | license | documents |
 |---|---:|
-| `CC-BY-SA-3.0` | 8,639 |
+| `CC-BY-SA-4.0` | 1,818 |
 
-Author metadata present for **8,639** documents. Empty values mean the upstream record did not expose a machine-readable author field.
+Author metadata present for **1,818** documents.
 
 ## Filters applied (build_dynaword.py)
-Minimal, per Dynaword guidelines (heavy filtering left to downstream use):
-- drop documents < 200 chars: **0**
+- drop documents < 200 chars: **0** (the fetcher applies the same gate: 29,265 entries)
 - drop non-Polish (diacritic ratio): **0**
-- exact cross-source dedup (sha1): **481**
+- exact cross-source dedup (sha1): **11**
 - OCR alpha-ratio < 0.70 (OCR sources only): **0**
-- read 9,120 → kept 8,639
+- read 1,829 → kept 1,818
 
 Token counts are a fast tiktoken (cl100k) proxy (~1% off Llama-3); the canonical
 Llama-3 count is computed at release.
+
+## Not checked
+- quotations pasted without any source marker beyond the 100-line web sample above
+- whether an example paraphrases a protected text
+- the 3.0 → 4.0 relabel of pre-2023 text (reading of 3.0 §4(b), not a lawyer's opinion)
+- personal data in example sentences (the NERGAL scrub runs before release)

data/wiktionary_examples/wiktionary_examples.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:633427b261c1ae7524be43e5b0ecfbf673596ab6250a86a1304d69c975f0bd0d
-size 1646449
+oid sha256:28a987798fc6f6d06cc64bad59e95236f821d20c88cecda37531cc4d6b3b26e6
+size 306198

data/wiktionary_examples/wiktionary_examples.quotation-sample.jsonl

@@ -0,0 +1,100 @@
+{"n": 1, "id": "wiktionary_examples_107109", "url": "https://pl.wiktionary.org/wiki/g%C5%82upi", "line": "Co za głupi film! Sama strzelanina i nie wiadomo, o co chodzi.", "queries": ["\"Co za głupi film! Sama strzelanina i nie wiadomo, o co chodzi.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 2, "id": "wiktionary_examples_207981", "url": "https://pl.wiktionary.org/wiki/parzy%C4%87", "line": "Według tego przepisu szynkę należy parzyć przez półtorej godziny w temperaturze ok. 80°C.", "queries": ["\"szynkę należy parzyć przez półtorej godziny w temperaturze\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only the Wiktionary page itself or unrelated topical pages surfaced; second query: \"Według tego przepisu szynkę należy parzyć\""}
+{"n": 3, "id": "wiktionary_examples_119355", "url": "https://pl.wiktionary.org/wiki/kana%C5%82", "line": "Dyrygent stanął za pulpitem w kanale orkiestrowym.", "queries": ["\"Dyrygent stanął za pulpitem w kanale orkiestrowym.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only the Wiktionary page itself or unrelated topical pages surfaced"}
+{"n": 4, "id": "wiktionary_examples_140530", "url": "https://pl.wiktionary.org/wiki/piek%C5%82o", "line": "Będziesz się smażył w piekle za swoje grzechy!", "queries": ["\"Będziesz się smażył w piekle za swoje grzechy!\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 5, "id": "wiktionary_examples_32949", "url": "https://pl.wiktionary.org/wiki/ani", "line": "Ani ta lista mi się nie podoba, ani nie imponuje, ale nie zostawiasz mi wyboru.", "queries": ["\"Ani ta lista mi się nie podoba, ani nie imponuje, ale nie zostawiasz mi wyboru.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched); second query: \"ani nie imponuje, ale nie zostawiasz mi wyboru\""}
+{"n": 6, "id": "wiktionary_examples_7788", "url": "https://pl.wiktionary.org/wiki/jeden", "line": "W całym bloku tylko jeden mieszkaniec ma telefon.", "queries": ["\"W całym bloku tylko jeden mieszkaniec ma telefon.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only the Wiktionary page itself or unrelated topical pages surfaced"}
+{"n": 7, "id": "wiktionary_examples_209052", "url": "https://pl.wiktionary.org/wiki/og%C3%B3lny", "line": "Panuje wśród nich ogólna zawiść i nieufność.", "queries": ["\"Panuje wśród nich ogólna zawiść i nieufność.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched); second query: \"Panuje wśród nich ogólna zawiść\""}
+{"n": 8, "id": "wiktionary_examples_199021", "url": "https://pl.wiktionary.org/wiki/sp%C4%99dza%C4%87", "line": "Tomek spędzał większość dnia w firmie.", "queries": ["\"Tomek spędzał większość dnia w firmie.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only the Wiktionary page itself or unrelated topical pages surfaced; second query: \"spędzał większość dnia w firmie\""}
+{"n": 9, "id": "wiktionary_examples_1977", "url": "https://pl.wiktionary.org/wiki/granat", "line": "W konserwatywnej szkole nadal obowiązują błękity i granaty.", "queries": ["\"W konserwatywnej szkole nadal obowiązują błękity i granaty.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 10, "id": "wiktionary_examples_7541", "url": "https://pl.wiktionary.org/wiki/s%C5%82u%C5%BCy%C4%87", "line": "Nasz tata wszystkim służy dobrą radą.", "queries": ["\"Nasz tata wszystkim służy dobrą radą.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only the Wiktionary page itself or unrelated topical pages surfaced; second query: \"Nasz tata wszystkim służy dobrą radą\" -wiktionary"}
+{"n": 11, "id": "wiktionary_examples_18288", "url": "https://pl.wiktionary.org/wiki/wysoki", "line": "Mój chłopak jest wysoki, wyższy nawet od naszego nauczyciela historii.", "queries": ["\"Mój chłopak jest wysoki, wyższy nawet od naszego nauczyciela historii.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only the Wiktionary page itself or unrelated topical pages surfaced; second query: \"Mój chłopak jest wysoki, wyższy nawet od naszego nauczyciela\""}
+{"n": 12, "id": "wiktionary_examples_381823", "url": "https://pl.wiktionary.org/wiki/malta%C5%84czyk", "line": "W piątek na cmentarzu dla zwierząt pochowano maltańczyka Amora.", "queries": ["\"W piątek na cmentarzu dla zwierząt pochowano maltańczyka Amora.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 13, "id": "wiktionary_examples_110625", "url": "https://pl.wiktionary.org/wiki/okazja", "line": "Dzisiaj nadarzyła się okazja do spotkania i porozmawiania.", "queries": ["\"Dzisiaj nadarzyła się okazja do spotkania i porozmawiania.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 14, "id": "wiktionary_examples_205714", "url": "https://pl.wiktionary.org/wiki/zapis", "line": "Zapis matematyczny jest bardziej ścisły niż słowa.", "queries": ["\"Zapis matematyczny jest bardziej ścisły niż słowa.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only the Wiktionary page itself or unrelated topical pages surfaced"}
+{"n": 15, "id": "wiktionary_examples_109537", "url": "https://pl.wiktionary.org/wiki/r%C3%B3g", "line": "Ten żubr ma duże rogi.", "queries": ["\"Ten żubr ma duże rogi.\""], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Too short/common or not a sentence; no external hit found in search results"}
+{"n": 16, "id": "wiktionary_examples_464143", "url": "https://pl.wiktionary.org/wiki/burzliwy", "line": "Nie wypłynęliśmy w morze, bo pogoda była zbyt burzliwa.", "queries": ["\"Nie wypłynęliśmy w morze, bo pogoda była zbyt burzliwa.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 17, "id": "wiktionary_examples_933426", "url": "https://pl.wiktionary.org/wiki/-cha", "line": "misa + -cha — micha", "queries": ["\"misa\" \"micha\" \"-cha\" sufiks"], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Word-formation formula, not a sentence; no verbatim hit outside Wiktionary"}
+{"n": 18, "id": "wiktionary_examples_148932", "url": "https://pl.wiktionary.org/wiki/%C5%BCal", "line": "Miałem wielki żal do rodziców za to, że zabronili mi jechać pod namiot.", "queries": ["\"Miałem wielki żal do rodziców za to, że zabronili mi jechać pod namiot.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 19, "id": "wiktionary_examples_278277", "url": "https://pl.wiktionary.org/wiki/wyka%C5%82aczka", "line": "Istnieją specjalne, plastikowe wykałaczki do robienia koreczków, jednak ja wolę używać tych drewnianych, do zębów.", "queries": ["\"Istnieją specjalne, plastikowe wykałaczki do robienia koreczków, jednak ja wolę używać tych drewnianych, do zębów.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 20, "id": "wiktionary_examples_143049", "url": "https://pl.wiktionary.org/wiki/Melchior", "line": "Mój stryjeczny dziadek ma na imię Melchior.", "queries": ["\"Mój stryjeczny dziadek ma na imię Melchior.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only the Wiktionary page itself or unrelated topical pages surfaced"}
+{"n": 21, "id": "wiktionary_examples_214931", "url": "https://pl.wiktionary.org/wiki/pionowo", "line": "Pięć pionowo: „Pasiaste zwierzę afrykańskie”. To chyba zebra, nie?", "queries": ["\"Pięć pionowo: „Pasiaste zwierzę afrykańskie”. To chyba zebra, nie?\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only the Wiktionary page itself or unrelated topical pages surfaced"}
+{"n": 22, "id": "wiktionary_examples_366419", "url": "https://pl.wiktionary.org/wiki/Metis", "line": "Za radą Gai Zeus połknął Metis.", "queries": ["\"Za radą Gai Zeus połknął Metis.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 23, "id": "wiktionary_examples_852463", "url": "https://pl.wiktionary.org/wiki/olbrzymka", "line": "Serbki pokonały Austriaczki, chociaż wśród nich same olbrzymki.", "queries": ["\"Serbki pokonały Austriaczki, chociaż wśród nich same olbrzymki.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 24, "id": "wiktionary_examples_138031", "url": "https://pl.wiktionary.org/wiki/rysowa%C4%87", "line": "Myślę, że z tak dobrym wykształceniem rysuje się przed tobą świetlana przyszłość.", "queries": ["\"Myślę, że z tak dobrym wykształceniem rysuje się przed tobą świetlana przyszłość.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 25, "id": "wiktionary_examples_88461", "url": "https://pl.wiktionary.org/wiki/translator", "line": "Chyba kupię ten mały, poręczny translator, działa szybko i daje zrozumiałe tłumaczenia.", "queries": ["\"Chyba kupię ten mały, poręczny translator, działa szybko i daje zrozumiałe tłumaczenia.\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe-type mirror/dictionary pages surfaced in results (glosbe not fetched)"}
+{"n": 26, "id": "wiktionary_examples_935948", "url": "https://pl.wiktionary.org/wiki/zepchn%C4%85%C4%87", "line": "Zepchnął hulajnogę do rowu.", "queries": ["Zepchnął hulajnogę do rowu."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only unrelated news about scooter/ditch incidents."}
+{"n": 27, "id": "wiktionary_examples_617", "url": "https://pl.wiktionary.org/wiki/by%C4%87", "line": "Obiad zaraz będzie gotowy.", "queries": ["Obiad zaraz będzie gotowy."], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Short everyday sentence; only recipe sites/reverso, no verbatim hit."}
+{"n": 28, "id": "wiktionary_examples_940592", "url": "https://pl.wiktionary.org/wiki/siedemdziesi%C4%85t_sze%C5%9B%C4%87", "line": "Siedemdziesiąt sześć procent nastolatek twierdzi, że doceniłyby szczerą komunikację co do własnych cykli menstruacyjnych, lecz odczuwają, że miesiączki są w szkole zakazanym tematem.", "queries": ["Siedemdziesiąt sześć procent nastolatek twierdzi, że doceniłyby szczerą komunikację | doceniłyby szczerą komunikację co do własnych cykli menstruacyjnych"], "class": "mirror_only", "hit_url": "https://pl.wiktionary.org/wiki/verboten", "hit_kind": "wiktionary", "note": "Only pl.wiktionary 'verboten' entry (translation example, apparently from an English source not found); second query on 'doceniłyby szczerą komunikację...' gave the same."}
+{"n": 29, "id": "wiktionary_examples_31922", "url": "https://pl.wiktionary.org/wiki/wyci%C4%85g", "line": "Staszek wypił cały wyciąg z owoców, z którego babcia chciała zrobić kompot.", "queries": ["Staszek wypił cały wyciąg z owoców, z którego babcia chciała zrobić kompot"], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/wyci%C4%85g", "hit_kind": "glosbe mirror", "note": "Only pl.wiktionary (wyciąg, Staszek) and glosbe."}
+{"n": 30, "id": "wiktionary_examples_135653", "url": "https://pl.wiktionary.org/wiki/lecie%C4%87", "line": "Wczoraj Igor jakoś tak dziwnie się popatrzył na Laurę. Dziewczyny już opowiadają, że on na nią leci.", "queries": ["Wczoraj Igor jakoś tak dziwnie się popatrzył na Laurę. Dziewczyny już opowiadają, że on na nią leci. | dziwnie się popatrzył na Laurę on na nią leci"], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/lecie%C4%87", "hit_kind": "glosbe mirror", "note": "Only pl.wiktionary lecieć and glosbe; blog hits (Raura etc.) not verbatim in snippets (not fetched)."}
+{"n": 31, "id": "wiktionary_examples_141501", "url": "https://pl.wiktionary.org/wiki/szmata", "line": "Sąd powinien zabrać dziecko tej szmacie.", "queries": ["Sąd powinien zabrać dziecko tej szmacie."], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/szmata", "hit_kind": "glosbe mirror", "note": "Only pl.wiktionary szmata and glosbe."}
+{"n": 32, "id": "wiktionary_examples_135653", "url": "https://pl.wiktionary.org/wiki/lecie%C4%87", "line": "Jak ci leci? Dawno się nie odzywałeś. — Jakoś leci.", "queries": ["Jak ci leci? Dawno się nie odzywałeś. — Jakoś leci."], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Common greeting exchange; only wiktionary/glosbe/reverso, no verbatim external hit."}
+{"n": 33, "id": "wiktionary_examples_112047", "url": "https://pl.wiktionary.org/wiki/%C5%9Bmierdzie%C4%87", "line": "Te dwie firmy na kilometr śmierdzą kreatywną księgowością.", "queries": ["Te dwie firmy na kilometr śmierdzą kreatywną księgowością."], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/%C5%9Bmierdzie%C4%87", "hit_kind": "glosbe mirror", "note": "Only pl.wiktionary and glosbe."}
+{"n": 34, "id": "wiktionary_examples_136501", "url": "https://pl.wiktionary.org/wiki/jakby", "line": "Czytając tę książkę, doznałem jakby olśnienia.", "queries": ["Czytając tę książkę, doznałem jakby olśnienia. | Czytając tę książkę, doznałem jakby olśnienia jakby"], "class": "copied_from_wiktionary", "hit_url": "https://hinative.com/questions/4736697", "hit_kind": "Q&A forum (HiNative) answer", "note": "On pl.wiktionary since revision 2007-12-27T19:52:51Z; the HiNative answer (2017-09-10) repeats it with Wiktionary's sense number (1.1)."}
+{"n": 35, "id": "wiktionary_examples_106206", "url": "https://pl.wiktionary.org/wiki/Dominika", "line": "Wczoraj Dominika nie było w bibliotece.", "queries": ["Wczoraj Dominika nie było w bibliotece."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Short sentence with name; no verbatim hit."}
+{"n": 36, "id": "wiktionary_examples_119355", "url": "https://pl.wiktionary.org/wiki/kana%C5%82", "line": "Wezmę ten samochód do siebie na kanał i naprawię usterkę.", "queries": ["Wezmę ten samochód do siebie na kanał i naprawię usterkę."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary kanał."}
+{"n": 37, "id": "wiktionary_examples_32274", "url": "https://pl.wiktionary.org/wiki/ksi%C4%99%C5%BCyc", "line": "Śnieg iskrzył się w księżycu.", "queries": ["Śnieg iskrzył się w księżycu."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary księżyc."}
+{"n": 38, "id": "wiktionary_examples_4160", "url": "https://pl.wiktionary.org/wiki/j%C4%99zyk", "line": "Urwał mi się język u buta.", "queries": ["Urwał mi się język u buta."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary język."}
+{"n": 39, "id": "wiktionary_examples_534355", "url": "https://pl.wiktionary.org/wiki/bibu%C5%82a", "line": "Edka złapali z walizą bibuły, jak nic odsiedzi ze trzy lata.", "queries": ["Edka złapali z walizą bibuły, jak nic odsiedzi ze trzy lata. | Edka złapali z walizą bibuły"], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/bibu%C5%82a", "hit_kind": "glosbe mirror", "note": "Only pl.wiktionary bibuła and glosbe; Kazik autobiography (scribd) result not confirmed verbatim."}
+{"n": 40, "id": "wiktionary_examples_86794", "url": "https://pl.wiktionary.org/wiki/%C5%9Bwiat%C5%82o", "line": "Jacek trafił w światło bramki.", "queries": ["Jacek trafił w światło bramki."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only book title 'Światło bramki' hits, not the sentence."}
+{"n": 41, "id": "wiktionary_examples_504084", "url": "https://pl.wiktionary.org/wiki/egzaminacyjny", "line": "Każdy samochód egzaminacyjny wyposażony jest w szereg kamer wideo rejestrujących przebieg egzaminu państwowego na prawo jazdy.", "queries": ["Każdy samochód egzaminacyjny wyposażony jest w szereg kamer wideo rejestrujących przebieg egzaminu | samochód egzaminacyjny wyposażony jest w szereg kamer wideo"], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary egzaminacyjny; news on exam car cameras not verbatim."}
+{"n": 42, "id": "wiktionary_examples_34153", "url": "https://pl.wiktionary.org/wiki/mors", "line": "Na rejs do Malmö potrzebujemy morsa do załogi.", "queries": ["Na rejs do Malmö potrzebujemy morsa do załogi."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary mors and glosbe/dictionaries24 headword pages."}
+{"n": 43, "id": "wiktionary_examples_99989", "url": "https://pl.wiktionary.org/wiki/oko%C5%82o", "line": "Wrócił około północy.", "queries": ["Wrócił około północy."], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Very short common sentence; no verbatim hit."}
+{"n": 44, "id": "wiktionary_examples_124195", "url": "https://pl.wiktionary.org/wiki/jedyny", "line": "Jesteś dla mnie jedyny.", "queries": ["Jesteś dla mnie jedyny."], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Very short common sentence; only song titles with feminine variant."}
+{"n": 45, "id": "wiktionary_examples_244489", "url": "https://pl.wiktionary.org/wiki/wiadomo", "line": "Nie wiadomo, co było później.", "queries": ["Nie wiadomo, co było później. | Nie wiadomo, co było później -wiktionary"], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Short common sentence; only pl.wiktionary wiadomo; no external hit (second query with -wiktionary also empty)."}
+{"n": 46, "id": "wiktionary_examples_374416", "url": "https://pl.wiktionary.org/wiki/winobranie", "line": "Ze stryjem udaliśmy się wczesnym rankiem na winobranie.", "queries": ["Ze stryjem udaliśmy się wczesnym rankiem na winobranie."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary winobranie."}
+{"n": 47, "id": "wiktionary_examples_534040", "url": "https://pl.wiktionary.org/wiki/latynizacja", "line": "Istnieją dwie powszechnie używane latynizacje pisma chińskiego: system Wade’a-Gilesa oraz pinyin.", "queries": ["Istnieją dwie powszechnie używane latynizacje pisma chińskiego: system Wade’a-Gilesa oraz pinyin | dwie powszechnie używane latynizacje pisma chińskiego"], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary latynizacja; pl.wikipedia articles on pinyin/Wade-Giles show similar topic, not confirmed as verbatim."}
+{"n": 48, "id": "wiktionary_examples_198978", "url": "https://pl.wiktionary.org/wiki/oaza", "line": "Na piątkowej oazie animatorka omówiła kolejny krok.", "queries": ["Na piątkowej oazie animatorka omówiła kolejny krok."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary oaza."}
+{"n": 49, "id": "wiktionary_examples_372191", "url": "https://pl.wiktionary.org/wiki/ma%C5%82y_palec", "line": "Magazynierka oparła się o regał tak nieszczęśliwie, że kompletnie wywichnęła sobie mały palec u prawej dłoni.", "queries": ["Magazynierka oparła się o regał tak nieszczęśliwie, że kompletnie wywichnęła sobie mały palec | kompletnie wywichnęła sobie mały palec u prawej dłoni"], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary mały palec/nieszczęśliwie/magazynierka."}
+{"n": 50, "id": "wiktionary_examples_537105", "url": "https://pl.wiktionary.org/wiki/chrzcielny", "line": "Ksiądz zaintonował litanię chrzcielną.", "queries": ["Ksiądz zaintonował litanię chrzcielną."], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary chrzcielny."}
+{"n": 51, "id": "wiktionary_examples_177642", "url": "https://pl.wiktionary.org/wiki/przegry%C5%BA%C4%87", "line": "Szczury przegryzły się przez drzwi do garażu.", "queries": ["\"Szczury przegryzły się przez drzwi do garażu.\"", "\"przegryzły się przez drzwi do garażu\" szczury"], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary (or unrelated pages) in results; no verbatim hit elsewhere. | second query: none; Only pl.wiktionary plus unrelated rat-control articles."}
+{"n": 52, "id": "wiktionary_examples_88801", "url": "https://pl.wiktionary.org/wiki/Jakub", "line": "Poszedłem z Jakubem do wesołego miasteczka.", "queries": ["\"Poszedłem z Jakubem do wesołego miasteczka.\"", "\"Poszedłem z Jakubem do wesołego miasteczka\""], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Short/common sentence; no verbatim hit outside Wiktionary. | second query: generic; Only pl.wiktionary (Jakub); short/common."}
+{"n": 53, "id": "wiktionary_examples_858", "url": "https://pl.wiktionary.org/wiki/siostra", "line": "„Siostro, basen, szybko!”", "queries": ["\"„Siostro, basen, szybko!”\"", "\"Siostro, basen, szybko\" siostro"], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Short exclamation; only Wiktionary plus unrelated 'Siostro, basen!' comic/episode/meme titles; no verbatim sentence elsewhere. | second query: generic; Short exclamation; only Wiktionary and unrelated meme/comic/series titles."}
+{"n": 54, "id": "wiktionary_examples_486637", "url": "https://pl.wiktionary.org/wiki/wst%C4%99powa%C4%87", "line": "We wtorki po szkole wstępuję do babci.", "queries": ["\"We wtorki po szkole wstępuję do babci.\"", "\"po szkole wstępuję do babci\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: none; No Wiktionary or verbatim hit; unrelated pages."}
+{"n": 55, "id": "wiktionary_examples_467296", "url": "https://pl.wiktionary.org/wiki/zarz%C4%85dzenie", "line": "W naszej firmie obowiązuje niepisane zarządzenie prezesa, żeby z dziennikarzami nie rozmawiać.", "queries": ["\"W naszej firmie obowiązuje niepisane zarządzenie prezesa, żeby z dziennikarzami nie rozmawiać.\"", "\"niepisane zarządzenie prezesa\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: mirror_only; pl.wiktionary and glosbe only; other hits are unrelated legal/BIP pages."}
+{"n": 56, "id": "wiktionary_examples_41021", "url": "https://pl.wiktionary.org/wiki/obrona", "line": "Po strzeleniu gola drużyna gości cofnęła się na swoją połowę i ograniczyła tylko do obrony.", "queries": ["\"Po strzeleniu gola drużyna gości cofnęła się na swoją połowę i ograniczyła tylko do obrony.\"", "\"cofnęła się na swoją połowę i ograniczyła tylko do obrony\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: mirror_only; glosbe and wedariusz.pl (dictionary page for obrona, Wiktionary-derived); rest unrelated books."}
+{"n": 57, "id": "wiktionary_examples_198522", "url": "https://pl.wiktionary.org/wiki/murzyn", "line": "Całkiem zwyczajnie, jako bogata z domu, opłaciła jakiegoś murzyna, który za nią napisał tę pracę semestralną.", "queries": ["\"Całkiem zwyczajnie, jako bogata z domu, opłaciła jakiegoś murzyna, który za nią napisał\"", "\"opłaciła jakiegoś murzyna, który za nią napisał tę pracę semestralną\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary (or unrelated pages) in results; no verbatim hit elsewhere. | second query: none; Only pl.wiktionary; others are unrelated ghostwriting articles/forums."}
+{"n": 58, "id": "wiktionary_examples_164345", "url": "https://pl.wiktionary.org/wiki/rada", "line": "Dam ci dobrą radę! Trzymaj się z dala od mojej dziewczyny!", "queries": ["\"Dam ci dobrą radę! Trzymaj się z dala od mojej dziewczyny!\"", "\"Trzymaj się z dala od mojej dziewczyny\" \"Dam ci dobrą radę\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary (or unrelated pages) in results; no verbatim hit elsewhere. | second query: none; Only pl.wiktionary; others unrelated."}
+{"n": 59, "id": "wiktionary_examples_272442", "url": "https://pl.wiktionary.org/wiki/utrzymanie", "line": "Opiekował się staruszką w zamian za utrzymanie.", "queries": ["\"Opiekował się staruszką w zamian za utrzymanie.\"", "\"Opiekował się staruszką w zamian za utrzymanie\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: mirror_only; pl.wiktionary and glosbe only; others unrelated legal/news pages."}
+{"n": 60, "id": "wiktionary_examples_23214", "url": "https://pl.wiktionary.org/wiki/zapomnie%C4%87", "line": "Znany piłkarz w trakcie ostrej telewizyjnej dyskusji zapomniał się i sklął jednego z gości.", "queries": ["\"Znany piłkarz w trakcie ostrej telewizyjnej dyskusji zapomniał się i sklął jednego z gości.\"", "\"zapomniał się i sklął jednego z gości\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: mirror_only; pl.wiktionary, glosbe, wedariusz.pl (dictionary mirror); books returned are unrelated."}
+{"n": 61, "id": "wiktionary_examples_144231", "url": "https://pl.wiktionary.org/wiki/%C5%81ucja", "line": "Mam na imię Łucja i jestem aktorką z Wrocławia.", "queries": ["\"Mam na imię Łucja i jestem aktorką z Wrocławia.\"", "\"i jestem aktorką z Wrocławia\" \"Mam na imię Łucja\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: none; Only pages about actress Łucja Burzyńska; no sentence match."}
+{"n": 62, "id": "wiktionary_examples_543916", "url": "https://pl.wiktionary.org/wiki/oprzyrz%C4%85dowanie", "line": "Maszyna posiada kompletne oprzyrządowanie: główkę podwójnie skrętną, główkę do dłutowania, dwa okulary, podzielnicę, konik do podzielnicy, gitarę, imadło, trzpienie i tulejki.", "queries": ["\"Maszyna posiada kompletne oprzyrządowanie: główkę podwójnie skrętną, główkę do dłutowania, dwa okulary, podzielnicę,\"", "\"główkę do dłutowania, dwa okulary, podzielnicę, konik do podzielnicy, gitarę, imadło, trzpienie i tulejki\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: mirror_only; pl.wiktionary and glosbe; machine-tool shop listings do not show the sentence in results."}
+{"n": 63, "id": "wiktionary_examples_210963", "url": "https://pl.wiktionary.org/wiki/psu%C4%87", "line": "Opinia ludzi na temat rządu psuje się zawsze z biegiem czasu.", "queries": ["\"Opinia ludzi na temat rządu psuje się zawsze z biegiem czasu.\"", "\"Opinia ludzi na temat rządu psuje się zawsze z biegiem czasu\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary (or unrelated pages) in results; no verbatim hit elsewhere. | second query: none; Only pl.wiktionary; others are unrelated polling articles."}
+{"n": 64, "id": "wiktionary_examples_126629", "url": "https://pl.wiktionary.org/wiki/kierowa%C4%87", "line": "Mój ojciec kieruje zespołem pięciu ludzi.", "queries": ["\"Mój ojciec kieruje zespołem pięciu ludzi.\"", "\"Mój ojciec kieruje zespołem pięciu ludzi\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary (or unrelated pages) in results; no verbatim hit elsewhere. | second query: none; No Wiktionary or verbatim hit; unrelated pages."}
+{"n": 65, "id": "wiktionary_examples_134732", "url": "https://pl.wiktionary.org/wiki/wisie%C4%87", "line": "Helikopter wisi nieruchomo trzydzieści metrów nad ziemią.", "queries": ["\"Helikopter wisi nieruchomo trzydzieści metrów nad ziemią.\"", "\"wisi nieruchomo trzydzieści metrów nad ziemią\" helikopter"], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: mirror_only; pl.wiktionary and glosbe only; others unrelated."}
+{"n": 66, "id": "wiktionary_examples_93805", "url": "https://pl.wiktionary.org/wiki/sens", "line": "Nie widzę sensu w swoim życiu.", "queries": ["\"Nie widzę sensu w swoim życiu.\"", "\"Nie widzę sensu w swoim życiu\" Nie widzę sensu"], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Short/common sentence; no verbatim hit outside Wiktionary. | second query: generic; Common phrase; hits are self-help articles on the topic, not the sentence."}
+{"n": 67, "id": "wiktionary_examples_99095", "url": "https://pl.wiktionary.org/wiki/uwa%C5%BCa%C4%87", "line": "Uważałem cię zawsze za swojego przyjaciela.", "queries": ["\"Uważałem cię zawsze za swojego przyjaciela.\"", "\"Uważałem cię zawsze za swojego przyjaciela\" uważałem"], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Short/common sentence; no verbatim hit outside Wiktionary. | second query: generic; Common phrase; only Wiktionary plus lyrics sites (not the sentence)."}
+{"n": 68, "id": "wiktionary_examples_4734", "url": "https://pl.wiktionary.org/wiki/zero", "line": "Trzy plus zero równa się trzy.", "queries": ["\"Trzy plus zero równa się trzy.\"", "\"Trzy plus zero równa się trzy\" plus"], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Short/common sentence; no verbatim hit outside Wiktionary. | second query: generic; Trivial arithmetic sentence; only Wiktionary plus unrelated math pages."}
+{"n": 69, "id": "wiktionary_examples_240763", "url": "https://pl.wiktionary.org/wiki/wskutek", "line": "Wskutek czołowego zderzenia samochodu ciężarowego z autem osobowym na trasie drogi krajowej nr 7 koło Olsztynka zginęły trzy osoby. Wśród ofiar śmiertelnych znalazł się kierowca samochodu osobowego i dwóch jego pasażerów.", "queries": ["\"Wskutek czołowego zderzenia samochodu ciężarowego z autem osobowym na trasie drogi krajowej nr\"", "\"zginęły trzy osoby. Wśród ofiar śmiertelnych znalazł się kierowca samochodu osobowego i dwóch jego pasażerów\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Search listed pl.wiktionary and glosbe; news results about S7/DK7 crashes near Olsztynek are different texts, no verbatim match (PAP page fetch returned empty). | second query: none; Only news reports of different crashes (2026); no verbatim match."}
+{"n": 70, "id": "wiktionary_examples_1970", "url": "https://pl.wiktionary.org/wiki/golf", "line": "Golfa rozgrywa się na stole do ósemki.", "queries": ["\"Golfa rozgrywa się na stole do ósemki.\"", "\"Golfa rozgrywa się na stole do ósemki\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: mirror_only; pl.wiktionary, glosbe, slowka.info (aggregator); others unrelated."}
+{"n": 71, "id": "wiktionary_examples_276769", "url": "https://pl.wiktionary.org/wiki/toczy%C4%87", "line": "Toczę wino z beczki.", "queries": ["\"Toczę wino z beczki.\"", "\"Toczę wino z beczki\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary (or unrelated pages) in results; no verbatim hit elsewhere. | second query: none; Only unrelated wine/barrel articles."}
+{"n": 72, "id": "wiktionary_examples_4160", "url": "https://pl.wiktionary.org/wiki/j%C4%99zyk", "line": "Krowy mają długie języki.", "queries": ["\"Krowy mają długie języki.\"", "\"Krowy mają długie języki\" krowy"], "class": "generic", "hit_url": null, "hit_kind": null, "note": "Short/common sentence; no verbatim hit outside Wiktionary. | second query: generic; Short/common; only unrelated cow-fact pages."}
+{"n": 73, "id": "wiktionary_examples_146482", "url": "https://pl.wiktionary.org/wiki/przedstawia%C4%87", "line": "Sytuacja w firmie nie przedstawia się najlepiej, w ostatnim kwartale mieliśmy duże straty.", "queries": ["\"Sytuacja w firmie nie przedstawia się najlepiej, w ostatnim kwartale mieliśmy duże straty.\"", "\"w ostatnim kwartale mieliśmy duże straty\" \"nie przedstawia się najlepiej\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary (or unrelated pages) in results; no verbatim hit elsewhere. | second query: none; Only unrelated financial news."}
+{"n": 74, "id": "wiktionary_examples_4979", "url": "https://pl.wiktionary.org/wiki/katalog", "line": "Piotr zamówił zestaw szwedzkich mebli z katalogu.", "queries": ["\"Piotr zamówił zestaw szwedzkich mebli z katalogu.\"", "\"zamówił zestaw szwedzkich mebli z katalogu\""], "class": "mirror_only", "hit_url": null, "hit_kind": null, "note": "Only pl.wiktionary and glosbe (Wiktionary mirror) in results; no independent source. | second query: none; Only pl.wiktionary plus unrelated furniture shops."}
+{"n": 75, "id": "wiktionary_examples_4399", "url": "https://pl.wiktionary.org/wiki/garowa%C4%87", "line": "Zbychowi, który za damski chuj garuje już prawie dwa roki, zostały do odsiadki ledwie trzy miechy.", "queries": ["\"Zbychowi, który za damski chuj garuje już prawie dwa roki, zostały do odsiadki\"", "\"zostały do odsiadki ledwie trzy miechy\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Only Wiktionary; other hits are the Sobota song 'Za damski chuj' and slang glossaries, not this sentence. | second query: none; Only pl.wiktionary plus unrelated prison/forum pages."}
+{"n": 76, "id": "wiktionary_examples_683395", "url": "https://pl.wiktionary.org/wiki/w_sensie", "line": "Musimy wyremontować kuchnię, łazienkę, dwa pokoje i korytarz, w sensie – całe mieszkanie.", "queries": ["\"Musimy wyremontować kuchnię, łazienkę, dwa pokoje i korytarz, w sensie – całe mieszkanie.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No verbatim hit in two query attempts"}
+{"n": 77, "id": "wiktionary_examples_276769", "url": "https://pl.wiktionary.org/wiki/toczy%C4%87", "line": "Gruźlica toczy ciało chorego.", "queries": ["\"Gruźlica toczy ciało chorego.\""], "class": "mirror_only", "hit_url": "https://pl.wiktionary.org/wiki/toczy%C4%87", "hit_kind": "wiktionary", "note": "Only Wiktionary page found on both queries"}
+{"n": 78, "id": "wiktionary_examples_144890", "url": "https://pl.wiktionary.org/wiki/ci%C4%85g", "line": "W mieście wyburzono całe ciągi zabytkowych budynków.", "queries": ["\"W mieście wyburzono całe ciągi zabytkowych budynków.\""], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/ci%C4%85g", "hit_kind": "wiktionary mirror", "note": "Only Wiktionary ciąg page and glosbe"}
+{"n": 79, "id": "wiktionary_examples_944317", "url": "https://pl.wiktionary.org/wiki/czterdziestkasi%C3%B3demka", "line": "Na odświeżanym w czasie rzeczywistym podglądzie zaworów wyraźnie widać, że to czterdziestkasiódemka szwankuje.", "queries": ["\"Na odświeżanym w czasie rzeczywistym podglądzie zaworów wyraźnie widać, że to czterdziestkasiódemka szwankuje.\""], "class": "mirror_only", "hit_url": "https://pl.wiktionary.org/wiki/szwankowa%C4%87", "hit_kind": "wiktionary", "note": "Wiktionary szwankować page surfaced; sibling of n=95 (template-like numeral line)"}
+{"n": 80, "id": "wiktionary_examples_5089", "url": "https://pl.wiktionary.org/wiki/zapisywa%C4%87", "line": "Czy zapisałeś godziny odjazdów pociągów?", "queries": ["\"Czy zapisałeś godziny odjazdów pociągów?\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No verbatim hit in two query attempts"}
+{"n": 81, "id": "wiktionary_examples_943556", "url": "https://pl.wiktionary.org/wiki/siedemdziesi%C4%85ty_dziewi%C4%85ty", "line": "Podejrzewam, że ktoś celowo wprowadził błąd do sześćset siedemdziesiątego dziewiątego wiersza kodu.", "queries": ["\"Podejrzewam, że ktoś celowo wprowadził błąd do sześćset siedemdziesiątego dziewiątego wiersza kodu.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No verbatim hit in two query attempts"}
+{"n": 82, "id": "wiktionary_examples_320644", "url": "https://pl.wiktionary.org/wiki/skrajny", "line": "Ten skrajny słupek na parkingu często jest przewracany przez nieostrożnych kierowców.", "queries": ["\"Ten skrajny słupek na parkingu często jest przewracany przez nieostrożnych kierowców.\""], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/skrajny", "hit_kind": "wiktionary mirror", "note": "Wiktionary + glosbe only"}
+{"n": 83, "id": "wiktionary_examples_61612", "url": "https://pl.wiktionary.org/wiki/Mars", "line": "Mars ma 2 księżyce, które mają nieregularny kształt.", "queries": ["\"Mars ma 2 księżyce, które mają nieregularny kształt.\""], "class": "mirror_only", "hit_url": "https://pl.m.wiktionary.org/wiki/Mars", "hit_kind": "wiktionary", "note": "Only Wiktionary Mars page; Wikipedia etc. say same fact but not same sentence"}
+{"n": 84, "id": "wiktionary_examples_216289", "url": "https://pl.wiktionary.org/wiki/komplet", "line": "Ile kosztuje komplet podręczników do piątej klasy?", "queries": ["\"Ile kosztuje komplet podręczników do piątej klasy?\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No verbatim hit in two query attempts"}
+{"n": 85, "id": "wiktionary_examples_486637", "url": "https://pl.wiktionary.org/wiki/wst%C4%99powa%C4%87", "line": "Wstępowała w nich nadzieja, gdy tylko było z oddali słychać dźwięk dzwonów.", "queries": ["\"Wstępowała w nich nadzieja, gdy tylko było z oddali słychać dźwięk dzwonów.\""], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/wst%C4%99powa%C4%87", "hit_kind": "wiktionary mirror", "note": "Wiktionary + glosbe only; wikisource hits were topical, not verbatim"}
+{"n": 86, "id": "wiktionary_examples_176232", "url": "https://pl.wiktionary.org/wiki/klatka", "line": "Nagle poczułem dziwne kłucie w klatce.", "queries": ["\"Nagle poczułem dziwne kłucie w klatce.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No verbatim hit in two query attempts"}
+{"n": 87, "id": "wiktionary_examples_514230", "url": "https://pl.wiktionary.org/wiki/praktycznie", "line": "Podszedł do rzeczy bardzo praktycznie.", "queries": ["\"Podszedł do rzeczy bardzo praktycznie.\""], "class": "mirror_only", "hit_url": "https://pl.wiktionary.org/wiki/praktycznie", "hit_kind": "wiktionary", "note": "Only Wiktionary"}
+{"n": 88, "id": "wiktionary_examples_205572", "url": "https://pl.wiktionary.org/wiki/przeci%C4%99tny", "line": "Przeciętnej polskiej rodziny nie stać na kredyt.", "queries": ["\"Przeciętnej polskiej rodziny nie stać na kredyt.\""], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/przeci%C4%99tny", "hit_kind": "wiktionary mirror", "note": "Wiktionary + glosbe only"}
+{"n": 89, "id": "wiktionary_examples_4986", "url": "https://pl.wiktionary.org/wiki/program", "line": "Zobacz w programie, o której zaczyna się transmisja.", "queries": ["\"Zobacz w programie, o której zaczyna się transmisja.\""], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/program", "hit_kind": "wiktionary mirror", "note": "Wiktionary + glosbe only"}
+{"n": 90, "id": "wiktionary_examples_42433", "url": "https://pl.wiktionary.org/wiki/mi%C4%99sny", "line": "Agent nie powiedział, że w okolicy znajdują się zakłady mięsne (= produkujące wyroby mięsne).", "queries": ["\"Agent nie powiedział, że w okolicy znajdują się zakłady mięsne (= produkujące wyroby mięsne).\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No verbatim hit in two query attempts"}
+{"n": 91, "id": "wiktionary_examples_459859", "url": "https://pl.wiktionary.org/wiki/rozwi%C4%85zywa%C4%87", "line": "To w zabawie dzieci rozwijają empatię, uczą się negocjować, zawierać kompromisy oraz rozwiązywać konflikty.", "queries": ["\"To w zabawie dzieci rozwijają empatię, uczą się negocjować, zawierać kompromisy oraz rozwiązywać konflikty.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No verbatim hit in two query attempts"}
+{"n": 92, "id": "wiktionary_examples_73", "url": "https://pl.wiktionary.org/wiki/stary", "line": "Nie możesz się zalogować, bo podajesz stare hasło.", "queries": ["\"Nie możesz się zalogować, bo podajesz stare hasło.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No verbatim hit in two query attempts"}
+{"n": 93, "id": "wiktionary_examples_597022", "url": "https://pl.wiktionary.org/wiki/ust%C4%99powa%C4%87", "line": "Jestem legalnie wybranym prezydentem i nie zamierzam ustępować z urzędu.", "queries": ["\"Jestem legalnie wybranym prezydentem i nie zamierzam ustępować z urzędu.\""], "class": "paraphrase_not_verbatim", "hit_url": null, "hit_kind": null, "note": "Janukowycz Feb 2014 news (interia, bankier) has 'Jestem legalnie wybranym prezydentem' and 'Nie zamierzam ustępować z urzędu' as separate quotes, not the same sentence; topical/partial overlap only"}
+{"n": 94, "id": "wiktionary_examples_544302", "url": "https://pl.wiktionary.org/wiki/odprawia%C4%87", "line": "Królewna odprawiała jedno poselstwo po drugim.", "queries": ["\"Królewna odprawiała jedno poselstwo po drugim.\""], "class": "mirror_only", "hit_url": "https://pl.wiktionary.org/wiki/odprawia%C4%87", "hit_kind": "wiktionary", "note": "Only Wiktionary"}
+{"n": 95, "id": "wiktionary_examples_944308", "url": "https://pl.wiktionary.org/wiki/dziewi%C4%99%C4%87dziesi%C4%85tkasi%C3%B3demka", "line": "Na odświeżanym w czasie rzeczywistym podglądzie zaworów wyraźnie widać, że to dziewięćdziesiątkasiódemka szwankuje.", "queries": ["\"Na odświeżanym w czasie rzeczywistym podglądzie zaworów wyraźnie widać, że to dziewięćdziesiątkasiódemka szwankuje.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No hit; sibling of n=79 (template-like numeral line)"}
+{"n": 96, "id": "wiktionary_examples_951865", "url": "https://pl.wiktionary.org/wiki/odm%C5%82odzi%C4%87", "line": "Musimy odmłodzić ten park, wycinając chore drzewa.", "queries": ["\"Musimy odmłodzić ten park, wycinając chore drzewa.\""], "class": "mirror_only", "hit_url": "https://pl.wiktionary.org/wiki/odm%C5%82odzi%C4%87", "hit_kind": "wiktionary", "note": "Only Wiktionary"}
+{"n": 97, "id": "wiktionary_examples_211149", "url": "https://pl.wiktionary.org/wiki/odpowiedzialny", "line": "Jestem odpowiedzialny za zespół do spraw analiz.", "queries": ["\"Jestem odpowiedzialny za zespół do spraw analiz.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "No verbatim hit in two query attempts"}
+{"n": 98, "id": "wiktionary_examples_122074", "url": "https://pl.wiktionary.org/wiki/pru%C4%87", "line": "Odpruł mi się guzik. Będę musiał go przyszyć.", "queries": ["\"Odpruł mi się guzik. Będę musiał go przyszyć.\""], "class": "mirror_only", "hit_url": "https://pl.glosbe.com/pl/pl/pru%C4%87", "hit_kind": "wiktionary mirror", "note": "Wiktionary + glosbe only"}
+{"n": 99, "id": "wiktionary_examples_126074", "url": "https://pl.wiktionary.org/wiki/stawia%C4%87", "line": "Gdy kazałem tym gościom wynosić się do innego stolika, jeden z nich zaczął się stawiać i krzyczał, że nigdzie się stamtąd nie ruszy.", "queries": ["(distinctive 10-15 word span of line)"], "class": "mirror_only", "hit_url": "https://glosbe.com/pl/pl/stawia%C4%87", "hit_kind": "wiktionary mirror", "note": "Wiktionary + glosbe only"}
+{"n": 100, "id": "wiktionary_examples_213023", "url": "https://pl.wiktionary.org/wiki/szalony", "line": "Był to monolog szalonego.", "queries": ["\"Był to monolog szalonego.\""], "class": "none", "hit_url": null, "hit_kind": null, "note": "Histmag Ed Gein page checked; sentence not present"}

data/wiktionary_examples/wiktionary_examples.stats.json

@@ -1,16 +1,16 @@
 {
-  "read": 9120,
-  "kept": 8639,
+  "read": 1829,
+  "kept": 1818,
   "drop_short": 0,
   "drop_lang": 0,
-  "drop_dup": 481,
+  "drop_dup": 11,
   "drop_ocr": 0,
-  "chars": 2889761,
-  "tokens": 1115820,
+  "chars": 534521,
+  "tokens": 207181,
   "licenses": {
-    "CC-BY-SA-3.0": 8639
+    "CC-BY-SA-4.0": 1818
   },
-  "authors_with_value": 8639,
-  "secs": 2.9,
-  "license": "CC-BY-SA-3.0"
+  "authors_with_value": 1818,
+  "secs": 0.5,
+  "license": "CC-BY-SA-4.0"
 }

src/fetch_wiktionary_examples.py

@@ -9,10 +9,13 @@ Unlike most sources in this registry, this one is NOT routed through
 SpeakLeash's redistribution — it is parsed directly from the Wikimedia dump.
 The `provenance` field in sources.py records this.
 
-One document = one headword; all its example sentences are concatenated,
-newline-separated, in source order. Citation attribution found in
-`{{źródło|...}}` templates is stripped from the text and written to a
-side-car file for auditing (not part of the corpus).
+One document = one headword; its example sentences are concatenated,
+newline-separated, in source order. A quotation from a third-party work (used
+under the Art. 29 quotation right, not licensed CC BY-SA by Wiktionary
+contributors) is dropped: a line carrying a `{{źródło|...}}` template or a
+`<ref>`, a hand-written source such as "(B. Prus: Lalka)" or "(z Internetu)",
+or an omission mark "(…)". Its citation goes to a side-car file for auditing
+(not part of the corpus).
 
 Only the standard library is required for parsing; `zstandard` is used for
 output compression (falls back to plain .jsonl with a warning).
@@ -35,11 +38,15 @@ import json
 import re
 import sys
 from pathlib import Path
+from urllib.parse import quote
 from xml.etree import ElementTree as ET
 
 SOURCE_NAME = "wiktionary_examples"
-LICENSE = "CC-BY-SA-3.0"
-AUTHOR = "Wikimedia contributors"
+# pl.wiktionary's footer links CC BY-SA 4.0 (Wikimedia Terms of Use, June 2023).
+# Older revisions were contributed under 3.0, whose §4(b) allows an adaptation
+# to be licensed under a later version with the same elements.
+LICENSE = "CC-BY-SA-4.0"
+PAGE_URL = "https://pl.wiktionary.org/wiki/"
 
 # Gates mirrored from build_dynaword.py so the preview count matches the build.
 MIN_CHARS = 200
@@ -49,15 +56,43 @@ MIN_EXAMPLE_CHARS = 10
 PL_HEADING = re.compile(r"^==\s*(.+?)\s*\(\{\{język polski\}\}\)\s*==\s*$", re.M)
 NEXT_HEADING = re.compile(r"^==[^=]", re.M)
 
-# Blocks run until the next top-level `{{template}}` marker.
+# Blocks run until the next section marker, a `{{template}}` opening a line.
+# Inline templates such as `{{tłum}}` or `{{pot}}` inside an example don't end it.
 EXAMPLES_BLOCK = re.compile(
-    r"\{\{przykłady\}\}(.*?)(?=\{\{[a-ząćęłńóśźż]+\}\}|\Z)", re.S
+    r"\{\{przykłady\}\}(.*?)(?=^\{\{[a-ząćęłńóśźż]+\}\}|\Z)", re.S | re.M
 )
 # Numbered lines: `: (1.1) <sentence>`
 NUMBERED_LINE = re.compile(r"^:\s*\(([\d.]+)\)\s*(.+?)\s*$", re.M)
 SENSE_NUMBER = re.compile(r"\(\d+\.\d+\)")
 
-CITATION_FIELDS = ("autor", "tytuł", "tytul", "rozdział", "rozdzial", "rok", "isbn")
+# Fields of {{źródło}} and of the templates used inside <ref>: {{NKJP}}, {{cytuj}},
+# {{cytuj stronę}}, {{KJP}}, {{Gloger1900}}.
+CITATION_FIELDS = ("autor", "autorzy", "tytuł", "tytul", "tytuł_pub", "rozdział", "rozdzial",
+                   "hasło", "rok", "data", "isbn", "url")
+CITATION_TEMPLATES = ("{{źródło", "{{zrodlo")
+# `<ref>source</ref>`, or `<ref name="x" />` reusing a source given elsewhere on the page.
+REF = re.compile(r"<ref\b([^>]*?)(?:/>|>(.*?)</ref\s*>)", re.I | re.S)
+
+# Quotations whose source is written by hand instead of with {{źródło}}, matched
+# on the cleaned sentence. Patterns come from a survey of the 20261001 dump.
+_UP = "A-ZĄĆĘŁŃÓŚŹŻ"
+_LOW = "a-ząćęłńóśźż"
+_END = r"[\s.!?…]*$"
+ATTRIBUTION_TAILS = (
+    # A capital opening a word or an initial: "(B. Prus: Lalka)", "(Adam Mickiewicz)",
+    # "(Kogel-mogel)", "(Mt 4:19)", "(W leśniczówce …)". Acronyms and formulas
+    # ("(ZSRR)", "(C/kg)") don't match.
+    # ponytail: also drops a few glosses like "(Alligator missisippiensis)";
+    # losing a sentence is cheaper than shipping a quotation.
+    re.compile(rf"\(\s*[\"„“]?[{_UP}](?:[{_LOW}]|\.|\s)[^()]*\){_END}"),
+    # "(z Internetu)", "(z Wikipedii)", "(z Odysei)": "from <source>".
+    re.compile(rf"\(\s*z\s+[{_UP}{_LOW}][{_LOW}]*\){_END}", re.I),
+    re.compile(rf"\(\s*(?:źródło|wywiad|tytuł|słowa|cytat|za:)[^()]*\){_END}", re.I),
+    # Unparenthesised tag after the sentence: "…Gałczyńskiego. Internet".
+    re.compile(rf"(?<=[.!?…\]”\"])\s*(?:z\s+)?(?:internet\w*|wikipedi\w*){_END}", re.I),
+)
+# "(…)" / "[...]" mark an omission: the line was cut from someone else's text.
+EXCERPT_MARK = re.compile(r"[(\[]\s*(?:…|\.\.\.)\s*[)\]]")
 
 
 def split_templates(text: str) -> tuple[str, list[str]]:
@@ -92,14 +127,18 @@ def split_templates(text: str) -> tuple[str, list[str]]:
 
 
 def describe_citation(template: str) -> str:
-    """Flatten a `{{źródło|autor=…|tytuł=…}}` template into a readable string."""
+    """Flatten a `{{źródło|autor=…|tytuł=…}}` template into a readable string; the
+    template's name when it has none of CITATION_FIELDS (e.g. `{{zWikiprojektu|…}}`)."""
+    name, *chunks = template.strip("{}").split("|")
     fields: dict[str, str] = {}
-    for chunk in template.strip("{}").split("|")[1:]:
+    for chunk in chunks:
         if "=" in chunk:
             key, value = chunk.split("=", 1)
-            fields[key.strip().lower()] = value.strip()
+            key = key.strip().lower()
+            # clean() would delete a bare URL, which is the whole point of `url`.
+            fields[key] = value.strip() if key == "url" else clean(value)
     parts = [fields[k] for k in CITATION_FIELDS if fields.get(k)]
-    return " | ".join(parts)
+    return " | ".join(parts) or "{{" + name.strip() + "}}"
 
 
 def unlink(text: str) -> str:
@@ -125,12 +164,14 @@ def clean(text: str) -> str:
     philological convention inside quotations, not markup residue."""
     text = re.sub(r"<ref[^>]*>.*?</ref>", "", text, flags=re.S)
     text = re.sub(r"<ref[^>]*/>", "", text)
+    text = re.sub(r"<br\s*/?>", " ", text, flags=re.I)   # a line break separates words
     text = re.sub(r"<[^>]+>", "", text)
     text = unlink(text)
     text = re.sub(r"'{2,}", "", text)
     text = html.unescape(html.unescape(text))   # some entities are double-encoded
     text = text.replace("\u00a0", " ")
     text = SENSE_NUMBER.sub("", text)
+    text = re.sub(r"\(\s*\)", "", text)   # left behind by a stripped template
     text = re.sub(r"\s+", " ", text)
     return text.strip(" -–—•\t")
 
@@ -147,26 +188,75 @@ def polish_section(wikitext: str) -> tuple[str, str] | None:
     return headword, rest
 
 
-def examples_and_citations(section: str) -> tuple[list[str], list[str]]:
+def is_cited(raw: str, templates: list[str]) -> bool:
+    """A line with a source attached is a quotation from a third-party work (Art. 29
+    quotation right), not a contributor's own CC BY-SA text."""
+    return "<ref" in raw.lower() or any(t.startswith(CITATION_TEMPLATES) for t in templates)
+
+
+def cited_sources(raw: str, templates: list[str]) -> list[str]:
+    """The sources a cited line gives, for the audit side-car."""
+    sources = [describe_citation(t) for t in templates if t.startswith(CITATION_TEMPLATES)]
+    for ref in REF.finditer(raw):
+        attributes, body = ref.groups()
+        if body is None:
+            sources.append(f"<ref{attributes.rstrip()}/>")
+            continue
+        text, inner = split_templates(body)
+        # {{źródło}} inside a <ref> is already in `templates`.
+        sources += [describe_citation(t) for t in inner if not t.startswith(CITATION_TEMPLATES)]
+        sources.append(clean(text))
+    return [source for source in sources if source]
+
+
+def hand_attribution(sentence: str) -> str | None:
+    """The source a quotation names without {{źródło}}, or "(…)" for an excerpt
+    that names none; None for a contributor's own example."""
+    for pattern in ATTRIBUTION_TAILS:
+        match = pattern.search(sentence)
+        if match:
+            return match.group(0).strip(" .!?…")
+    match = EXCERPT_MARK.search(sentence)
+    return match.group(0) if match else None
+
+
+def examples_and_citations(section: str) -> tuple[list[str], list[str], int]:
+    """(example sentences, citations of the dropped quotations, number of dropped lines).
+
+    A line is a quotation when it carries {{źródło}}/<ref> or a hand-written
+    source (see hand_attribution)."""
     match = EXAMPLES_BLOCK.search(section)
     if not match:
-        return [], []
-    examples, citations = [], []
+        return [], [], 0
+    examples, citations, dropped = [], [], 0
     for _, raw in NUMBERED_LINE.findall(match.group(1)):
         without_templates, templates = split_templates(raw)
-        for template in templates:
-            if template.startswith(("{{źródło", "{{zrodlo")):
-                described = describe_citation(clean(template))
-                if described:
-                    citations.append(described)
+        if is_cited(raw, templates):
+            dropped += 1
+            citations.extend(cited_sources(raw, templates) or ["(no source text)"])
+            continue
         sentence = clean(without_templates)
+        attribution = hand_attribution(sentence)
+        if attribution:
+            dropped += 1
+            citations.append(attribution)
+            continue
         if len(sentence) >= MIN_EXAMPLE_CHARS:
             examples.append(sentence)
-    return examples, sorted(set(citations))
+    return examples, sorted(set(citations)), dropped
+
+
+def page_url(title: str) -> str:
+    return PAGE_URL + quote(title.replace(" ", "_"), safe="/:()',!")
+
+
+def credit(title: str) -> str:
+    """BY-SA 4.0 §3(a)(2) allows attribution by a URI; the page history lists the authors."""
+    return f"Wikisłownik contributors, {page_url(title)}"
 
 
 def iter_pages(dump_path: Path):
-    """Yield (namespace, wikitext) for every page, streaming the bz2 dump."""
+    """Yield (namespace, page id, title, wikitext) for every page, streaming the bz2 dump."""
     with bz2.open(dump_path, "rb") as handle:
         for _, element in ET.iterparse(handle, events=("end",)):
             if element.tag.rsplit("}", 1)[-1] != "page":
@@ -174,9 +264,11 @@ def iter_pages(dump_path: Path):
             values = {}
             for child in element.iter():
                 tag = child.tag.rsplit("}", 1)[-1]
-                if tag in ("ns", "text") and tag not in values:
+                # The page's own <id> precedes its revision's <id>.
+                if tag in ("ns", "id", "title", "text") and tag not in values:
                     values[tag] = child.text
-            yield (values.get("ns") or "").strip(), values.get("text") or ""
+            yield ((values.get("ns") or "").strip(), (values.get("id") or "").strip(),
+                   values.get("title") or "", values.get("text") or "")
             element.clear()
 
 
@@ -197,11 +289,11 @@ def main() -> None:
     out_dir = Path(args.out).expanduser()
     out_dir.mkdir(parents=True, exist_ok=True)
 
-    pages = entries = with_examples = with_citations = 0
-    documents: list[tuple[str, str]] = []
+    pages = entries = with_examples = with_citations = quoted_lines = example_lines = 0
+    documents: list[dict] = []
     citation_index: list[dict] = []
 
-    for namespace, wikitext in iter_pages(dump_path):
+    for namespace, page_id, title, wikitext in iter_pages(dump_path):
         pages += 1
         if pages % 100_000 == 0:
             print(f"  {pages:,} pages scanned, {entries:,} Polish entries",
@@ -213,30 +305,34 @@ def main() -> None:
             continue
         entries += 1
         headword, body = section
-        examples, citations = examples_and_citations(body)
+        examples, citations, dropped = examples_and_citations(body)
+        quoted_lines += dropped
+        if citations:
+            with_citations += 1
+            citation_index.append({"id": f"{SOURCE_NAME}_{page_id}", "headword": headword,
+                                   "citations": citations})
         if not examples:
             continue
         with_examples += 1
-        if citations:
-            with_citations += 1
-            citation_index.append({"headword": headword, "citations": citations})
-        documents.append((headword, "\n".join(examples)))
+        example_lines += len(examples)
+        documents.append({"id": f"{SOURCE_NAME}_{page_id}", "text": "\n".join(examples),
+                          "license": LICENSE, "author": credit(title)})
 
-    kept = [(h, t) for h, t in documents if len(t) >= args.min_chars]
-    chars = sum(len(t) for _, t in kept)
+    kept = [d for d in documents if len(d["text"]) >= args.min_chars]
+    chars = sum(len(d["text"]) for d in kept)
 
     print()
     print(f"pages scanned:            {pages:,}")
     print(f"Polish entries:           {entries:,}")
     print(f"entries with examples:    {with_examples:,}")
     print(f"entries with attribution: {with_citations:,}")
+    print(f"quoted lines dropped:     {quoted_lines:,}")
+    print(f"example lines kept:       {example_lines:,}")
     print(f"documents >= {args.min_chars} chars:  {len(kept):,}")
     print(f"characters:               {chars:,}")
 
     payload = "\n".join(
-        json.dumps({"text": text, "license": LICENSE, "author": AUTHOR},
-                   ensure_ascii=False)
-        for _, text in kept
+        json.dumps(document, ensure_ascii=False) for document in kept
     ) + "\n"
 
     plain = out_dir / f"{SOURCE_NAME}.jsonl"

src/sources.py

@@ -158,20 +158,29 @@ SOURCES = {
         "added": "2026-07-19",
         "release": "0.2.5",
         "file_key": "wiktionary_examples",
+        "preserve_id": True,
         "pretty": "Polish Wiktionary usage examples",
         "provenance": "Parsed directly from the official Wikimedia dump "
-                      "(plwiktionary-latest-pages-articles.xml.bz2); not routed "
-                      "through SpeakLeash. Usage-example sections of Polish-language "
-                      "entries extracted and grouped one document per headword.",
-        "license": "CC-BY-SA-3.0",
-        "license_spdx": "CC-BY-SA-3.0",
-        "traceable": "Wikimedia dumps explicitly released under CC-BY-SA 3.0; "
-                     "attribution to contributors + share-alike preserved. "
-                     "Derived subset: usage-example sections from Polish-language "
-                     "entries only, grouped one document per headword.",
-        "upstream": "https://dumps.wikimedia.org/plwiktionary/latest/",
+                      "plwiktionary-20261001-pages-articles.xml.bz2 by "
+                      "src/fetch_wiktionary_examples.py; not routed through SpeakLeash. "
+                      "Usage-example sections of Polish-language entries, one document "
+                      "per headword, id from the page id.",
+        "legal_note": "Quotations from third-party works are dropped: lines citing a source "
+                      "with {{źródło}} or <ref>, lines naming one by hand (\"(B. Prus: "
+                      "Lalka)\", \"(z Internetu)\") and excerpts marked \"(…)\". They are "
+                      "used on Wiktionary under the quotation right (Art. 29) and are not "
+                      "the contributors' CC BY-SA text. Unattributed quotations a contributor "
+                      "pasted without any marker cannot be detected.",
+        "license": "CC-BY-SA-4.0",
+        "license_spdx": "CC-BY-SA-4.0",
+        "traceable": "Contributors license their text under CC BY-SA 4.0 (Wikimedia Terms "
+                     "of Use, June 2023; pl.wiktionary footer). Revisions before that were "
+                     "contributed under CC BY-SA 3.0, which allows an adaptation under a "
+                     "later version (3.0 §4(b)). Each row's author field links its page, "
+                     "whose history names the contributors (4.0 §3(a)(2)).",
+        "upstream": "https://dumps.wikimedia.org/plwiktionary/20261001/",
         "domain": "lexicographic",
-        "created": "2004-03-22, 2026-08-15",
+        "created": "2004-03-22, 2026-10-01",
         "is_ocr": False,
     },
     "eurlex": {

src/test_wiktionary_examples.py

@@ -0,0 +1,156 @@
+"""Cited usage examples are third-party quotations and must not reach the corpus."""
+
+from fetch_wiktionary_examples import examples_and_citations
+
+SECTION = """{{znaczenia}}
+''rzeczownik''
+: (1.1) [[dom]]
+{{przykłady}}
+: (1.1) Kupiliśmy '''dom''' pod miastem.
+: (1.1) ''Dom stał na wzgórzu.'' {{źródło|autor=Bolesław Prus|tytuł=Lalka|rok=1890}}
+: (1.2) Wróciłem do domu późno.<ref>Narodowy Korpus Języka Polskiego</ref>
+: (1.2) Nasz '''dom''' ma ogród. {{zrodlo|autor=Jan Nowak|tytuł={{kursywa|Ogrody}}}}
+: (1.3) To [[mieszkanie|mieszkanie]] jest jasne i ciche.
+{{składnia}}
+"""
+
+
+def test_cited_lines_are_dropped_and_recorded():
+    examples, citations, dropped = examples_and_citations(SECTION)
+    assert examples == ["Kupiliśmy dom pod miastem.", "To mieszkanie jest jasne i ciche."]
+    assert dropped == 3
+    assert "Bolesław Prus | Lalka | 1890" in citations
+    assert any(c.startswith("Jan Nowak") for c in citations)
+    assert "Narodowy Korpus Języka Polskiego" in citations
+
+
+def test_every_ref_shape_leaves_a_record():
+    section = """{{przykłady}}
+: (1.1) Pies szczeka.<ref name="nkjp" />
+: (1.2) Kot śpi.<ref name=prus>{{źródło|autor=Bolesław Prus|tytuł=Lalka}}</ref>
+: (1.3) Ptak śpiewa.<REF>[[NKJP]], 2001</REF>
+: (1.4) Ryba pływa.<ref></ref>
+: (1.5) Koń biegnie.<ref>{{NKJP|autorzy=Andrzej Sapkowski|tytuł_pub=Chrzest ognia|data=1996|hash=3eeeb574}}</ref>
+: (1.6) Mysz piszczy.<ref>{{cytuj stronę | autor = Jan Kowal | url = https://example.pl/a }}</ref>
+: (1.7) Wół ryczy.<ref>{{zWikiprojektu|Wikipedia|Wół}}</ref>
+"""
+    examples, citations, dropped = examples_and_citations(section)
+    assert (examples, dropped) == ([], 7)
+    assert citations == sorted({'<ref name="nkjp"/>', "Bolesław Prus | Lalka", "NKJP, 2001",
+                                "(no source text)", "Andrzej Sapkowski | Chrzest ognia | 1996",
+                                "Jan Kowal | https://example.pl/a", "{{zWikiprojektu}}"})
+
+
+def test_section_without_examples():
+    assert examples_and_citations("{{znaczenia}}\n: (1.1) dom\n") == ([], [], 0)
+
+
+import pytest
+
+from fetch_wiktionary_examples import clean, hand_attribution
+
+# Shapes taken from the plwiktionary 20261001 dump (sentences shortened).
+QUOTED = [
+    ("Podłoże trasy stanowiła błotnista glajda. (z Internetu)", "(z Internetu)"),
+    ("Graficy trochę bardziej poszaleli. (Z internetu)", "(Z internetu)"),
+    ("Za pokojem orędował Piotr Włostowic (Wikipedia)", "(Wikipedia)"),
+    ("Obraz przedstawia cztery dziewczęta. (z Wikipedii)", "(z Wikipedii)"),
+    ("Zbiornik wody rosły mury budynków. (B. Prus: Emancypantki)", "(B. Prus: Emancypantki)"),
+    ("Żyła lat pięć z mężem. (J. I. Kraszewski: Ulana)", "(J. I. Kraszewski: Ulana)"),
+    ("Czesz się, Jerzy, jak należy! (J. Brzechwa: Grzebień i szczotka)", "(J. Brzechwa: Grzebień i szczotka)"),
+    ("Wrona gdzieniegdzie kracze. (Adam Mickiewicz)", "(Adam Mickiewicz)"),
+    ("Rozmiary piwnic miały być wielkie. (K. Grzybowski)", "(K. Grzybowski)"),
+    ("Ma pani wszystkich w domu? (Kogel-mogel)", "(Kogel-mogel)"),
+    ("To leśniczówka Pranie. (W leśniczówce Konstanty Ildefons Gałczyński)",
+     "(W leśniczówce Konstanty Ildefons Gałczyński)"),
+    ("Idź pan w chuj z takim żartem! (Kaliber 44: \"Litery\")", "(Kaliber 44: \"Litery\")"),
+    ("Pójdźcie za Mną, a uczynię was rybakami ludzi (Mt 4:19)", "(Mt 4:19)"),
+    ("Zła się nie ulęknę, bo Ty jesteś ze mną. (Ps 23, 4)", "(Ps 23, 4)"),
+    ("Do pogrążenia narodu w ciemnocie (Tadeusz Boy-Żeleński: \"Dziewice\").", "(Tadeusz Boy-Żeleński: \"Dziewice\")"),
+    ("Zobaczyli wywiad dla „Gazety Polskiej”. (Onet.pl)", "(Onet.pl)"),
+    ("Wiersz o Odyseuszu. (z Odysei)", "(z Odysei)"),
+    ("Ale nas zbaw ode złego (słowa modlitwy Ojcze Nasz)", "(słowa modlitwy Ojcze Nasz)"),
+    ("Kiedy przyszła, powiedziała to. (źródło)", "(źródło)"),
+    ("Uliczka Krakowa z wiersza Gałczyńskiego. Internet", "Internet"),
+    ("Na płycie znalazły się utwory Lindy […] Wikipedia", "Wikipedia"),
+    ("(…) potem pójdziemy 5 kilometrów na południe (…)", "(…)"),
+    ("Na taką dolegliwość lekarze rozkładają ręce […] i tyle.", "[…]"),
+    ("Rząd przyznał priorytet technologii. [...] i dalej", "[...]"),
+]
+
+# Contributor glosses and in-sentence words that must survive.
+KEPT = [
+    "Kombinat ma dwie linie ciągłego odlewania stali (COS).",
+    "Rozpad ZSRR nastąpił w 1991 roku (ZSRR).",
+    "Jednostką jest kulomb na kilogram (C/kg).",
+    "Prawdopodobieństwo wynosi dziesięć procent (0,1).",
+    "Spokojniej proszę (od spokojnie).",
+    "Muszę jeszcze ugotować obiad (= Muszę jeszcze ugotować obiad.)",
+    "Każdy owoc pasuje (z wyjątkiem mleka kokosowego).",
+    "Stosuje się do tego regułę (z alternacją ch:sz).",
+    "Wszystkie te informacje pochodzą z Internetu.",
+    "Polska Wikipedia powstała 26 września 2001 roku.",
+    "Memy internetowe wykorzystuje się w reklamie.",
+    "Jaja jako bogate źródło substancji odżywczych są podstawą wielu potraw.",
+    "Mikołaj Kopernik był wybitnym astronomem (twierdzenie Ptolemeusza)",
+    "Ile to kosztuje? Cztery złocisze.",
+    "Bank miał siedzibę przy alei 1 Maja (ob. al. Piłsudskiego).",
+    "Hans Klawincker (fl. 1586-1635 w Norymberdze)",
+    "Mój przyjaciel mieszka w Bielsku-Białej (nie: Bielsko-Białej).",
+]
+
+
+@pytest.mark.parametrize("sentence,source", QUOTED)
+def test_hand_written_source_marks_a_quotation(sentence, source):
+    assert hand_attribution(sentence) == source
+
+
+@pytest.mark.parametrize("sentence", KEPT)
+def test_glosses_are_not_attributions(sentence):
+    assert hand_attribution(sentence) is None
+
+
+def test_hand_attributed_lines_are_dropped_and_recorded():
+    section = """{{przykłady}}
+: (1.1) Kupiliśmy '''dom''' pod miastem.
+: (1.1) Dom stał na wzgórzu. ([[Bolesław Prus|B. Prus]]: ''Lalka'')
+: (1.2) Nasz dom ma ogród (…)
+{{składnia}}
+"""
+    examples, citations, dropped = examples_and_citations(section)
+    assert examples == ["Kupiliśmy dom pod miastem."]
+    assert dropped == 2
+    assert citations == ["(B. Prus: Lalka)", "(…)"]
+
+
+def test_inline_template_does_not_end_the_examples_block():
+    section = """{{przykłady}}
+: (1.1) ''Dziesięć małych Murzyniątek.'' (A. Christie: ''Dziesięciu Murzynków'', {{tłum}} Włodzimierz Lewik)
+: (1.2) Kupiliśmy '''dom''' pod miastem.
+{{składnia}}
+: (1.1) To nie jest przykład, tylko składnia.
+"""
+    examples, citations, dropped = examples_and_citations(section)
+    assert examples == ["Kupiliśmy dom pod miastem."]
+    assert dropped == 1
+    assert citations == ["(A. Christie: Dziesięciu Murzynków, Włodzimierz Lewik)"]
+
+
+def test_clean_separates_br_and_drops_empty_parens():
+    assert clean("na wzgórzu<br />to leśniczówka") == "na wzgórzu to leśniczówka"
+    assert clean("() Holdek ciepnył bala z autu.") == "Holdek ciepnył bala z autu."
+
+
+def test_page_id_title_and_credit(tmp_path):
+    import bz2
+
+    from fetch_wiktionary_examples import credit, iter_pages
+
+    dump = tmp_path / "dump.xml.bz2"
+    dump.write_bytes(bz2.compress("""<mediawiki xmlns="http://www.mediawiki.org/xml/export-0.11/">
+<page><title>wielki piec</title><ns>0</ns><id>42</id>
+<revision><id>9001</id><text>== wielki piec ({{język polski}}) ==</text></revision></page>
+</mediawiki>""".encode("utf-8")))
+    assert list(iter_pages(dump)) == [("0", "42", "wielki piec", "== wielki piec ({{język polski}}) ==")]
+    assert credit("wielki piec") == "Wikisłownik contributors, https://pl.wiktionary.org/wiki/wielki_piec"
+    assert credit("żółw") == "Wikisłownik contributors, https://pl.wiktionary.org/wiki/%C5%BC%C3%B3%C5%82w"

src/test_wiktionary_examples_contract.py

@@ -0,0 +1,58 @@
+"""Contract checks for the released wiktionary_examples data (src/fetch_wiktionary_examples.py)."""
+
+import json
+import re
+from pathlib import Path
+
+import pyarrow.parquet as pq
+
+from fetch_wiktionary_examples import LICENSE, PAGE_URL, hand_attribution
+from sources import SOURCES
+
+ROOT = Path(__file__).resolve().parents[1]
+DATA = ROOT / "data" / "wiktionary_examples"
+
+
+def test_schema_counts_license_and_attribution():
+    stats = json.loads((DATA / "wiktionary_examples.stats.json").read_text(encoding="utf-8"))
+    evidence = json.loads((DATA / "wiktionary_examples.license-evidence.json").read_text(encoding="utf-8"))
+    table = pq.read_table(DATA / "wiktionary_examples.parquet")
+    rows = table.select(["id", "source", "license", "author"]).to_pylist()
+    entry = SOURCES["wiktionary_examples"]
+    assert table.column_names == ["id", "text", "source", "added", "created", "token_count", "license", "author"]
+    assert table.num_rows == stats["kept"] == evidence["release_scope"]["documents_released"]
+    assert stats["read"] == evidence["release_scope"]["documents_200_chars_or_more"]
+    assert stats["drop_dup"] == evidence["release_scope"]["dropped_duplicates"]
+    assert len({r["id"] for r in rows}) == table.num_rows
+    assert all(re.fullmatch(r"wiktionary_examples_\d+", r["id"]) for r in rows)
+    assert {r["source"] for r in rows} == {"wiktionary_examples"}
+    assert {r["license"] for r in rows} == {LICENSE} == {entry["license"]} == {entry["license_spdx"]} == {evidence["license"]}
+    assert stats["licenses"] == {LICENSE: table.num_rows}
+    assert entry["preserve_id"] is True
+    assert all(r["author"].startswith(f"Wikisłownik contributors, {PAGE_URL}") for r in rows)
+
+
+def test_no_quotation_reached_the_release():
+    for text in pq.read_table(DATA / "wiktionary_examples.parquet", columns=["text"]).column("text").to_pylist():
+        assert len(text) >= 200
+        assert "<ref" not in text.lower() and "{{" not in text
+        for line in text.split("\n"):
+            assert hand_attribution(line) is None, line
+
+
+def test_quotation_sample_matches_the_release():
+    """The web sample must be redrawn if the released lines change."""
+    import random
+    from collections import Counter
+
+    sample = json.loads((DATA / "wiktionary_examples.license-evidence.json").read_text(encoding="utf-8"))["quotation_sample"]
+    rows = [json.loads(line) for line in (DATA / sample["file"]).read_text(encoding="utf-8").splitlines()]
+    table = pq.read_table(DATA / "wiktionary_examples.parquet", columns=["id", "text"]).to_pylist()
+    lines = [(r["id"], line) for r in table for line in r["text"].split("\n") if line.strip()]
+    random.seed(sample["seed"])
+    assert len(lines) == sample["lines_in_release"]
+    assert [(r["id"], r["line"]) for r in rows] == random.sample(lines, sample["lines_sampled"])
+    assert [r["n"] for r in rows] == list(range(1, sample["lines_sampled"] + 1))
+    assert all(len(r["queries"]) >= 1 for r in rows)
+    assert dict(Counter(r["class"] for r in rows)) == sample["classes"]
+    assert "external" not in sample["classes"] and sample["quotations_found"] == 0