Datasets:

datajuicer
/

the-pile-europarl-refined-by-data-juicer

text stringlengths 181 164k	meta dict	stats dict	simhash float64 220,901,883B 18,200,550,899B
Uvádění biocidních přípravků na trh - Nový návrh revize týkající se biocidních přípravků (rozprava) Předsedající Dalším bodem je společná rozprava o následujících tématech: zpráva paní Sârbuové za Výbor pro životní prostředí, veřejné zdraví a bezpečnost potravin o návrhu směrnice Evropského parlamentu a Rady, kterou s...	{ "language": "cs" }	{ "alnum_ratio": 0.8336305396, "avg_line_length": 265.6315789474, "char_rep_ratio": 0.0676050753, "flagged_words_ratio": 0, "lang": "cs", "lang_score": 0.9996734858, "max_line_length": 992, "num_words": 7368, "perplexity": 2924, "special_char_ratio": 0.1717191731, "text_len": 15141, "word_rep_ra...	15,510,335,916,612,820,000
Přivítání Předsedající - Vážení kolegové, je mi potěšením sdělit vám, že v rámci meziparlamentních setkání uskutečňuje v těchto dnech delegace marockého parlamentu, kterou vedou předseda sněmovny zastupitelů pan Abd al-Wáhid Rádí a předseda sněmovny poradců pan Muhammad Šajch Biadulláh, pracovní návštěvu Evropského par...	{ "language": "cs" }	{ "alnum_ratio": 0.8451507742, "avg_line_length": 306.75, "char_rep_ratio": 0.078817734, "flagged_words_ratio": 0, "lang": "cs", "lang_score": 0.9996955991, "max_line_length": 692, "num_words": 591, "perplexity": 1710.1, "special_char_ratio": 0.1548492258, "text_len": 1227, "word_rep_ratio": 0.0...	8,672,487,585,648,354,000
Přenesení zákonodárné pravomoci (rozprava) Předsedající Dalším bodem je zpráva, kterou předkládá pan Szájer jménem Výboru pro právní záležitosti o přenesení zákonodárné pravomoci -. József Szájer zpravodaj. - (HU) Paní předsedající, pane Šefčoviči, mnoho řečníků zahajuje své vystoupení v Parlamentu prohlášením, že jej...	{ "language": "cs" }	{ "alnum_ratio": 0.8284924499, "avg_line_length": 361.7611940299, "char_rep_ratio": 0.0607123695, "flagged_words_ratio": 0, "lang": "cs", "lang_score": 0.9987508059, "max_line_length": 1701, "num_words": 11265, "perplexity": 3251.5, "special_char_ratio": 0.1739004868, "text_len": 24238, "word_re...	10,146,891,711,146,200,000
Společný systém daně z přidané hodnoty, pokud jde o trvání povinnosti dodržovat minimální základní sazbu (rozprava) Předsedající Dalším bodem je zpráva pana Casy, jménem Hospodářského a měnového výboru, týkající se návrhu směrnice Rady, kterou se mění směrnice 2006/112/ES o společném systému daně z přidané hodnoty, po...	{ "language": "cs" }	{ "alnum_ratio": 0.8274190541, "avg_line_length": 282.298245614, "char_rep_ratio": 0.0427807487, "flagged_words_ratio": 0, "lang": "cs", "lang_score": 0.9993186593, "max_line_length": 956, "num_words": 7736, "perplexity": 3091.4, "special_char_ratio": 0.177987695, "text_len": 16091, "word_rep_ra...	10,330,432,647,293,256,000
Analýza možností snížení emisí skleníkových plynů o více než 20 % a vyhodnocení rizika úniku uhlíku (krátké přednesení) Předsedající Dalším bodem je zpráva pana kolegy Base Eickhouta za Výbor pro životní prostředí, veřejné zdraví a bezpečnost potravin o analýze možností snížení emisí skleníkových plynů o více než 20 %...	{ "language": "cs" }	{ "alnum_ratio": 0.8255671784, "avg_line_length": 392.5866666667, "char_rep_ratio": 0.0494649227, "flagged_words_ratio": 0, "lang": "cs", "lang_score": 0.9988247752, "max_line_length": 1784, "num_words": 13859, "perplexity": 3030.1, "special_char_ratio": 0.1833650319, "text_len": 29444, "word_re...	15,625,480,466,556,066,000
Mimořádné autonomní obchodní preference pro Pákistán (rozprava) Předsedající Dalším bodem je zpráva pana Vitala Moreiry, jménem Výboru pro mezinárodní obchod, o návrhu nařízení Evropského parlamentu a Rady o zavedení mimořádných autonomních obchodních preferencí pro Pákistán - C7-0322/2010 -. Vital Moreira Paní předse...	{ "language": "cs" }	{ "alnum_ratio": 0.8286763661, "avg_line_length": 328.54, "char_rep_ratio": 0.0541889917, "flagged_words_ratio": 0, "lang": "cs", "lang_score": 0.9992747307, "max_line_length": 1349, "num_words": 23335, "perplexity": 3024.5, "special_char_ratio": 0.1725817252, "text_len": 49281, "word_rep_ratio"...	12,628,343,748,797,985,000
Evropský fond pro regionální rozvoj, Evropský sociální fond, Fond soudržnosti (projekty vytvářející příjmy) (rozprava) Předsedající - Dalším bodem je zpráva pana Arnaoutakise jménem Výboru pro regionální rozvoj k návrhu nařízení Rady (ES), kterým se mění nařízení (ES) 1083/2006 o Evropském fondu pro regionální rozvoj, ...	{ "language": "cs" }	{ "alnum_ratio": 0.8362464248, "avg_line_length": 328.7611940299, "char_rep_ratio": 0.0621764011, "flagged_words_ratio": 0, "lang": "cs", "lang_score": 0.9997338057, "max_line_length": 1586, "num_words": 10367, "perplexity": 3079.2, "special_char_ratio": 0.1720615608, "text_len": 22027, "word_re...	733,202,368,664,720,500
"Řízení arktické oblasti v globalizovaném světě (rozprava)\nPředsedající\nDalším bodem j(...TRUNCATED)	{ "language": "cs" }	{"alnum_ratio":0.8276880985,"avg_line_length":290.0793650794,"char_rep_ratio":0.0392532574,"flagged_(...TRUNCATED)	4,735,332,864,528,290,000
"Situace v Pobřeží slonoviny\nPředsedající\nDalším bodem je prohlášení místopředsedkyn(...TRUNCATED)	{ "language": "cs" }	{"alnum_ratio":0.8270616493,"avg_line_length":289.2421052632,"char_rep_ratio":0.0605045688,"flagged_(...TRUNCATED)	8,952,699,337,017,131,000
"Systém protiraketové obrany USA (rozprava) \nPředseda\nDalší bod se týká prohlášení Rady (...TRUNCATED)	{ "language": "cs" }	{"alnum_ratio":0.8208852006,"avg_line_length":285.8372093023,"char_rep_ratio":0.0553452977,"flagged_(...TRUNCATED)	9,246,407,678,563,914,000

End of preview. Expand in Data Studio

The Pile -- EuroParl (refined by Data-Juicer)

A refined version of EuroParl dataset in The Pile by Data-Juicer. Removing some "bad" samples from the original dataset to make it higher-quality.

This dataset is usually used to pretrain a Large Language Model.

Notice: Here is a small subset for previewing. The whole dataset is available here (About 2.2GB).

Dataset Information

Number of samples: 61,601 (Keep ~88.23% from the original dataset)

Refining Recipe

# global parameters
# global parameters
project_name: 'Data-Juicer-recipes-EuroParl'
dataset_path: '/path/to/your/dataset'  # path to your dataset directory or file
export_path: '/path/to/your/dataset.jsonl'

np: 50  # number of subprocess to process your dataset
open_tracer: true

# process schedule
# a list of several process operators with their arguments
process:
  - clean_email_mapper:
  - clean_links_mapper:
  - fix_unicode_mapper:
  - punctuation_normalization_mapper:
  - whitespace_normalization_mapper:

  - alphanumeric_filter:
      tokenization: false
      min_ratio: 0.75  # <3sigma (0.779)
      max_ratio: 0.90 # >3sigma(0.878)
  - average_line_length_filter:  # for code
      max_len: 588  # 3sigma
  - character_repetition_filter:
      rep_len: 10
      max_ratio: 0.16  # >3sigma (0.114)
  - flagged_words_filter:
      lang: en
      tokenization: true
      max_ratio: 0.0007  # 3sigma
  - language_id_score_filter:
      min_score: 0.7
  - maximum_line_length_filter:  # for code
      max_len: 4000  # >3sigma (3104)
  - perplexity_filter:
      lang: en
      max_ppl:  7596 #(3sigma)
  - special_characters_filter:
      max_ratio: 0.3  # > 3sigma (0.243)
  - text_length_filter:
      max_len: 2e5
  - words_num_filter:
      tokenization: true
      min_num: 20
      max_num: 1e5  # 3sigma
  - word_repetition_filter:
      lang: en
      tokenization: true
      rep_len: 10
      max_ratio: 0.2  # > 3sigma (0.185)

  - document_simhash_deduplicator:
      tokenization: space
      window_size: 6
      lowercase: true
      ignore_pattern: '\p{P}'
      num_blocks: 6
      hamming_distance: 4

Downloads last month: 5

Models trained or fine-tuned on datajuicer/the-pile-europarl-refined-by-data-juicer