Datasets:

AI-Culture-Commons
/

ai-culture-multilingual-json-dolma

id stringlengths 2 48	text stringlengths 26 597k	source stringclasses 2 values	metadata dict	added timestamp[s]date 2025-08-09 19:01:23 2025-08-09 19:02:04
he/actualia50	התדרדרות הארץ העתיד של השמאל ביבי איננו האשם - הוא רק מאיץ תהליכי פירוק וסתירות פנימיות שהיו נטועים ביישות הציונית מלכתחילה. הוא לא הגורם אלא הקטליזטור. כיצד יראה המפץ הגדול של הימין והשמאל בישראל? בארץ-ישראל קמו שני עמים יהודיים, בה עוצבה דמותם הרוחנית, הדתית והמדינית מאת: אני אני משמע אני אני מה יקח עמו השמאל לגל...	hitdarderut-haaretz	{ "language": "he", "title": "העתיד של השמאל - אקטואליה אלטרנטיבית - התדרדרות הארץ", "url": "https://hitdarderut-haaretz.org/actualia50", "translation_of": "", "source_format": "html", "domain": "commentary", "license": "CC-BY-4.0", "word_count": 983, "char_count": 5775, "sha256": "9fe693abf657bc6b3...	2025-08-09T19:01:23
he/filosofia19	התדרדרות הארץ שלושה כיוונים בפילוסופיה ספקולטיבית אלו שינויים יתחוללו בפילוסופיה בעידן הפוסט-אנושי? כיצד יכולה המהפכה המינית להשפיע בעתיד על התפתחות הפילוסופיה? וכיצד יכולה להיראות פילוסופיה שבה העתיד הוא מושג הבסיס שממנו נגזרת כל שאר הפילוסופיה? שלושה תרגילים שפותחים את המחברת השנייה של הפילוסוף מספר אחת בנתניה ומאת...	hitdarderut-haaretz	{ "language": "he", "title": "שלושה כיוונים בפילוסופיה ספקולטיבית - פילוסופיה של העתיד - התדרדרות הארץ", "url": "https://hitdarderut-haaretz.org/filosofia19", "translation_of": "", "source_format": "html", "domain": "philosophy", "license": "CC-BY-4.0", "word_count": 1645, "char_count": 9692, "sha25...	2025-08-09T19:01:23
he/actualia24	התדרדרות הארץ ראיון עם גדול הפילוסופים החיים בנתניה: האדם כשוק הניצחון התודעתי של הקפיטליזם מצייר את פנים האדם כמערכת כלכלית-תחרותית. מערכות לומדות כגון האבולוציה והמוח מובנות כשוק חופשי בו הגברים מתחרים על הנשים והנוירונים בשכבה אחת מתחרים על הנוירונים בשכבה הבאה. באופן זה, התחרותיות במוח היא זו שיוצרת את הלמידה, כפ...	hitdarderut-haaretz	{ "language": "he", "title": "ראיון עם גדול הפילוסופים החיים בנתניה: האדם כשוק - אקטואליה אלטרנטיבית - התדרדרות הארץ", "url": "https://hitdarderut-haaretz.org/actualia24", "translation_of": "", "source_format": "html", "domain": "commentary", "license": "CC-BY-4.0", "word_count": 729, "char_count": 42...	2025-08-09T19:01:23
he/tarbut-vesifrut86	"התדרדרות הארץ\n\nפרומפטים פילוסופיים\n\nלכבוד: הבינה המל(...TRUNCATED)	hitdarderut-haaretz	{"language":"he","title":"פרומפטים פילוסופיים - תרבות וספרות - התדר(...TRUNCATED)	2025-08-09T19:01:23
he/tarbut-vesifrut10	"התדרדרות הארץ\n\nמקורו של הרגש הדתי\n\nלפני השינה נזכרתי (...TRUNCATED)	hitdarderut-haaretz	{"language":"he","title":"מקורו של הרגש הדתי - תרבות וספרות - התדרדר(...TRUNCATED)	2025-08-09T19:01:23
he/tarbut-vesifrut48	"התדרדרות הארץ\n\nפילוסופיית ההשקעה: על הפילוסופיה של הב(...TRUNCATED)	hitdarderut-haaretz	{"language":"he","title":"פילוסופיית ההשקעה: על הפילוסופיה של הבור(...TRUNCATED)	2025-08-09T19:01:23
he/igul-shachor68	"התדרדרות הארץ\n\nמורשת ●\n\nוהרופא רוכן ליד המיטה ואומר: (...TRUNCATED)	hitdarderut-haaretz	{"language":"he","title":"מורשת ● - חיי לילה - התדרדרות הארץ","url":"https(...TRUNCATED)	2025-08-09T19:01:23
he/igul-shachor10	"התדרדרות הארץ\n\nהרב יובל נח הררי\n\nהמאה השישית לפני הספ(...TRUNCATED)	hitdarderut-haaretz	{"language":"he","title":"הרב יובל נח הררי - חיי לילה - התדרדרות האר(...TRUNCATED)	2025-08-09T19:01:23
he/tarbut-vesifrut	"התדרדרות הארץ\n\nתרבות וספרות\nעורך: בלק בן ציפור\n\nפילו(...TRUNCATED)	hitdarderut-haaretz	{"language":"he","title":"תרבות וספרות - התדרדרות הארץ","url":"https://hitdar(...TRUNCATED)	2025-08-09T19:01:23
he/tarbut-vesifrut70	"התדרדרות הארץ\n\nהתגלה רובד נוסף בפילוסופיה של הלמידה\n\(...TRUNCATED)	hitdarderut-haaretz	{"language":"he","title":"התגלה רובד נוסף בפילוסופיה של הלמידה - תר(...TRUNCATED)	2025-08-09T19:01:23

End of preview. Expand in Data Studio

AI-Culture Multilingual JSON + DOLMA Corpus

16M words · 12 languages · CC-BY-4.0

The AI-Culture corpus contains 5K articles providing comprehensive philosophical and cultural content, exploring the intersection of technology, artificial intelligence, and human culture, perfectly aligned across 12 languages. All content maintains identical parallel structure across translations with zero duplication and editor-curated quality.

This project is maintained by a non-profit digital humanities team committed to advancing humane AI through meticulously curated, thoroughly clean cultural datasets.

Quick Start

from datasets import load_dataset

# DOLMA JSONL format
dolma_ds = load_dataset(
    "AI-Culture-Commons/ai-culture-multilingual-json-dolma",
    name="dolma",
    split="train"
)

# JSON format (one record per article)
json_ds = load_dataset(
    "AI-Culture-Commons/ai-culture-multilingual-json-dolma",
    name="json",
    split="train"
)

Dataset Overview

File	Format	Size	Documents	Words
`ai-culture.jsonl.gz`	DOLMA JSONL (gzipped)	66 MB	5K	16M
`ai-culture.json`	Plain JSON	254 MB	5K	16M

Languages

Perfect machine-validated alignment across 12 languages: English, French, German, Spanish, Portuguese, Italian, Japanese, Russian, Korean, Mandarin Chinese, Hindi, Hebrew.

Content Characteristics

All our datasets guarantee four core principles:

Extremely clean: All content is original, editor-curated text without any user comments, scraped texts, ads, tracking scripts, JavaScript, cookies, or unwanted noise. All source articles were produced by our editorial team and professionally edited.
Transparent process: Both clean text and original HTML source are preserved in all datasets, with full pipeline documentation (see below).
Free license: Clear free license - usage is free for any purpose including commercial use, with attribution required only when feasible.
Rich intellectual content: Long-form essays that foster philosophical reasoning, cultural awareness, and literary sensitivity in models. Our datasets provide models with deep philosophical-intellectual context and diverse connections between culture, philosophy, literature, and technology—particularly AI. The content curation is specifically designed to help train more intellectually critical and philosophically grounded AI models.

Data Schema

DOLMA Format Schema

The DOLMA file uses newline-delimited JSON with gzip compression, compatible with RedPajama/Dolma training pipelines:

{
  "id": "en/philosophy-of-learning81",
  "text": "The First Algorithmic Era...",
  "added": "2025-08-01T14:37:12Z",
  "source": "hitdarderut-haaretz",
  "metadata": {
    "language": "en",
    "title": "An Essay on the Fermi Paradox",
    "url": "https://degeneration-of-nation.org/en/philosophy-of-learning81",
    "translation_of": "https://hitdarderut-haaretz.org/filosofia81",
    "source_format": "html",
    "domain": "philosophy",
    "license": "CC-BY-4.0",
    "timestamp": "2025-07-15T00:00:00Z",
    "word_count": 1250,
    "char_count": 7500,
    "sha256": "a1b2c3d4...",
    "html_raw": "<!DOCTYPE html>..."
  }
}

JSON Format Schema

{
  "id": "string",          // e.g., "he/actualia6" or "en/alternative-commentary6"
  "language": "string",    // Language code
  "title": "string",       // Article title from HTML
  "content": "string",     // Full text content without HTML
  "html": "string",        // Complete HTML source
  "url": "string",         // URL of the translated content
  "original_url": "string" // URL of original content
}

Pipeline & Validation

The corpus was created with an open-source pipeline [GitHub link] that:

Processes files from local project directories (no web crawling required)
Extracts and processes content through a multi-stage pipeline:
- HTML files: Compacts HTML structure, extracts titles via BeautifulSoup, and converts body content to clean text using html2text with enhanced CJK character handling
- PDF files: Reads pre-converted TXT files from Word document sources that generated the PDFs
- Text processing: Removes control characters, normalizes Unicode (NFKC), handles bidirectional text spacing, and collapses excessive whitespace
Runs language-aware word counting (smart algorithms for Chinese/Japanese/Korean vs. space-separated languages) and assigns domain labels based on file paths
Generates:
- ai-culture.jsonl.gz – DOLMA-compatible newline-delimited JSON
- ai-culture.json – one compact record per article
Runs multi-layer integrity validation including dataset loading, structure verification, and sample inspection across all formats. Includes supplementary datasets library compatibility tests for Hugging Face Hub integration

All scripts include a zero-duplicate guarantee. We maintain machine-validated alignment between languages.

Our Websites & Licensing

Original Project: https://hitdarderut-haaretz.org - Cultural, philosophical, and literary analysis
- License Terms: CC-BY-4.0
Multicultural Project: https://degeneration-of-nation.org - Critical philosophical commentary
- License Terms: CC-BY-4.0

Citation

@dataset{ai_culture_json_dolma_2025,
  title  = {AI-Culture Multilingual JSON + DOLMA Corpus},
  author = {AI-Culture-Commons},
  year   = {2025},
  url    = {https://huggingface.co/datasets/AI-Culture-Commons/ai-culture-multilingual-json-dolma},
  license = {CC-BY-4.0},
  version = {1.0}
}

Downloads last month: 38