--- pretty_name: Wildlife Scraped license: other license_name: mixed-cc-and-public-domain language: - en - fr task_categories: - image-classification tags: - wildlife - animals - biology - zoology - inaturalist - train-valid-test-split size_categories: - 100K ![Images](https://img.shields.io/badge/Images-251%20236-blue) ![Labels](https://img.shields.io/badge/Labels-182-green) ![Sources](https://img.shields.io/badge/Sources-3-orange) ![Subsets](https://img.shields.io/badge/Subsets-4-yellow) ![Format](https://img.shields.io/badge/Format-parquet%20(HF%20datasets)-9cf) ![Task](https://img.shields.io/badge/Task-image--classification-purple) ![Project](https://img.shields.io/badge/Project-PRISM%20%C2%B7%20Horama-lightgrey) Jeu de données d'images d'animaux **multi-sources** (`inaturalist`, `wikimedia`, `ddg`) collecté pour le projet **PRISM** (Horama). **251 236 images** réparties sur **182 labels** (espèces, sous-espèces et quelques catégories domestiques). Des sous-ensembles curés par projet (`alpaga`, `porto`, `thoiry`, `wow`) sont fournis dans [`subsets/`](subsets/), chacun avec sa propre colonne `split`. Chaque shard parquet est une [feature `Image` HuggingFace](https://huggingface.co/docs/datasets/image_dataset) : les images se décodent directement en `PIL.Image` via `load_dataset`. Les annotations (label, licence, auteur, source, …) vivent dans les `metadata.csv` par source, joignables par `filename`. > ℹ️ Les `metadata.csv` canoniques décrivent **tout le pool collecté** par > source et **ne portent pas de colonne `split`**. Les découpages > train/valid/test sont définis dans les sous-ensembles curés > ([`subsets/`](subsets/)), voir [Subsets](#subsets). ## Sources | source | dossier | code | résolution | images | labels | |---|---|---|---|---:|---:| | inaturalist | `inaturalist/` | `ina` | medium (500 px) | 228 382 | 179 | | wikimedia | `wikimedia/` | `wkm` | medium (500 px) | 13 166 | 181 | | wikipedia | `wikipedia/` | `wkp` | medium (500 px) | 0 | 0 | | flickr | `flickr/` | `fli` | medium (500 px) | 0 | 0 | | ddg | `ddg/` | `ddg` | medium (500 px) | 9 688 | 26 | | **TOTAL** | | | | **251 236** | **182** | ### Filtrage - **iNaturalist** – seulement les annotations `Alive` (term 17 / value 18) ; grades de qualité `research`, `needs_id`, `casual` ; sauvage et captif conservés (consigné dans `inat_savage`). Tailles d'image restreintes à `small` (240 px) ou `medium` (500 px). - **Flickr / Wikimedia / Wikipedia / DDG** – filtre par mots-clés négatifs sur titre/URL (`dead`, `carcass`, `skull`, `bones`, `taxidermy`, `trophy`, `hunt`, `feces`, `dung`, `scat`, `slaughter`, `roadkill`, …). - **DDG + Wikipedia** – classification CLIP `alive vs not-alive` en ligne (`openai/clip-vit-base-patch32`) ; les URLs rejetées sont persistées dans `/rejected_urls/.csv` et ignorées aux exécutions suivantes. - **Filtre de pertinence** (post-hoc, `scraping.relevance_filter`) – passe CLIP espèce-consciente sur les shards déjà poussés : écarte les lignes échouant un seuil `alive` ou un seuil de pertinence-espèce. Les URLs écartées sont ajoutées à `/rejected_urls/post_filter.csv`. ## Subsets Sous-ensembles curés par projet, regroupés dans [`subsets/`](subsets/). Chacun fournit un `training.csv` (schéma identique aux `metadata.csv`, **plus une colonne `split`** train/valid/test), les `metadata.csv` par source restreints au projet (`_metadata.csv`), et selon le projet un `labels.json` (liste de classes) et un `test.csv` (jeu de test enrichi détection : `n_boxes`, `top_score`). | subset | dossier | images | labels | train | valid | test | extras | |---|---|---:|---:|---:|---:|---:|---| | `alpaga` | [`subsets/alpaga/`](subsets/alpaga/) | 2 081 | 2 | 1 663 | 209 | 209 | — | | `porto` | [`subsets/porto/`](subsets/porto/) | 112 948 | 92 | 92 155 | 9 863 | 10 930 | `labels.json`, `test.csv` | | `thoiry` | [`subsets/thoiry/`](subsets/thoiry/) | 146 742 | 122 | 120 233 | 12 528 | 13 981 | `labels.json`, `test.csv` | | `wow` | [`subsets/wow/`](subsets/wow/) | 27 170 | 182 | 22 211 | 2 371 | 2 588 | — | Certains labels sont **exclusifs au sous-ensemble `porto`** (absents de `subsets/thoiry/labels.json`) : `aigle_royal`, `ane_miranda`, `buffle_eau_asiatique`, `cerf_philippines`, `cochon_vietnamien`, `faisan_dore`, `girafe`, `iguane_vert`, `lapin_domestique`, `macaque_ours`, `nyala`, `pigeon_couronne_occidental`, `tamarin_empereur`, `vautour_charognard`. La liste complète de chaque projet est dans son `labels.json`. ## Distribution des labels Comptage par label et par source (sur les `metadata.csv` canoniques) :
Per-label image counts (182 labels, 251 236 images) – click to expand | label | specie | inaturalist | wikimedia | ddg | total | |---|---|---:|---:|---:|---:| | `girafe_kordofan` | `girafe` | 3189 | 112 | 374 | **3675** | | `eland_cap` | `eland` | 3404 | 164 | 0 | **3568** | | `colobe_guereza` | `colobe` | 3334 | 125 | 0 | **3459** | | `agouti_azara` | `agouti` | 3093 | 100 | 0 | **3193** | | `manchot_humboldt` | `manchot` | 3000 | 84 | 0 | **3084** | | `marabout_africain` | `marabout` | 3000 | 84 | 0 | **3084** | | `lynx_boreal` | `lynx` | 3000 | 79 | 0 | **3079** | | `lycaon` | `lycaon` | 3000 | 64 | 0 | **3064** | | `amazone_tete_jaune` | `amazone` | 3000 | 6 | 0 | **3006** | | `mouton_nain` | `mouton` | 2936 | 49 | 0 | **2985** | | `mara` | `mara` | 2408 | 160 | 0 | **2568** | | `hippotrague_noir` | `hippotrague` | 2345 | 174 | 0 | **2519** | | `maki_catta` | `maki` | 2358 | 158 | 0 | **2516** | | `tamarin_pinche` | `tamarin` | 2288 | 183 | 0 | **2471** | | `saki_face_blanche` | `saki` | 2206 | 123 | 0 | **2329** | | `patas` | `patas` | 2116 | 141 | 0 | **2257** | | `vautour_ruppell` | `vautour` | 2234 | 20 | 0 | **2254** | | `lynx_carpates` | `lynx` | 2057 | 64 | 0 | **2121** | | `saimiri_perou` | `saimiri` | 2034 | 68 | 0 | **2102** | | `lion_asiatique` | `lion` | 2000 | 96 | 0 | **2096** | | `grand_duc_siberie` | `grand_duc` | 2000 | 95 | 0 | **2095** | | `zebre_plaines` | `zebre` | 2000 | 93 | 0 | **2093** | | `hippopotame` | `hippopotame` | 2000 | 92 | 0 | **2092** | | `chien_prairie_queue_noire` | `chien_prairie` | 2000 | 87 | 0 | **2087** | | `flamant_nain` | `flamant` | 2000 | 87 | 0 | **2087** | | `chameau_bactriane` | `chameau` | 2000 | 86 | 0 | **2086** | | `perroquet_gris` | `perroquet` | 2000 | 86 | 0 | **2086** | | `ara_bleu_jaune` | `ara` | 2000 | 85 | 0 | **2085** | | `bison_amerique` | `bison` | 2018 | 67 | 0 | **2085** | | `canard_mandarin` | `canard` | 2000 | 83 | 0 | **2083** | | `nyala` | `nyala` | 2010 | 72 | 0 | **2082** | | `vautour_africain_dos_blanc` | `vautour` | 2000 | 81 | 0 | **2081** | | `capybara` | `capybara` | 2000 | 79 | 0 | **2079** | | `jabiru_senegal` | `jabiru` | 2000 | 78 | 0 | **2078** | | `anaconda_vert` | `anaconda` | 2000 | 76 | 0 | **2076** | | `grand_koudou` | `koudou` | 2000 | 74 | 0 | **2074** | | `buffle_eau_asiatique` | `buffle` | 2010 | 63 | 0 | **2073** | | `ara_hyacinthe` | `ara` | 2000 | 71 | 0 | **2071** | | `daim_europe` | `daim` | 2000 | 71 | 0 | **2071** | | `nandou_darwin` | `nandou` | 2000 | 71 | 0 | **2071** | | `dendrocygne_fauve` | `dendrocygne` | 2000 | 70 | 0 | **2070** | | `ane_commun` | `ane` | 2000 | 68 | 0 | **2068** | | `caiman_lunettes` | `caiman` | 2000 | 67 | 0 | **2067** | | `ara_rouge` | `ara` | 2000 | 61 | 0 | **2061** | | `lapin_geant_papillon` | `lapin` | 2000 | 50 | 0 | **2050** | | `muntjac_chine` | `muntjac` | 2000 | 49 | 0 | **2049** | | `boa_constricteur` | `boa` | 2000 | 46 | 0 | **2046** | | `chouette_effraie` | `chouette` | 2000 | 43 | 0 | **2043** | | `capucin_poitrine_blanche` | `capucin` | 2000 | 31 | 0 | **2031** | | `wallaby_marais` | `wallaby` | 2000 | 26 | 0 | **2026** | | `calao_terrestre` | `calao` | 2000 | 17 | 0 | **2017** | | `conure_mitree` | `conure` | 2000 | 8 | 0 | **2008** | | `ara_front_marron` | `ara` | 2000 | 6 | 0 | **2006** | | `dhole` | `dhole` | 1375 | 148 | 477 | **2000** | | `gnou_queue_blanche` | `gnou` | 1820 | 141 | 0 | **1961** | | `maki_vari_noir` | `maki` | 1840 | 104 | 0 | **1944** | | `casoar` | `casoar` | 1843 | 53 | 0 | **1896** | | `loutre_asie` | `loutre` | 1727 | 142 | 0 | **1869** | | `gazelle_perse` | `gazelle` | 1621 | 164 | 0 | **1785** | | `cariama_huppe` | `cariama` | 1688 | 76 | 0 | **1764** | | `mouton_somalie` | `mouton` | 1000 | 55 | 615 | **1670** | | `antilope_cervicapre` | `antilope` | 1485 | 70 | 0 | **1555** | | `calao_abyssinie` | `calao` | 1396 | 159 | 0 | **1555** | | `ouistiti_pygmee` | `ouistiti` | 1391 | 151 | 0 | **1542** | | `cacatoes_rosalbin` | `cacatoes` | 1465 | 75 | 0 | **1540** | | `macaque_tonkean` | `macaque` | 1213 | 99 | 223 | **1535** | | `cochon_laineux` | `cochon` | 1000 | 92 | 322 | **1414** | | `oryx_algazelle` | `oryx` | 1256 | 148 | 0 | **1404** | | `cacatoes_goffin` | `cacatoes` | 1261 | 10 | 0 | **1271** | | `tigre_siberie` | `tigre` | 1108 | 160 | 0 | **1268** | | `calopsitte` | `calopsitte` | 1127 | 81 | 0 | **1208** | | `ours_baribal` | `ours` | 1132 | 69 | 0 | **1201** | | `grue_couronnee_grise` | `grue` | 1134 | 60 | 0 | **1194** | | `mangabey_dore` | `mangabey` | 859 | 86 | 207 | **1152** | | `chien` | `chien` | 1000 | 110 | 0 | **1110** | | `watusi` | `watusi` | 1000 | 101 | 0 | **1101** | | `milan_noir` | `milan` | 1000 | 100 | 0 | **1100** | | `aigle_royal` | `aigle` | 1010 | 88 | 0 | **1098** | | `coyote` | `coyote` | 1000 | 95 | 0 | **1095** | | `faisan_dore` | `faisan` | 1010 | 84 | 0 | **1094** | | `vigogne` | `vigogne` | 1000 | 94 | 0 | **1094** | | `emeu` | `emeu` | 1000 | 86 | 0 | **1086** | | `vautour_fauve` | `vautour` | 1000 | 86 | 0 | **1086** | | `loriquet_arc_en_ciel` | `loriquet` | 1000 | 85 | 0 | **1085** | | `guepard` | `guepard` | 1000 | 83 | 0 | **1083** | | `renard_polaire` | `renard` | 1000 | 83 | 0 | **1083** | | `rhinoceros_blanc` | `rhinoceros` | 1000 | 81 | 0 | **1081** | | `urubu_tete_rouge` | `urubu` | 1000 | 81 | 0 | **1081** | | `chat` | `chat` | 1000 | 80 | 0 | **1080** | | `wallaby_bennett` | `wallaby` | 1000 | 79 | 0 | **1079** | | `amazone_front_jaune` | `amazone` | 1000 | 78 | 0 | **1078** | | `canard` | `canard` | 1000 | 78 | 0 | **1078** | | `oie_hawai` | `oie` | 1000 | 78 | 0 | **1078** | | `amazone_front_bleu` | `amazone` | 1000 | 76 | 0 | **1076** | | `autruche` | `autruche` | 1000 | 76 | 0 | **1076** | | `coati_nez_blanc` | `coati` | 1000 | 75 | 0 | **1075** | | `corbeau` | `corbeau` | 1000 | 73 | 0 | **1073** | | `oie` | `oie` | 1000 | 73 | 0 | **1073** | | `pecari_collier` | `pecari` | 1000 | 72 | 0 | **1072** | | `tortue_serpentine` | `tortue` | 1000 | 72 | 0 | **1072** | | `paon_bleu` | `paon` | 1000 | 70 | 0 | **1070** | | `raton_laveur` | `raton_laveur` | 1000 | 70 | 0 | **1070** | | `gnou_bleu` | `gnou` | 1000 | 69 | 0 | **1069** | | `iguane_vert` | `iguane` | 1010 | 59 | 0 | **1069** | | `moufette` | `moufette` | 1000 | 66 | 0 | **1066** | | `pelican_blanc` | `pelican` | 1000 | 64 | 0 | **1064** | | `cheval_comtois` | `cheval` | 1000 | 63 | 0 | **1063** | | `phacochere` | `phacochere` | 1000 | 63 | 0 | **1063** | | `hyene_tachetee` | `hyene` | 1000 | 60 | 0 | **1060** | | `lion_afrique` | `lion` | 1000 | 58 | 0 | **1058** | | `cobe_croissant` | `cobe` | 1000 | 56 | 0 | **1056** | | `elephant_afrique` | `elephant` | 1000 | 56 | 0 | **1056** | | `kangourou_roux` | `kangourou` | 1000 | 54 | 0 | **1054** | | `tortue_sillonnee` | `tortue` | 1000 | 54 | 0 | **1054** | | `pintade` | `pintade` | 1000 | 50 | 0 | **1050** | | `nandou` | `nandou` | 1000 | 48 | 0 | **1048** | | `python_royal` | `python` | 1000 | 45 | 0 | **1045** | | `lemur_noir` | `lemur` | 878 | 166 | 0 | **1044** | | `macaque_ours` | `macaque` | 986 | 56 | 0 | **1042** | | `vanneau_soldat` | `vanneau` | 1000 | 36 | 0 | **1036** | | `vautour_charognard` | `vautour` | 1010 | 25 | 0 | **1035** | | `colombine_turvert` | `colombine` | 1000 | 33 | 0 | **1033** | | `tortue_steppes` | `tortue` | 1000 | 28 | 0 | **1028** | | `fourmilier` | `fourmilier` | 939 | 81 | 0 | **1020** | | `pigeon_nicobar` | `pigeon` | 1000 | 19 | 0 | **1019** | | `pigeon_madagascar` | `pigeon` | 992 | 22 | 0 | **1014** | | `pie_bleue_bec_rouge` | `pie` | 1000 | 12 | 0 | **1012** | | `oryx_arabie` | `oryx` | 854 | 157 | 0 | **1011** | | `porc_epic_cap` | `porc_epic` | 1000 | 9 | 0 | **1009** | | `tortue_casque_africaine` | `tortue` | 1000 | 7 | 0 | **1007** | | `singe_araignee_face_noire` | `singe_araignee` | 1000 | 1 | 0 | **1001** | | `loup_criniere` | `loup_criniere` | 891 | 84 | 0 | **975** | | `dromadaire` | `dromadaire` | 871 | 77 | 0 | **948** | | `boeuf_ecosse` | `boeuf` | 0 | 59 | 868 | **927** | | `hapalemur_lac` | `hapalemur` | 918 | 2 | 0 | **920** | | `maki_vari_roux` | `maki` | 846 | 62 | 0 | **908** | | `tapir_terrestre` | `tapir` | 833 | 70 | 0 | **903** | | `amazone_aourou` | `amazone` | 840 | 38 | 0 | **878** | | `addax` | `addax` | 752 | 107 | 0 | **859** | | `bison_europe` | `bison` | 786 | 72 | 0 | **858** | | `tamarin_goeldi` | `tamarin` | 249 | 97 | 490 | **836** | | `panthere_neige` | `panthere` | 471 | 53 | 288 | **812** | | `titi_roux` | `titi` | 513 | 0 | 289 | **802** | | `loup_arctique` | `loup` | 298 | 94 | 396 | **788** | | `panthere_chine` | `panthere` | 526 | 16 | 246 | **788** | | `gorille_plaines` | `gorille` | 712 | 71 | 0 | **783** | | `grand_hocco` | `hocco` | 754 | 28 | 0 | **782** | | `zebre_chapman` | `zebre` | 696 | 76 | 0 | **772** | | `hippopotame_pygmee` | `hippopotame` | 691 | 79 | 0 | **770** | | `tamarin_roux` | `tamarin` | 667 | 102 | 0 | **769** | | `serval` | `serval` | 455 | 54 | 227 | **736** | | `grand_eclectus` | `eclectus` | 385 | 48 | 299 | **732** | | `springbok` | `springbok` | 647 | 71 | 0 | **718** | | `cobe_lechwe` | `cobe` | 627 | 86 | 0 | **713** | | `bongo` | `bongo` | 257 | 106 | 344 | **707** | | `sitatunga` | `sitatunga` | 324 | 96 | 286 | **706** | | `tamarin_empereur` | `tamarin` | 626 | 77 | 0 | **703** | | `chevre_anglo_nubienne` | `chevre` | 30 | 101 | 568 | **699** | | `loup_mackenzie` | `loup` | 352 | 60 | 285 | **697** | | `tamarin_lion` | `tamarin` | 409 | 10 | 276 | **695** | | `chevre_naine` | `chevre` | 0 | 50 | 637 | **687** | | `gibbon_bonnet` | `gibbon` | 332 | 90 | 254 | **676** | | `panda_roux` | `panda` | 611 | 62 | 0 | **673** | | `cochon_d_inde` | `cochon` | 587 | 77 | 0 | **664** | | `lemur_ventre_rouge` | `lemur` | 640 | 22 | 0 | **662** | | `mouton_valachie` | `mouton` | 0 | 12 | 609 | **621** | | `perruche_patagonie` | `perruche` | 541 | 73 | 0 | **614** | | `ane_somalie` | `ane` | 190 | 101 | 317 | **608** | | `alpaga` | `alpaga` | 523 | 74 | 0 | **597** | | `chien_buisson` | `chien_buisson` | 243 | 132 | 212 | **587** | | `lemur_couronne` | `lemur` | 563 | 12 | 0 | **575** | | `cheval_przewalski` | `cheval` | 478 | 87 | 0 | **565** | | `ours_lunettes` | `ours` | 491 | 73 | 0 | **564** | | `suricate` | `suricate` | 478 | 73 | 0 | **551** | | `anoa` | `anoa` | 99 | 46 | 340 | **485** | | `muntjac_indien` | `muntjac` | 422 | 53 | 0 | **475** | | `pigeon_couronne_occidental` | `pigeon` | 427 | 45 | 0 | **472** | | `amazone_epaule_jaune` | `amazone` | 366 | 3 | 0 | **369** | | `gazelle_dama` | `gazelle` | 331 | 12 | 0 | **343** | | `hocco_daubenton` | `hocco` | 33 | 1 | 239 | **273** | | `cerf_philippines` | `cerf` | 121 | 2 | 0 | **123** | | `ane_miranda` | `ane` | 10 | 10 | 0 | **20** | | **TOTAL** | | 228382 | 13166 | 9688 | **251236** |
Distribution très déséquilibrée — prévoir un échantillonnage pondéré ou une loss balancée côté entraînement, voire un regroupement des classes rares selon la tâche. ## Licences La licence par image est conservée telle quelle dans la colonne `licence` pour pouvoir filtrer / partitionner le dataset (recherche vs production). | licence | images | part | |---|---:|---:| | `cc-by-nc` | 133 290 | 53.1 % | | `unknown` | 62 581 | 24.9 % | | `cc-by` | 23 965 | 9.5 % | | `cc0` | 6 900 | 2.7 % | | `CC BY-SA 4.0` | 4 795 | 1.9 % | | `cc-by-nc-nd` | 4 572 | 1.8 % | | `cc-by-nc-sa` | 4 129 | 1.6 % | | `cc-by-sa` | 2 164 | 0.9 % | | `CC BY-SA 3.0` | 2 037 | 0.8 % | | `CC BY-SA 2.0` | 1 633 | 0.6 % | | `CC BY 2.0` | 1 207 | 0.5 % | | `Public domain` | 1 021 | 0.4 % | | `CC BY 4.0` | 839 | 0.3 % | | `CC0` | 714 | 0.3 % | | `cc-by-nd` | 469 | 0.2 % | | `CC BY 3.0` | 340 | 0.1 % | | `FAL` | 191 | 0.1 % | | `CC BY-SA 2.5` | 95 | 0.0 % | | `No restrictions` | 70 | 0.0 % | | `CC BY 2.5` | 45 | 0.0 % | | `Attribution` | 43 | 0.0 % | | `GFDL 1.2` | 32 | 0.0 % | | `CC BY-SA 2.0 de` | 18 | 0.0 % | | `GODL-India` | 17 | 0.0 % | | `CC BY-SA 3.0 de` | 13 | 0.0 % | | `CC BY-SA 3.0 es` | 8 | 0.0 % | | `CC BY-SA 3.0 ch` | 7 | 0.0 % | | `CC BY-SA 2.0 fr` | 5 | 0.0 % | | `CC BY 2.5 dk` | 4 | 0.0 % | | `CC BY-SA 2.5 br` | 3 | 0.0 % | | `ODbL` | 3 | 0.0 % | | `CC BY 3.0 us` | 3 | 0.0 % | | `Public Domain` | 2 | 0.0 % | | `CC BY-SA 2.5 ch` | 2 | 0.0 % | | `GFDL` | 2 | 0.0 % | | `GPL` | 2 | 0.0 % | | `CC SA 1.0` | 2 | 0.0 % | | `CC BY-SA` | 2 | 0.0 % | | `Copyrighted free use` | 2 | 0.0 % | | `CC BY 2.0 fr` | 2 | 0.0 % | | `CC BY 3.0 nl` | 1 | 0.0 % | | `CC BY-SA 2.5 ca` | 1 | 0.0 % | | `CC BY 2.5 au` | 1 | 0.0 % | | `CC BY-SA 2.5 au` | 1 | 0.0 % | | `CC BY-SA 2.5 in` | 1 | 0.0 % | | `CC BY 2.0 de` | 1 | 0.0 % | | `CC BY-SA 1.0` | 1 | 0.0 % | | Valeurs courantes | Autorisé pour | |---|---| | `CC0`, `Public Domain Mark 1.0`, `No known copyright restrictions`, `US Government Work` | tout (y compris commercial) | | `CC BY`, `CC BY-SA` | tout avec attribution | | `CC BY-NC`, `CC BY-NC-SA`, `CC BY-NC-ND`, `cc-by-nc` | recherche uniquement | | `unknown` (DDG) | recherche uniquement, attribution indéterminée | ## Arborescence ``` Horama/wow_scraped/ ├── inaturalist/ │ ├── 0-000.parquet … 3-NNN.parquet # shards images (HF Image feature) │ ├── metadata.csv # metadata canonique consolidée (pool complet) │ ├── metadata/ # metadata brute par shard │ └── rejected_urls/ # URLs écartées par les filtres ├── wikimedia/ … # même structure ├── ddg/ … # même structure ├── detection/ # couche détection (bounding boxes) │ ├── wow_scraped_wow_bboxes.json # annotations COCO complètes │ ├── wow_scraped_wow_bboxes.csv # résumé à plat (1 ligne / image) │ └── verify/ # échantillons de contrôle (avec / sans boîtes) ├── subsets/ # sous-ensembles curés par projet │ ├── alpaga/ │ │ ├── training.csv # subset consolidé (+ colonne split) │ │ └── {inaturalist,wikimedia,ddg}_metadata.csv │ ├── porto/ … (+ labels.json, test.csv) │ ├── thoiry/ … (+ labels.json, test.csv) │ └── wow/ … ├── generate_readme.py # régénère les sections AUTOGEN ci-dessus └── README.md ``` ## Schéma Chaque shard parquet : ``` image: struct # HF Image feature filename: string # src3_VV_W_NNNNNN.ext (ex. ina_00_3_000042.jpg) label: string # label canonique (ex. loup_arctique) specie: string # groupe plus large (ex. loup) sub_specie: string # = label (granularité fine) src: string # inaturalist | wikimedia | wikipedia | flickr | ddg licence: string # CC0, CC-BY, ..., unknown author: string url: string # URL source d'origine resolution: string # "WxH" inat_obs: string # id observation iNaturalist (autres sources : "") location: string # "lat,lon" si disponible, sinon "" inat_quality: string # research | needs_id | casual (iNat uniquement) inat_savage: string # "savage" | "captive" (iNat uniquement) ``` Les `subsets//training.csv` reprennent ce schéma (hors `image`) **plus une colonne `split`** (`train` / `valid` / `test`). ## Chargement ```python from datasets import load_dataset # Tous les shards d'une source ds = load_dataset("Horama/wow_scraped", data_dir="inaturalist", split="train") print(ds[0]["image"]) # PIL.Image.Image print(ds[0]["label"], ds[0]["licence"]) # Un seul shard ds = load_dataset( "Horama/wow_scraped", data_files={"train": "inaturalist/0-000.parquet"}, split="train", ) ``` ### Filtrer par split Les splits ne vivent **pas** dans les parquets ni dans les `metadata.csv` canoniques — ils sont définis par projet dans `subsets//training.csv` (colonne `split`). On joint par `filename` : ```python import csv from datasets import load_dataset from huggingface_hub import hf_hub_download split_lookup = {} csv_path = hf_hub_download("Horama/wow_scraped", repo_type="dataset", filename="subsets/thoiry/training.csv") with open(csv_path) as f: for row in csv.DictReader(f): split_lookup[row["filename"]] = row["split"] ds = load_dataset("Horama/wow_scraped", data_dir="inaturalist", split="train") train = ds.filter(lambda r: split_lookup.get(r["filename"]) == "train") valid = ds.filter(lambda r: split_lookup.get(r["filename"]) == "valid") test = ds.filter(lambda r: split_lookup.get(r["filename"]) == "test") ``` Les observations iNaturalist sont gardées entières (aucun `inat_obs` réparti entre train/valid/test). ## Détection — bounding boxes Le dossier [`detection/`](detection/) fournit une couche d'annotation détection en plus de la classification, jointe par `filename` : - **`wow_scraped_wow_bboxes.json`** — annotations COCO complètes (une boîte par animal détecté). - **`wow_scraped_wow_bboxes.csv`** — résumé à plat (1 ligne / image) pour filtrer sans charger le JSON. - **`verify/`** — échantillons de contrôle visuel (images avec / sans boîtes, cas vides / manquants). ## Reproduire le dataset Le pipeline complet (workers, sharding, filtre alive, mailer) est dans [`Horama/WOW_dataset_creation`](https://github.com/Horama-ai/WOW_dataset_creation) sous `scraping/`. ## Régénérer ce README Les sections `` ci-dessus sont calculées à partir des données. Après toute modification d'un `metadata.csv` ou d'un `subsets/*/training.csv` : ```bash python generate_readme.py # met à jour README.md en place python generate_readme.py --check # CI : échoue si le README n'est pas à jour ``` Un hook `pre-commit` ([`.githooks/pre-commit`](.githooks/pre-commit), ou [`.pre-commit-config.yaml`](.pre-commit-config.yaml)) le fait automatiquement. Installation après clone : ```bash git config core.hooksPath .githooks ``` ## Citation Si vous utilisez ce dataset, créditez Horama et les contributeurs de chaque photo (voir les colonnes `licence` et `author`).