Horama/wildlife-scraped

Wildlife Scraped

Jeu de données d'images d'animaux multi-sources (inaturalist, wikimedia, ddg) collecté pour le projet PRISM (Horama). 251 236 images réparties sur 182 labels (espèces, sous-espèces et quelques catégories domestiques). Des sous-ensembles curés par projet (alpaga, porto, thoiry, wow) sont fournis dans subsets/, chacun avec sa propre colonne split.

Chaque shard parquet est une feature Image HuggingFace : les images se décodent directement en PIL.Image via load_dataset. Les annotations (label, licence, auteur, source, …) vivent dans les metadata.csv par source, joignables par filename.

ℹ️ Les metadata.csv canoniques décrivent tout le pool collecté par source et ne portent pas de colonne split. Les découpages train/valid/test sont définis dans les sous-ensembles curés (subsets/), voir Subsets.

Sources

source	dossier	code	résolution	images	labels
inaturalist	inaturalist/	ina	medium (500 px)	228 382	179
wikimedia	wikimedia/	wkm	medium (500 px)	13 166	181
wikipedia	wikipedia/	wkp	medium (500 px)	0	0
flickr	flickr/	fli	medium (500 px)	0	0
ddg	ddg/	ddg	medium (500 px)	9 688	26
TOTAL				251 236	182

Filtrage

• iNaturalist – seulement les annotations Alive (term 17 / value 18) ; grades de qualité research, needs_id, casual ; sauvage et captif conservés (consigné dans inat_savage). Tailles d'image restreintes à small (240 px) ou medium (500 px).
• Flickr / Wikimedia / Wikipedia / DDG – filtre par mots-clés négatifs sur titre/URL (dead, carcass, skull, bones, taxidermy, trophy, hunt, feces, dung, scat, slaughter, roadkill, …).
• DDG + Wikipedia – classification CLIP alive vs not-alive en ligne (openai/clip-vit-base-patch32) ; les URLs rejetées sont persistées dans <src>/rejected_urls/<worker>.csv et ignorées aux exécutions suivantes.
• Filtre de pertinence (post-hoc, scraping.relevance_filter) – passe CLIP espèce-consciente sur les shards déjà poussés : écarte les lignes échouant un seuil alive ou un seuil de pertinence-espèce. Les URLs écartées sont ajoutées à <src>/rejected_urls/post_filter.csv.

Subsets

Sous-ensembles curés par projet, regroupés dans subsets/. Chacun fournit un training.csv (schéma identique aux metadata.csv, plus une colonne split train/valid/test), les metadata.csv par source restreints au projet (<src>_metadata.csv), et selon le projet un labels.json (liste de classes) et un test.csv (jeu de test enrichi détection : n_boxes, top_score).

subset	dossier	images	labels	train	valid	test	extras
alpaga	subsets/alpaga/	2 081	2	1 663	209	209	—
porto	subsets/porto/	112 948	92	92 155	9 863	10 930	labels.json, test.csv
thoiry	subsets/thoiry/	146 742	122	120 233	12 528	13 981	labels.json, test.csv
wow	subsets/wow/	27 170	182	22 211	2 371	2 588	—

Certains labels sont exclusifs au sous-ensemble porto (absents de subsets/thoiry/labels.json) : aigle_royal, ane_miranda, buffle_eau_asiatique, cerf_philippines, cochon_vietnamien, faisan_dore, girafe, iguane_vert, lapin_domestique, macaque_ours, nyala, pigeon_couronne_occidental, tamarin_empereur, vautour_charognard. La liste complète de chaque projet est dans son labels.json.

Distribution des labels

Comptage par label et par source (sur les metadata.csv canoniques) :

Per-label image counts (182 labels, 251 236 images) – click to expand

label	specie	inaturalist	wikimedia	ddg	total
girafe_kordofan	girafe	3189	112	374	3675
eland_cap	eland	3404	164	0	3568
colobe_guereza	colobe	3334	125	0	3459
agouti_azara	agouti	3093	100	0	3193
manchot_humboldt	manchot	3000	84	0	3084
marabout_africain	marabout	3000	84	0	3084
lynx_boreal	lynx	3000	79	0	3079
lycaon	lycaon	3000	64	0	3064
amazone_tete_jaune	amazone	3000	6	0	3006
mouton_nain	mouton	2936	49	0	2985
mara	mara	2408	160	0	2568
hippotrague_noir	hippotrague	2345	174	0	2519
maki_catta	maki	2358	158	0	2516
tamarin_pinche	tamarin	2288	183	0	2471
saki_face_blanche	saki	2206	123	0	2329
patas	patas	2116	141	0	2257
vautour_ruppell	vautour	2234	20	0	2254
lynx_carpates	lynx	2057	64	0	2121
saimiri_perou	saimiri	2034	68	0	2102
lion_asiatique	lion	2000	96	0	2096
grand_duc_siberie	grand_duc	2000	95	0	2095
zebre_plaines	zebre	2000	93	0	2093
hippopotame	hippopotame	2000	92	0	2092
chien_prairie_queue_noire	chien_prairie	2000	87	0	2087
flamant_nain	flamant	2000	87	0	2087
chameau_bactriane	chameau	2000	86	0	2086
perroquet_gris	perroquet	2000	86	0	2086
ara_bleu_jaune	ara	2000	85	0	2085
bison_amerique	bison	2018	67	0	2085
canard_mandarin	canard	2000	83	0	2083
nyala	nyala	2010	72	0	2082
vautour_africain_dos_blanc	vautour	2000	81	0	2081
capybara	capybara	2000	79	0	2079
jabiru_senegal	jabiru	2000	78	0	2078
anaconda_vert	anaconda	2000	76	0	2076
grand_koudou	koudou	2000	74	0	2074
buffle_eau_asiatique	buffle	2010	63	0	2073
ara_hyacinthe	ara	2000	71	0	2071
daim_europe	daim	2000	71	0	2071
nandou_darwin	nandou	2000	71	0	2071
dendrocygne_fauve	dendrocygne	2000	70	0	2070
ane_commun	ane	2000	68	0	2068
caiman_lunettes	caiman	2000	67	0	2067
ara_rouge	ara	2000	61	0	2061
lapin_geant_papillon	lapin	2000	50	0	2050
muntjac_chine	muntjac	2000	49	0	2049
boa_constricteur	boa	2000	46	0	2046
chouette_effraie	chouette	2000	43	0	2043
capucin_poitrine_blanche	capucin	2000	31	0	2031
wallaby_marais	wallaby	2000	26	0	2026
calao_terrestre	calao	2000	17	0	2017
conure_mitree	conure	2000	8	0	2008
ara_front_marron	ara	2000	6	0	2006
dhole	dhole	1375	148	477	2000
gnou_queue_blanche	gnou	1820	141	0	1961
maki_vari_noir	maki	1840	104	0	1944
casoar	casoar	1843	53	0	1896
loutre_asie	loutre	1727	142	0	1869
gazelle_perse	gazelle	1621	164	0	1785
cariama_huppe	cariama	1688	76	0	1764
mouton_somalie	mouton	1000	55	615	1670
antilope_cervicapre	antilope	1485	70	0	1555
calao_abyssinie	calao	1396	159	0	1555
ouistiti_pygmee	ouistiti	1391	151	0	1542
cacatoes_rosalbin	cacatoes	1465	75	0	1540
macaque_tonkean	macaque	1213	99	223	1535
cochon_laineux	cochon	1000	92	322	1414
oryx_algazelle	oryx	1256	148	0	1404
cacatoes_goffin	cacatoes	1261	10	0	1271
tigre_siberie	tigre	1108	160	0	1268
calopsitte	calopsitte	1127	81	0	1208
ours_baribal	ours	1132	69	0	1201
grue_couronnee_grise	grue	1134	60	0	1194
mangabey_dore	mangabey	859	86	207	1152
chien	chien	1000	110	0	1110
watusi	watusi	1000	101	0	1101
milan_noir	milan	1000	100	0	1100
aigle_royal	aigle	1010	88	0	1098
coyote	coyote	1000	95	0	1095
faisan_dore	faisan	1010	84	0	1094
vigogne	vigogne	1000	94	0	1094
emeu	emeu	1000	86	0	1086
vautour_fauve	vautour	1000	86	0	1086
loriquet_arc_en_ciel	loriquet	1000	85	0	1085
guepard	guepard	1000	83	0	1083
renard_polaire	renard	1000	83	0	1083
rhinoceros_blanc	rhinoceros	1000	81	0	1081
urubu_tete_rouge	urubu	1000	81	0	1081
chat	chat	1000	80	0	1080
wallaby_bennett	wallaby	1000	79	0	1079
amazone_front_jaune	amazone	1000	78	0	1078
canard	canard	1000	78	0	1078
oie_hawai	oie	1000	78	0	1078
amazone_front_bleu	amazone	1000	76	0	1076
autruche	autruche	1000	76	0	1076
coati_nez_blanc	coati	1000	75	0	1075
corbeau	corbeau	1000	73	0	1073
oie	oie	1000	73	0	1073
pecari_collier	pecari	1000	72	0	1072
tortue_serpentine	tortue	1000	72	0	1072
paon_bleu	paon	1000	70	0	1070
raton_laveur	raton_laveur	1000	70	0	1070
gnou_bleu	gnou	1000	69	0	1069
iguane_vert	iguane	1010	59	0	1069
moufette	moufette	1000	66	0	1066
pelican_blanc	pelican	1000	64	0	1064
cheval_comtois	cheval	1000	63	0	1063
phacochere	phacochere	1000	63	0	1063
hyene_tachetee	hyene	1000	60	0	1060
lion_afrique	lion	1000	58	0	1058
cobe_croissant	cobe	1000	56	0	1056
elephant_afrique	elephant	1000	56	0	1056
kangourou_roux	kangourou	1000	54	0	1054
tortue_sillonnee	tortue	1000	54	0	1054
pintade	pintade	1000	50	0	1050
nandou	nandou	1000	48	0	1048
python_royal	python	1000	45	0	1045
lemur_noir	lemur	878	166	0	1044
macaque_ours	macaque	986	56	0	1042
vanneau_soldat	vanneau	1000	36	0	1036
vautour_charognard	vautour	1010	25	0	1035
colombine_turvert	colombine	1000	33	0	1033
tortue_steppes	tortue	1000	28	0	1028
fourmilier	fourmilier	939	81	0	1020
pigeon_nicobar	pigeon	1000	19	0	1019
pigeon_madagascar	pigeon	992	22	0	1014
pie_bleue_bec_rouge	pie	1000	12	0	1012
oryx_arabie	oryx	854	157	0	1011
porc_epic_cap	porc_epic	1000	9	0	1009
tortue_casque_africaine	tortue	1000	7	0	1007
singe_araignee_face_noire	singe_araignee	1000	1	0	1001
loup_criniere	loup_criniere	891	84	0	975
dromadaire	dromadaire	871	77	0	948
boeuf_ecosse	boeuf	0	59	868	927
hapalemur_lac	hapalemur	918	2	0	920
maki_vari_roux	maki	846	62	0	908
tapir_terrestre	tapir	833	70	0	903
amazone_aourou	amazone	840	38	0	878
addax	addax	752	107	0	859
bison_europe	bison	786	72	0	858
tamarin_goeldi	tamarin	249	97	490	836
panthere_neige	panthere	471	53	288	812
titi_roux	titi	513	0	289	802
loup_arctique	loup	298	94	396	788
panthere_chine	panthere	526	16	246	788
gorille_plaines	gorille	712	71	0	783
grand_hocco	hocco	754	28	0	782
zebre_chapman	zebre	696	76	0	772
hippopotame_pygmee	hippopotame	691	79	0	770
tamarin_roux	tamarin	667	102	0	769
serval	serval	455	54	227	736
grand_eclectus	eclectus	385	48	299	732
springbok	springbok	647	71	0	718
cobe_lechwe	cobe	627	86	0	713
bongo	bongo	257	106	344	707
sitatunga	sitatunga	324	96	286	706
tamarin_empereur	tamarin	626	77	0	703
chevre_anglo_nubienne	chevre	30	101	568	699
loup_mackenzie	loup	352	60	285	697
tamarin_lion	tamarin	409	10	276	695
chevre_naine	chevre	0	50	637	687
gibbon_bonnet	gibbon	332	90	254	676
panda_roux	panda	611	62	0	673
cochon_d_inde	cochon	587	77	0	664
lemur_ventre_rouge	lemur	640	22	0	662
mouton_valachie	mouton	0	12	609	621
perruche_patagonie	perruche	541	73	0	614
ane_somalie	ane	190	101	317	608
alpaga	alpaga	523	74	0	597
chien_buisson	chien_buisson	243	132	212	587
lemur_couronne	lemur	563	12	0	575
cheval_przewalski	cheval	478	87	0	565
ours_lunettes	ours	491	73	0	564
suricate	suricate	478	73	0	551
anoa	anoa	99	46	340	485
muntjac_indien	muntjac	422	53	0	475
pigeon_couronne_occidental	pigeon	427	45	0	472
amazone_epaule_jaune	amazone	366	3	0	369
gazelle_dama	gazelle	331	12	0	343
hocco_daubenton	hocco	33	1	239	273
cerf_philippines	cerf	121	2	0	123
ane_miranda	ane	10	10	0	20
TOTAL		228382	13166	9688	251236

Distribution très déséquilibrée — prévoir un échantillonnage pondéré ou une loss balancée côté entraînement, voire un regroupement des classes rares selon la tâche.

Licences

La licence par image est conservée telle quelle dans la colonne licence pour pouvoir filtrer / partitionner le dataset (recherche vs production).

licence	images	part
cc-by-nc	133 290	53.1 %
unknown	62 581	24.9 %
cc-by	23 965	9.5 %
cc0	6 900	2.7 %
CC BY-SA 4.0	4 795	1.9 %
cc-by-nc-nd	4 572	1.8 %
cc-by-nc-sa	4 129	1.6 %
cc-by-sa	2 164	0.9 %
CC BY-SA 3.0	2 037	0.8 %
CC BY-SA 2.0	1 633	0.6 %
CC BY 2.0	1 207	0.5 %
Public domain	1 021	0.4 %
CC BY 4.0	839	0.3 %
CC0	714	0.3 %
cc-by-nd	469	0.2 %
CC BY 3.0	340	0.1 %
FAL	191	0.1 %
CC BY-SA 2.5	95	0.0 %
No restrictions	70	0.0 %
CC BY 2.5	45	0.0 %
Attribution	43	0.0 %
GFDL 1.2	32	0.0 %
CC BY-SA 2.0 de	18	0.0 %
GODL-India	17	0.0 %
CC BY-SA 3.0 de	13	0.0 %
CC BY-SA 3.0 es	8	0.0 %
CC BY-SA 3.0 ch	7	0.0 %
CC BY-SA 2.0 fr	5	0.0 %
CC BY 2.5 dk	4	0.0 %
CC BY-SA 2.5 br	3	0.0 %
ODbL	3	0.0 %
CC BY 3.0 us	3	0.0 %
Public Domain	2	0.0 %
CC BY-SA 2.5 ch	2	0.0 %
GFDL	2	0.0 %
GPL	2	0.0 %
CC SA 1.0	2	0.0 %
CC BY-SA	2	0.0 %
Copyrighted free use	2	0.0 %
CC BY 2.0 fr	2	0.0 %
CC BY 3.0 nl	1	0.0 %
CC BY-SA 2.5 ca	1	0.0 %
CC BY 2.5 au	1	0.0 %
CC BY-SA 2.5 au	1	0.0 %
CC BY-SA 2.5 in	1	0.0 %
CC BY 2.0 de	1	0.0 %
CC BY-SA 1.0	1	0.0 %

Valeurs courantes	Autorisé pour
CC0, Public Domain Mark 1.0, No known copyright restrictions, US Government Work	tout (y compris commercial)
CC BY, CC BY-SA	tout avec attribution
CC BY-NC, CC BY-NC-SA, CC BY-NC-ND, cc-by-nc	recherche uniquement
unknown (DDG)	recherche uniquement, attribution indéterminée

Arborescence

Horama/wow_scraped/
├── inaturalist/
│   ├── 0-000.parquet … 3-NNN.parquet   # shards images (HF Image feature)
│   ├── metadata.csv                     # metadata canonique consolidée (pool complet)
│   ├── metadata/                        # metadata brute par shard
│   └── rejected_urls/                   # URLs écartées par les filtres
├── wikimedia/   …                       # même structure
├── ddg/         …                       # même structure
├── detection/                           # couche détection (bounding boxes)
│   ├── wow_scraped_wow_bboxes.json      # annotations COCO complètes
│   ├── wow_scraped_wow_bboxes.csv       # résumé à plat (1 ligne / image)
│   └── verify/                          # échantillons de contrôle (avec / sans boîtes)
├── subsets/                             # sous-ensembles curés par projet
│   ├── alpaga/
│   │   ├── training.csv                 # subset consolidé (+ colonne split)
│   │   └── {inaturalist,wikimedia,ddg}_metadata.csv
│   ├── porto/   …  (+ labels.json, test.csv)
│   ├── thoiry/  …  (+ labels.json, test.csv)
│   └── wow/     …
├── generate_readme.py                   # régénère les sections AUTOGEN ci-dessus
└── README.md

Schéma

Chaque shard parquet :

image:        struct<bytes: binary, path: string>   # HF Image feature
filename:     string    # src3_VV_W_NNNNNN.ext (ex. ina_00_3_000042.jpg)
label:        string    # label canonique (ex. loup_arctique)
specie:       string    # groupe plus large (ex. loup)
sub_specie:   string    # = label (granularité fine)
src:          string    # inaturalist | wikimedia | wikipedia | flickr | ddg
licence:      string    # CC0, CC-BY, ..., unknown
author:       string
url:          string    # URL source d'origine
resolution:   string    # "WxH"
inat_obs:     string    # id observation iNaturalist (autres sources : "")
location:     string    # "lat,lon" si disponible, sinon ""
inat_quality: string    # research | needs_id | casual (iNat uniquement)
inat_savage:  string    # "savage" | "captive" (iNat uniquement)

Les subsets/<projet>/training.csv reprennent ce schéma (hors image) plus une colonne split (train / valid / test).

Chargement

from datasets import load_dataset

# Tous les shards d'une source
ds = load_dataset("Horama/wow_scraped", data_dir="inaturalist", split="train")
print(ds[0]["image"])              # PIL.Image.Image
print(ds[0]["label"], ds[0]["licence"])

# Un seul shard
ds = load_dataset(
    "Horama/wow_scraped",
    data_files={"train": "inaturalist/0-000.parquet"},
    split="train",
)

Filtrer par split

Les splits ne vivent pas dans les parquets ni dans les metadata.csv canoniques — ils sont définis par projet dans subsets/<projet>/training.csv (colonne split). On joint par filename :

import csv
from datasets import load_dataset
from huggingface_hub import hf_hub_download

split_lookup = {}
csv_path = hf_hub_download("Horama/wow_scraped", repo_type="dataset",
                           filename="subsets/thoiry/training.csv")
with open(csv_path) as f:
    for row in csv.DictReader(f):
        split_lookup[row["filename"]] = row["split"]

ds = load_dataset("Horama/wow_scraped", data_dir="inaturalist", split="train")
train = ds.filter(lambda r: split_lookup.get(r["filename"]) == "train")
valid = ds.filter(lambda r: split_lookup.get(r["filename"]) == "valid")
test  = ds.filter(lambda r: split_lookup.get(r["filename"]) == "test")

Les observations iNaturalist sont gardées entières (aucun inat_obs réparti entre train/valid/test).

Détection — bounding boxes

Le dossier detection/ fournit une couche d'annotation détection en plus de la classification, jointe par filename :

• wow_scraped_wow_bboxes.json — annotations COCO complètes (une boîte par animal détecté).
• wow_scraped_wow_bboxes.csv — résumé à plat (1 ligne / image) pour filtrer sans charger le JSON.
• verify/ — échantillons de contrôle visuel (images avec / sans boîtes, cas vides / manquants).

Reproduire le dataset

Le pipeline complet (workers, sharding, filtre alive, mailer) est dans Horama/WOW_dataset_creation sous scraping/.

Régénérer ce README

Les sections <!-- AUTOGEN:* --> ci-dessus sont calculées à partir des données. Après toute modification d'un metadata.csv ou d'un subsets/*/training.csv :

python generate_readme.py          # met à jour README.md en place
python generate_readme.py --check  # CI : échoue si le README n'est pas à jour

Un hook pre-commit (.githooks/pre-commit, ou .pre-commit-config.yaml) le fait automatiquement. Installation après clone :

git config core.hooksPath .githooks

Citation

Si vous utilisez ce dataset, créditez Horama et les contributeurs de chaque photo (voir les colonnes licence et author).