Artvv/lewm-habitat-merged

LeWM Habitat Indoor Dataset

Dataset Description

Dataset généré avec Habitat-Sim 0.3.3 pour benchmarker LeWorldModel (LeWM) (Maes et al., 2026) sur des environnements intérieurs — hors distribution par rapport aux 4 environnements originaux du paper (Push-T, Reacher, Two-Room, OGBench-Cube).

Ce dataset a été produit avec un GPU NVIDIA RTX PRO 4500 Blackwell via OpenGL/EGL — sans dépendance RTX, contrairement à Isaac Sim.

Résumé

• 200 épisodes × 300 steps @ random walk = 60 000 frames
• Résolution : 224×224 RGB
• Modalités : RGB + depth map
• Format : HDF5 compatible stable-worldmodel
• Scènes : 2 environnements intérieurs distincts

Scènes

Scène	Description	Episodes
apartment_1.glb	Appartement moderne, éclairage intérieur	~100
skokloster-castle.glb	Château baroque suédois, grande salle ornée	~100

Merge

Ce dataset est le résultat d'un merge entre deux runs :

• Run v1 (factor=1.0) → bonne exposition pour skokloster-castle
• Run v2 (factor=2.0) → bonne exposition pour apartment_1

Seuls les épisodes bien exposés (px_mean entre 40 et 200) ont été conservés.

---

Structure HDF5

lewm_habitat_merged.h5
├── episode_00000/
│   ├── pixels         (300, 224, 224, 3)  uint8    RGB frames
│   ├── action         (300, 5)            float32  one-hot [forward, left, right, up, down]
│   ├── state          (300, 11)           float32  [pos_x, pos_y, pos_z, rot_x, rot_y, rot_z, rot_w, step, ep_id, action_id, depth_mean]
│   ├── depth          (300, 224, 224)     float32  depth map (mètres, clippé à 10m)
│   └── metadata/
│       ├── scene           str    nom de la scène .glb
│       ├── episode_id      int
│       ├── n_steps         int
│       ├── mean_pixel_value float
│       ├── mean_depth      float
│       └── source          str    "v1" ou "v2"
├── episode_00001/
...
└── episode_00199/

---

Usage

Accès direct HDF5

import h5py
import numpy as np

h5 = h5py.File("lewm_habitat_merged.h5", "r")
ep = h5["episode_00042"]

pixels = ep["pixels"][:]   # (300, 224, 224, 3) uint8
depth  = ep["depth"][:]    # (300, 224, 224) float32
action = ep["action"][:]   # (300, 5) float32 one-hot
state  = ep["state"][:]    # (300, 11) float32

scene = ep["metadata"].attrs["scene"]
print(f"Scène : {scene}, frames : {len(pixels)}")
h5.close()

Avec stable-worldmodel

from stable_worldmodel.data import HDF5Dataset

dataset = HDF5Dataset(
    name="lewm_habitat_merged",
    frameskip=1,
    num_steps=16,
    keys_to_load=["pixels", "action", "state"],
)
sample = dataset[0]
print(sample["pixels"].shape)  # (16, 224, 224, 3)

---

Collecte

Environnement

• Simulator : Habitat-Sim 0.3.3
• GPU : NVIDIA RTX PRO 4500 Blackwell (OpenGL 4.6 / EGL — pas de RTX requis)
• Renderer : OpenGL headless via EGL
• Physics : Bullet physics activé

Agent

Random walk avec momentum :

• move_forward : 60% du temps
• turn_left / turn_right : 30%
• look_up / look_down : 10%
• Vitesse avant : 0.25m/step
• Rotation : 15°/step

Post-processing

Boost d'exposition différencié par scène :

• apartment_1 : ×2.0 (scène sombre)
• skokloster-castle : ×1.0 (scène naturellement lumineuse)

---

Intended Use

• Benchmark OOD pour world models entraînés sur des environnements 2D/3D simples
• Analyse de la structure latente de LeWM sur des scènes intérieures réalistes
• Test de la détection de surprise (Violation-of-Expectation) sur des trajectoires naturelles

Limitations

• Random walk — pas de politique de navigation optimale
• Exposition parfois inégale (plafonds, murs proches)
• Pas d'annotations sémantiques
• Profondeur clippée à 10m

---

Citation

@misc{artvv2026lewm_habitat,
  title={LeWM Habitat Indoor Dataset},
  author={Arthur Vigier},
  year={2026},
  url={https://huggingface.co/datasets/Artvv/lewm-habitat-merged}
}

@article{maes_lelidec2026lewm,
  title={LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels},
  author={Maes, Lucas and Le Lidec, Quentin and Scieur, Damien and LeCun, Yann and Balestriero, Randall},
  journal={arXiv preprint},
  year={2026}
}