Master · Informatique 3D

XR · Rendu 3D · Interaction immersive

Réalité Virtuelle
& Augmentée

La réalité virtuelle et augmentée redéfinissent l'interface homme-machine : au lieu d'observer un écran, l'utilisateur est immergé dans ou augmenté par un environnement numérique interactif en 3D temps réel.

—
Sensorama (Morton Heilig)
—
Latence maximale sans cybersickness
—
Taux de rafraîchissement Meta Quest 3
—
Marché XR 2028
🥽
01

Fondements de la réalité virtuelle

📌 Définition & Propriétés fondamentales (Milgram & Kishino, 1994)

La VR est un environnement synthétique tridimensionnel généré par ordinateur dans lequel l'utilisateur est immergé et peut interagir. Trois propriétés fondamentales : Immersion (isolation sensorielle), Présence (sentiment d'être là), Interactivité (modification en temps réel).

Immersion

Immersion sensorielle

FOV (Champ de vision) : œil humain ~200°, casques actuels 100–120°. Audio spatial binaural (HRTF). Haptique : vibrotactile (controllers), feedback de force (gants). Olfaction VR (OVR Technology). Proprioception : tracking du corps.

Présence

Sentiment de présence

Mesure subjective : « l'illusion d'être là » (Slater & Wilbur). Facteurs : latence faible (<20ms MTP), stabilité de l'image, cohérence multisensorielle, possibilité d'action. Questionnaire IPQ (Igroup Presence Questionnaire). Breakdown of presence.

Cybersickness

Cinéose de simulation

Conflit entre vision (mouvement perçu) et vestibulaire (pas de mouvement). Symptômes : nausées, maux de tête, désorientation. Facteurs : latence >20ms, faible FPS, FOV large, mouvements du joystick. Réduction : smooth locomotion, tunelling, vection limitée.

Continuum

Reality-Virtuality Continuum

Milgram (1994) : spectre de l'environnement réel à l'environnement virtuel. Réalité augmentée (AR) : objets numériques sur le réel. Virtualité augmentée : objets réels dans un monde virtuel. Mixed Reality (MR) : interaction entre les deux. Extended Reality (XR) : terme générique.

🎨
02

Rendu 3D temps réel

📐
Géométrie

Maillage, polygones, LOD

🎭
Vertex Shader

Transformation 3D→2D

🔺
Rasterisation

Fragments, Z-buffer

✨
Fragment Shader

Couleur, texture, lighting

🖼️
Post-process

Anti-aliasing, HDR, bloom

Shaders

Pipeline de rendu programmable

Vertex shader : transformation, skinning, morphing. Fragment shader : PBR (Physically Based Rendering), normal mapping, parallax. Compute shaders : particules, simulation GPU. GLSL, HLSL, MSL, WGSL (WebGPU). OpenGL, Vulkan, Metal, DirectX 12.

PBR

Rendu basé physique (PBR)

BRDF (Bidirectional Reflectance Distribution Function). Paramètres : albedo, metallic, roughness, normal, AO, emissive. GGX distribution, Smith geometry term, Fresnel-Schlick. Standard industrie : glTF 2.0 (métallique-rugosité). UE5 : Substrate shading.

Illumination

Éclairage global & Ray Tracing

SSAO, SSGI : approximations en espace écran. Baked lightmaps : illumination précalculée. Ray Tracing temps réel (NVIDIA RTX, DXR) : réflexions, ombres, AO. Path tracing. UE5 Lumen : GI hybride (SDF + radiance cache). Coût élevé en VR (2× rendu).

Optimisation VR

Techniques VR spécifiques

Foveated Rendering : haute résolution au centre du regard (eye tracking). Single Pass Stereo (SPS) : rendu des 2 yeux en un seul draw call. Fixed Foveated Rendering (FFR). Instanced stereo. Reprojection (ATW/ASW) : compense les frames perdus. 90+ FPS impératif.

📍
03

Tracking & Perception

6DoF

Tracking 6 degrés de liberté

3 translation (x,y,z) + 3 rotation (pitch, yaw, roll). Inside-out : caméras sur le casque SLAM (Meta Quest, Pico). Outside-in : stations de base Lighthouse (Valve Index, SteamVR). Précision : <1mm, <0.1°. Prédiction de pose pour compenser la latence.

Eye Tracking

Suivi oculaire

Caméras IR dans le casque + corneal reflection. Meta Quest Pro, PSVR2, Vision Pro, Varjo. Foveated rendering : économise 40–60% de GPU. Point de regard pour l'interaction (dwell selection). Données physiologiques (attention, charge cognitive). 200 Hz typique.

Hand Tracking

Suivi des mains & gestes

Computer vision sur les caméras du casque. MediaPipe Hands (21 landmarks). Meta Quest : hand tracking v2.1 — interactions précises sans controller. Apple Vision Pro : pinch to select. Leap Motion Controller 2 : 200fps tracking externe. Défis : occlusions, précision, latence.

Body Tracking

Full Body Tracking

IMU + optique sur le corps (HTC Vive Trackers). Estimation de pose par IA (Meta Body Tracking SDK). Markerless motion capture (Theia3D, OpenPose). Inverse kinematics (IK) pour l'avatar complet. Applications : animation, sport, rééducation.

🌐
04

Réalité Augmentée

SLAM

ARKit / ARCore & SLAM

SLAM (Simultaneous Localization and Mapping) : construire une carte 3D de l'environnement tout en se localisant dedans. ARKit (Apple) : LiDAR, depth sense. ARCore (Google) : Visual Inertial Odometry. Plane detection, image anchors, 3D anchors. WebXR pour AR navigateur.

Rendu

Registration & Occlusion

Registration : aligner précisément les objets virtuels avec le monde réel. Occlusion : objets virtuels cachés derrière des objets réels (profondeur). DepthKit : estimation de profondeur monoculaire (MiDaS). LiDAR (iPad, iPhone 12+) : mesh précis de l'environnement en temps réel.

Smart Glasses

Lunettes AR optiques

HoloLens 2 : holographic waveguide, FOV 52°. Magic Leap 2 : prisme photonique, 70° FOV, dimmer. Apple Vision Pro : optical see-through (OSD), micro-OLED 23M pixels. Snap Spectacles, Ray-Ban Meta. Défi : batterit, FOV, poids, look naturel.

Spatial Audio

Audio 3D & Spatial Sound

HRTF (Head-Related Transfer Function) : émule la façon dont l'oreille perçoit les sons spatiaux. Ambisonics (ordre 1-7). Apple Spatial Audio : suivi de tête dynamique. Occlusion acoustique (Unity Resonance Audio). Sonification d'informations visuelles (accessibilité).

🤝
05

Interaction & Interfaces utilisateur

Locomotion

Déplacement en VR

Téléportation (arc balistique) : réduction cybersickness. Smooth locomotion (joystick) : risque nausée. Roomscale (marche physique dans la pièce). Redirected Walking : manipulation imperceptible de la direction. Blink locomotion. Arm swing. Cybershoes / omni-directional treadmill.

Interaction

Manipulation d'objets 3D

Ray casting : pointage à distance (XR Interaction Toolkit). Direct grab (proximité). Two-handed manipulation. Affordances : objets qui communiquent comment les utiliser. Haptiques : vibration (LRA, ERM) dans les controllers. TriggerFeedback (PSVR2 : adaptive triggers).

UI/UX XR

Design d'interface immersive

Diegetic UI : interfaces dans le monde (montres, tableaux, HUD sur objet). Spatial UI (panneaux 3D). 3D guidelines : distance de confort (0.5–20m), angle optimal (10°), taille minimale (2.5cm à 1m). Text en VR : SDF fonts. A11y : contraste, alternatives colorblind.

Avatars

Avatars & Présence sociale

Full body avatar (métavers social). Half body (casque + controllers). Ready Player Me, MetaHuman (Epic). Uncanny valley : trop réaliste mais faux = dérangeant. VR mirror therapy (membres fantômes). Embodiment : IK inverse kinematics plausible. Expression faciale (eye tracking).

🔧
06

Matériel XR

DispositifTypeÉcranTrackingPoints clés
Meta Quest 3VR / MR standalone2 064×2 208 / œil, 120 HzInside-out 6DoFSnapdragon XR2 Gen 2, Color Passthrough
PlayStation VR2VR console (PS5)2 000×2 040 / œil, 120 Hz OLEDInside-out, eye trackingAdaptive trigger, foveated rendering
Valve IndexVR PC tethered1 440×1 600 / œil, 144 HzLighthouse (outside-in)Finger tracking controllers, FOV 130°
Apple Vision ProMixed RealityMicro-OLED 23M pixelsEye + hand + facevisionOS, R1 chip 12ms, EyeSight
HoloLens 2AR (waveguide)47 PPD, FOV 52°Eye + handB2B, Azure Spatial Anchors
Varjo XR-4Mixed Reality Pro51 PPD (retinal res.)Eye tracking, handProfessionnel, simulation de vol
🏗️
07

Applications sectorielles

Formation

Formation professionnelle

Aviation : Airbus, Boeing (assemblage, maintenance AR). Chirurgie : Osso VR (orthopédie), Fundamental Surgery. Pompiers, soldats, police : simulations de danger. Maintenance industrielle (AR + step-by-step). ROI démontré : -70% erreurs, -30% temps d'entraînement.

Médecine

Médecine & Thérapie

Thérapie d'exposition phobies (acrophobie, arachnophobie — SkillSoft). PTSD : BRAVEMIND (USC). Douleur : SnowWorld (brûlures). Planning chirurgical (Medivis, 3D Slicer en VR). Chirurgie guidée AR (HoloLens). Rééducation post-AVC (gamification).

Architecture

Architecture & Immobilier

Visite immobilière VR avant construction (Matterport Cortex). Validation de design (client visite le bâtiment non construit). Modifications en temps réel (Enscape, D5 Render, Lumion VR). BIM en VR (Autodesk Revit + Fuzor). Réduction des erreurs de conception : -50%.

Éducation

Éducation immersive

Voyage dans l'espace (SpaceVR), dissection virtuelle (Visible Body), événements historiques reconstitués. ClassVR, Engage, AltspaceVR (arrêté). Universités : Stanford VR lab (social VR). Mémoire : retention +76% vs vidéo (PwC Study, 2020).

Gaming

Jeux & Expériences VR

Half-Life Alyx (Valve) : référence design VR. Beat Saber : 4M exemplaires. Lone Echo, Asgard's Wrath. Location-Based VR (Zero Latency, The VOID). Plateforme Steam VR : 2% des utilisateurs. Croissance faible mais VR-native experiences supérieures.

Télétravail

Collaboration & Réunions spatiales

Microsoft Mesh + Teams : avatars holographiques en réunion. Horizon Workrooms (Meta). Spatial.io. Immersion reduce : fatigue Zoom. Persistance des espaces de travail 3D. Vision Pro + FaceTime Spatial. Défis : hardware cost, setup, look naturel.

🔮
08

Futur de la XR

Lunettes grand public

Smart Glasses légères

Objectif 2027–2030 : lunettes AR indistinguables des lunettes normales (<30g, FOV >70°, 8h+). Affichage rétinien laser (Mojo Vision). Light field displays (NVIDIA). Acteurs : Apple, Meta, Google, Samsung, Snap. Convergence VR/AR/smartphone.

Haptics

Haptics avancées

Ultrahaptics (Ultraleap) : champs ultrasoniques créant des sensations sans contact. Gants HaptX : 130 actuateurs pneumatiques, 3N de force. Exosquelettes de la main. Thermo-haptics (chaleur, froid). Haptics corps entier (Teslasuit). Essentiels pour la chirurgie à distance.

NeRF / 3DGS

Reconstruction 3D du réel

NeRF (Neural Radiance Fields, 2020) : reconstruction 3D depuis photos. Instant-NGP (NVIDIA) : temps réel. 3D Gaussian Splatting (2023) : rendu encore plus rapide. Numériser le monde physique en haute fidélité pour l'AR. Luma AI, Polycam.

AI + XR

Intelligence Artificielle dans la XR

NPCs conversationnels avec LLMs (personnages réalistes). Génération procédurale de mondes (GAN, diffusion). Compression neural (NVIDIA DLSS, AMD FSR). Reconstruction de scènes en temps réel. AI pour adapter le contenu au profil de l'utilisateur (fatigue, charge cognitive).

SDK & Moteurs

Unity XR Interaction Toolkit Unreal Engine VR OpenXR (Khronos) WebXR API Godot XR MRTK (Microsoft) visionOS SDK A-Frame