Items tagged with “Nvidia”.
Le HGX B200 de NVIDIA abaisse l’intensité des émissions de carbone incorporé de 24% par rapport au HGX H100, tout en offrant de meilleures performances IA et une efficacité énergétique accrue. Cet article résume les données PCF et les nouveautés matérielles.
NVIDIA et le Lawrence Berkeley National Laboratory présentent Huge Ensembles (HENS), un outil IA open source qui prévoit des événements météorologiques rares et à fort impact sur 27 000 années de données, avec des options open source ou prêtes à l’emploi.
NVIDIA Dynamo déporte le KV Cache depuis la mémoire GPU vers un stockage économique, permettant des contextes plus longs, une meilleure concurrence et des coûts d’inférence réduits pour les grands modèles et les charges AI génératives.
Analyse approfondie de sept techniques éprouvées par les Grands Maîtres Kaggle pour résoudre rapidement des ensembles de données tabulaires à l’aide d’une accélération GPU, des baselines divers à l’assemblage et à la pseudo-étiquetage.
RAPIDS 25.08 introduit deux profils pour cuml.accel (fonctionnel et ligne), l’exécuteur streaming par défaut du moteur Polars GPU, un support de types et chaînes étendu, Spectral Embedding dans cuML et des accélérations zéro-code pour plusieurs estimateurs.
Analyse détaillée du décodage spéculatif pour l’inférence IA, incluant les méthodes draft-target et EAGLE-3, leur réduction de latence et les déploiements via TensorRT.
Autodesk Research, Warp de NVIDIA et le GH200 démontrent une CFD Python-native avec XLB, atteignant environ 8x de vitesse et évoluant jusqu’à 50 milliards de cellules.
Analyse approfondie sur la façon dont NVIDIA Run:ai Model Streamer abaisse les temps de démarrage à froid pour l’inférence des LLM en diffusant les poids vers la mémoire GPU, avec des benchmarks sur GP3, IO2 et S3.
PyNvVideoCodec 2.0 apporte des améliorations majeures au traitement vidéo GPU en Python, basé sur le NVIDIA Video Codec SDK et disponible via PyPI et NVIDIA NGC. Des performances équivalentes au SDK natif avec la simplicité de Python.
Un atelier autodidacte du NVIDIA Dev Blog montre comment assembler un agent IA multi-niveaux pour la génération de rapports en utilisant Nemotron sur OpenRouter, avec LangGraph, des composants ReAct et des prompts pratiques.
Les prévisualisations open source Qwen3-Next 80B-A3B-Thinking et 80B-A3B-Instruct présentent une architecture MoE hybride pour un contexte long et une inférence efficace, avec déploiement et outils ouverts soutenus par NVIDIA.
Le cadre AI Kill Chain de NVIDIA cartographie les attaques contre les applications alimentées par l’IA, décrivant les étapes de recon à impact et les priorités défensives pour interrompre chaque étape.
Explore QAT et QAD comme méthodes de récupération de précision dans des modèles à faible précision, en s'appuyant sur TensorRT Model Optimizer et les formats FP8/NVFP4/MXFP4.
VC-6 CUDA-accéléré offre une décompression multi-résolution sélective, réduisant les E/S et accélérant le chemin données-tensor pour les flux Vision AI.
Le RTX PRO 6000 Blackwell Server Edition de NVIDIA accélère considérablement l’inférence de structure des protéines, permettant des flux de travail GPU complets avec OpenFold et TensorRT, jusqu’à 138x plus rapide que AlphaFold2.
CUDA est redistribué par des plates-formes tierces pour être intégré directement dans leurs flux de paquets, simplifiant l'installation et la gestion des dépendances pour les applications GPU et accélérant le déploiement dans les écosystèmes.
NVIDIA NIM Operator 3.0.0 étend l’inférence IA scalable sur Kubernetes, avec déploiements multi-LLM et multi-nœud, intégration KServe et support DRA en version technologique, en collaboration avec Red Hat et NeMo Guardrails.
Examine comment NVIDIA Rivermax et NEIO FastSocket offrent une latence ultra-faible et une forte bande passante, en utilisant kernel bypass, zero-copy et GPUDirect pour acheminer les données NIC vers les GPU.
Le Spectrum-XGS Ethernet permet le scale-across networking pour réunir des centres de données dispersés en une seule usine d’IA, avec des gains de bande passante NCCL et des performances prévisibles sur de longues distances.
Une approche d’échange de mémoire GPU (swap de mémoire) permet à plusieurs modèles de partager les GPU au-delà de la capacité, réduisant les coûts tout en maintenant la réactivité pour l’inférence LLM à grande échelle.
Analyse approfondie de nvMatmulHeuristics, un optimiseur de méta-paramètres pour kernels GEMM qui accélère l’auto-tuning avec CUTLASS 4.2, livrant des kernels proches du meilleur en beaucoup moins de temps.
CUDA Toolkit 13.0 pour Jetson Thor unifie les outils Arm, active la Mémoire Virtuelle Unifiée, le partage de GPU avancé, l’interopérabilité OpenRM/dmabuf, le support NUMA et des outils développeur améliorés pour les charges IA en edge.
Kit CUDA unifié pour Arm sur Jetson Thor avec cohérence mémoire complète, partage du GPU entre processus, interop OpenRM/dmabuf, support NUMA et outils améliorés pour l’embarqué et le serveur.
Exploitez le swap mémoire GPU (hot-swapping de modèles) pour partager les GPUs entre plusieurs LLM, réduire les coûts inoccupés et améliorer l’auto-Scaling tout en respectant les SLA.
Présente nvMatmulHeuristics pour sélectionner rapidement un petit ensemble de configurations de kernels GEMM à fort potentiel pour CUTLASS 4.2, réduisant considérablement le temps de tuning tout en approchant les performances d’une Recherche Exhaustive.
NVIDIA décrit un flux SFT + QAT pour récupérer la précision FP4 lors de l’ajustement fin de gpt-oss, en comparant MXFP4 et NVFP4, et détaille les gains de déploiement et de performance avec des taux de réussite de 98% sur des tâches ciblées.
Explique pourquoi les petits modèles de langage (SLM) permettent une IA agentive scalable, le rôle des écosystèmes de modèles hétérogènes et les voies pratiques d'adoption avec NVIDIA NeMo et Nemotron Nano 2.
Guide du fine-tuning de gpt-oss utilisant SFT + QAT pour récupérer la précision FP4 tout en préservant l’efficacité, avec upcast vers BF16, MXFP4, NVFP4 et déploiement avec TensorRT-LLM.
Explique comment les petits modèles linguistiques permettent une IA agentique plus rentable et flexible, aux côtés des LLMs, via NVIDIA NeMo et Nemotron Nano 2.
Vue pratique du flux télésurgery d’NVIDIA Isaac for Healthcare, son architecture modulaire et pourquoi il accélère le développement de la simulation à l deployment clinique avec une faible latence et des outils unifiés.
Flux télésurgerie modulaire et prêt pour la production de NVIDIA Isaac for Healthcare, unifiant la simulation et le déploiement clinique via une architecture à faible latence sur trois ordinateurs. Couvre streaming vidéo/sensoriel, contrôle robotique, haptiques et simulation.
Une analyse détaillée de la montée en charge d’un agent de recherche IA-Q basé sur LangGraph, des tests de charge et du déploiement par étapes avec observabilité.
CUDA 13.0 introduit une optimisation de spilling des registres vers la mémoire partagée, privilégiant la mémoire on‑chip lorsque possible, ce qui réduit la latence et améliore les performances des noyaux sous forte pression de registres.
CUDA 13.0 introduit le déversement des registres dans la mémoire partagée pour réduire la pression sur la mémoire locale lorsque l'espace est disponible. Activation via PTX inline après la déclaration de la fonction; gains typiques de 5–10% sur les charges à forte pression de registres.
Guide pour déployer et faire évoluer des agents LangGraph en production avec le NeMo Agent Toolkit, des tests de charge et une mise en œuvre par étapes pour des centaines à des milliers d’utilisateurs.
NVIDIA fait progresser l’optique co-packagée grâce à la collaboration sectorielle, décrivant le Micro Ring Modulator, les moteurs COUPE et des sources laser externes modulaires pour des interconnexions de centres de données densément intégrées et énergétiquement efficaces.
Vue d’ensemble de la plateforme d’optique co-packagée (CPO) de NVIDIA, mettant en lumière l’intégration photoniques/électroniques, le Micro Ring Modulator, les moteurs COUPE et la collaboration avec TSMC et des partenaires pour des interconnexions de centre de données dense et éconergétique.
Jetson Thor offre l’IA en bordure à échelle robotique, avec GPU Blackwell, MIG, FP4/FP8 et 128 Go de mémoire pour les plateformes robotiques de nouvelle génération.
NVIDIA étend NVFP4 de l’inférence au pré-entraînement, permettant une précision en 4 bits pour accélérer l’entraînement de grands modèles tout en conservant une précision équivalente au FP8/BF16. Des résultats initiaux sur un modèle 12B montrent une convergence stable et de bonnes performances en av
NVFP4 est un format de données en 4 bits offrant une précision équivalente au FP16 avec la bande passante et l’efficacité mémoire du 4 bits, étendu au pré-entraînement pour les grands modèles de langage. Ce profil couvre des expériences en 12B, la stabilité et les collaborations industrielles.
Jetson Thor concilie calcul IA en edge, virtualisation MIG et capteurs multimodaux pour une robotique flexible en temps réel, avec accélération FP4/FP8 et support pour Isaac GR00T et les grands modèles linguistiques/visuels.
Le NVIDIA Blackwell Ultra accélère l’entraînement et l’inférence IA avec une intégration à deux dies, NVFP4 4 bits, 288 Go de HBM3e et des interconnexions haute bande, ouvrant la voie à des usines IA à grande échelle.
NVIDIA décrit comment l’architecture Blackwell, les bibliothèques CUDA-X et un écosystème open source florissant — de RAPIDS à Cosmos et Nemotron — accélèrent le développement de l’IA, du prototype à la production.
Une analyse approfondie de cinq goulets d'étranglement courants de pandas, des solutions CPU pratiques et une accélération GPU via cudf.pandas pour des flux de données plus rapides.
Ressource technique pour développeurs présentant cinq goulets d'étranglement courants, des solutions CPU et GPU, et l'accélération GPU en mode drop-in via cudf.pandas.
Profil détaillé du Blackwell Ultra, sa conception à double die NV‑HBI, sa précision NVFP4, ses 288 Go HBM3e par GPU et ses interconnexions système pour les usines IA et l'inférence à grande échelle.
Vue d'ensemble des modèles open source, du matériel Blackwell et d'une pile logicielle complète qui accélèrent l'IA, de la préparation des données au déploiement, grâce à une large disponibilité de modèles et d'outils.
CuPQC v0.4 étend le support des hachages et introduit les arbres de Merkle, accélérant les vérifications d’intégrité et la sécurité pour les charges cryptographiques à grande vitesse sur GPU.
Le NVIDIA HPC SDK v25.7 propose une programmation en mémoire unifiée pour le HPC avec GPU, automatisant les transferts CPU-GPU et améliorant la productivité sur des architectures cohérentes comme Grace Hopper.
NVIDIA décrit comment NVLink Fusion étend les technologies NVLink scale-up vers les hyperscalers, connectant CPUs et XPUs à une architecture de rack pour l’inférence IA à grande échelle.
cuPQC v0.4 élargit le support des fonctions de hachage et ajoute des calculs d’arbres de Merkle pour accélérer l’intégrité des données, la vérification et la cryptographie de préservation de la vie privée sur les GPU.
Vue d’ensemble de NVLink Fusion, permettant une inférence IA à grande échelle et à haut débit sur des configurations CPU/XPU personnalisées et des fabrics NVLink en rack.
NVIDIA HPC SDK v25.7 fait progresser la programmation à mémoire unifiée pour automatiser les transferts CPU-GPU, augmenter la productivité des développeurs et faciliter la portabilité des modèles océaniques comme NEMO sur des systèmes Grace Hopper.
Découvrez comment Kit App Streaming réduit les frictions d’installation et permet le streaming navigateur d’applications Kit basées sur OpenUSD via des GPUs RTX, avec des options de déploiement flexibles on‑premise et cloud.
NeMo-RL v0.3 introduit le backend Megatron-Core pour optimiser le throughput post-formation sur les grands modèles, avec parallélisme 6D, support du long contexte et réglage automatique.
Guide pour déployer et diffuser les applications Kit Omniverse à grande échelle avec des options flexibles sur le cloud, sur site et DGX Cloud.
Vue d'ensemble de NeMo-RL v0.3 avec le backend Megatron-Core pour le post-entraînement de grands modèles, présentant le parallélisme 6D/4D, des noyaux GPU optimisés et une configuration simplifiée pour accroître le débit en apprentissage par renforcement.
NVIDIA révèle des mises à jour du rendu neuronal RTX et de l’ACE lors du Gamescom 2025, étendant DLSS 4, RTX Kit et les capacités IA sur appareil pour les développeurs et le cloud gaming.
NVIDIA Streaming Sortformer offre une diarisation des locuteurs en temps réel pour les conversations à plusieurs intervenants, s’intégrant à NeMo et Riva et utilisant un Arrival-Order Speaker Cache pour maintenir des étiquettes cohérentes tout au long des flux.
Analyse approfondie de l’approche optique co-packagée de NVIDIA: intégrer des moteurs optiques sur les ASIC des commutateurs pour améliorer l’efficacité énergétique, la résilience et l’évolutivité des usines d’IA.
Aperçu des nouveautés de NVIDIA à Gamescom 2025 : DLSS 4, rendu neuronal RTX, RTX Kit, NvRTX, ACE AI et outils pour des expériences de jeu IA évolutives.
Dynamo 0.4 introduit un service disaggregated, AIConfigurator et autoscaling basé sur les SLO pour dimensionner des modèles de pointe à coût maîtrisé. Gains jusqu’à 4x sur l’interactivité gpt-oss-120b sur B200, 2,5x de débit sur DeepSeek-R1, observabilité avancée et meilleures tolérances.
La recherche NVIDIA présente ProRL v2, un cadre de reinforcement learning prolongé pour les LLMs, avec de nouvelles méthodes et résultats empiriques démontrant des gains soutenus au-delà des scénarios d’entraînement traditionnels.
NVIDIA présente Wheel Variants et l’initiative WheelNext pour gérer la diversité matérielle dans l’empaquetage Python, avec un soutien expérimental de PyTorch 2.8 pour des roues optimisées GPU.
CUDA-QX 0.4 accélère la correction d'erreurs quantiques (QEC) et le développement d'applications avec une génération automatique du DEM (modèle d'erreur du détecteur), un décodeur en réseau tensoriel, un BP+OSD amélioré et un nouveau GQE dans la bibliothèque Solvers.
NVIDIA annonce l’accès général à Isaac Sim 5.0 et Isaac Lab 2.2, permettant le développement robotiques IA dans des simulations basées sur la physique, avec intégration ROS 2, déploiement dans le cloud via Brev et extensions ouvertes.
NVIDIA annonce des mises à jour des bibliothèques Omniverse et des Cosmos world foundation models (WFMs) lors du SIGGRAPH, propulsées par OpenUSD, offrant de nouvelles bibliothèques, modèles et outils pour des environnements virtuels physiquement précis et des agents IA robotiques.
Reconstruisez des scènes réalistes à partir de données de capteurs et utilisez-les rapidement dans Isaac Sim et CARLA grâce à Omniverse NuRec et 3DGUT, avec des flux de données synthétiques évolutifs.
Cosmos Reason étend les capacités de raisonnement en robotics via un ajustement post-formation et un apprentissage par renforcement, offrant des performances accrues en IA physique avec un accès ouvert et des déploiements optimisés GPU.
R²D² présente les World Foundation Models (WFMs) et les flux de travail Cosmos pour accélérer la génération de données synthétiques, la curation et la formation robuste pour la robotique et la vision industrielle.
cuDF optimise les transformations ETL sur GPU grâce à des transformations JIT, favorisant la fusion de kernels et les UDFs complexes.
Une analyse des injections cognitives qui exploitent le raisonnement de l’IA à travers les modalities. L’équipe AI Red Team de NVIDIA montre comment des énigmes et des défis multimodaux peuvent intégrer des commandes nuisibles, contournant les filtres d’entrée et ciblant les architectures de raisonn
XGBoost 3.0 permet un entraînement GBDT à l’échelle TB sur un seul GH200 Grace Hopper, via la mémoire externe, accélérant les résultats et simplifiant la scalabilité pour les charges massives.
CUDA Toolkit 13.0 introduit une base pour la programmation par tiles, unifie les toolchains pour Arm SBSA et les plateformes embarquées, améliore la compression et enrichit Nsight Compute, ouvrant la voie à CUDA 13.x.
NVIDIA optimise les modèles gpt-oss d’OpenAI pour une inférence à 1,5 M/TPS sur GB200 NVL72, permettant une performance Day 0 du cloud à l’edge avec les plateformes Blackwell et Hopper.
vGPU 19.0 déverrouille les GPU RTX PRO Blackwell compatibles MIG pour une virtualisation graphique et IA évolutive, améliorant l’efficacité et la densité des data centers virtuels.
Découvrez comment les chargements et stockages vectorisés en CUDA C++ peuvent améliorer l’utilisation de la bande passante, réduire le nombre d’instructions et diminuer la latence. Conseils pratiques, alignement et compromis.