Curated tools, datasets and references.
Kit CUDA unifié pour Arm sur Jetson Thor avec cohérence mémoire complète, partage du GPU entre processus, interop OpenRM/dmabuf, support NUMA et outils améliorés pour l’embarqué et le serveur.
Exploitez le swap mémoire GPU (hot-swapping de modèles) pour partager les GPUs entre plusieurs LLM, réduire les coûts inoccupés et améliorer l’auto-Scaling tout en respectant les SLA.
Présente nvMatmulHeuristics pour sélectionner rapidement un petit ensemble de configurations de kernels GEMM à fort potentiel pour CUTLASS 4.2, réduisant considérablement le temps de tuning tout en approchant les performances d’une Recherche Exhaustive.
Découvrez comment la compilation AoT de PyTorch accélère ZeroGPU Spaces en exportant un modèle compilé et en le rechargeant instantanément, avec quantification FP8, formes dynamiques et intégration au flux Spaces GPU.
Guide du fine-tuning de gpt-oss utilisant SFT + QAT pour récupérer la précision FP4 tout en préservant l’efficacité, avec upcast vers BF16, MXFP4, NVFP4 et déploiement avec TensorRT-LLM.
Explique comment les petits modèles linguistiques permettent une IA agentique plus rentable et flexible, aux côtés des LLMs, via NVIDIA NeMo et Nemotron Nano 2.
Flux télésurgerie modulaire et prêt pour la production de NVIDIA Isaac for Healthcare, unifiant la simulation et le déploiement clinique via une architecture à faible latence sur trois ordinateurs. Couvre streaming vidéo/sensoriel, contrôle robotique, haptiques et simulation.
CUDA 13.0 introduit le déversement des registres dans la mémoire partagée pour réduire la pression sur la mémoire locale lorsque l'espace est disponible. Activation via PTX inline après la déclaration de la fonction; gains typiques de 5–10% sur les charges à forte pression de registres.
Guide pour déployer et faire évoluer des agents LangGraph en production avec le NeMo Agent Toolkit, des tests de charge et une mise en œuvre par étapes pour des centaines à des milliers d’utilisateurs.
Vue d’ensemble de la plateforme d’optique co-packagée (CPO) de NVIDIA, mettant en lumière l’intégration photoniques/électroniques, le Micro Ring Modulator, les moteurs COUPE et la collaboration avec TSMC et des partenaires pour des interconnexions de centre de données dense et éconergétique.
NVFP4 est un format de données en 4 bits offrant une précision équivalente au FP16 avec la bande passante et l’efficacité mémoire du 4 bits, étendu au pré-entraînement pour les grands modèles de langage. Ce profil couvre des expériences en 12B, la stabilité et les collaborations industrielles.
Jetson Thor concilie calcul IA en edge, virtualisation MIG et capteurs multimodaux pour une robotique flexible en temps réel, avec accélération FP4/FP8 et support pour Isaac GR00T et les grands modèles linguistiques/visuels.
Ressource technique pour développeurs présentant cinq goulets d'étranglement courants, des solutions CPU et GPU, et l'accélération GPU en mode drop-in via cudf.pandas.
Profil détaillé du Blackwell Ultra, sa conception à double die NV‑HBI, sa précision NVFP4, ses 288 Go HBM3e par GPU et ses interconnexions système pour les usines IA et l'inférence à grande échelle.
Vue d'ensemble des modèles open source, du matériel Blackwell et d'une pile logicielle complète qui accélèrent l'IA, de la préparation des données au déploiement, grâce à une large disponibilité de modèles et d'outils.
cuPQC v0.4 élargit le support des fonctions de hachage et ajoute des calculs d’arbres de Merkle pour accélérer l’intégrité des données, la vérification et la cryptographie de préservation de la vie privée sur les GPU.
Vue d’ensemble de NVLink Fusion, permettant une inférence IA à grande échelle et à haut débit sur des configurations CPU/XPU personnalisées et des fabrics NVLink en rack.
NVIDIA HPC SDK v25.7 fait progresser la programmation à mémoire unifiée pour automatiser les transferts CPU-GPU, augmenter la productivité des développeurs et faciliter la portabilité des modèles océaniques comme NEMO sur des systèmes Grace Hopper.
Guide pour déployer et diffuser les applications Kit Omniverse à grande échelle avec des options flexibles sur le cloud, sur site et DGX Cloud.
Vue d'ensemble de NeMo-RL v0.3 avec le backend Megatron-Core pour le post-entraînement de grands modèles, présentant le parallélisme 6D/4D, des noyaux GPU optimisés et une configuration simplifiée pour accroître le débit en apprentissage par renforcement.
Découvrez comment connecter Claude à Hugging Face Spaces via MCP Server pour générer des images avec Krea et Qwen-Image, profiter des crédits gratuits et explorer le répertoire d'applications IA.
Nemotron Nano 2 9B, modèle de raisonnement ouvert, offre une précision de pointe et jusqu’à 6x de débit grâce à une architecture hybride Transformer–Mamba et un budget de pensée configurable.
Aperçu des nouveautés de NVIDIA à Gamescom 2025 : DLSS 4, rendu neuronal RTX, RTX Kit, NvRTX, ACE AI et outils pour des expériences de jeu IA évolutives.
Guide pratique pour développer, construire pour plusieurs architectures et déployer des kernels CUDA avec Hugging Face Kernel Builder. Apprenez à créer un flux robuste, du développement local à la diffusion sur le Hub.
Parcours pratique de kernel-builder de Hugging Face pour développer, compiler et déployer des kernels CUDA prêts pour la production, avec des builds reproductibles, le support multi-architecture et une distribution via Hub.
Explique le Model Context Protocol (MCP) pour la découverte de la recherche et comment l’IA peut orchestrer des outils via le langage naturel sur arXiv, GitHub et Hugging Face.
Intro to LangChain with quickstart and examples.
TextQuests est un benchmark qui évalue les agents LLM sur 25 jeux classiques d’infocom, mettant l’accent sur le raisonnement en contexte long et l’exploration autonome.
FilBench est une suite d’évaluation complète pour mesurer les capacités des LLMs en Tagalog, Filipino et Cebuano, couvrant connaissance culturelle, NLP classique, compréhension de lecture et génération.
Ressource sur la composition de plusieurs stratégies de parallélisme (DP, FSDP, TP, CP) avec Accelerate et Axolotl pour entraîner de grands modèles sur de multiples GPU, avec configuration, cas d'utilisation et compromis.
AI Sheets est un outil open-source sans code pour créer, enrichir et transformer des jeux de données avec des modèles d IA. Déployable localement ou sur le Hub, il prend en charge des milliers de modèles ouverts et permet des itérations par prompts, retours en mode few-shot et comparaisons de modèle
Aperçu des méthodes d’alignement multimodal de TRL pour les VLMs: GRPO, GSPO et MPO, avec le support SFT natif et les bases DPO.
Deux modèles à poids ouverts (gpt-oss-120b et gpt-oss-20b) utilisant des Mixture-of-Experts et une quantification MXFP4 pour une inférence rapide et économe en mémoire. Licenciés Apache 2.0, adaptés aux déploiements privés/local et à l’exécution sur périphérique, avec intégration via Hugging Face In
Découvrez comment les serveurs Gradio MCP connectent les LLM aux modèles Hugging Face pour alimenter un assistant d'achat IA qui parcourt les sites et réalise des essayages virtuels avec IDM-VTON.
Bibliothèque de suivi d’expériences Python open-source et gratuite, avec un tableau de bord Gradio local qui peut se synchroniser avec Hugging Face Spaces pour un partage facile. Remplace wandb sans effort, design léger (bêta).
Vue d’ensemble de la réorganisation du CLI en hf et du nouveau service Hugging Face Jobs, avec installation, utilisation et notes de migration.
Activez le CDC pour Parquet avec le stockage Xet et PyArrow/Pandas, pour dédupliquer les blocs de données à travers les fichiers et les dépôts, réduisant les transferts et le coût de stockage.
Ressource concise expliquant pourquoi les approches multimodales axées sur l’échelle risquent de ne pas aboutir à une AGI et pourquoi l’incarnation et les modèles du monde sont essentiels.
Recent advances in Large Language Models (LLMs) enable exciting LLM-integrated applications. However, as LLMs have improved, so have the attacks against them. Prompt injection attack is listed as the #1 threat by OWASP to LLM-integrated applications, where an LLM input contains a trusted prompt (ins
PLAID génère simultanément les séquences protéiques 1D et les structures 3D en apprenant l’espace latent des modèles de pliage protéique. Prompts de fonction et d’organisme, décodage avec des poids gelés ESMFold.
100 véhicules autonomes contrôlés par RL déployés sur l’I-24 pendant les heures de pointe pour atténuer les ondes d’arrêt-démarrage, améliorer le flux et réduire la consommation de carburant pour tous les usagers. Contrôle décentralisé via capteurs radar de base.
Examine comment les mathématiques restent centrales en ML, mais leur rôle évolue vers la géométrie, les symétries et les explications post-hoc à l’ère des grandes échelles.
Une méthode pour guider les LLMs vers des personas virtuelles représentatifs et cohérents en générant des backstories détaillées et en les utilisant comme contexte de conditionnement, permettant des simulations individualisées et des études utilisateur à grande échelle.
Analyse de la manière dont ChatGPT réagit à divers dialectes de l’anglais, démontrant des biais contre les variantes non standard et leurs implications.
Explore le dialogue orienté objectif dans les chatbots LLM, soutenant que les échanges multi-tours s'alignent mieux sur les objectifs des utilisateurs et favorisent la collaboration, notamment pour le code et les assistants personnels.
Aperçu d’un benchmark de jailbreak de haute qualité avec deux évaluateurs automatisés, un ensemble de 313 prompts interdits et des résultats montrant que de nombreux jailbreaks sont moins efficaces que les revendications passées.
Cadre centré sur le bien-être pour des IA bénéfiques, associant sciences du bien-être, économie et gouvernance pour tracer des visions pragmatiques et actionnables.
Benchmark de raisonnement visuel en contexte long sur de grands ensembles d’images non corrélées; introduit MIRAGE pour étendre les LMMs au-delà du VQA sur une image.
Une étude montrant comment des modèles de langage de petite taille peuvent effectuer des appels de fonction précis à la périphérie via une data pipeline ciblée, un planificateur LLMCompiler et une exécution locale sur macOS.
Aperçu de comment les LLMs peuvent être appliqués aux marchés financiers, incluant la modélisation autoregressive des données de prix, l’intégration multimodale, la résidualisation, les données synthétiques et les prévisions sur plusieurs horizons.
Synthèse des travaux clés mesurant les biais de genre dans l’IA, couvrant les embeddings, la co-référence, la reconnaissance faciale, les benchmarks QA et la génération d’images; discussion sur les mitigations et les lacunes.
Analyse approfondie de Mamba, backbone basé sur les SSM destiné à traiter des séquences longues, avec des performances comparables à Transformer et une efficacité accrue.
Modélisation de très grandes images de bout en bout sur des GPUs modernes via tokenisation hiérarchique et encodeurs régionaux et contextuels, offrant un contexte riche avec une empreinte mémoire réduite.
Annuaire des diplômés PhD du BAIR Lab avec intérêts de recherche, directeurs de recherche et coordonnées pour faciliter la collaboration et le recrutement.
Vue d’ensemble sur la manière dont les grands modèles de langage peuvent améliorer la conduite autonome dans la perception, la planification et la génération, avec exemples et défis.
Examine si les embeddings de texte peuvent être inversés pour récupérer le texte original, détaillant vec2text et les implications de confidentialité des systèmes basés sur les embeddings.
Analyse approfondie des raisons pour lesquelles les modèles ML échouent sur des données réelles, avec des conseils pratiques et une voie vers une évaluation plus fiable.
Aperçu de la façon dont l'apprentissage profond permet le séquençage à cellule unique, avec des autoencodeurs pour la réduction de dimensionnalité, l’intégration multimodale et la transcriptomique spatialement résolue.
Examine les défis sociotechniques du comptage des poissons sur les barrages et comment l'expertise humaine s'articule avec l'apprentissage automatique dans des environnements réglementés.
Explore comment les réseaux neuronaux peuvent capturer le calcul classique (par ex., Bellman–Ford) via des réseaux de neurones sur graphes et l’idée d’alignement algorithmique pour améliorer l’apprentissage de l’exécution des algorithmes.
Une analyse critique majeure des débats sur l’alignement de l’IA, soutenant que le travail actuel sur l’alignement est mal aligné avec les dommages réels et conduit par des incitations liées au produit. Examine RLHF/RLAIF, l’alignement des intentions et le modèle de préférences HH H tel que décrit d
Vue d'ensemble des débats sur la conscience en IA, définitions et implications morales. Mise en évidence des distinctions de Block (autoconscience, conscience de suivi, conscience d'accès, conscience phénoménale) et des problèmes faciles/difficiles de Chalmers; souligne le besoin d'un travail interd