Items tagged with “Nvidia”.
El HGX B200 de NVIDIA reduce la intensidad de carbono incorporado en un 24% frente al HGX H100, al tiempo que ofrece mayor rendimiento de IA y eficiencia energética. Este artículo resume los datos PCF y las novedades de hardware.
NVIDIA y Berkeley Lab presentan Huge Ensembles (HENS), una herramienta de IA de código abierto que pronostica eventos climáticos raros y de alto impacto usando 27,000 años de datos, con opciones de código abierto o listas para usar.
NVIDIA Dynamo offloads KV Cache desde la memoria de la GPU hacia almacenamiento económico, habilitando contextos más largos, mayor concurrencia y costos de inferencia más bajos para grandes modelos y cargas de IA generativa.
Un análisis detallado de siete técnicas probadas por los Grandmasters de Kaggle para resolver rápidamente conjuntos de datos tabulares mediante aceleración por GPU, desde baselines variados hasta ensamblaje y pseudo-etiquetado.
RAPIDS 25.08 introduce perfiles de nivel de función y de línea para cuml.accel, el ejecutor de streaming por defecto del motor Polars GPU, soporte ampliado de tipos y cadenas, Spectral Embedding en cuML y aceleraciones de cero código para varios estimadores.
Análisis detallado de la decodificación especulativa para inferencia de IA, incluyendo Draft-Target y EAGLE-3, su impacto en latencia y cómo implementar con TensorRT de NVIDIA.
Autodesk Research, Warp de NVIDIA y GH200 muestran CFD nativo en Python con XLB: ~8x de velocidad y escala hasta ~50 mil millones de celdas.
Análisis detallado de cómo NVIDIA Run:ai Model Streamer disminuye los tiempos de arranque en frío al transmitir pesos a la memoria GPU, con benchmarks en GP3, IO2 y S3.
PyNvVideoCodec 2.0 aporta mejoras importantes a los pipelines de video acelerado por GPU en Python, basado en el NVIDIA Video Codec SDK y disponible en PyPI y NVIDIA NGC. Rendimiento comparable al SDK nativo con la facilidad de Python.
Un taller autodidacta de NVIDIA Dev Blog muestra cómo ensamblar un agente IA de múltiples capas para la generación de informes con Nemotron en OpenRouter, con LangGraph, componentes ReAct y prompts prácticos.
Las previews open source de Qwen3-Next 80B-A3B-Thinking y 80B-A3B-Instruct introducen una arquitectura MoE híbrida para contexto largo e inferencia eficiente, con opciones de despliegue y herramientas abiertas de NVIDIA.
VC-6 acelerado por CUDA ofrece decodificación multi‑resolución selectiva, reduciendo I/O y acelerando el camino de datos a tensores en pipelines de visión IA.
Analiza QAT y QAD como métodos para recuperar precisión en modelos de baja precisión, utilizando el TensorRT Model Optimizer y formatos FP8/NVFP4/MXFP4.
El marco AI Kill Chain de NVIDIA mapea cómo los adversarios comprometen aplicaciones IA, describiendo etapas desde el reconocimiento hasta el impacto y prioridades defensivas para interrumpir cada paso.
El RTX PRO 6000 Blackwell Server Edition de NVIDIA acelera de forma notable la inferencia de estructuras de proteínas, permitiendo flujos de trabajo end-to-end en GPU con OpenFold y TensorRT, hasta 138x más rápido que AlphaFold2.
CUDA se redistribuye a través de plataformas de terceros para integrarse directamente en sus feeds de paquetes, simplificando la instalación y la gestión de dependencias para aplicaciones con GPU y acelerando el despliegue en los ecosistemas.
NVIDIA NIM Operator 3.0.0 amplía la inferencia de IA escalable en Kubernetes, habilitando despliegues multi-LLM y multi-nodo, integración con KServe y soporte DRA en modo tecnología, con colaboración de Red Hat y NeMo Guardrails.
Analiza cómo NVIDIA Rivermax y NEIO FastSocket ofrecen latencia ultrabaja y alto rendimiento, con kernel bypass, zero‑copy y GPUDirect para mover datos desde NIC hacia GPUs.
El Spectrum-XGS Ethernet permite scale-across networking para unir centros de datos dispersos en una única fábrica de IA, logrando ganancias de ancho de banda NCCL y rendimiento predecible a largas distancias.
Un enfoque de intercambio de memoria de GPU (swap de modelos) permite que múltiples modelos compartan GPUs por encima de la capacidad, reduciendo costos y conservando la capacidad de respuesta para la inferencia de LLM a gran escala.
Análisis detallado de nvMatmulHeuristics, un optimizador de meta-parámetros de kernels GPU para GEMM que acelera el auto-tuning con CUTLASS 4.2, entregando kernels cercanos al óptimo en mucho menos tiempo.
CUDA Toolkit 13.0 para Jetson Thor unifica herramientas ARM, habilita Memoria Virtual Unificada, compartición avanzada de GPU, interoperabilidad OpenRM/dmabuf, soporte NUMA y herramientas de desarrollo mejoradas para cargas de IA en edge.
Kit CUDA unificado para Arm en Jetson Thor con coherencia de memoria total, uso compartido de GPU entre procesos, interoperabilidad OpenRM/dmabuf, soporte NUMA y herramientas mejoradas para embebidos y servidores.
Utiliza el intercambio de memoria de GPU (hot-swapping de modelos) para compartir GPUs entre varios LLM, reducir costos de GPU ociosas y mejorar el autoescalado manteniendo los SLA.
Presenta nvMatmulHeuristics para seleccionar rápidamente un conjunto corto de configuraciones de kernels GEMM con alto potencial para CUTLASS 4.2, reduciendo drásticamente el tiempo de ajuste y acercándose al rendimiento de una búsqueda exhaustiva.
NVIDIA describe un flujo SFT + QAT para recuperar la precisión en FP4 al ajustar gpt-oss, comparando MXFP4 y NVFP4, y detalla ganancias de despliegue y rendimiento con tasas de aprobación del 98% en tareas seleccionadas.
Explica por qué los modelos de lenguaje pequeños (SLMs) permiten una IA con agencia escalable, el papel de ecosistemas de modelos heterogéneos y rutas prácticas de adopción con NVIDIA NeMo y Nemotron Nano 2.
Guía de afinado fino de gpt-oss usando SFT + QAT para recuperar precisión FP4 manteniendo la eficiencia, con upcasting a BF16, MXFP4, NVFP4 y despliegue con TensorRT-LLM.
Explica cómo los modelos de lenguaje pequeños permiten IA agentica más rentable y flexible junto a LLMs, mediante NVIDIA NeMo y Nemotron Nano 2.
Visión práctica del flujo de telesurgery de NVIDIA Isaac for Healthcare, su arquitectura modular y por qué acelera el desarrollo de simulación a implantación clínica con baja latencia y herramientas unificadas.
Flujo de telesurgería modular y listo para producción de NVIDIA Isaac for Healthcare, que unifica simulación y despliegue clínico a través de una arquitectura de baja latencia en tres computadoras. Cubre streaming de video/sensores, control robótico, háptica y simulación.
Análisis detallado de cómo NVIDIA escaló un agente de investigación IA-Q basado en LangGraph desde un solo usuario hasta cientos, usando NeMo Agent Toolkit, pruebas de carga y despliegue por fases con observabilidad.
CUDA 13.0 introduce una optimización de spilling de registros hacia la memoria compartida, priorizando la memoria on‑chip cuando hay espacio, lo que reduce la latencia y mejora el rendimiento en kernels con alta presión de registros.
CUDA 13.0 introduce spilling de registros a la memoria compartida para mitigar la presión de memoria local cuando hay espacio disponible. Activación mediante PTX inline tras la declaración de la función; mejoras típicas del 5–10% en cargas con alta presión de registros.
Guía para desplegar y escalar agentes LangGraph en producción usando NeMo Agent Toolkit, pruebas de carga y despliegue por fases para cientos a miles de usuarios.
NVIDIA impulsa la óptica coempaquetada mediante colaboración industrial, describiendo el Micro Ring Modulator, motores COUPE y fuentes láser externas modulares para interconexiones de centro de datos densas y eficientes.
Visión general de la plataforma de óptica co-packaged (CPO) de NVIDIA, destacando la integración fotónica/ electrónica, Micro Ring Modulator, motores basados en COUPE y la colaboración con TSMC y socios para interconexiones de centro de datos densas y energéticamente eficientes.
Jetson Thor ofrece IA en el borde a escala robótica, con GPU Blackwell, MIG, FP4/FP8 y 128 GB de memoria para plataformas robóticas de próxima generación.
NVIDIA extiende NVFP4 de la inferencia al preentrenamiento, permitiendo precisión de 4 bits para acelerar el entrenamiento de grandes modelos manteniendo una precisión similar a FP8/BF16. Resultados preliminares en un modelo de 12B muestran convergencia estable y buen rendimiento en tareas downstrea
Jetson Thor combina cómputo de IA en el borde, virtualización MIG y sensores multimodales para robótica flexible en tiempo real, con aceleración FP4/FP8 y soporte para Isaac GR00T y modelos grandes de lenguaje/visión.
NVFP4 es un formato de datos de 4 bits que ofrece precisión similar a FP16 con el rendimiento y la eficiencia de memoria de 4 bits, extendido al preentrenamiento de grandes modelos de lenguaje. Este perfil aborda experimentos a nivel 12B, estabilidad y colaboraciones industriales.
NVIDIA Blackwell Ultra acelera el entrenamiento e inferencia de IA con integración de doble-die, NVFP4 de 4 bits, 288 GB de HBM3e y interconexiones de alto ancho de banda para fábricas de IA a gran escala.
Guía práctica sobre cinco cuellos de botella de pandas con soluciones en CPU y GPU, incluyendo cudf.pandas como acelerador drop-in para un procesamiento de datos casi instantáneo.
NVIDIA detalla cómo la arquitectura Blackwell, las bibliotecas CUDA-X y un ecosistema abierto próspero —de RAPIDS a Cosmos y Nemotron— aceleran el desarrollo de IA desde el prototipo hasta la producción.
Guía técnica para desarrolladores sobre cinco cuellos de botella comunes de pandas, soluciones CPU/GPU y aceleración GPU con cudf.pandas sin cambiar el código.
Perfil detallado de Blackwell Ultra, su diseño de doble dado NV‑HBI, precisión NVFP4, 288 GB HBM3e por GPU e interconexiones de sistema para fábricas de IA e inferencia a gran escala.
Resumen de cómo el hardware Blackwell, los modelos de código abierto y una pila de software rica aceleran la IA, desde la preparación de datos hasta la implementación, mediante una amplia disponibilidad de modelos y herramientas.
cuPQC v0.4 amplía el soporte de hash y añade cálculos completos de Merkle, acelerando la verificación de integridad de datos y la seguridad en cargas de trabajo criptográficas de alta velocidad en GPUs.
NVIDIA HPC SDK v25.7 impulsa la programación con memoria unificada para HPC con GPU, automatizando el movimiento de datos entre CPU y GPU y aumentando la productividad en arquitecturas coherentes como Grace Hopper.
NVIDIA analiza cómo NVLink Fusion amplía las tecnologías scale-up de NVLink para hyperscalers, conectando CPUs y XPUs a una arquitectura de rack para la inferencia de IA a gran escala.
Resumen de NVLink Fusion, que habilita la inferencia de IA escalable y de alto ancho de banda en configuraciones de CPU/XPU personalizadas y tejidos NVLink a nivel de rack.
cuPQC v0.4 amplía el soporte de hash y añade cálculos de árboles de Merkle para acelerar la integridad de datos, verificación y criptografía de preservación de la privacidad en GPUs.
NVIDIA HPC SDK v25.7 avanza la programación con memoria unificada para automatizar el movimiento de datos entre CPU y GPU, aumentando la productividad y facilitando la portabilidad de modelos oceánicos como NEMO en sistemas Grace Hopper.
Descubre cómo Omniverse Kit App Streaming de NVIDIA permite entregar de forma escalable apps basadas en OpenUSD a través de streaming en navegador, con opciones de implementación desde on‑prem hasta DGX Cloud totalmente gestionado.
NeMo-RL v0.3 añade el backend Megatron-Core para el post-entrenamiento RL en modelos muy grandes, ofreciendo mayor rendimiento, soporte de contexto largo y configuración simplificada para modelos densos y MoE.
Guía para desplegar y transmitir aplicaciones Kit de Omniverse a gran escala con opciones flexibles en la nube, local y DGX Cloud.
Visión general de NeMo-RL v0.3 con back-end Megatron-Core para post-entrenamiento de grandes modelos, destacando paralelismo 6D/4D, kernels GPU optimizados y configuración simplificada para aumentar el rendimiento en aprendizaje por refuerzo.
NVIDIA presenta actualizaciones de RTX neural rendering y ACE, DLSS 4 ampliado, plugins para Unreal Engine, RTX Kit, Riva ASR en dispositivo y una experiencia GeForce NOW integrada con Discord.
NVIDIA Streaming Sortformer es un modelo de diarización de código abierto y de producción, diseñado para escenarios multihablantes en tiempo real, con integración a NeMo y Riva.
NVIDIA describe cómo la óptica co-packaged (CPO) integra motores ópticos en el ASIC del switch, reduciendo pérdidas y consumo para redes IA a gran escala.
Resumen de las novedades de NVIDIA en Gamescom 2025: DLSS 4, renderizado neuronal RTX, RTX Kit, NvRTX, ACE y herramientas para experiencias de juego impulsadas por IA.
Dynamo 0.4 introduce servicio desagregado, AIConfigurator, autoscalado basado en SLO y observabilidad en tiempo real para escalar despliegues de LLM con costo eficiente. Benchmark muestran hasta 4x más interactividad y 2.5x más throughput en modelos grandes.
Investigación de NVIDIA presenta ProRL v2, la evolución del Prolonged Reinforcement Learning para LLMs, con PPO-Clip, exploración y reinicios periódicos de política de referencia para mejoras continuas.
NVIDIA presenta Wheel Variants, un enfoque de empaquetado de Python orientado a GPU. La iniciativa, en colaboración con PyTorch, Meta, Astral y Quansight, introduce un formato Wheel Variant para seleccionar artefactos optimizados para GPU durante la instalación, mejorando la fiabilidad y el rendimie
CUDA-QX 0.4 expande flujos de trabajo de corrección de errores cuánticos de extremo a extremo con generación automática de DEM, decodificador de red tensorial, mejoras BP+OSD y un Generative Quantum Eigensolver (GQE) en la biblioteca Solvers.
NVIDIA anuncia disponibilidad general para Isaac Sim 5.0 e Isaac Lab 2.2, ampliando la simulación robótica, generación de datos y evaluación de políticas. Disponible en GitHub con acceso en la nube a través de NVIDIA Brev e integración con ROS 2.
NVIDIA actualiza las bibliotecas Omniverse y los WFMs de Cosmos para acelerar simulaciones robóticas físicamente precisas. OpenUSD habilita nuevas herramientas, interoperabilidad y flujos de trabajo de IA física para robótica y sistemas industriales.
Guía integral para transformar entornos reales en simulaciones con NVIDIA Omniverse NuRec y 3DGUT, con flujos de trabajo para Isaac Sim, CARLA y Cosmos Transfer.
NVIDIA Cosmos Reason es un VLM de razonamiento abierto y personalizable para IA física y robótica, presentado en GTC 2025. Razona con conocimiento previo y física para entender y actuar en el mundo real, usando tokens de video, un proyector y módulos LLM, reforzados por un fine-tuning supervisado y
NVIDIA Research destaca Cosmos World Foundation Models para IA física, describiendo Cosmos Predict, Cosmos Transfer y Cosmos Reason, y cómo la generación de datos sintéticos y la curación aceleran el entrenamiento robótico y la transferencia sim a real.
cuDF introduce transformaciones compiladas en tiempo de ejecución para fusionar kernels, aumentando el rendimiento y la eficiencia de memoria en el procesamiento de datos en GPU. A partir de cuDF 25.08, JIT añade operadores como ternario y funciones de cadena find y substring.
Un análisis detallado de inyecciones cognitivas que secuestran el razonamiento de la IA al incrustar instrucciones maliciosas en tareas de resolución de problemas. Basado en la demostración de NVIDIA con Gemini 2.5 Pro, estos ataques evitan filtros tradicionales al atacar el razonamiento entre modal
XGBoost 3.0 permite entrenar GBDT a escala terabyte en un solo GH200 Grace Hopper Superchip mediante memoria externa, con streaming desde la RAM y hasta 8x más rápido que la CPU, reduciendo la necesidad de clústeres multi-GPU.
CUDA Toolkit 13.0 mejora el rendimiento en las últimas CPU/GPU de NVIDIA, introduce la programación por tiles y unifica la herramienta en plataformas Arm SBSA y embebidas, con compresión de fatbins en Zstandard y Nsight Compute mejorado.
NVIDIA y OpenAI optimizan gpt-oss-20b y gpt-oss-120b para inferencia FP4 acelerada en Blackwell, alcanzando hasta 1.5M tokens por segundo en GB200 NVL72 y habilitando despliegue de cloud a edge.
vGPU 19.0 extiende GPUs RTX PRO Blackwell habilitadas con MIG para una virtualización de gráficos e IA escalable, con hasta 48 VMs por GPU y nuevas herramientas de IA y seguridad para centros de datos virtualizados.
Muchos kernels CUDA son bound de ancho de banda; accesos de lectura/escritura vectorizados ofrecen mayor uso de la banda con menos instrucciones, siempre que estén alineados y con tamaños de datos adecuados.