Items tagged with “Nvidia”.
O HGX B200 da NVIDIA reduz 24% da intensidade de carbono incorporado em relação ao HGX H100, ao mesmo tempo em que aumenta o desempenho de IA e a eficiência energética. Esta análise resume os dados de PCF e as novidades de hardware.
NVIDIA e o Lawrence Berkeley National Laboratory apresentam Huge Ensembles (HENS), uma ferramenta de IA de código aberto que prevê eventos climáticos raros e de alto impacto usando 27.000 anos de dados, com opções de código aberto ou prontos para uso.
Análise detalhada de sete técnicas testadas por Grandmasters do Kaggle para resolver grandes conjuntos de dados tabulares com aceleração por GPU, desde baselines diversificados até ensemble avançado e pseudo-rotulagem.
O Dynamo da NVIDIA transfere o KV Cache da memória da GPU para armazenamento de custo mais baixo, permitindo janelas de contexto maiores, maior concorrência e menor custo de inferência em grandes modelos.
RAPIDS 25.08 traz profiladores function-level e line-level para cuml.accel, executor streaming padrão no motor GPU Polars, suporte ampliado de tipos e strings, novo Spectral Embedding no cuML e acelerações com zero código para mais algoritmos.
Exploração detalhada de decodificação especulativa para inferência de IA, incluindo métodos draft-target e EAGLE-3, como reduzem latência e como implantar em GPUs NVIDIA com TensorRT.
Análise detalhada de como o NVIDIA Run:ai Model Streamer reduz o tempo de cold-start na inferência de LLMs ao transmitir pesos para a memória da GPU, com benchmarks em GP3, IO2 e S3.
Autodesk Research, NVIDIA Warp e GH200 mostram CFD baseado em Python com XLB: ~8x de velocidade, até 50 bilhões de células e desempenho próximo a soluções OpenCL/C++.
PyNvVideoCodec 2.0 traz melhorias significativas para pipelines de vídeo GPU em Python, baseadas no NVIDIA Video Codec SDK e disponíveis no PyPI e NVIDIA NGC. Desempenho semelhante ao SDK nativo com a flexibilidade do Python.
Um workshop autoguiado do NVIDIA Dev Blog mostra como montar um agente de geração de relatórios com várias camadas usando Nemotron no OpenRouter, apresentando LangGraph, componentes baseados em ReAct e prompts práticos.
Modelos abertos Qwen3-Next 80B-A3B-Thinking e 80B-A3B-Instruct demonstram uma arquitetura híbrida MoE para contexto longo e inferência eficiente, com opções de implantação e ferramentas abertas da NVIDIA.
VC-6 com CUDA acelera decodificação seletiva e multi-resolução, reduzindo I/O e acelerando o caminho de dados para tensores em pipelines de visão AI.
Explora quantization aware training (QAT) e distilação quantization aware (QAD) como métodos para recuperar precisão em modelos de baixa precisão, usando o TensorRT Model Optimizer da NVIDIA e formatos FP8/NVFP4/MXFP4.
O framework AI Kill Chain da NVIDIA mapeia como adversários comprometem aplicações alimentadas por IA, descrevendo etapas desde reconhecimento até impacto e prioridades defensivas para interromper cada etapa.
O RTX PRO 6000 Blackwell Server Edition da NVIDIA acelera drasticamente a inferência de estruturas de proteínas, permitindo fluxos de trabalho end-to-end movidos a GPU com OpenFold e TensorRT, atingindo até 138x mais rápido que o AlphaFold2.
Examina como NVIDIA Rivermax e NEIO FastSocket oferecem latência ultra‑baixa e alto rendimento, usando kernel bypass, zero‑copy e GPUDirect para mover dados diretamente do NIC para GPUs.
O NVIDIA NIM Operator 3.0.0 amplia a inferência de IA escalável no Kubernetes, permitindo implantações multi-LLM e multi-nó, integração com KServe e suporte a DRA em modo de tecnologia, com colaboração da Red Hat e NeMo Guardrails.
CUDA está sendo redistribuído por plataformas de terceiros para ser inserido diretamente em feeds de pacotes, simplificando a instalação e a resolução de dependências para aplicações com GPU e acelerando a implantação em ecossistemas.
O Spectrum-XGS Ethernet da NVIDIA habilita scale-across Networking para unir centros de dados dispersos em uma única fábrica de IA, proporcionando ganhos de largura de banda NCCL e desempenho previsível em longas distâncias.
Nova abordagem de swap de memória da GPU (memory swap) permite que vários modelos compartilhem GPUs além da capacidade, reduzindo custos e mantendo a reatividade para inferência de LLM em escala.
Análise detalhada de nvMatmulHeuristics, um otimizador de meta-parâmetros de kernels de GPU para GEMM que acelera o auto-tuning com CUTLASS 4.2, entregando kernels próximos do ideal em muito menos tempo.
CUDA Toolkit 13.0 para Jetson Thor unifica ferramentas Arm, habilita Memória Virtual Unificada, compartilhamento de GPU avançado, interoperabilidade OpenRM/dmabuf, suporte a NUMA e ferramentas de desenvolvedor aprimoradas para cargas de trabalho de IA embarcada.
Kit de ferramentas CUDA unificado para Arm no Jetson Thor com coerência total de memória, compartilhamento de GPU entre processos, interoperabilidade OpenRM/dmabuf, suporte NUMA e melhorias de ferramentas para embarcados e servidores.
Utilize o swap de memória da GPU (hot-swapping de modelos) para compartilhar GPUs entre múltiplos LLMs, reduzir custos de ociosidade e melhorar o autoscaling mantendo os SLAs.
Apresenta nvMatmulHeuristics para escolher rapidamente um conjunto pequeno de configurações de kernels GEMM com alto potencial para o CUTLASS 4.2, reduzindo drasticamente o tempo de tuning enquanto se aproxima do desempenho da busca exaustiva.
NVIDIA descreve um fluxo SFT + QAT para recuperar a precisão em FP4 durante o ajuste fino do gpt-oss, comparando MXFP4 e NVFP4, e detalhando ganhos de desempenho e implantação com taxas de aprovação de 98% em tarefas selecionadas.
Explica por que modelos de linguagem pequenos (SLMs) viabilizam IA agentiva escalável, o papel de ecossistemas heterogêneos de modelos e caminhos práticos de adoção com NVIDIA NeMo e Nemotron Nano 2.
Guia de fine-tuning do gpt-oss com SFT + QAT para recuperar a precisão em FP4 mantendo a eficiência, incluindo upcasting para BF16, MXFP4, NVFP4 e implantação com TensorRT-LLM.
Explora como modelos de linguagem pequenos permitem IA agentica mais barata, flexível e escalável, ao lado de LLMs, com NVIDIA NeMo e Nemotron Nano 2.
Visão prática do fluxo de telesurgery do NVIDIA Isaac for Healthcare, sua arquitetura modular e por que acelera o desenvolvimento do treinamento à implantação clínica com baixa latência e ferramentas unificadas.
Fluxo de telesurgery modular e pronto para produção do NVIDIA Isaac for Healthcare, unificando simulação e implantação clínica em uma arquitetura de baixo atraso com três máquinas. Abrange streaming de vídeo/sensores, controle de robô, haptics e simulação.
Análise detalhada de como a NVIDIA escalou um agente de pesquisa AI-Q baseado em LangGraph de um único usuário para centenas, usando o NeMo Agent Toolkit, testes de carga e implantação em fases com observabilidade.
O CUDA 13.0 da NVIDIA introduz uma otimização de spill de registradores para memória compartilhada, priorizando a memória on‑chip quando disponível, o que reduz a latência e melhora o desempenho em kernels com alta pressão de registradores.
CUDA 13.0 adiciona spill de registros na memória compartilhada para reduzir pressão da memória local quando houver espaço disponível. Ativação via PTX inline after a declaração da função; ganhos típicos de 5–10% em workloads com alta pressão de registradores.
Guia para implantar e escalar agentes baseados em LangGraph em produção usando o NeMo Agent Toolkit, testes de carga e rollout por fases para centenas a milhares de usuários.
A NVIDIA avança na óptica co-packaged através da colaboração setorial, descrevendo o Micro Ring Modulator, motores COUPE e fontes de laser externas modulares que permitem interconexões de data center densas e energeticamente eficientes.
Visão geral da plataforma de óptica co-packaged (CPO) da NVIDIA, destacando integração de fotônica/eletrônica, Micro Ring Modulator, motores baseados em COUPE, e colaboração com a TSMC e parceiros para interconexões de data center densas e energeticamente eficientes.
Jetson Thor oferece IA na borda em escala, possibilitando raciocínio generativo rápido, múltiplos modelos e processamento multimodal em tempo real com GPU Blackwell, MIG, FP4/FP8 e 128 GB de memória para plataformas robóticas de próxima geração.
A NVIDIA estende o NVFP4 da inferência ao pré-treinamento, habilitando precisão de 4 bits para acelerar o treinamento de modelos grandes mantendo acurácia semelhante ao FP8/BF16. Resultados iniciais com um modelo de 12B mostram convergência estável e bom desempenho em tarefas downstream, com ganho d
NVFP4 é um formato de dados de 4 bits que oferece precisão equivalente a FP16 com a vazão e eficiência de memória de 4 bits, estendido ao pré-treinamento de modelos de linguagem grandes. Este perfil aborda experimentos em escala 12B, estabilidade e colaborações.
Jetson Thor combina computação de IA de ponta, MIG de virtualização e sensores multimodais para robótica flexível em tempo real na borda, com aceleração FP4/FP8 e suporte a Isaac GR00T e a modelos grandes de linguagem/visão.
Identifique e resolva cinco gargalos comuns do pandas—desde leituras de CSV lentas até junções com alto consumo de memória—com ajustes de CPU e aceleração GPU com cudf.pandas para fluxos de dados mais rápidos e escaláveis.
O NVIDIA Blackwell Ultra acelera treinamento e inferência de IA com integração de dois dies, NVFP4 de precisão de 4 bits, 288 GB de HBM3e e interconexões de alta banda, viabilizando fábricas de IA em escala.
A NVIDIA descreve como a arquitetura Blackwell, bibliotecas CUDA-X e um ecossistema aberto prosperante—desde RAPIDS até Cosmos e Nemotron—aceleram o desenvolvimento de IA do protótipo à produção.
Recurso técnico para desenvolvedores que descreve cinco gargalos comuns do pandas, soluções práticas para CPU e GPU e aceleração por GPU com cudf.pandas.
Perfil detalhado do Blackwell Ultra, com design de dois núcleos NV‑HBI, precisão NVFP4, 288 GB HBM3e por GPU e interconexões de sistema para fábricas de IA e inferência em grande escala.
Visão geral de como o hardware Blackwell, modelos de código aberto e uma pilha de software rica aceleram a IA, desde preparação de dados até implantação, por meio de ampla disponibilidade de modelos/ferramentas e infraestrutura de ponta a ponta.
CuPQC v0.4 amplia o conjunto de hash e adiciona cálculos completos de Merkle, acelerando verificações de integridade de dados e segurança em GPUs para workloads criptográficos de alta velocidade.
NVIDIA HPC SDK v25.7 avança a programação com memória unificada em HPC com GPU, automatizando a movimentação de dados entre CPU e GPU e aumentando a produtividade em arquiteturas coerentes.
A NVIDIA explica como o NVLink Fusion expande tecnologias de escala do NVLink para hyperescaladores, conectando CPUs e XPUs a uma arquitetura de rack em escala para inferência de IA.
Visão geral do NVLink Fusion, permitindo inferência de IA escalável e com alto desempenho entre configurações personalizadas de CPU/XPU e tecnologias de rede NVLink em rack.
cuPQC v0.4 amplia o suporte a funções de hash e adiciona cálculos de árvores de Merkle para acelerar integridade de dados, verificação e criptografia de preservação de privacidade em GPUs.
O NVIDIA HPC SDK v25.7 avança a programação com memória unificada para automatizar o movimento de dados entre CPU e GPU, aumentando a produtividade do desenvolvedor e simplificando a portabilidade de modelos oceânicos como o NEMO para GPUs em sistemas Grace Hopper.
Descubra como o Omniverse Kit App Streaming da NVIDIA permite implantar e transmitir aplicativos Kit baseados em OpenUSD diretamente para navegadores, com opções flexíveis on‑premises e na nuvem, orquestração Kubernetes e cenários com clientes reais.
O NeMo-RL da NVIDIA v0.3 adiciona o backend Megatron-Core para entregar throughput otimizado de treinamento em modelos grandes, superando limitações do DTensor com paralelismo 6D, kernels de GPU otimizados e capacidade de contexto longo.
Guia para implantar e transmitir Omniverse Kit Apps em escala com opções flexíveis entre nuvem, local e DGX Cloud.
Visão geral do NeMo-RL v0.3 com suporte ao Megatron-Core para pós-treinamento de grandes modelos, incluindo paralelismo 6D/4D, núcleos CUDA otimizados e configuração simplificada para aumentar a taxa de treinamento em RL.
A NVIDIA apresenta atualizações para RTX neural rendering e ACE em gamescom 2025, incluindo expansão do DLSS 4, integração com Unreal Engine, avanços do RTX Kit, Riva ASR on-device e melhorias de nuvem com GeForce NOW e Discord.
O NVIDIA Streaming Sortformer é um modelo de diarização aberto e pronto para produção, projetado para identificação de falantes em tempo real em ambientes com múltiplos falantes. Integra-se ao NeMo e ao Riva e pode ser aplicado em pipelines de transcrição, orquestração de voicebots e análises corpor
Óptica co-packaged da NVIDIA oferece ganhos massivos de eficiência energética em data centers de IA, permitindo redes de alta densidade e baixa latência com motores ópticos integrados ao lado do ASIC do switch.
Resumo das novidades da NVIDIA na Gamescom 2025: DLSS 4, renderização neural RTX, RTX Kit, NvRTX, ACE AI e ferramentas para experiências de jogo escaláveis.
O Dynamo 0.4 introduz atendimento disagregado, AIConfigurator, autoscaling baseado em SLO com Planner, observabilidade aprimorada e recursos de tolerância a falhas. A atualização acelera inferência de grandes modelos, melhora a relação custo/benefício e fornece visibilidade operacional.
A NVIDIA Research apresenta o ProRL v2, a evolução mais recente do Prolonged Reinforcement Learning para LLMs, com novas técnicas de estabilidade e exploração que permitem melhorias sustentadas por meio de milhares de passos de RL.
A NVIDIA explica Wheel Variants e a iniciativa WheelNext, com suporte experimental do PyTorch 2.8 para descrever e selecionar artefatos otimizados para GPU na instalação. O objetivo é instalação mais rápida e confiável em ambientes CUDA variados.
CUDA-Q QEC 0.4 acelera fluxos de trabalho end-to-end de correção de erros quânticos, adiciona decodificador de tensor de rede, geração de DEM e um Generative Quantum Eigensolver na biblioteca Solvers para acelerar pesquisas quânticas.
A NVIDIA anuncia disponibilidade geral do Isaac Sim 5.0 e do Isaac Lab 2.2, com suporte a GPU na nuvem via NVIDIA Brev, integrações ROS 2, sensorimetria aprimorada e extensões de data‑gen open‑source para acelerar o desenvolvimento em robótica AI.
A NVIDIA divulgou atualizações nas bibliotecas Omniverse e nos Cosmos world foundation models (WFMs) no SIGGRAPH, alimentados pelo OpenUSD, oferecendo novas bibliotecas, modelos e ferramentas para ambientes virtuais fisicamente precisos e agentes de IA que entendem o mundo real.
O Omniverse NuRec e o 3DGUT da NVIDIA permitem reconstrução fotorrealista de cenas 3D a partir de dados de sensores e implantação imediata no Isaac Sim ou CARLA, acelerando o treinamento e a validação em simulação.
VLM de raciocínio aberto e personalizável para IA física e robótica; processamento de vídeo para tokens, ganhos com SFT e RL, implantação edge-to-cloud em GPUs NVIDIA, checkpoints via Hugging Face e GitHub.
A NVIDIA Research apresenta World Foundation Models (WFMs) via a plataforma Cosmos para acelerar geração de dados sintéticos e curadoria de dados para IA física, incluindo robótica e veículos autônomos. Cosmos Predict, Cosmos Transfer e Cosmos Reason habilitam fluxos de pós-treinamento e dados mais
O cuDF da RAPIDS oferece caminho de compilação JIT para fusão de kernels, reduzindo intermediários e tráfego de memória em transformações de strings e escalares. Abordagem oferece ganhos de performance e amplia suporte a operadores.
Pesquisadores da NVIDIA revelam como instrutivos maliciosos podem ser embutidos em desafios cognitivos, sequestrando caminhos de raciocínio da IA. Um protótipo mostra ataque de quebra-cabeça deslizante no Gemini 2.5 Pro, burlando filtros.
O XGBoost 3.0 avança o treinamento de GBDT em escala de TB em um único GH200 Grace Hopper, permitindo streaming com memória externa e redução da necessidade de clusters multinó.
CUDA Toolkit 13.0 apresenta fundamentos de programação por blocos, unificação de toolchains Arm entre servidores SBSA e dispositivos embarcados, além de avanços de desempenho com suporte ampliado ao Blackwell e Nsight Compute 2025.3.
NVIDIA e OpenAI otimizam gpt-oss 20B/120B para inferência FP4 no Blackwell, alcançando até 1,5M tokens por segundo em um GB200 NVL72. Desempenho Day-0, opções de implantação e pilares técnicos.
NVIDIA vGPU 19.0 desbloqueia virtualização de gráficos e IA em GPUs RTX PRO Blackwell, com particionamento MIG, perfil 3B vPC e segurança aprimorada com VBS, suportando até 48 VMs por GPU e fluxos de IA prontos para uso.
Descubra como loads e stores vetorizados em CUDA C++ podem otimizar a utilização de banda, reduzir a contagem de instruções e melhorar a latência. Aprenda alinhamento, conversão de ponteiros e modificações práticas de kernel.