Curated tools, datasets and references.
Kit de ferramentas CUDA unificado para Arm no Jetson Thor com coerência total de memória, compartilhamento de GPU entre processos, interoperabilidade OpenRM/dmabuf, suporte NUMA e melhorias de ferramentas para embarcados e servidores.
Utilize o swap de memória da GPU (hot-swapping de modelos) para compartilhar GPUs entre múltiplos LLMs, reduzir custos de ociosidade e melhorar o autoscaling mantendo os SLAs.
Apresenta nvMatmulHeuristics para escolher rapidamente um conjunto pequeno de configurações de kernels GEMM com alto potencial para o CUTLASS 4.2, reduzindo drasticamente o tempo de tuning enquanto se aproxima do desempenho da busca exaustiva.
Descubra como a AoT do PyTorch acelera ZeroGPU Spaces exportando um modelo compilado e recarregando-o instantaneamente, com quantização FP8, formas dinâmicas e integração cuidadosa com o fluxo Spaces GPU.
Guia de fine-tuning do gpt-oss com SFT + QAT para recuperar a precisão em FP4 mantendo a eficiência, incluindo upcasting para BF16, MXFP4, NVFP4 e implantação com TensorRT-LLM.
Explora como modelos de linguagem pequenos permitem IA agentica mais barata, flexível e escalável, ao lado de LLMs, com NVIDIA NeMo e Nemotron Nano 2.
Fluxo de telesurgery modular e pronto para produção do NVIDIA Isaac for Healthcare, unificando simulação e implantação clínica em uma arquitetura de baixo atraso com três máquinas. Abrange streaming de vídeo/sensores, controle de robô, haptics e simulação.
CUDA 13.0 adiciona spill de registros na memória compartilhada para reduzir pressão da memória local quando houver espaço disponível. Ativação via PTX inline after a declaração da função; ganhos típicos de 5–10% em workloads com alta pressão de registradores.
Guia para implantar e escalar agentes baseados em LangGraph em produção usando o NeMo Agent Toolkit, testes de carga e rollout por fases para centenas a milhares de usuários.
Visão geral da plataforma de óptica co-packaged (CPO) da NVIDIA, destacando integração de fotônica/eletrônica, Micro Ring Modulator, motores baseados em COUPE, e colaboração com a TSMC e parceiros para interconexões de data center densas e energeticamente eficientes.
NVFP4 é um formato de dados de 4 bits que oferece precisão equivalente a FP16 com a vazão e eficiência de memória de 4 bits, estendido ao pré-treinamento de modelos de linguagem grandes. Este perfil aborda experimentos em escala 12B, estabilidade e colaborações.
Jetson Thor combina computação de IA de ponta, MIG de virtualização e sensores multimodais para robótica flexível em tempo real na borda, com aceleração FP4/FP8 e suporte a Isaac GR00T e a modelos grandes de linguagem/visão.
Recurso técnico para desenvolvedores que descreve cinco gargalos comuns do pandas, soluções práticas para CPU e GPU e aceleração por GPU com cudf.pandas.
Perfil detalhado do Blackwell Ultra, com design de dois núcleos NV‑HBI, precisão NVFP4, 288 GB HBM3e por GPU e interconexões de sistema para fábricas de IA e inferência em grande escala.
Visão geral de como o hardware Blackwell, modelos de código aberto e uma pilha de software rica aceleram a IA, desde preparação de dados até implantação, por meio de ampla disponibilidade de modelos/ferramentas e infraestrutura de ponta a ponta.
Visão geral do NVLink Fusion, permitindo inferência de IA escalável e com alto desempenho entre configurações personalizadas de CPU/XPU e tecnologias de rede NVLink em rack.
cuPQC v0.4 amplia o suporte a funções de hash e adiciona cálculos de árvores de Merkle para acelerar integridade de dados, verificação e criptografia de preservação de privacidade em GPUs.
O NVIDIA HPC SDK v25.7 avança a programação com memória unificada para automatizar o movimento de dados entre CPU e GPU, aumentando a produtividade do desenvolvedor e simplificando a portabilidade de modelos oceânicos como o NEMO para GPUs em sistemas Grace Hopper.
Guia para implantar e transmitir Omniverse Kit Apps em escala com opções flexíveis entre nuvem, local e DGX Cloud.
Visão geral do NeMo-RL v0.3 com suporte ao Megatron-Core para pós-treinamento de grandes modelos, incluindo paralelismo 6D/4D, núcleos CUDA otimizados e configuração simplificada para aumentar a taxa de treinamento em RL.
Descubra como conectar Claude ao Hugging Face Spaces via MCP Server para gerar imagens com Krea e Qwen-Image, aproveitar créditos gratuitos e explorar o diretório de aplicativos de IA.
Nemotron Nano 2 9B aberto oferece precisão de ponta e até 6x de throughput com backbone híbrido Transformer–Mamba e orçamento de raciocínio configurável, voltado para edge, PC e aplicações empresariais de IA.
Resumo das novidades da NVIDIA na Gamescom 2025: DLSS 4, renderização neural RTX, RTX Kit, NvRTX, ACE AI e ferramentas para experiências de jogo escaláveis.
Guia prático para desenvolver, compilar para várias arquiteturas e implantar kernels CUDA com o Hugging Face Kernel Builder. Aprenda a criar um fluxo robusto desde o desenvolvimento local até a distribuição no Hub.
Fluxo prático da kernel-builder da Hugging Face para desenvolver, compilar e implantar kernels CUDA com produção, com builds reprodutíveis, suporte a múltiplas arquiteturas e distribuição via Hub.
Explica o Modelo Context Protocol (MCP) para descoberta de pesquisa e como a IA pode orquestrar ferramentas de pesquisa entre arXiv, GitHub e Hugging Face via linguagem natural.
Intro to LangChain with quickstart and examples.
TextQuests é um benchmarks que testa agentes LLM em 25 jogos clássicos de ficção interativa, enfatizando raciocínio de longo contexto e exploração autônoma.
FilBench é uma suíte de avaliação abrangente para medir capacidades de LLMs em Tagalog, Filipino e Cebuano, cobrindo Conhecimento Cultural, PLN Clássico, Compreensão de Leitura e Geração.
AI Sheets é uma ferramenta de código aberto, sem necessidade de programação, para criar, enriquecer e transformar conjuntos de dados com modelos de IA. Pode ser executada localmente ou na Hub, suporta milhares de modelos abertos e permite iterar com prompts, feedback de poucos-shot e comparações de
Recurso sobre compor estratégias de paralelismo (DP, FSDP, TP, CP) com Accelerate e Axolotl para treinar modelos grandes em várias GPUs, com orientação sobre configuração, casos de uso e trade-offs.
Visão geral dos métodos de alinhamento multimodal do TRL para VLMs: GRPO, GSPO e MPO, além do suporte nativo a SFT e baselines com DPO.
Duas weights abertos da OpenAI (gpt-oss-120b e gpt-oss-20b) usando Mixture-of-Experts (MoE) e quantização MXFP4 para inferência rápida e com uso eficiente de memória. Licença Apache 2.0; voltado para implantações privadas/local e uso em dispositivos, com integração via Hugging Face Inference Provide
Descubra como os servidores Gradio MCP conectam LLMs a modelos da Hugging Face, permitindo um assistente de compras IA que navega por lojas e realiza provadores virtuais usando IDM-VTON.
Biblioteca de rastreamento de experimentos em Python, aberta e gratuita, com um painel Gradio local que pode ser sincronizado com o Hugging Face Spaces para compartilhamento fácil. Substituto leve do wandb com design beta.
Visão geral do renomeado CLI do Hugging Face, sua estrutura reorganizada por recursos e o novo serviço Jobs, além de configuração, uso e notas de migração.
Habilite CDC de Parquet com o armazenamento Xet para deduplicar blocos de dados entre arquivos e repositórios, reduzindo o tamanho de uploads/downloads e o custo de armazenamento.
Recursos concisos expondo por que abordagens multimodais baseadas em escala não devem produzir AGI; enfatiza inteligência enraizada em mundo físico.
Recent advances in Large Language Models (LLMs) enable exciting LLM-integrated applications. However, as LLMs have improved, so have the attacks against them. Prompt injection attack is listed as the #1 threat by OWASP to LLM-integrated applications, where an LLM input contains a trusted prompt (ins
PLAID gera simultaneamente sequência 1D de proteína e estrutura 3D aprendendo o espaço latente de modelos de dobramento de proteínas. Suporta prompts de função e organismo e decodifica a estrutura com pesos congelados do modelo de dobramento.
100 carros controlados por RL foram implantados na I-24 durante o horário de pico para diminuir ondas de paradas e arranques, melhorar o fluxo e reduzir o consumo de combustível para todos. Controle descentralizado com sensores de radar básicos.
Explora como a matemática continua central no ML, mas seu papel está evoluindo da garantia teórica para geometria, simetrias e explicações pós-hoc em IA de escala.
Um método para guiar LLMs rumo a personas virtuais representativas, consistentes e diversas, gerando narrativas de vida detalhadas usadas como contexto de condicionamento, com aplicações em simulações e pesquisas escaláveis.
Análise de como o ChatGPT responde a diferentes dialetos do inglês, destacando vieses contra variedades não padrão e suas implicações.
Explora o diálogo intencional em chatbots LLM, argumentando que interações de várias voltas alinham melhor a IA com os objetivos do usuário e permitem colaboração, especialmente em casos de uso de código e assistentes pessoais.
Visão geral de um benchmark de jailbreak de alta qualidade com dois avaliadores automáticos, um conjunto de prompts proibidos e descobertas de que muitos jailbreaks não correspondem a reivindicações anteriores.
Propõe fundamentar os benefícios de IA no bem-estar humano e na saúde institucional, integrando ciência do bem-estar à IA e delineando visões práticas para desenvolvimento e implantação que promovam o florescimento individual e social.
Benchmark de raciocínio visual em contexto longo entre grandes conjuntos de imagens não correlacionadas; introduz o MIRAGE para estender LMMs além de VQA com uma imagem.
Estudo mostra como modelos de linguagem pequenos podem realizar chamadas de função com precisão na borda usando dados curados, um planejador baseado em LLMCompiler e execução local com integrações no macOS.
Visão geral de como LLMs podem ser aplicados a mercados financeiros, incluindo modelagem autoregressiva de dados de preços, entradas multimodais, residualização, dados sintéticos e previsões em múltiplos horizontes, com ressalvas sobre eficiência de mercado.
Panorama de trabalhos influentes que medem viés de gênero em IA, abrangendo embeddings, co-referência, reconhecimento facial, benchmarks de QA e geração de imagens; discute mitigação, lacunas e auditoria robusta.
Análise sobre Mamba, um backbone baseado em Espaços de Estado (SSM) para sequências de longo alcance, oferecendo desempenho semelhante ao Transformer com maior eficiência.
Modelagem de imagens extremamente grandes de ponta a ponta em GPUs modernas via tokenização hierárquica e encoders regionais e de contexto, oferecendo contexto rico com menor uso de memória.
Diretório dos graduados de PhD do BAIR Lab com interesses de pesquisa, orientadores e informações de contato para facilitar colaboração e recrutamento.
Visão geral de como grandes modelos de linguagem podem aumentar a condução autônoma em percepção, planejamento e geração, com exemplos e desafios.
Examina se embeddings de texto podem ser invertidos para recuperar o texto original, detalhando o vec2text e o impacto na privacidade em sistemas baseados em embeddings.
Uma análise aprofundada das razões comuns pelas quais modelos de ML falham em dados do mundo real, com orientação prática e um caminho para avaliação mais confiável.
Visão geral de como o aprendizado profundo viabiliza o sequenciamento de células únicas, com autoencoders para redução de dimensionalidade, integração multimodal e transcriptômica com resolução espacial.
Explora os desafios sociotécnicos da contagem de peixes em barragens e como a experiência humana se integra à aprendizagem de máquina em ambientes regulados.
Explora como redes neurais podem capturar computação clássica (ex.: Bellman–Ford) via redes neurais de grafos e a ideia de alinhamento algorítmico para melhorar a aprendizagem da execução de algoritmos.
Crítica substancial aos debates sobre alinhamento de IA, argumentando que o trabalho atual de alinhamento está desalinhado com danos reais e é influenciado por incentivos de produto. Examina RLHF/RLAIF, alinhamento de intenções e o modelo de preferências HHH conforme descrito no ensaio The Gradient.
Visão geral sobre debates de consciência em IA, definições e implicações éticas. Destaques para as classificações de Block (autoconsciência, consciência de monitoramento, consciência de acesso, consciência fenomenal) e para o problema fácil/difícil de Chalmers; discute a necessidade de trabalho tran