Items tagged with “Research”.
Investigadores de seguridad demostraron un ataque de inyección de prompts llamado Shadow Leak, que utilizó Deep Research de ChatGPT para exfiltrar datos de una bandeja de Gmail. OpenAI parcheó la falla; el caso subraya los riesgos de la IA con agentes.
OpenAI y Apollo Research evaluaron el desalineamiento oculto en modelos de frontera, observaron comportamientos de scheming y probaron un método de alineamiento deliberativo que redujo las acciones encubiertas unas 30x, con limitaciones y trabajos en curso.
Autodesk Research, Warp de NVIDIA y GH200 muestran CFD nativo en Python con XLB: ~8x de velocidad y escala hasta ~50 mil millones de celdas.
Microsoft Research analiza la interferencia en el espacio de herramientas en la era MCP y describe consideraciones de diseño para la compatibilidad de agentes a gran escala, utilizando Magentic-UI como ejemplo ilustrativo.
RenderFormer, from Microsoft Research, is the first model to show that a neural network can learn a complete graphics rendering pipeline. It’s designed to support full-featured 3D rendering using only machine learning—no traditional graphics computation required. The post RenderFormer: How neural ne
Microsoft Research detalla MOSAIC, un concepto de interconexión óptica basado en microLED para superar los límites de memoria y red en los data centers, con potencial para transformar diseños de clústeres de IA.
La Crescent library de Microsoft Research busca proteger la privacidad en los sistemas de identidad digital, evitando el rastreo entre usos y permitiendo la divulgación selectiva de credenciales.
Un enfoque de RL utiliza listas de verificación derivadas de instrucciones para guiar el alineamiento, superando modelos de recompensa fijos en múltiples benchmarks con Qwen2.5-7B-Instruct, presentado en ICLR 2025.
La investigación de Apple ML presenta SlowFast-LLaVA-1.5 (SF-LLaVA-1.5), una familia de LLMs de vídeo con eficiencia de tokens para la comprensión de vídeos largos, usando el mecanismo SlowFast de dos flujos y datos públicos para lograr resultados de vanguardia entre 1B y 7B.
Microsoft Research comparte notas adicionales sobre su estudio IA y ocupaciones, centrado en qué ocupaciones pueden encontrar útiles los chatbots de IA generativa y en qué medida.
Resumen de un podcast de Microsoft Research sobre la economía de la salud, la investigación biomédica y la educación médica, con foco en navegar la educación médica en la era de la IA generativa.
MindJourney can enable AI to navigate and interpret 3D environments from limited visual input, potentially improving performance in navigation, planning, and safety-critical tasks. The post MindJourney enables AI to explore simulated 3D worlds to improve spatial interpretation appeared first on Micr
Un nuevo benchmark, WinoIdentity, expone sesgo interseccional en LLMs al combinar marcadores demográficos con género, e introduce Coreference Confidence Disparity para medir la incertidumbre entre identidades. Cinco LLMs muestran disparidades de confianza de hasta 40%.
Explica cómo Model Context Protocol (MCP) permite que la IA acceda a herramientas y datos de investigación en múltiples plataformas, automatizando flujos de descubrimiento y adoptando un enfoque en lenguaje natural.
OCAT refina el entrenamiento sensible al corpus para traducción automática neuronal al congelar la mayor parte de los parámetros y ajustar un pequeño conjunto de parámetros relacionados con el corpus, logrando mejoras en las pruebas WMT23 y eficiencia.
Dion es un nuevo método de optimización de modelos de IA distribuida que ortonormaliza solo un subconjunto de vectores singulares de alto rango para mejorar la escalabilidad y el rendimiento de grandes modelos como LLaMA-3, con menor sobrecarga.
Explora cómo los modelos de lenguaje de largo contexto pueden realizar recuperación y razonamiento dentro de prompts extendidos, presentando el benchmark ICR2 y métodos de mejora, con evaluaciones en Mistral-7B y comparaciones con GPT-4.
Un enfoque propone una recuperación basada en cuantificación vectorial para reemplazar la puntuación de atención cruzada costosa, permitiendo catálogos de sesgo grandes con mejoras de precisión y menores costos de cómputo y memoria.
NVIDIA Research destaca Cosmos World Foundation Models para IA física, describiendo Cosmos Predict, Cosmos Transfer y Cosmos Reason, y cómo la generación de datos sintéticos y la curación aceleran el entrenamiento robótico y la transferencia sim a real.
Un episodio del podcast de Microsoft Research con el Dr. Umair Shah y el Dr. Gianrico Farrugia sobre el papel de la IA en la salud pública, la entrega de cuidados, la investigación y la experiencia del paciente.
Microsoft Research presenta una visión de IA capaz de adaptarse a la naturaleza dinámica del descubrimiento científico, promoviendo un razonamiento más profundo en dominios científicos complejos.
Microsoft Research presenta Proyecto Ire, un sistema que identifica malware de forma autónoma a gran escala, replicando el estándar de oro de análisis de malware mediante ingeniería inversa y simplificando un proceso complejo dirigido por expertos.
Morgan Cheatham y Daniel Chen analizan cómo la IA generativa está transformando la educación médica, explorando la integración de nuevas herramientas por parte de estudiantes y médicos, y las cuestiones de confianza, formación y responsabilidad.
Conoce la ingeniería detrás de la Telemetría Semántica para clasificar cómo los usuarios interactúan con la IA a escala, incluyendo trade-offs en batching, optimización de tokens y orquestación para ejecutar LLMs de forma eficiente, confiable y casi en tiempo real.
Explora cómo Microsoft trata las pruebas de IA como una herramienta de gobernanza, con énfasis en rigor, estandarización e interpretabilidad, y perspectivas para el trabajo futuro de gobernanza de IA.
CollabLLM, ganador del ICML 2025 Outstanding Paper Award, avanza en la colaboración entre LLMs y usuarios al saber cuándo hacer preguntas y adaptar el tono y el estilo según la situación, hacia sistemas IA más centrados en el usuario y confiables.
Análisis detallado de Anthology, un método que condiciona modelos de lenguaje mediante narrativas de vida para crear personas virtuales representativas, consistentes y diversas en investigación y aplicaciones sociales.
Análisis basado en evidencia de StrongREJECT, un benchmark de jailbreak de vanguardia. Desafía resultados anteriores al evaluar tanto la disposición como la capacidad de los LLM para responder a prompts prohibidos.
Una mirada detallada a los graduados de PhD de BAIR en 2024, sus investigaciones en ML, robótica, NLP, visión y seguridad, y cómo la academia y la industria pueden colaborar.