Agilizar el acceso a cambios de contenido ISO-rating con Verisk Rating Insights y Amazon Bedrock
Sources: https://aws.amazon.com/blogs/machine-learning/streamline-access-to-iso-rating-content-changes-with-verisk-rating-insights-and-amazon-bedrock, https://aws.amazon.com/blogs/machine-learning/streamline-access-to-iso-rating-content-changes-with-verisk-rating-insights-and-amazon-bedrock/, AWS ML Blog
TL;DR
- Verisk Rating Insights es una función de ISO Electronic Rating Content (ERC) que proporciona resúmenes de cambios de calificación entre dos versiones.
- La solución utiliza IA generativa y servicios de AWS, incluido Amazon Bedrock, Claude Sonnet 3.5, LlamaIndex y OpenSearch Serverless con Retrieval Augmented Generation (RAG), para una interfaz conversacional.
- Elimina la necesidad de descargar paquetes completos, reduce el tiempo de análisis de 3–4 horas por caso a minutos y alivia la carga de soporte al cliente.
- Controles, gobernanza y salvaguardas de acceso a datos se integran para proteger el cumplimiento, la propiedad intelectual y la privacidad, apoyados por un consejo de gobernanza.
- Verisk planea ampliar las capacidades de consulta y escalar la plataforma para más usuarios y conjuntos de contenido en varias líneas de productos.
Contexto y antecedentes
Los cambios del ISO Electronic Rating Content (ERC) típicamente requieren descargas de paquetes de contenido completos o comparaciones manuales entre versiones. El blog de AWS describe cómo surgió Verisk Rating Insights ante la necesidad de mejorar el acceso y automatizar tareas repetitivas. Al combinar IA generativa con servicios de AWS, Verisk creó una plataforma conversacional que ayuda a los usuarios a obtener información específica, identificar diferencias de contenido y trabajar con mayor eficiencia. El artículo señala que la solución está impulsada por Amazon Bedrock, grandes modelos de lenguaje (LLMs) y Retrieval Augmented Generation (RAG), con Claude Sonnet 3.5 interpretando consultas y fundamentando las respuestas. La arquitectura integra LlamaIndex como marco de cadena para conectar y gestionar diversas fuentes de datos, enabling recuperación dinámica de cambios de contenido. OpenSearch Serverless guarda los cambios como vectores para apoyar búsquedas inteligentes. El RAG permite respuestas ancladas a datos actuales, reduciendo la posibilidad de salidas desactualizadas. Verisk implementó guardrails en Bedrock y guardrails personalizados para asegurar que las salidas cumplan con normas de conformidad y calidad. Un consejo de gobernanza supervisa el uso de IA, garantizando la protección de la propiedad intelectual y el uso de datos. Para más detalles, consulte el post de AWS referenciado.
Novedades
Verisk Rating Insights ahora combina varias tecnologías para brindar una experiencia de usuario fluida para cambios de ERC ISO. La plataforma utiliza Claude Sonnet 3.5 (ID del modelo: anthropic.claude-3-5-sonnet-20240620-v1:0) para entender las consultas y generar respuestas contextualizadas. LlamaIndex coordina las fuentes de datos, mientras que OpenSearch Serverless almacena cambios como vectores y facilita recuperaciones precisas. La integración de RAG asegura que las respuestas estén fundamentadas en datos actuales y fiables, reduciendo la posibilidad de salidas incorrectas. Además de los componentes de IA, Verisk implementó salvaguardas y mecanismos de seguridad, incluyendo Guardrails de Bedrock y guardrails personalizados para limitar salidas a requisitos de cumplimiento. Se estableció un consejo de gobernanza para supervisar el uso de IA, asegurando adherencia a políticas de uso de datos y protección de la PI, y se implementaron controles de acceso estrictos en el pipeline de RAG para mantener datos sensibles solo para usuarios autorizados. La arquitectura y el bucle de evaluación están diseñados para coordinar múltiples llamadas de LLMs y garantizar respuestas relevantes y bien fundamentadas en el contenido subyacente. El artículo también enfatiza beneficios prácticos para los clientes: una interfaz conversacional que permite auto-servicio para obtener resúmenes de cambios y diferencias sin descargar paquetes ERC completos, proporcionando insights precisos y actuales para apoyar la toma de decisiones. La solución demuestra cómo la IA generativa puede transformar procesos operativos, reducir tareas manuales y mejorar la precisión en el tratamiento de contenidos ERC ISO. También posiciona a Bedrock como la infraestructura para escalar estas capacidades a conjuntos de contenido y líneas de productos adicionales.
Por qué importa (impacto para desarrolladores/empresas)
- Ahorro de tiempo y productividad: al eliminar la necesidad de descargar y comparar grandes paquetes ERC, los usuarios obtienen insights relevantes en minutos, acelerando la toma de decisiones y reduciendo la carga de analistas.
- Auto-servicio y onboarding de clientes: una interfaz de IA conversacional permite a los usuarios autogestionarse y obtener respuestas en tiempo real, reduciendo la presión sobre el soporte de ERC y acelerando la adopción para nuevos clientes.
- Mayor precisión y consistencia: respuestas ancladas vía RAG se basan en datos actuales, minimizando alucionaciones y detalles irrelevantes, con gobernanza que garantiza cumplimiento y estándares de calidad.
- Escalabilidad y automatización: la integración con AWS Bedrock y OpenSearch, junto al marco de gobernanza, ofrece una base escalable para ampliar a más conjuntos de contenido y líneas de productos.
- Gobernanza y seguridad: un consejo de gobernanza y controles de acceso estrictos protegen información sensible y aseguran la protección de la PI. Estos controles respaldan la adopción empresarial manteniendo control sobre el uso de datos y comportamiento del modelo.
Detalles técnicos o Implementación
La solución descrita por Verisk en el blog de AWS combina varios servicios de AWS y capacidades de IA para entregar una plataforma robusta para el contenido ERC ISO. Los componentes clave incluyen:
- Capa de IA generativa: Claude Sonnet 3.5 (ID del modelo: anthropic.claude-3-5-sonnet-20240620-v1:0) para interpretar las consultas y generar respuestas detalladas y contextualizadas.
- Orquestación de datos: LlamaIndex funciona como marco de cadena para coordinar conexiones con diversas fuentes y permitir recuperación dinámica de contenidos.
- RAG: OpenSearch Serverless guarda cambios como vectores y facilita recuperaciones precisas para anclar salidas en datos actuales.
- Guardrails y gobernanza: Guardrails de Bedrock y guardrails personalizados para limitar salidas a normas de cumplimiento. Un consejo de gobernanza supervisa la iniciativa y garantiza controles de acceso para proteger datos y PI.
- Ingestión de datos y bucles de inferencia: la arquitectura separa la ingestión de datos del bucle de inferencia, coordinando múltiples llamadas de LLM para generar respuestas y refinar de forma iterativa.
- Evaluación y memoria: el sistema incluye un marco de evaluación y un ciclo de retroalimentación para mejoras continuas, conservando el historial de conversación como memoria contextual para sustentar las discusiones. Estos componentes trabajan juntos para entregar una interfaz conversacional capaz de recuperar y resumir cambios ERC ISO, identificar diferencias entre versiones y presentar insights precisos y actualizados sin necesidad de descargas manuales o búsquedas extenuantes. La arquitectura está diseñada para seguridad, trazabilidad y escalabilidad, con énfasis en la protección de datos y la propiedad intelectual.
Puntos clave
- Verisk Rating Insights utiliza IA para simplificar el acceso a cambios ERC ISO.
- Utiliza Claude Sonnet 3.5, LlamaIndex, OpenSearch Serverless y RAG para respuestas fundamentadas y actuales.
- Guardrails, gobernanza y controles de acceso refuerzan conformidad, seguridad y protección de la PI.
- Ahorro de tiempo y mejor onboarding reducen costos de soporte y aumentan la satisfacción de usuarios.
- La arquitectura está diseñada para escalar, permitiendo expansión a más usuarios y conjuntos de contenido.
FAQ
- Q: ¿Qué es Verisk Rating Insights y qué problema resuelve?\n A: Es una funcionalidad del ERC ISO que proporciona resúmenes de cambios entre versiones y utiliza IA y servicios de AWS para permitir una interfaz conversacional que recupera cambios de contenido específicos.
- Q: ¿Qué tecnologías se usan?\n A: La plataforma utiliza Amazon Bedrock, Claude Sonnet 3.5, LlamaIndex y OpenSearch Serverless con RAG, respaldados por guardrails de Bedrock y guardrails personalizados para cumplimiento.
- Q: ¿Cuánto tiempo ahorra la solución a los usuarios?\n A: Al eliminar descargas de paquetes ERC completos y búsquedas manuales, el análisis se reduce a minutos en lugar de 3–4 horas por caso.
- Q: ¿Cómo se maneja la seguridad de datos y la protección de PI?\n A: Un consejo de gobernanza supervisa la IA, con controles de acceso estrictos en el pipeline de RAG y guardrails para proteger datos y propiedad intelectual.
- Q: ¿Qué planes hay para el futuro?\n A: Ampliar el alcance de consultas para soportar más tipos de archivos y coberturas, y escalar la plataforma para más usuarios y conjuntos de contenido.
Referencias
More news
Llevar agentes de IA de concepto a producción con Amazon Bedrock AgentCore
Análisis detallado de cómo Amazon Bedrock AgentCore facilita la transición de aplicaciones de IA basadas en agentes desde un concepto de prueba hasta sistemas de producción empresariales, conservando memoria, seguridad, observabilidad y gestión escalable de herramientas.
Cómo reducir cuellos de botella KV Cache con NVIDIA Dynamo
NVIDIA Dynamo offloads KV Cache desde la memoria de la GPU hacia almacenamiento económico, habilitando contextos más largos, mayor concurrencia y costos de inferencia más bajos para grandes modelos y cargas de IA generativa.
Monitorear la inferencia por lotes de Bedrock de AWS con métricas de CloudWatch
Descubra cómo monitorear y optimizar trabajos de inferencia por lotes de Bedrock con métricas, alarmas y paneles de CloudWatch para mejorar rendimiento, costos y operación.
Solicitando precisión con Stability AI Image Services en Amazon Bedrock
Bedrock incorpora Stability AI Image Services con nueve herramientas para crear y editar imágenes con mayor precisión. Descubre técnicas de prompting para uso empresarial.
Escala la producción visual con Stability AI Image Services en Amazon Bedrock
Stability AI Image Services ya está disponible en Amazon Bedrock, ofreciendo capacidades de edición de imágenes listas para usar a través de la API de Bedrock y ampliando los modelos Stable Diffusion 3.5 y Stable Image Core/Ultra ya presentes.
Usar AWS Deep Learning Containers con Amazon SageMaker AI MLflow gestionado
Vea cómo los AWS Deep Learning Containers (DLCs) se integran con SageMaker AI gestionado por MLflow para equilibrar el control de la infraestructura y una gobernanza de ML sólida. Un flujo de TensorFlow para predicción de edad de abalones ilustra el seguimiento de extremo a extremo y la trazabilidad