Skip to content
Otimize o acesso a alterações de conteúdo ISO-rating com Verisk Rating Insights e Amazon Bedrock
Source: aws.amazon.com

Otimize o acesso a alterações de conteúdo ISO-rating com Verisk Rating Insights e Amazon Bedrock

Sources: https://aws.amazon.com/blogs/machine-learning/streamline-access-to-iso-rating-content-changes-with-verisk-rating-insights-and-amazon-bedrock, https://aws.amazon.com/blogs/machine-learning/streamline-access-to-iso-rating-content-changes-with-verisk-rating-insights-and-amazon-bedrock/, AWS ML Blog

TL;DR

  • Verisk Rating Insights é um recurso do ISO Electronic Rating Content (ERC) que resume as mudanças de rating entre duas versões.
  • A solução usa IA generativa e serviços da AWS, incluindo Amazon Bedrock, Claude Sonnet 3.5, LlamaIndex e OpenSearch Serverless com Retrieval Augmented Generation (RAG), para oferecer uma interface conversacional.
  • Elimina a necessidade de baixar pacotes inteiros, reduzindo o tempo de análise de 3–4 horas por caso de teste para minutos e diminuindo a carga de suporte ao cliente.
  • Guardrails, governança e controles de acesso a dados são integrados ao sistema para proteger conformidade, propriedade intelectual e privacidade, apoiados por um conselho de governança.
  • A Verisk planeja ampliar as capacidades de consulta e escalar a plataforma para mais usuários e conjuntos de conteúdo em linhas de produtos.

Contexto e antecedentes

As mudanças do ISO Electronic Rating Content (ERC) costumam exigir downloads de pacotes de conteúdo completos ou comparações manuais entre as versões. O post da AWS descreve como o Verisk Rating Insights surgiu da necessidade de melhorar o acesso e automatizar tarefas repetitivas. Ao combinar IA generativa com serviços da AWS, a Verisk criou uma plataforma conversacional que ajuda os usuários a obter informações específicas, identificar diferenças de conteúdo e trabalhar com mais eficiência. O artigo observa que a solução é alimentada pelo Amazon Bedrock, grandes modelos de linguagem (LLMs) e Retrieval Augmented Generation (RAG), com Claude Sonnet 3.5 interpretando as consultas dos usuários e fundamentando as respostas. A arquitetura integra o LlamaIndex como framework de cadeia para conectar e gerenciar várias fontes de dados, permitindo recuperação dinâmica de mudanças de conteúdo. O OpenSearch Serverless armazena as mudanças como vetores para suportar buscas precisas. O RAG permite que as respostas sejam fundamentadas nas informações mais recentes, reduzindo a chance de saídas desatualizadas. A Verisk implementou guardrails no Bedrock e guardrails personalizados para assegurar que as saídas estejam em conformidade com padrões de qualidade e compliance. Um conselho de governança supervisiona o uso de IA, reforçando a proteção de propriedade intelectual e o uso de dados. Para mais detalhes, consulte o post da AWS referenciado nas fontes.

O que é novidade

A Rating Insights da Verisk agora combina várias tecnologias avançadas para oferecer uma experiência de usuário suave para mudanças de ERC ISO. A plataforma utiliza Claude Sonnet 3.5 (model ID: anthropic.claude-3-5-sonnet-20240620-v1:0) para entender a entrada do usuário e gerar respostas contextualizadas. O LlamaIndex coordena as fontes de dados, enquanto o OpenSearch Serverless armazena as mudanças como vetores, facilitando recuperações precisas. A integração do RAG permite que as respostas estejam fundamentadas em dados atuais e confiáveis, reduzindo a probabilidade de saídas incorretas. Além dos componentes de IA, a Verisk implementou governança e mecanismos de segurança, incluindo guardrails no Bedrock e guardrails personalizados para limitar saídas a requisitos de compliance. A empresa também estabeleceu um conselho de governança para supervisionar IA, assegurando adesão às políticas de uso de dados e proteção de IP, e implementou controles estritos de acesso no pipeline de RAG para manter dados sensíveis acessíveis apenas a usuários autorizados. A arquitetura e o loop de avaliação estão desenhados para coordenar várias chamadas de LLMs e assegurar que as respostas sejam relevantes e fundamentadas nos conteúdos de rating subjacentes. O artigo também enfatiza os benefícios práticos para clientes: uma interface conversacional que permite acessar resumos de alterações e diferenças de forma autônoma, eliminando a necessidade de baixar pacotes inteiros de ERC e fornecendo insights fundamentados e atualizados para apoiar decisões mais rápidas. A solução demonstra como IA generativa pode transformar processos operacionais, reduzir tarefas manuais e melhorar a precisão no tratamento de conteúdos ERC ISO. Também posiciona o Bedrock como infraestrutura para escalar tais capacidades para conjuntos de conteúdo adicionais e linhas de produto. Para mais contexto, o post da AWS oferece a narrativa técnica completa e diagramas descrevendo o fluxo de ingestão de dados e de inferência, bem como as estratégias de avaliação e memória usadas para manter o contexto em conversas.

Por que isso importa (impacto para desenvolvedores/empresas)

  • Economia de tempo e produtividade: ao eliminar a necessidade de baixar e comparar grandes pacotes ERC, os clientes obtêm insights relevantes em minutos, acelerando a tomada de decisão e reduzindo a carga dos analistas.
  • Autoatendimento e onboarding do cliente: uma interface conversacional alimentada por IA permite que os usuários se atendam sozinhos e obtenham respostas em tempo real, reduzindo a pressão sobre o suporte ao cliente ERC e acelerando a adoção para novos clientes.
  • Maior precisão e consistência: respostas fundamentadas via RAG minimizam alucinações e detalhes irrelevantes, com governança e guardrails garantindo conformidade e padrões de qualidade.
  • Escala e automação: a integração com AWS Bedrock e OpenSearch, além da estrutura de governança, oferece uma base escalável para expandir para conjuntos de conteúdo adicionais e linhas de produto, permitindo expansão mais rápida sem comprometer a segurança.
  • Governança e segurança: um conselho de governança e controles de acesso estritos ajudam a proteger informações sensíveis e garantir proteção de IP. Esses controles suportam adoção corporativa mantendo o controle sobre uso de dados e comportamento do modelo.

Detalhes técnicos ou Implementação

A solução da Verisk descrita no post da AWS combina vários serviços da AWS e capacidades de IA para entregar uma plataforma robusta e escalável para conteúdo ERC ISO. Os componentes principais incluem:

  • Camada de IA generativa: Claude Sonnet 3.5 (model ID: anthropic.claude-3-5-sonnet-20240620-v1:0) para interpretar a entrada do usuário e gerar respostas detalhadas e contextualizadas.
  • Orquestração de dados: o LlamaIndex atua como o framework de cadeia para coordenar conexões com várias fontes de dados, permitindo recuperação dinâmica de conteúdo de alterações e insights.
  • Recuperação aumentada por geração: o OpenSearch Serverless armazena mudanças como vetores e facilita buscas precisas para fundamentar as saídas do modelo.
  • Guardrails e governança: guardrails do Bedrock, juntamente com guardrails personalizados, são implementados para impor restrições de conformidade e qualidade nas saídas do modelo. Um conselho de governança supervisiona a iniciativa de IA, com controles de acesso estritos para proteger dados e IP.
  • Ingestão de dados e loops de inferência: a solução separa a ingestão de dados do loop de inferência, coordenando várias chamadas de LLMs para gerar respostas. Diagramas descrevem as etapas de ingestão de dados, indexação e consulta, bem como como as respostas são geradas e refinadas de forma iterativa.
  • Avaliação e memória: o sistema inclui uma estrutura de avaliação e um ciclo de feedback para melhoria contínua, além de capturar o histórico de chat como memória contextual para fundamentar conversas e análises. Esses componentes trabalham juntos para entregar uma interface conversacional capaz de recuperar e resumir mudanças de ERC ISO, identificar diferenças entre versões e apresentar insights precisos e atualizados, sem a necessidade de downloads manuais ou buscas exaustivas. A solução é construída com foco em segurança, rastreabilidade e escalabilidade, com ênfase explícita em proteção de dados e propriedade intelectual.

Linhas de aprendizado

  • Verisk Rating Insights utiliza uma plataforma de dados moderna alimentada por IA para simplificar o acesso a mudanças ERC ISO.
  • A solução usa Claude Sonnet 3.5, LlamaIndex, OpenSearch Serverless e RAG para entregar respostas fundamentadas e atualizadas.
  • Guardrails, governança e controles rigorosos de acesso ajudam a manter conformidade, segurança e proteção de propriedade intelectual.
  • Economias de tempo e onboarding aprimorado levam a menor custo de suporte e maior satisfação do usuário.
  • A arquitetura é desenhada para escalar, permitindo expansão para mais usuários e conjuntos de conteúdo adicionais em linhas de produtos.

FAQ

  • Q: O que é o Verisk Rating Insights e qual problema ele resolve? A: É um recurso do ISO ERC que fornece resumos das mudanças de rating entre versões, usando IA e serviços da AWS para permitir uma interface conversacional para recuperar mudanças de conteúdo específicas.
  • Q: Quais tecnologias são usadas na plataforma? A: A plataforma utiliza Amazon Bedrock, Claude Sonnet 3.5, LlamaIndex, e OpenSearch Serverless com RAG, apoiados por guardrails do Bedrock e guardrails personalizados para conformidade.
  • Q: Quanto tempo a solução economiza para os usuários? A: Ao eliminar downloads de pacotes inteiros e buscas manuais, as análises levam minutos em vez de 3–4 horas por caso.
  • Q: Como a segurança de dados e a proteção de IP são garantidas? A: Um conselho de governança supervisiona a solução, com controles de acesso estritos no pipeline de RAG e guardrails para proteger dados e propriedade intelectual.
  • Q: Quais são os planos para o futuro? A: A Verisk pretende ampliar o escopo de consultas para suportar mais tipos de arquivamento e coberturas mais amplas, além de escalar a plataforma para mais usuários e conteúdos adicionais em linhas de produtos.

Referências

More news

aws.amazon.com

Use AWS Deep Learning Containers com o SageMaker AI gerenciado MLflow

Explore como os AWS Deep Learning Containers (DLCs) se integram ao SageMaker AI gerenciado pelo MLflow para equilibrar controle de infraestrutura e governança robusta de ML. Um fluxo de trabalho de predição de idade de ostra com TensorFlow demonstra rastreamento de ponta a ponta, governança de model