Introdução aos aplicativos de IA generativa no Azure Databricks

O Mosaic AI suporta aplicações de IA de geração simples e complexas, desde chatbots de Geração Aumentada de Recuperação (RAG) até agentes de chamada de ferramentas. Aprenda os principais conceitos por trás de aplicativos de IA de geração e sistemas de agente, explore padrões de design comuns e coloque a mão na massa com tutoriais para criar, avaliar e dimensionar aplicativos de IA de geração.

Aprenda conceitos de aplicações de IA generativa

Familiarize-se com os conceitos básicos de aplicativos de IA da geração.

• O que são aplicações de IA generativa?

Saiba como o Mosaic AI aborda os principais desafios durante o desenvolvimento de IA de geração.

• Principais desafios na criação de aplicativos de IA de geração
• recursos de IA em mosaico para aplicativos de IA generativa

Experimente criar aplicativos de IA de geração com o Mosaic AI

Comece com os seguintes tutoriais de cadernos:

• Crie e implante seu primeiro agente de IA com o Agent Framework
• Avalie um agente de IA com a Avaliação de Agentes

Quando estiver pronto para mais complexidade, consulte os guias e tutoriais avançados:

• Guia RAG de ponta a ponta
• Padrões de projeto do sistema de agentes
• Fluxo de trabalho do desenvolvedor de aplicativos de IA generativa

O que são aplicativos de IA de geração?

Um aplicativo de IA de geração é um aplicativo que usa modelos de IA generativos (como LLMs, modelos de geração de imagem e modelos de conversão de texto em fala) para criar novas saídas, automatizar tarefas complexas ou se envolver em interações inteligentes com base na entrada do usuário. Embora as aplicações de IA de geração possam usar vários modelos, este guia concentra-se em aplicações impulsionadas por LLM.

Embora os aplicativos de IA de geração baseados em LLM possam ser criados de maneiras diferentes, eles geralmente se enquadram em um dos dois padrões de arquitetura:

Para a maioria dos casos de uso corporativos, a Databricks recomenda um sistema de agente . Ao dividir os sistemas em componentes menores e bem definidos, os desenvolvedores podem gerenciar melhor a complexidade, mantendo altos níveis de controle e conformidade necessários para aplicativos corporativos.

O Mosaic AI tem ferramentas e recursos que funcionam tanto para sistemas monolíticos quanto para sistemas de agentes, e o restante desta documentação abrange a criação de ambos os tipos de aplicativos de IA de geração.

Para ler mais sobre a teoria por trás dos sistemas de agentes versus modelos monolíticos, ver as postagens do blog dos fundadores da Databricks:

• sistemas de agentes de IA: Engenharia modular para aplicações de IA empresariais confiáveis
• A mudança de modelos para sistemas compostos de IA

O que é um sistema de agentes?

Um sistema de agente é um sistema orientado por IA que pode perceber, decidir e agir de forma autônoma em um ambiente para atingir objetivos. Ao contrário de um LLM autónomo que apenas gera um resultado quando solicitado, um sistema de agente possui um grau de capacidade de ação. Os modernos sistemas de agentes baseados em LLM usam um LLM como o "cérebro" para interpretar o contexto, raciocinar sobre o que fazer a seguir e emitir ações como chamadas de API, mecanismos de recuperação e invocações de ferramentas para realizar tarefas.

Um sistema de agente é um sistema com um LLM em seu núcleo. Esse sistema:

1. Recebe solicitações de usuários ou mensagens de outro agente.
2. Razões sobre como proceder: quais dados buscar, qual lógica aplicar, quais ferramentas chamar ou se deve solicitar mais entrada do usuário.
3. Executa um plano e, possivelmente, chama várias ferramentas ou delega a subagentes.
4. Retorna uma resposta ou solicita esclarecimentos adicionais ao usuário.

Ao unir inteligência geral (os recursos pré-treinados do LLM) e inteligência de dados (o conhecimento especializado e APIs específicas para o seu negócio), os sistemas de agentes permitem casos de uso corporativos de alto impacto, como fluxos avançados de atendimento ao cliente, bots de análise ricos em dados e orquestração de vários agentes para tarefas operacionais complexas.

O que um sistema de agente pode fazer?

Um sistema de agente pode:

• Planeje ações dinamicamente
• Transportar o estado de uma etapa para a seguinte
• Ajustar a sua estratégia com base em novas informações sem intervenção humana contínua

Quando um LLM autônomo pode gerar um itinerário de viagem quando solicitado, um sistema de agente pode recuperar informações do cliente e reservar os voos de forma autônoma, aproveitando ferramentas e APIs. Ao combinar "inteligência geral" do LLM com "inteligência de dados" (dados específicos de domínio ou APIs), os sistemas de agentes podem lidar com casos de uso empresariais sofisticados que um único modelo estático teria dificuldade em resolver.

A agência é um contínuo; quanto mais liberdade se fornecer aos modelos para controlar o comportamento do sistema, mais autónomo o aplicativo se torna. Na prática, a maioria dos sistemas de produção restringe cuidadosamente a autonomia do agente para garantir conformidade e previsibilidade, por exemplo, exigindo aprovação humana para ações arriscadas.

Inteligência geral vs. inteligência de dados

• Inteligência geral: Refere-se ao que o LLM inerentemente sabe a partir de uma ampla pré-formação em textos diversos. Isto é útil para a fluência linguística e raciocínio geral.
• Inteligência de dados: Refere-se aos dados e APIs específicos do domínio da sua organização. Isso pode incluir registros de clientes, informações sobre produtos, bases de dados de conhecimento ou documentos que reflitam seu ambiente de negócios exclusivo.

Os sistemas de agentes combinam essas duas perspetivas: eles começam com o conhecimento amplo e genérico de um LLM e, em seguida, trazem dados em tempo real ou específicos do domínio para responder a perguntas detalhadas ou executar ações especializadas.

Exemplo de sistema de agente

Considere um cenário de call center entre um cliente e um agente de IA de geração:

O cliente faz um pedido: "Podem ajudar-me a devolver a minha última encomenda?"

1. Motivo e plano: Dada a intenção da consulta, o agente "planeja": "Procure o pedido recente do usuário e verifique nossa política de devolução."
2. Localizar informações (inteligência de dados): O agente consulta o banco de dados de pedidos para recuperar o pedido relevante e faz referência a um documento de política.
3. Motivo: o agente verifica se essa ordem se encaixa na janela de retorno.
   • Human-in-the-loop opcional: O agente verifica uma regra adicional: se o item se enquadrar em uma determinada categoria ou estiver fora da janela de retorno normal, escale para um humano.
4. Ação: O agente aciona o processo de devolução e gera uma etiqueta de envio.
5. Motivo: O agente gera uma resposta ao cliente.

O agente de IA responde ao cliente: "Feito! Aqui está a sua etiqueta de envio..."

Essas etapas são de segunda natureza num contexto de call center humano. No contexto de um sistema de agentes , o LLM "raciocina" enquanto o sistema recorre a ferramentas especializadas ou fontes de dados para preencher os detalhes.

Níveis de complexidade: De LLMs a sistemas de agentes

Você pode encontrar vários níveis de complexidade ao criar sistemas de IA.

• Modelos de Linguagem Grande (MLG + Prompt)

  • Um LLM autônomo responde a prompts de texto com base no conhecimento de um vasto conjunto de dados de treinamento.
  • Bom para consultas simples ou genéricas, mas muitas vezes desconectado de seus dados comerciais do mundo real.

  

• Sistema de agente pré-definido ("Chain")

  • Os desenvolvedores orquestram etapas determinísticas e predefinidas. Por exemplo, uma aplicação RAG pode sempre recuperar dados de um armazenamento vetorial e combinar os resultados com o pedido do utilizador.
  • A lógica é fixa e o LLM não decide qual ferramenta chamar em seguida.

  

• Sistema de agente chamador de ferramentas

  • O LLM decide qual ferramenta usar e quando usá-la em tempo de execução.
  • Essa abordagem oferece suporte a decisões dinâmicas e sensíveis ao contexto sobre quais ferramentas invocar, como um banco de dados do CRM ou uma API de postagem do Slack.

  

• Sistemas multiagentes

  • Vários agentes especializados, cada um com sua própria função ou domínio.
  • Um coordenador (às vezes um supervisor de IA , às vezes baseado em regras) decide qual agente invocar em cada etapa.
  • Os agentes podem entregar tarefas uns aos outros, preservando o fluxo geral de conversas.

  

Ao criar qualquer aplicativo com LLM, comece simples. Introduza comportamentos agenticos mais complexos quando realmente precisar deles para uma melhor flexibilidade ou decisões orientadas por modelos. As cadeias determinísticas oferecem fluxos previsíveis e baseados em regras para tarefas bem definidas, enquanto abordagens mais agenticas têm o custo de complexidade extra e latência potencial.

Mosaic AI Agent Framework é independente desses padrões, tornando fácil começar de forma simples e evoluir para níveis mais altos de automação e autonomia à medida que os requisitos da sua aplicação crescem.

Ferramentas em um sistema de agente

No contexto de um sistema de agente, as ferramentas são funções de interação única que um LLM pode invocar para executar uma tarefa claramente definida. O modelo de IA normalmente gera parâmetros para cada chamada de ferramenta, e a ferramenta fornece uma interação direta de entrada-saída. Não há memória de várias voltas no lado da ferramenta.

Algumas categorias de ferramentas comuns incluem:

• Ferramentas que recuperam ou analisam dados
  • Ferramentas de recuperação de vetores: Consultar um índice vetorial para localizar os blocos de texto mais relevantes.
  • Ferramentas de recuperação estruturada: Consultar tabelas Delta ou usar APIs para recuperar informações estruturadas.
  • Ferramenta de pesquisa na Web: Pesquisa na Internet ou num corpus web interno.
  • Modelos clássicos de ML: Ferramentas que invocam modelos de ML para executar previsões de classificação ou regressão, como um modelo scikit-learn ou XGBoost.
  • Modelos de IA da geração: Ferramentas que executam geração especializada, como geração de código ou imagem, e retornam os resultados.
• Ferramentas que modificam o estado de um sistema externo
  • Ferramenta de chamada de API: endpoints de CRM, serviços internos ou integrações de terceiros para tarefas como "atualizar o estado de envio".
  • Ferramenta de execução de código: Executa código fornecido pelo utilizador (ou, em alguns casos, gerado por LLM) num ambiente controlado.
  • Slack ou integração de e-mail: Publica uma mensagem ou envia uma notificação.
• Ferramentas que executam lógica ou executam uma tarefa específica
  • Ferramenta executora de código: Executa código definido pelo utilizador ou gerado por LLM numa área restrita, como scripts Python.

Para obter mais informações sobre as ferramentas de agente de IA do Mosaic, consulte ferramentas de agente de IA.

Principais características das ferramentas

Ferramentas em um sistema de agente:

• Execute uma única operação bem definida.
• Não mantenha um contexto contínuo além dessa invocação.
• Permita que o sistema do agente alcance dados ou serviços externos que o LLM não pode acessar diretamente.

Gestão de erros de ferramentas e segurança

Como cada chamada de ferramenta é uma operação externa, por exemplo, chamar uma API, o sistema deve lidar com falhas de forma eficaz, como timeouts, tratamento de erros de respostas malformadas ou entradas inválidas. Na produção, limite o número de chamadas de ferramentas permitidas, tenha uma resposta de contingência se todas as chamadas de ferramentas falharem e aplique medidas de segurança para garantir que o sistema do agente não tente repetidamente a mesma ação mal-sucedida.

Ver mais

• recursos de IA em mosaico para aplicativos de IA generativa
• Principais desafios na criação de aplicativos de IA de geração