A defesa da IA personalizada e soberana no setor público

A IA agêntica entrou no local de trabalho em vários setores, o que significa que, em vez de se limitarem a responder a solicitações, os sistemas de IA utilizam agora engenharia de contexto para planear, raciocinar e agir no âmbito de fluxos de trabalho operacionais reais. Esta entrada é talvez a mais consequente e desafiante em ambientes regulamentados (como finanças, ciências da vida, administração pública, defesa e instituições públicas), onde são necessários confiança, conformidade e responsabilização.

Mesmo no setor público, as organizações estão a ter dificuldades em adotar corretamente a IA agêntica devido à falta de ferramentas. No entanto, os modelos autónomos e as funcionalidades de IA “acopladas” que são populares junto do público não conseguem de todo responder às profundas integrações operacionais, de governação e regulamentares exigidas pelos ambientes do setor público.

Embora as empresas com fins lucrativos possam assumir o risco de adotar soluções prontas a utilizar para fluxos de trabalho básicos, os CIO empresariais e os líderes do setor público considerarão frequentemente que estas soluções não esclarecem exatamente que produtos inteligentes estão a introduzir em ecossistemas sensíveis. É neste contexto que a IA soberana, a capacidade de uma nação ou organização produzir e controlar a sua própria inteligência artificial, utilizando infraestruturas, dados e pessoal sob a sua propriedade local, se torna um fator diferenciador nos produtos.

Na deepset, o nosso trabalho de código aberto com o Haystack reflete mudanças mais amplas nas empresas e no setor público. As organizações estão a afastar-se dos projetos-piloto e da IA pré-configurada, passando a concentrar-se na orquestração de IA para os seus casos de utilização transformadores: o processo de coordenação de vários modelos, ferramentas e sistemas em fluxos de trabalho unificados que produzem resultados consistentes e responsabilizáveis. Nas indústrias regulamentadas, estes assumem a forma de sistemas e agentes personalizados e alinhados com a missão, que produzem resultados mensuráveis, mantendo-se em conformidade e resilientes às mudanças.

À medida que a Europa assume a liderança na definição de ecossistemas de IA soberana, desenvolvemos o Haystack para permitir este futuro. Com base na minha experiência, é desta forma que as organizações podem criar soluções de IA soberana e agêntica prontas para produção em ambientes regulamentados, e por que razão a personalização é a chave para alcançar confiança e soberania de forma responsável.

Os três pilares dos sistemas de IA soberana

Para os líderes de produto, a IA soberana não é uma posição política nem apenas uma caixa de verificação de conformidade, mas um modelo operacional de produto para ambientes regulamentados. À medida que a IA agêntica é introduzida nestes ecossistemas, deve ser implementada cuidadosamente, de forma a responder aos fluxos de trabalho no contexto em que estes existem.

Os três pilares da IA soberana são a capacidade de personalização, a flexibilidade de implementação e uma base de código aberto. Estes princípios devem orientar qualquer estratégia de implementação de IA numa indústria regulamentada, independentemente da sua localização geográfica.

●  Capacidade de personalização: Adaptar os fluxos de processamento e agentes de IA ao conhecimento específico do domínio, às regras e aos requisitos de governação de uma empresa ou organização pública, de modo a garantir a confiança.

●  Flexibilidade de implementação: A IA deve poder ser executada em qualquer local, como na nuvem, em sistemas locais seguros, em ambientes híbridos, numa nuvem privada virtual ou até em ambientes isolados.

●  Base de código aberto: Garantir transparência, auditabilidade e liberdade relativamente à dependência de um fornecedor, executando sistemas em diferentes fronteiras de soberania.

Em conjunto, estes três pilares permitem às organizações criar uma IA em que podem confiar, que podem controlar e que podem verdadeiramente possuir, promovendo simultaneamente uma colaboração mais estreita entre as equipas de produto, os utilizadores finais e as partes interessadas das áreas de segurança e jurídica.

Especificidades do setor público

Nos ambientes regulamentados, a adoção de IA agêntica acarreta muitos riscos – falhas de segurança, incumprimentos de conformidade e decisões de “caixa-preta” que não podem ser auditadas. Uma vez que as organizações são responsáveis por todas as decisões tomadas pelos seus agentes de IA e por todos os dados sensíveis com que estes sistemas entram em contacto, as instituições públicas devem dar prioridade ao controlo, à conformidade e à confiança desde o primeiro dia da implementação.

Além disso, para apoiar o processo e a gestão da mudança dentro da organização, estes sistemas de IA devem ajudar a criar normas da indústria para fluxos de trabalho semelhantes. Uma única solução de IA universal não funciona quando a IA e os agentes de IA têm de operar ao abrigo de quadros jurídicos, classificações de dados e modelos de responsabilização distintos. Retirar uma “solução de grande escala” pronta a utilizar da prateleira terá impacto nestes fluxos de trabalho regulamentados e exigirá que os colaboradores se adaptem, com riscos e responsabilidades pouco claros relativamente aos dados e à tomada de decisões. É por isso que, para que a IA seja bem-sucedida nas indústrias regulamentadas, a personalização é imperativa.

A personalização é frequentemente vista como lenta ou dispendiosa. Com os níveis e camadas adequados de orquestração aberta, as equipas podem passar da criação de protótipos aos testes iterativos e à implementação em produção em poucas semanas. A orquestração permite que os sistemas de IA evoluam de forma segura e incremental, sem sacrificar a governação. Estes sistemas tornam-se então normas que outros departamentos ou níveis do setor público podem adotar e personalizar de acordo com as suas necessidades. Esta capacidade é frequentemente descrita por arquitetos empresariais e equipas de plataformas que trabalham diretamente com estes processos como a capacidade de uniformizar arquiteturas repetíveis.

Como são os sistemas personalizados e soberanos de IA

Ao analisar as opções de IA soberana, os sistemas de IA soberana bem-sucedidos incluem:

1. Controlo sobre modelos, dados e implementação: A orquestração modular de pipelines de IA evita a dependência de fornecedores, integrando dados sensíveis de forma segura e implementando-os em ambientes alojados autonomamente.
2. Infraestrutura com a segurança em primeiro lugar e capacidade de auditoria: Registo de atividades integrado, controlos de acesso e preparação para a conformidade, apoiando a confiança e a transparência públicas.
3. Conceção com supervisão humana: Os seres humanos continuam responsáveis pelas decisões, enquanto a IA automatiza o trabalho repetitivo, sem substituir o discernimento dos colaboradores ou o conhecimento acumulado dos sistemas legados, integrando-o antes nos fluxos de trabalho.
4. Explicabilidade e rastreabilidade: Cada resultado deve ser visível e justificável durante auditorias e avaliações de governação.

É por isso que as agências governamentais estão a ultrapassar os grandes modelos de IA generalistas e as soluções pontuais, avançando para uma infraestrutura segura e pronta para produção, concebida especificamente para os seus fluxos de trabalho reais.

Devido ao “entusiasmo” em torno dos agentes de IA, as organizações têm-se concentrado em encontrar um modelo de IA com o qual possam trabalhar e que possam implementar. No entanto, para criar agentes de IA fiáveis em ambientes regulamentados, as equipas devem começar pela orquestração. Os modelos e os desenhos dos sistemas irão naturalmente mudar.

As plataformas de orquestração modulares permitem às organizações integrar modelos, lógica de domínio e dados como componentes permutáveis em pipelines de IA governados. Estes pipelines são criados com controlos granulares dos dados, procedimentos de teste para obter feedback dos utilizadores, registos de auditoria, gestão de identidades e acessos e integração de CI/CD para melhoria contínua e gestão de riscos. Isto introduz a IA nas práticas normalizadas de desenvolvimento e implementação de software, tornando possível que a arquitetura permita a autonomia dos agentes, ao mesmo tempo que impõe uma conformidade rigorosa e responde aos fluxos de trabalho existentes.

Da política à prática com o Haystack: casos de utilização no mundo real

Se as organizações não tiverem a certeza sobre em que capacidade podem implementar IA personalizada, na deepset temos trabalhado em contextos regulamentados e de elevado risco para demonstrar que a orquestração personalizada de IA é essencial enquanto camada horizontal de gestão em toda a infraestrutura. 

Por exemplo, no Ministério Federal Alemão da Investigação, Tecnologia e Espaço, os funcionários tinham anteriormente dificuldade em consultar um manual de 200 páginas que regulava os programas de financiamento, o que causava atrasos e inconsistências nas tarefas subsequentes. Este problema foi resolvido com um sistema de IA personalizado criado com o Haystack, que agora fornece respostas verificadas às perguntas dos funcionários sobre o manual em menos de três segundos, com atribuição completa das fontes. Isto melhorou a eficiência sem sacrificar a conformidade, a rastreabilidade e a conceção com supervisão humana.

Em contextos de defesa, o projeto KITCH, liderado pela  Airbus Defense and Space, utilizou sistemas orquestrados de agentes baseados em RAG para integrar simulações e ferramentas avançadas, apoiando decisões em tempo real em situações que mudam rapidamente. Estes programas foram utilizados para desenvolver informações sensíveis ao contexto em ambientes de missão crítica, apoiando uma tomada de decisões mais rápida e fiável por parte dos líderes.

A nível mais amplo da UE, a Comissão Europeia criou a sua plataforma de IA soberana com base no Haystack, permitindo a personalização necessária para responder às necessidades dos diferentes departamentos, assegurando simultaneamente o controlo sobre a infraestrutura e as arquiteturas que cumprem os requisitos das normas e criando um ecossistema de inovação e repetibilidade.

Rumo a um futuro integrado com IA no setor público

As indústrias regulamentadas têm necessidades específicas no que diz respeito à IA baseada em agentes. Têm de conseguir governar, auditar, personalizar e confiar na sua IA, o que significa que as soluções genéricas nunca serão suficientes. Os sistemas soberanos concebidos com a prontidão para produção em mente irão definir a próxima vaga de adoção de IA no setor público.

No centro desta mudança está a orquestração de IA. A IA soberana não é criada através da escolha do modelo “certo”. É criada através da conceção do contexto adequado por meio de um sistema resiliente e orquestrado. À medida que a IA evolui nestes locais de trabalho, a verdadeira transformação em ambientes regulamentados resultará de plataformas que associem a autonomia dos agentes ao controlo, à conformidade, à rastreabilidade e à responsabilização humana. Esse é o futuro da IA responsável e soberana, bem como a oportunidade que se apresenta às instituições públicas dispostas a construir cuidadosamente o futuro dos seus fluxos de trabalho.

Mantenha-se a par

Não se esqueça de subscrever a nossa newsletter para obter mais recursos e guias sobre liderança de produto, bem como os podcasts, as entrevistas e outras perspetivas mais recentes de líderes e especialistas do setor.