Argumenty za niestandardową, suwerenną sztuczną inteligencją w sektorze publicznym

Agentowa sztuczna inteligencja wkroczyła do miejsc pracy w różnych sektorach, co oznacza, że zamiast jedynie odpowiadać na polecenia, systemy AI wykorzystują obecnie inżynierię kontekstu do planowania, wnioskowania i działania w ramach rzeczywistych przepływów pracy. To wejście jest być może najbardziej doniosłe i wymagające w środowiskach regulowanych (takich jak finanse, nauki przyrodnicze, administracja publiczna, obronność i instytucje publiczne), gdzie wymagane są zaufanie, zgodność z przepisami i odpowiedzialność.

Nawet w sektorze publicznym organizacje mają trudności z prawidłowym wdrażaniem agentowej AI z powodu braku odpowiednich narzędzi. Jednak samodzielne modele i „doczepiane” funkcje AI, popularne w oczach opinii publicznej, całkowicie nie odpowiadają na potrzeby głębokiej integracji operacyjnej, zarządczej i regulacyjnej, których wymagają środowiska sektora publicznego.

Podczas gdy przedsiębiorstwa komercyjne mogą podjąć ryzyko wdrażania gotowych rozwiązań do podstawowych przepływów pracy, dyrektorzy ds. informatycznych przedsiębiorstw i liderzy sektora publicznego często przekonują się, że rozwiązania te nie wyjaśniają dokładnie, jakie inteligentne produkty wprowadzają do wrażliwych ekosystemów. W tym miejscu suwerenna AI, czyli zdolność państwa lub organizacji do tworzenia i kontrolowania własnej sztucznej inteligencji z wykorzystaniem lokalnie posiadanej infrastruktury, danych i personelu, staje się czynnikiem wyróżniającym produkt.

W deepset nasza praca nad otwartym oprogramowaniem wraz z Haystack odzwierciedla szersze zmiany zachodzące w przedsiębiorstwach i sektorze publicznym. Organizacje odchodzą od projektów pilotażowych i gotowych pakietów AI na rzecz koncentracji na orkiestracji AI w swoich przełomowych zastosowaniach — procesie koordynowania wielu modeli, narzędzi i systemów w ramach ujednoliconych przepływów pracy, które zapewniają spójne i rozliczalne rezultaty. W branżach regulowanych przybierają one formę niestandardowych systemów i agentów dostosowanych do misji, które zapewniają mierzalne wyniki, a jednocześnie pozostają zgodne z przepisami i odporne na zmiany.

W miarę jak Europa obejmuje przewodnictwo w definiowaniu ekosystemów suwerennej AI, stworzyliśmy Haystack, aby umożliwić tę przyszłość. Na podstawie mojego doświadczenia przedstawiam, jak organizacje mogą budować gotowe do użycia produkcyjnego suwerenne, agentowe rozwiązania AI dla środowisk regulowanych oraz dlaczego dostosowanie jest kluczem do odpowiedzialnego osiągnięcia wiarygodności i suwerenności.

Trzy filary suwerennych systemów AI

Dla liderów produktowych suwerenna AI nie jest ani stanowiskiem politycznym, ani zwykłym odhaczaniem wymogu zgodności, lecz modelem operacyjnym produktu dla środowisk regulowanych. Wprowadzając agentową AI do tych ekosystemów, należy ją starannie wdrożyć w sposób odpowiadający istniejącym przepływom pracy.

Trzy filary suwerennej AI to możliwość dostosowywania, elastyczność wdrażania i podstawa oparta na otwartym oprogramowaniu. Zasady te powinny kierować każdą strategią wdrażania AI w regulowanej branży, niezależnie od jej położenia geograficznego.

●  Możliwość dostosowywania: Dostosowywanie potoków AI i agentów do konkretnej wiedzy domenowej, zasad i wymogów zarządczych przedsiębiorstwa lub organizacji publicznej, aby zapewnić wiarygodność.

●  Elastyczność wdrażania: AI powinna działać z dowolnego miejsca, takiego jak chmura, bezpieczne systemy lokalne, środowiska hybrydowe, prywatna chmura wirtualna, a nawet środowiska odizolowane od sieci.

●  Podstawa oparta na otwartym oprogramowaniu: Zapewnienie przejrzystości, możliwości audytu i niezależności od uzależnienia od dostawcy, a także uruchamianie systemów w ramach różnych granic suwerenności.

Wspólnie te trzy filary umożliwiają organizacjom budowanie AI, której mogą ufać, którą mogą kontrolować i którą mogą naprawdę posiadać, jednocześnie sprzyjając ściślejszej współpracy między zespołami produktowymi, użytkownikami końcowymi oraz interesariuszami ds. bezpieczeństwa i prawa.

Specyfika sektora publicznego

W środowiskach regulowanych wdrażanie agentowej AI wiąże się z wieloma zagrożeniami — naruszeniami bezpieczeństwa, niezgodnością z przepisami i decyzjami podejmowanymi przez „czarną skrzynkę”, których nie można poddać audytowi. Ponieważ organizacje ponoszą odpowiedzialność za każdą decyzję podejmowaną przez ich agentów AI oraz za wszystkie wrażliwe dane, z którymi systemy te mają styczność, instytucje publiczne muszą od pierwszego dnia wdrożenia traktować priorytetowo kontrolę, zgodność z przepisami i zaufanie.

Co więcej, aby wspierać proces i zarządzanie zmianą w organizacji, systemy AI muszą pomagać w tworzeniu standardów branżowych dla podobnych przepływów pracy. Jedno uniwersalne rozwiązanie AI po prostu nie działa, gdy AI i agenci AI muszą działać w ramach odmiennych przepisów prawnych, klasyfikacji danych i modeli odpowiedzialności. Sięgnięcie po „wielkopudełkowe rozwiązanie” z półki wpłynie na te regulowane przepływy pracy i będzie wymagać od pracowników dostosowania się, przy niejasnym poziomie ryzyka i odpowiedzialności za dane oraz podejmowanie decyzji. Dlatego, aby AI odniosła sukces w regulowanych branżach, dostosowanie jest niezbędne.

Dostosowanie jest często postrzegane jako powolne lub kosztowne. Dzięki odpowiednim poziomom i warstwom otwartej orkiestracji zespoły mogą przejść od prototypowania do iteracyjnych testów i wdrożenia produkcyjnego w ciągu kilku tygodni. Orkiestracja pozwala systemom AI rozwijać się bezpiecznie i stopniowo, bez poświęcania zasad zarządzania. Systemy te stają się następnie standardami, które mogą wdrażać i dostosowywać do swoich potrzeb inne działy lub szczeble sektora publicznego. Praktycy — architekci korporacyjni i zespoły platformowe — często opisują to jako zdolność do standaryzowania powtarzalnych architektur.

Jak wyglądają dostosowane, suwerenne systemy AI

Analizując opcje suwerennej AI, warto zauważyć, że skuteczne suwerenne systemy AI obejmują:

1. Kontrola nad modelami, danymi i wdrażaniem: Modularna orkiestracja potoków AI pozwala uniknąć uzależnienia od dostawcy, bezpiecznie integrować wrażliwe dane i wdrażać rozwiązania w środowiskach hostowanych samodzielnie.
2. Infrastruktura zorientowana przede wszystkim na bezpieczeństwo i możliwość audytu: Wbudowane rejestrowanie zdarzeń, mechanizmy kontroli dostępu i gotowość do spełniania wymogów zgodności wspierają zaufanie publiczne i przejrzystość.
3. Projektowanie z udziałem człowieka: Ludzie nadal ponoszą odpowiedzialność za decyzje, a AI automatyzuje powtarzalną pracę, nie zastępując osądu pracowników ani wiedzy zgromadzonej w starszych systemach, lecz włączając je w przepływy pracy.
4. Wyjaśnialność i identyfikowalność: Każdy wynik musi być widoczny i możliwy do uzasadnienia podczas audytów oraz przeglądów zarządczych.

Dlatego agencje rządowe wychodzą poza wielkoskalowe, gotowe modele AI i rozwiązania punktowe, kierując się ku gotowej do produkcyjnego użycia, bezpiecznej infrastrukturze zaprojektowanej specjalnie z myślą o ich rzeczywistych przepływach pracy.

Ze względu na „szum” wokół agentów AI organizacje skupiały się na znalezieniu modelu AI, z którym mogłyby pracować i który mogłyby wdrożyć. Aby jednak budować godnych zaufania agentów AI w regulowanych środowiskach, zespoły muszą zacząć od orkiestracji. Modele i projekty systemów będą się naturalnie zmieniać.

Modularne platformy orkiestracji pozwalają organizacjom integrować modele, logikę dziedzinową i dane jako wymienne komponenty w ramach zarządzanych potoków AI. Potoki te są tworzone z użyciem granularnych mechanizmów kontroli danych, procedur testowania uwzględniających opinie użytkowników, ścieżek audytu, zarządzania tożsamością i dostępem oraz integracji CI/CD na potrzeby ciągłego doskonalenia i zarządzania ryzykiem. Wprowadza to AI do standardowych praktyk tworzenia i wdrażania oprogramowania, dzięki czemu architektura może zapewniać autonomię agentów, jednocześnie egzekwując rygorystyczną zgodność z przepisami i uwzględniając przepływy pracy, w których są one wykorzystywane.

Od polityki do praktyki z Haystack: rzeczywiste przypadki użycia

Jeśli organizacje nie są pewne, w jakim zakresie można wdrożyć niestandardową AI, w deepset pracowaliśmy w regulowanych środowiskach o wysokiej stawce, aby dowieść, że niestandardowa orkiestracja AI jest niezbędną, horyzontalną warstwą zarządzania w całej infrastrukturze. 

Na przykład w niemieckim Federalnym Ministerstwie Badań, Technologii i Przestrzeni Kosmicznej pracownicy mieli wcześniej trudności z poruszaniem się po 200-stronicowym podręczniku regulującym programy finansowania, co powodowało opóźnienia i niespójności w kolejnych zadaniach. Problem ten rozwiązano za pomocą niestandardowego systemu AI zbudowanego na Haystack, który obecnie dostarcza pracownikom zweryfikowane odpowiedzi na pytania dotyczące podręcznika w czasie krótszym niż trzy sekundy, wraz z pełnym wskazaniem źródeł. Poprawiło to efektywność bez poświęcania zgodności z przepisami, identyfikowalności i projektowania z udziałem człowieka.

W kontekście obronności projekt KITCH, prowadzony przez  Airbus Defense and Space, wykorzystuje orkiestrację systemów agentowych opartych na RAG do integrowania symulacji i zaawansowanych narzędzi wspierających podejmowanie decyzji w czasie rzeczywistym, w szybko zmieniających się sytuacjach. Programy te wykorzystano do opracowania świadomych kontekstu analiz w środowiskach o znaczeniu krytycznym dla misji, które wspierają szybsze i bardziej niezawodne podejmowanie decyzji przez liderów.

Na szerszym poziomie UE Komisja Europejska zbudowała swoją suwerenną platformę AI na Haystack, aby umożliwić dostosowanie wymagane przez potrzeby różnych departamentów, jednocześnie zapewniając kontrolę nad infrastrukturą i architekturami spełniającymi wymagania norm oraz tworząc ekosystem sprzyjający innowacjom i powtarzalności.

W kierunku przyszłości sektora publicznego zintegrowanego z AI

Regulowane branże mają szczególne potrzeby związane z agentową AI. Muszą mieć możliwość zarządzania swoją AI, przeprowadzania jej audytów, dostosowywania jej i darzenia jej zaufaniem, co oznacza, że rozwiązania ogólnego przeznaczenia nigdy nie będą wystarczające. Suwerenne systemy budowane z myślą o gotowości do produkcyjnego użycia wyznaczą kolejny etap wdrażania AI w sektorze publicznym.

W centrum tej zmiany znajduje się orkiestracja AI. Suwerennej AI nie buduje się poprzez wybór „właściwego” modelu. Buduje się ją poprzez zaprojektowanie właściwego kontekstu za pomocą odpornego, orkiestrującego systemu. W miarę rozwoju AI w tych miejscach pracy prawdziwa transformacja w regulowanych środowiskach będzie wynikać z platform, które łączą autonomię agentów z kontrolą, zgodnością z przepisami, identyfikowalnością i odpowiedzialnością człowieka. Taka jest przyszłość odpowiedzialnej, suwerennej AI oraz szansa stojąca przed instytucjami publicznymi gotowymi świadomie kształtować przyszłość swoich przepływów pracy.

Bądź na bieżąco

Nie zapomnij zapisać się do naszego newslettera, aby otrzymywać więcej materiałów i przewodników dotyczących przywództwa produktowego, a także najnowsze podcasty, wywiady i inne spostrzeżenia od liderów oraz ekspertów branżowych.