13 februari 2025

Akgents: Naar echte hybride mens-ai teams

Wat zijn Akgents? 

Kortom, Akgents, of actor-agenten, zijn een operationele implementatie van de AI Transformation waardepropositie, waarover je hier meer kunt lezen. 

Akgents zijn een nieuwe draai aan een oud idee. In de jaren '70 dachten mensen na over programmeerparadigma's die geschikt waren om rekentaken te parallelliseren, en toen kwam het idee van het Actormodel. Als je het Actor Model in de afgelopen decennia bent tegengekomen, was dat waarschijnlijk niet in de context van AI, maar de focus van het originele artikel ging in feite over kunstmatige intelligentie, wat zelfs in de titel wordt genoemd: "A Universal Modular ACTOR Formalism for Artificial Intelligence." 1 Ik vind het fascinerend dat mensen al in de jaren 1970 nadachten over hoe je robuuste, schaalbare AI-systemen kunt bouwen. Als je de paper leest, die ik ten zeerste aanbeveel, kun je zien dat ze behoorlijk ver zijn gegaan (althans in theorie)! 

Na verloop van tijd is het idee van acteurs op de achtergrond geraakt door concepten als objectgeoriënteerd programmeren, functioneel programmeren etc., maar ik geloof dat het op het punt staat om een enorme comeback te maken. 

De reden, je raadt het waarschijnlijk al, is multi-agent AI-systemen!

De schoonheid van het Actor Model zit hem in de eenvoud! Actors zijn logische entiteiten die vier dingen kunnen doen: 

  • Hun eigen staat behouden
  • Acties uitvoeren
  • Berichten sturen naar andere actoren
  • Andere acteurs paaien/vernietigen

Dat is het. Dat is het hele model. Het blijkt dat dit genoeg is om robuuste AI-systemen te bouwen die veel van de problemen oplossen waar AI-agenten momenteel mee te maken hebben. 

Debenadering vereist geen intrinsieke structuur of proces, maar ondersteunt deze concepten als onderdeel van het ontwerp of zelfs als een emergente eigenschap! Zie bijvoorbeeld het debatvoorbeeld hieronder: het is pure functionele chaos, maar het werkt! 

Bij B12 en Yuma hebben we hard nagedacht over hoe we verder kunnen gaan dan de huidige SOTA in agentgebaseerde AI-systemen. Wij geloven dat multi-agent systemen, die ons in staat stellen om teams van AI-agenten en mensen te vormen op een naadloze, veilige en efficiënte manier, het volgende grote ding in AI zal zijn. Echter, raamwerken zoals Langchain, hoewel geweldig voor het bouwen van backoffice-applicaties en AI-gestuurde workflows lijden onder bepaalde technische beperkingen in de context van multi-agents. Langchain-grafieken zijn bijvoorbeeld statisch, wat betekent dat als je agenten wilt toevoegen of verwijderen, je een nieuwe grafiek moet genereren, opnieuw moet laden en opnieuw moet starten. Dit is niet echt wenselijk als je een schaalbare applicatie wilt bouwen. Bovendien, als je de mens in de lus wilt zetten, moet je de uitvoering van de hele grafiek stoppen. Gezien het feit dat mensen en AI op enorm verschillende tijdschalen werken, is dit niet optimaal. Tot slot delen knooppunten in een langketen een globale toestand, wat omslachtig is vanuit vele aspecten: beheer, schaalbaarheid, enz.

Daarom begonnen we na te denken over andere benaderingen, en het actormodel leek een natuurlijke weg om te verkennen. Een paar intensieve discussies op het whiteboard later begon het geheel snel op zijn plaats te vallen, wat resulteerde in een nieuwe aanpak gebaseerd op het actormodel. Onlangs hoorden we ook dat Microsoft werkt aan een vergelijkbare benadering van multi-agents, waarbij de AutoGen 0.4 versie ook gebaseerd is op het actormodel. We zagen dit als een spannende bevestiging van onze ideeën!

We werden geïnspireerd door het idee van actoren om het begrip van een agent te verheffen tot een logische entiteit die "leeft" in een actor. Dit kan bijvoorbeeld een Langraph agent zijn met meerdere tools, een deterministisch stuk code of een mens! Elke actor kan aangedreven worden door zijn eigen AI-model, een gedefinieerde rol, persoonlijkheid, tools, acties en regels over naar wie en wanneer hij berichten kan sturen. Agenten kunnen leven in de echte ruimte (bijvoorbeeld wij mensen), in de cloud of op locatie. Er zijn geen beperkingen aan waar je ze kunt inzetten!

Hetmooie van het raamwerk is dat het minder over technologie gaat en meer over de organisatieaspecten van het Argent-team, dat als centraal concept naar voren komt. Dit is erg belangrijk omdat wanneer we het hebben over multi-agent systemen, AI, software etc. we niet echt geven om de details van de technologie. We geven om hoe we deze technologie kunnen gebruiken om er iets nuttigs mee te doen. Het Akgent framework stelt je in staat om op een heel organische manier je mindset te verschuiven van technische details naar de kerndoelen.

Akgents richt zich direct op de vijf pijlers van AI-transformatie die hierboven zijn beschreven:

  1. Holistisch perspectief: Akgents fungeren als teamleden in elke situatie en kunnen worden aangepast aan elke organisatie of proces, en kunnen worden gebruikt om de kernbegrippen van een organisatie op elk niveau opnieuw te definiëren.
  2. Menselijke empowerment: Akgents zijn ontworpen om de rol van de mens te vergroten, niet om hem te vervangen! De benadering is intrinsiek inclusief, waardoor verandermanagement eenvoudiger wordt en er superieure waarde wordt gegenereerd in vergelijking met bijvoorbeeld de volledig geautomatiseerde benadering van AI.
  3. Samenwerkende intelligentie: Het kernconcept van de aanpak is niet de agent zelf, maar het team! Akgents lost een prominent technisch probleem op door AI-agenten en menselijke agenten naadloos met elkaar te laten communiceren zonder de operaties te hoeven onderbreken, ondanks het feit dat mensen en AI op verschillende tijdschalen werken, met het uiteindelijke doel om AI en mensen te laten functioneren als meer dan de som der delen.‍
  4. Soevereiniteit: Akgents kan worden aangedreven door elk AI-model, waar dan ook! Dit betekent dat het beheer van bestuurlijke kwesties is ingebouwd in het raamwerk. Als een deel van het multi-agent team in een beveiligde dataruimte moet leven, kan dit eenvoudig worden aangepast. Als een ander deel in de cloud moet zijn, dan kan dat.
  5. Duurzaamheid en veerkracht: Akgentic teams zijn architecturaal elastisch (als één akgent faalt, gaat het systeem gewoon door). Ze zijn ook goed schaalbaar - je kunt Akgents on the fly aanmaken en vernietigen, waardoor je resources gebruikt wanneer dat nodig is en je verzekerd bent van een hoge mate van schaalbaarheid en groene computerpraktijken. 

Laten we eens kijken naar een paar voorbeelden van wat je kunt doen met de Akgents.

Een presidentieel debat met een poppenspeler

Stel dat we een realistisch presidentieel debat willen simuleren met behulp van AI-gestuurde agenten. Je hebt een moderator nodig die vragen over een onderwerp genereert en er vervolgens voor zorgt dat beide kandidaten de kans krijgen om ze te beantwoorden. De twee kandidaten beantwoorden de vragen van de moderator en reageren op de antwoorden van hun tegenstander. 

Tot nu toe is de structuur iets wat je kunt doen met pure Python en toegang tot een OpenAI API. Maar laten we zeggen dat we nu een publiek aan de mix willen toevoegen. Nu wordt het interessant.

Het publiek is er om te luisteren, maar kan ook reageren op wat ze horen. Als ze een kandidaat steunen, kunnen ze schreeuwen ter ondersteuning, maar als ze de andere kandidaat horen, kunnen ze hem/haar uitjoelen. Bovendien weten we in het echt niet wanneer het publiek zal reageren of hoe precies. De debaters horen het publiek ook en reageren erop. Dit is iets wat erg moeilijk is om te doen zonder een inherent asynchroon multi-agent systeem. 

Laten we nog een stapje verder gaan. Ik, een slinkse menselijke agent, kan bepalen wie een publiek krijgt, hoeveel het er zijn en wat hun agenda moet zijn. Dit moet gebeuren zonder de stroom van het debat te beïnvloeden. Met andere woorden, de publieksagenten moeten verschijnen (of verdwijnen), beginnen te luisteren en reageren op wat ze horen zonder dat de debaters, moderator of andere publieksleden ook maar een kik geven. 

Ik kan ook communiceren met de moderatoragent door hem instructies toe te fluisteren zonder de stroom van het debat te beïnvloeden. Ik kan hem bijvoorbeeld opdragen het onderwerp van het debat te veranderen in wat ik maar wil. Tot slot kan ik de persoonlijkheid (d.w.z. status) van elke agent wijzigen terwijl het debat bezig is. 

Klinkt gek, toch? Maar het is mogelijk!

Bekijk de video hieronder om te zien hoe het werkt.

Hetdebatvoorbeeld dient om te illustreren hoe je een bruikbaar, functionerend multi-agent systeem kunt bouwen zonder dat je een vooraf gedefinieerd proces of structuur nodig hebt!

Je zou elke teamstructuur kunnen simuleren, of hoe je de informatiestroom door een organisatiestructuur optimaal kunt ontwerpen. Je kunt dit doen terwijl je rekening houdt met aspecten zoals handelen op basis van gedeeltelijke informatie, teamleden toevoegen/verwijderen, persoonlijkheden, doelstellingen en taken in het midden van het proces veranderen, enz. Het is managementadvies op basis van AI! 

Ondersteuningsteam

Een veelvoorkomende uitdaging voor veel organisaties is het beheren van gegevensverwerking. Of je nu een advocatenkantoor, een verzekeringsmaatschappij of een fabrikant van consumentengoederen bent, je hebt hoogstwaarschijnlijk dagelijks te maken met een grote hoeveelheid e-mails, documenten enz.

Om het nog complexer te maken, is het vaak moeilijk om te voorspellen wat de inhoud of het doel van binnenkomende e-mails of documenten zal zijn. Een klant kan u vragen stellen over uw product, maar ook over een ander onderwerp. Ze kunnen ook een of meer documenten van verschillende inhoud en opmaak aanleveren. Proberen om deze uitdaging op te lossen door het bouwen van dataverwerkingspijplijnen is gedoemd te mislukken, omdat de algehele complexiteit van de scenario's die je moet afhandelen simpelweg te groot is voor een pijplijnachtig systeem dat schaalbaar of onderhoudbaar is. 

Akgents bieden een uitweg! In plaats van te focussen op een starre, procesgestuurde data intake, stellen Akgents je in staat om je mindset te verschuiven van de taak van dataverwerking naar het teamdoel van het oplossen van een klantprobleem, het leveren van een rapport, etc. Stelt u zich bijvoorbeeld eens voor dat u een customer support center runt voor een SaaS-bedrijf en dat u dagelijks e-mails ontvangt van uw klanten. Deze e-mails kunnen gaan over een functie van je SaaS, prijzen, vragen over je ontwikkelingsplan, vragen over regelgeving, enz. Het kunnen ook eenvoudige felicitaties aan het einde van het jaar zijn. 

Dit proces volledig automatiseren kan natuurlijk riskant zijn, dus je moet de mens erbij houden. Je kunt je een hybride mens-AI-systeem voorstellen, waarbij een Email Analyst Agent de binnenkomende e-mail ontvangt en bepaalt welke vragen moeten worden beantwoord (en misschien welke documenten daarvoor nodig zijn). Voor elke vraag kan de Email Analyst het formuleren van het antwoord delegeren door Support Team Members aan te stellen. Support Team Members kunnen toegang hebben tot kennisbanken via RAG-systemen of op andere manieren, en kunnen bepalen of er informatie ontbreekt. Als er informatie ontbreekt, kunnen ze het bericht terugsturen naar de analist, die kan besluiten om de klant terug te mailen met de vraag om de ontbrekende informatie, of kan verwijzen naar de mensen in het team. De Support Teamleden kunnen wachten tot de extra informatie binnenkomt, maar als er nog een e-mail binnenkomt, kan de Senior Analist gewoon een ander team van Juniors oproepen om deze te verwerken zonder de stand van zaken voor de andere e-mail te beïnvloeden. De mens aan de andere kant kan ervoor kiezen om in te grijpen en nieuwe informatie aan een analist te geven, of de klantinformatie door te sturen. Ze kunnen er ook voor kiezen om het gedrag van de analist te veranderen als ze merken dat een analist bijvoorbeeld een fout herhaalt omdat de context niet duidelijk is.

Tijdens de uitvoering kunnen agenten vragen stellen aan de mens en de mens kan zich bemoeien met de informatiestroom door te chatten met de agenten, op dezelfde manier als je instructies zou sturen naar een junior teamlid als ze iets verkeerd doen. 

Hier is een video van een multi-agent e-mail en je kunt de videodemonstratie van hoe het werkt hier bekijken:

Het hele systeem lijkt heel erg op hoe menselijke teams werken en het is precies deze intuïtieve benadering van AI-systeemontwerp die een groot deel van de waarde van de AVG-benadering uitmaakt - uiteindelijk is het probleem dat je moet oplossen minder technologisch en meer organisatorisch.

Waaromzou je dit niet doen met een enkele Email Analyst agent die alles afhandelt? Dat zou kunnen, maar dan krijg je een systeem dat veel meer middelen vraagt, moeilijker te ontwerpen is vanuit het governance perspectief en over het algemeen minder veerkrachtig is.

AI aangedreven (en niet alleen video) games

Videogames zijn een zeer natuurlijke omgeving voor multi-agent systemen, die het potentieel hebben om games veel realistischer, niet-lineair en interessanter te maken. Stel je voor dat je een wereldverkennend rollenspel aan het bouwen bent waarin de door mensen aangedreven personages andere, door AI aangedreven personages tegenkomen. Je kunt je voorstellen dat elk van hen een Akgent is, met een eigen status, de mogelijkheid om gereedschappen te gebruiken, acties uit te voeren en te communiceren. Elk type Akgent kan een persoonlijkheid hebben. Deze persoonlijkheid kan na verloop van tijd evolueren, ofwel door menselijke input, ofwel door de veranderingen in de toestand van de agent (in het echte leven zouden we dit ervaring noemen). Het zou erg moeilijk zijn om het verloop van zo'n spel te voorspellen, maar dit is misschien wel wat spellen in de toekomst leuker zal maken! 

Door AVG aangedreven games kunnen dienen als realistischere emulaties van sociale systemen dan in het verleden mogelijk was. We kunnen ze niet alleen gebruiken om interessantere videogames te bouwen, maar ook om organisatiestructuren te simuleren of AI-gestuurde strategieën te bedenken voor veerkrachtige toeleveringsketens. 

Conclusies

Samengevat bieden Akgents een nieuw paradigma om AI-gestuurde multi-agent systemen te bouwen die niet lijden onder veel van de nadelen van huidige raamwerken zoals een globale toestand en een gebrek aan mogelijkheden voor gelijktijdige uitvoering. Ze maken naadloze integratie van AI-agenten en mensen mogelijk, op manieren die rekening houden met het feit dat elk van hen op verschillende tijdschalen werkt. Tot slot kunnen we dankzij het feit dat we Akgents kunnen creëren/vernietigen wanneer dat nodig is, veel schaalbaardere AI-systemen bouwen dan voorheen. We zijn erg enthousiast over de mogelijkheden die dit raamwerk biedt om een nieuwe generatie multi-agent systemen te bouwen! 

Referenties

  1. https://www.ijcai.org/Proceedings/73/Papers/027B.pdf

Over de auteur

‍MihailoBacković begon als theoretisch natuurkundige en werd AI-expert. Hij is gespecialiseerd in het begeleiden van organisaties bij succesvolle AI-transformaties. Als Managing Partner bij B12 Consulting | onderdeel van Yuma helpt hij tal van bedrijven - van biotech en gezondheidszorg tot mobiliteit en financiën - AI te gebruiken om hun grootste ambities waar te maken. Mihailo staat bekend om zijn diepgaande analytische benadering en passie voor het aanpakken van complexe problemen en is toegewijd aan het vormgeven van een toekomst waarin AI en de mensheid samen gedijen. Hij onderzoekt actief de transformerende impact van AI op onderwerpen als de arbeidsmarkt, democratie en desinformatie en zet zich in voor het bouwen van AI-oplossingen die mensen en bedrijven in staat stellen om te floreren in een steeds meer geautomatiseerde wereld.

Mihailo Backovic

Wil je een project starten?

Let‘s talk