Das finnische Unternehmen Agion hat ein System entwickelt, welches die Aktivitäten von Künstlichen Intelligenz-Agenten überwacht und sicherstellt, dass diese keine Fehler machen. Zu den Kunden des Unternehmens gehört die Staatskontrolle, und innerhalb von sechs Monaten ist der Umsatz im Inland auf nahezu eine Million Euro angestiegen.

Zu den Investoren von Agion zählen Juhani Mykkänen, ein Mitgründer von Wolt, sowie Petteri Lahtela, der Gründer von Oura. Die Namen sind bekannt aus Unternehmen, die innovative Technologien anbieten, jedoch investiert Agion in ein System, das Künstliche Intelligenz im Zaum hält.

Das Unternehmen, Agion genannt, überwacht Künstliche Intelligenz-Agenten, die wie digitale Assistenten fungieren und selbstständige Aufgaben erhalten. Das System von Agion hält dieses Arsenal von Assistenten unter Kontrolle. Eines der ersten Kunden war unter anderem die Staatskontrolle.

Obwohl die Höhe der Investitionen nicht bekannt gegeben wird, zeigen die Investitionen von Mykkänen und Lahtela ein starkes Vertrauen in Agion. Laut Agion besteht auf dem Markt ein enormes Interesse daran, Aufgaben an Agenten auszulagern; die Verwaltung dieser Agenten bereitet den Unternehmen jedoch Sorgen.

„Wenn ein Unternehmen oder eine Behörde Tausende von Künstlichen Intelligenz-Assistenten bzw. Agenten hat, wie kann gewährleistet werden, dass diese richtig arbeiten?“ beschreibt Mikko Alasaarela, der Vorsitzende des Aufsichtsrats von Agion, in einer Pressemitteilung. „Wie vermeiden wir, dass einer von ihnen beschließt, einem Kunden eine Entschädigung in Höhe von 10.000 Euro zu versprechen oder vertrauliche Informationen an die falsche Stelle weiterzugeben?“

Das System von Agion überprüft, bewertet und protokolliert die Aktivitäten der Agenten. Ein gut funktionierender Agent erhält mehr Unabhängigkeit, während ein weniger effektiver Agent in eine Beobachtungsgruppe eingestuft wird.

Agion ist seit etwa einem halben Jahr aktiv, doch in dieser Zeit ist der Umsatz im Inland auf fast eine Million Euro gestiegen. Derzeit hat das Unternehmen mehr als 20 Kunden, wobei Agion unter anderem die Staatskontrolle hervorhebt. Zudem sind auch börsennotierte Unternehmen dabei.

Das System von Agion wird unter anderem im Kundenservice eingesetzt: Agenten bearbeiten Routineanfragen eigenständig, während komplexe Fälle an Menschen weitergeleitet werden.