KI-Assistenten und KI-Agenten in Microsoft Teams: Eroberung des Büros
Konnichiwa! Willkommen beim Office Samurai podcast wo wir im Büro nicht nur überleben, sondern es einen automatisierten Prozess nach dem anderen erobern. Dieses Mal sprechen wir über KI-Assistenten und KI-Agenten – diese cleveren kleinen KI-Wesen, die unser Leben einfacher oder zumindest unterhaltsamer machen. Ich bin euer Gastgeber Andrzej Kinastowski, einer der Gründer von Office Samurai, einem Unternehmen, das es wagt zu fragen: „Was wäre, wenn wir Unternehmensberatung ohne all den Bullshit machen?“. Egal, ob du Führungskraft, Technik-Fan oder einfach jemand bist, der es satt hat, zum tausendsten Mal die Frage zu beantworten „Wo finde ich dafür die Vorgehensweise?“ – hier bist du richtig. Also schnapp dir dein Lieblings-Katana oder die Notfall-Schokoriegel, die du in der Schublade versteckt hast, und los geht’s.
Der Hype-Zyklus: Agenten Realität vs. Blender
KI-Agenten. Jeder will über KI-Agenten reden. Wenn man auf LinkedIn geht, sind die Hälfte der Beiträge über KI-Agenten. Und man wird viele verschiedene Menschen sehen, die ganz unterschiedliche Dinge über KI-Agenten sagen. Sie werden uns vernichten. Sie werden uns retten. Sie werden unsere Jobs wegnehmen. Sie werden erstaunliche Jobs schaffen. Sie werden alles perfekt machen oder alles vermasseln. Jeder redet über KI-Agenten, jeder will KI-Agenten einsetzen, und viele Leute tun nur so, als würden sie KI-Agenten machen.
Kürzlich haben wir Nachrichten über das Unternehmen Nate erhalten. Es war ein Unternehmen, das behauptete, KI-Agenten zu haben, die den Kaufprozess für dich abschließen würden. Wenn du also auf einer E-Commerce-Website etwas kaufen wolltest, würdest du im Grunde nur Nate benutzen, um alles abzuwickeln. Sie haben mehr als 50 Millionen US-Dollar an Kapital gesammelt, um das Unternehmen auszubauen. Kürzlich haben wir erfahren, dass die Automatisierungsrate aller Einkäufe bei 0 % lag und alle diese Transaktionen von Hunderten von menschlichen Auftragnehmern bearbeitet wurden, die in Callcentern auf den Philippinen und in Rumänien arbeiten. Es wird immer mehr Fälle wie diesen geben, denn wo Hype ist, gibt es Menschen, die diesen Hype nutzen wollen, um entweder dich erfolgreich zu machen oder dich zu täuschen. Du musst also auf den Bullshit rund um KI-Agenten achten.
Sehr oft ist das, was als KI-Agent präsentiert wird, in Wirklichkeit nur eine Menge „Wenn-Dann“-Regeln oder einfach viele Menschen, die die Arbeit erledigen – was, lustigerweise, gar nicht so schlimm ist. Wenn man darüber nachdenkt, dass viele Menschen Angst haben, dass KI ihre Jobs wegnehmen wird, haben wir hier etwas völlig Gegenteiliges: KI gibt den Menschen Arbeit. Aus dieser Perspektive ist es also gar nicht so schlecht.
Und es gibt viele Berater auf dem Markt, die dir die Idee verkaufen, dass KI-Agenten schon so gut sind, dass man ganze Teams von KI-Agenten aufbauen kann, die zusammenarbeiten. Sie sollen KI-Agenten-Chefs haben, KI-Agenten-Prüfer und im Grunde überall KI-Agenten einsetzen.
Das kann im Moment in einem Labor funktionieren, aber es ist nichts, was du dieses oder nächstes Jahr in deinem Unternehmen sehen wirst. Ich bin sicher, dass es irgendwann so sein wird. Aber im Moment ist das alles nur Testphase. Alles passiert in Laboren und funktioniert nur in sehr, sehr spezifischen Fällen.
Das bedeutet aber nicht, dass es keinen Sinn macht, sich mit KI-Agenten zu beschäftigen. Es bedeutet auch nicht, dass du diese Technologie überspringen solltest. Es gibt schon jetzt viele Dinge, die KI-Agenten für dich tun können. Und heute möchte ich über die Dinge sprechen, die wir kennen, weil wir sie ausprobiert und implementiert haben – die Dinge, bei denen KI-Agenten bereits helfen können.
Assistenten vs. Agenten: Begriffsdefinition
Bevor wir dazu kommen, müssen wir über die Begrifflichkeiten sprechen. Der Begriff „KI-Agent“ wird für viele verschiedene Dinge verwendet. Und was wir bei Office Samurai versuchen, ist, den Menschen den Unterschied zwischen einem KI-Assistenten und einem KI-Agenten zu zeigen.
Was ist ein KI-Assistent?
Fangen wir mit KI-Assistenten an. Was ist ein KI-Assistent? Grundsätzlich, als OpenAI erstmals ChatGPT der Welt zeigte, begannen alle Unternehmen zu denken, dass dies ein ziemlich erstaunliches Werkzeug ist, das mit Menschen in natürlicher Sprache kommunizieren kann. Also warum nicht das Modell mit dem Wissen unseres Unternehmens, unseren Prozessen und Standards füttern und dann einen Assistenten haben, der unseren Mitarbeitern hilft, ihre Fragen zum gesamten Unternehmenswissen zu beantworten?
Das RAG-Framework: Retrieval-Augmented Generation
Das Modell zu „unterrichten“ ist eigentlich nicht der richtige Weg, weil das Lehren eines Modells ein sehr komplexer Prozess ist und ziemlich teuer sein kann. Du willst dein Modell also nicht mit deinen Daten trainieren, weil das viel kosten würde, und jedes Mal, wenn sich die Daten ändern, müsstest du es neu trainieren. Das würde keinen Sinn machen – vielleicht nur in ganz, ganz speziellen Fällen. Was wir stattdessen tun können, ist das, was „RAG“ genannt wird, also Retrieval-Augmented Generation. Die Idee ist, dass man das Wissen deines Unternehmens zu einem bestimmten Thema oder für eine bestimmte Abteilung nimmt und diese Daten vorbereitet. Man teilt sie auf, und es gibt noch ein paar weitere Dinge, die man dabei beachten muss. Danach legt man sie irgendwo ab – normalerweise in einer Vektordatenbank. Eine Vektordatenbank ist eine Art magische Datenbank, in der wir Wissen speichern und suchen können – aber nicht auf traditionelle Weise, bei der man Wörter oder Phrasen vergleicht, sondern auf eine Art, bei der man nach Bedeutung sucht. Es spielt also keine Rolle, wie du dein Wissen formulierst, du kannst es trotzdem in der Vektordatenbank finden, selbst wenn du es in völlig anderen Worten abgelegt hast.
Im RAG-Framework legst du also das Wissen in eine Vektordatenbank. Wenn ein Nutzer dann eine Frage an ein RAG-System stellt – das meist hinter einer Chat-Oberfläche verborgen ist – passiert Folgendes: Die RAG-Anwendung fragt zuerst die Datenbank: „Finde mir alle Datenstücke, die irgendwie etwas mit einer möglichen Antwort auf diese bestimmte Frage des Nutzers zu tun haben.“ Die Vektordatenbank gibt dann Wissensfragmente zurück, die in irgendeiner Weise mit der gestellten Frage verbunden sind. Danach kann RAG diese Daten noch etwas bereinigen usw., aber im Wesentlichen schickt es diese Daten als Kontext an das GenAI-Modell mit der Anweisung: „Beantworte diese Nutzerfrage im Kontext dieses Wissens, das ich aus der Vektordatenbank erhalten habe.“ Auf diese Weise kann das Modell Fragen im Kontext des Wissens deines Unternehmens beantworten – ohne dass man das Modell selbst trainieren muss.
Das ist also eine wirklich elegante Methode, einen KI-Assistenten zu bauen, der dein Wissen kennt, aber viel günstiger und einfacher zu erstellen ist als ein eigenes KI-Modell.
Fallstudie: CyberOla-Assistent bei Office Samurai
Sprechen wir über ein Beispiel. Bei Office Samurai haben wir einen KI-Assistenten namens CyberOla. Ola ist unsere Leiterin für Administration und HR. Und wir sind kein großes Unternehmen – nur 40 Leute –, aber unsere Administration und HR bekommen bereits sehr viele wiederkehrende Fragen. Die Leute stellen immer wieder die gleichen Fragen, deren Antworten eigentlich in unseren Prozessen und in unserer Dokumentation zu finden wären. Aber sehr oft wissen sie schlicht nicht, wo sie danach suchen sollen.
Also haben wir CyberOla als Alter Ego unserer Ola, der Abteilungsleiterin, geschaffen. CyberOla übernimmt einige Funktionen unseres HR- und Admin-Teams. Jeder unserer Mitarbeiter kann einen Chat mit CyberOla in Teams öffnen – das ist das Tool, das wir für die interne Kommunikation nutzen. Dort können sie CyberOla Fragen stellen, ganz unterschiedlicher Art. Das kann etwas Einfaches sein wie: „Wie buche ich einen Meetingraum?“ Dann gibt CyberOla die Information zurück, wie man einen Raum bucht. Zusätzlich liefert es auch die Angabe, in welchem Dokument diese Information gefunden wurde und auf welcher Seite in diesem Dokument sie steht.
Wir haben in CyberOla rund 70 verschiedene Dokumente eingespeist – HR- und Admin-Prozesse, interne Vorschriften, IT-Richtlinien, Onboarding-Pakete für neue Mitarbeiter. Also all das Wissen, nach dem einer unserer Mitarbeiter fragen könnte. Man kann CyberOla zum Beispiel auch fragen: „Welche Benefits haben unsere Mitarbeiter?“ – und CyberOla findet diese Informationen und gibt sie dem Nutzer zurück. Dabei handelt es sich nicht einfach nur um eine Suche mit Copy-Paste, sondern CyberOla schaut sich die Informationen an und formuliert sie um.
Du kannst CyberOla zum Beispiel fragen: „Muss ich den Namen meines Laptops ändern?“ – dann findet es in unseren IT-Richtlinien die passende Stelle und gibt dir die Antwort: „Ja, du musst das tun, und so geht es.“
Selbst bei Fragen wie „Darf ich meinen Hund mit ins Büro bringen?“ liefert CyberOla die richtige Info. Bei Office Samurai dürfen unsere Mitarbeiter Hunde ins Büro mitbringen – wir lieben Hunde und haben sie gerne um uns. CyberOla sagt also: „Ja, du kannst deinen Hund mit ins Büro bringen.“ Das Interessante ist aber: Wir haben keine Regelung für andere Tiere, nur für Hunde. Wenn man also fragt: „Kann ich meinen Papagei mitbringen?“, sagt CyberOla tatsächlich: „Ich weiß es nicht, ich habe dazu keine Information in meinem Wissen. Bitte kontaktiere die echte Ola, die menschliche Ola, sie wird dir die Antwort geben.“ Und genau das – das Eingestehen von „Ich weiß es nicht“ – war für uns überraschenderweise eine der schwierigsten Funktionen, die wir in unserem GenAI-Assistenten umsetzen mussten. Denn generative KI-Modelle neigen stark dazu, zu halluzinieren.
Wir haben mit einigen AI-Agent-Buildern herumgespielt – es gibt viele solcher Tools, die es ermöglichen, sehr einfach eigene KI-Assistenten zu bauen. Das Problem, das wir mit den meisten dieser Standardlösungen hatten, war: Wenn wir gefragt haben „Kann ich meinen Papagei mit ins Büro bringen?“, dann haben sie sehr oft geantwortet „Ja, du kannst deinen Papagei mitbringen“ – obwohl wir keinerlei Information dazu in unserem Wissen haben. Wenn man also eine dieser „Out-of-the-box“-Lösungen nutzt, muss man wirklich vorsichtig mit Halluzinationen sein. Denn bei diesen einfach zu bedienenden Tools ist es ziemlich schwer, sie exakt an die eigenen Bedürfnisse anzupassen. Man hat deutlich weniger Kontrolle darüber, wie sie arbeiten – im Vergleich zu einer maßgeschneiderten, speziell angepassten Lösung wie CyberOla.
Chancen für Assistenten im gesamten Unternehmen
Jetzt, da du weißt, was KI-Assistenten leisten können, nimm dir einen Moment Zeit und überlege, wie du sie in deinem Unternehmen einsetzen könntest – denn es gibt wirklich sehr viele Möglichkeiten. Stell dir zum Beispiel dein Vertriebsteam vor: Es könnte einen Assistenten haben, der Informationen über Produkte und Spezifikationen liefert und sogar Vergleiche anstellt. Oder du bereitest einen für dein Finanzteam vor, fütterst ihn mit allen Regeln, Praktiken und Prozessen. Wenn jemand dann nicht mehr weiß, wie man etwas verbucht oder wer für eine bestimmte Aufgabe zuständig ist, kann er einfach den Assistenten fragen. Du könntest sogar einen für den IT-Helpdesk bauen – sodass die Mitarbeitenden nicht ständig die Nutzer bitten müssen, den Computer neu zu starten. Das könnte der KI-Assistent für sie übernehmen. Das sind also KI-Assistenten – und ich bin überzeugt, dass sie ein enormes Potenzial für unsere Geschäftsprozesse und die Automatisierung der Aufgaben haben, die wir und unsere Mitarbeitenden tagtäglich erledigen.
Agentische Tools im Einsatz: Automatisierung von HR-Aufgaben
Aber es gibt noch eine nächste Stufe und das sind KI-Agenten. Wir wollen KI-Assistenten und KI-Agenten klar voneinander trennen. Wenn man von einem KI-Agenten spricht impliziert das dass diese KI tatsächlich Handlungsfähigkeit besitzt. Aus unserer Sicht gilt: wenn sie nur Fragen beantwortet ist es ein KI-Assistent. Wenn sie auch Aufgaben ausführt also wirklich etwas für dich tun kann dann ist es ein KI-Agent.
Also haben wir bestimmte Funktionen in unsere CyberOla eingebaut um sie agentisch zu machen. Eines der Dinge die wir als Unternehmen tun ist dass wir viele Trainings anbieten. Jedes Mal wenn einer unserer Trainer ein Training durchführt braucht er eine Trainingsumfrage. Jetzt kann ein Trainer zu CyberOla gehen und sagen hey ich brauche eine Umfrage für das Training das ich mache. Und das Framework das wir geschaffen haben versteht dass dies keine Wissensfrage ist. Es greift also nicht auf das RAG-Framework und die Logik eines KI-Assistenten zurück sondern erkennt dass hier eines der Tools von CyberOla eingesetzt werden soll.
Wenn ich diese Information eingebe kontaktiert es über eine API zuerst JotForm das Tool das wir für unsere Umfragen verwenden und erstellt dort über die API eine Standardumfrage für ein Training. Nachdem die Umfrage erstellt wurde erzeugt es über eine weitere API einen Kurzlink zu dieser Umfrage und außerdem einen QR-Code den der Trainer einfach in seine Präsentation kopieren und einfügen kann. Auf diese Weise muss unser Admin-Team das nicht mehr übernehmen. Unsere Trainer gehen zu CyberOla und erstellen die Umfragen selbst mithilfe dieses KI-Agenten.
Eine weitere Sache die es kann ist im polnischen Arbeitsrecht geregelt. Wenn man eine Brille kauft muss der Arbeitgeber zumindest einen Teil der Kosten erstatten. Dafür braucht man ein Formular das man ausfüllt und an das Admin-Team schickt. Wir haben dafür ein weiteres agentisches Tool geschaffen. Wenn man zu CyberOla sagt hey ich möchte meine Brille erstattet bekommen dann fragt es alle relevanten Informationen ab die es braucht um dieses Formular zu erstellen. Sobald ich diese Informationen an CyberOla gebe erstellt es ein PDF mit allen von mir angegebenen Daten an den richtigen Stellen und lädt es in den Kanal hoch in dem wir gerade sprechen.
Und wir haben weitere agentische Tools in unsere CyberOla integriert. Sie hilft uns dabei Buchungszeiten für Mitarbeiter im Unternehmen zu finden indem sie die Microsoft Graph API kontaktiert. Sie kann andere HR-Dokumente vorbereiten und wir fügen ständig neue Funktionalitäten hinzu.
Die Zukunft ist agentisch: unbegrenzte Möglichkeiten
Und wenn man nun über diese KI-Agenten nachdenkt kann man sich wieder überlegen wie sie den eigenen Teams helfen könnten. Wenn ich zuvor über einen KI-Assistenten für dein Vertriebsteam gesprochen habe dann könnte man dazu agentische Automatisierung hinzufügen. Er könnte auch den Status der Leads in deinem CRM aktualisieren. Er könnte Notizen eintragen die du ihm über deine Meetings diktierst. Er könnte Angebote und Offerten für dich vorbereiten.
Für dein Finanzteam könnte er nicht nur sagen wie man etwas macht und dich zu den notwendigen Prozessen führen sondern deine Mitarbeiter könnten den Agenten auch bitten eine Buchung durchzuführen ein Clearing zu machen oder einen Bericht vorzubereiten. Für deinen IT-Service-Desk könntest du einen Agenten haben der deinen Mitarbeitern umfangreiche Self-Service-Möglichkeiten bietet. Die Möglichkeiten sind hier im Grunde endlos.
Fazit: KI wird zum Alltag im Geschäftsbetrieb
Und je mehr wir über KI-Assistenten und KI-Agenten nachdenken und je mehr wir mit ihnen arbeiten desto deutlicher sehen wir dass dies etwas ist das mit der Zeit – es wird Zeit brauchen – die Funktionsweise von Organisationen grundlegend verändern könnte. Heute ist Robotic Process Automation Alltag im Geschäftsbetrieb. Und ich bin fest davon überzeugt dass in ein paar Jahren KI-Assistenten und KI-Agenten genauso zum Alltag gehören werden.
Alles in allem ist aus der Sicht von Office Samurai die Technologie für KI-Assistenten und KI-Agenten jetzt bereit die Möglichkeiten sind enorm und es ist höchste Zeit sie umzusetzen. Du bist am Ende einer weiteren Folge des Office Samurai Podcasts angekommen. Ein großes Arigato fürs Zuhören. Riesigen Dank wie immer an das unersetzliche menschliche Element hinter den Kulissen und an Anna Cubal unsere unermüdliche Produzentin. Aufgenommen wie immer im legendären Wodzu Beats Studio. Bis zum nächsten Mal halte deine Firewall stark und deine KI-Agenten an einer kurzen digitalen Leine. Mata ne.
