Die Zusammenarbeit zwischen Mensch und KI ist kein neues Thema. Doch mit der rasanten Entwicklung von Künstlicher Intelligenz gewinnt es enorm an Brisanz. Künstliche Intelligenz (KI) ermöglicht enorme Produktionsgewinne, gleichzeitig wächst aber auch die Komplexität der Systeme: Sie werden immer leistungsstärker, ihre Entscheidungen intransparenter und ihre Auswirkungen weitreichender.
Dadurch entsteht ein Spannungsfeld zwischen Effizienz auf der einen und Sicherheit auf der anderen Seite. Als Lösung schlägt der Automatisierungsspezialist Pegasystems sechs Leitprinzipien vor, wie Unternehmen die Zusammenarbeit zwischen KI und Mensch gestalten.
1. KI entscheidet schnell, der Mensch verantwortungsvoll
KI kann in kürzester Zeit große Datenmengen verarbeiten und daraus Entscheidungen ableiten. Verantwortungsvolle Entscheidungen erfordern jedoch mehr als Daten und Wahrscheinlichkeiten: Sie basieren auf Faktoren wie komplexen Wertsystemen, implizitem Wissen und Erfahrung, die sich nur schwer vollständig formalisieren lassen. Deshalb kann KI zwar Entscheidungen vorbereiten, die Verantwortung dafür muss beim Menschen verbleiben.
2. Menschliche Kontrolle ist ein Sicherheitsnetz
Die menschliche Verantwortung für die Entscheidungen macht menschliche Kontrolle unverzichtbar. „Human in the Loop“ ist kein optionales Feature, sondern eine grundlegende Voraussetzung für den sicheren Einsatz von KI. Diese Kontrolle sollte nicht nur am Ende eines Prozesses stattfinden, sondern entlang des gesamten Lebenszyklus: vom Design über das Training bis zum operativen Einsatz von KI.
3. Agentenbasierte KI braucht klare Regeln
Mit der zunehmenden Verbreitung agentenbasierter KI wächst die Versuchung, Systeme möglichst autonom agieren zu lassen. KI-Agenten benötigen aber von Menschen definierte Mandate, feste Regeln und eine Einbettung in kontrollierte Abläufe. Völlig autonome Agenten verlieren mit wachsendem Kontext an Stabilität und Vorhersehbarkeit und bieten dadurch keine verlässliche Grundlage für den Einsatz in Unternehmen.
4. AI Literacy wird zur Kernkompetenz für alle
Mit der wachsenden Verbreitung von KI wird ein Verständnis ihrer Funktionsweise, Stärken und Grenzen zur Schlüsselkompetenz. Jede Rolle benötigt ein angemessenes Verständnis für ihren Aufgabenbereich. Anwender müssen einschätzen können, wann Ergebnisse plausibel und vertrauenswürdig sind, Fachbereiche müssen ihre Anforderungen so formulieren können, dass sie sich sinnvoll in einem IT-System umsetzen lassen, und Entwickler wiederum benötigen ein tiefes Verständnis für die technischen Zusammenhänge und die Qualität der Ergebnisse.
5. Technische und soziale Kompetenzen sind entscheidend
Der Einsatz von KI ist keine rein technische Herausforderung. Es handelt sich um ein sozio-technisches System, in dem Technologie und menschliche Faktoren eng miteinander verzahnt sind. Technische Exzellenz reicht nicht aus, wenn sie nicht durch Kommunikation, Verständnis und Zusammenarbeit ergänzt wird. Die Einführung von KI ist daher immer auch ein Change-Projekt, das nicht nur Systeme, sondern Organisationen, Arbeitsweisen und Denkmodelle betrifft.
