Als Schlüsseltechnologie der Zukunft birgt Künstliche Intelligenz (KI) enormes Innovationspotenzial für Wirtschaft und Gesellschaft. Intelligente Systeme, die künftig beispielsweise beim Autonomen Fahren wichtige Aufgaben übernehmen sollen, verarbeiten enorme Datenmengen. Um die damit verbundenen Risiken zu handhaben, eine sichere Nutzung zu gewährleisten und die internationale Kompatibilität zu ermöglichen, sind behördliche Richtlinien und internationale Standards notwendig, an denen sich Unternehmen und andere Organisationen bei der Nutzung und Entwicklung dieser Technologien orientieren können.
Ein bisher in anderen Unternehmensbereichen geläufiges Werkzeug, um mit sensiblen Aspekten wieder Informationssicherheit erfolgreich umzugehen, sind normierte Managementsysteme. Im Kontext von Künstlicher Intelligenz befinden sich derartige Managementsysteme noch in der Entwicklung. Einen internationaler Standard für sogenannte Artificial Intelligence Management Systems (kurz AIMS) erarbeitet aktuell die gemeinsamen Arbeitsgruppe der Normungsorganisationen International Organization for Standardization (ISO) und International Electrotechnical Commission (IEC).
Ein Standard normiert Managementsysteme
In der Studie Management System Support for Trustworthy Artificial Intelligence hat das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS den Arbeitsentwurf für die Standards dieser Managementsysteme dahingehend untersucht, inwieweit er Unternehmen und Organisationen dabei unterstützen kann, intelligente Applikationen auf vertrauenswürdige Weise zu nutzen und zu entwickeln. Zu diesem Zweck haben die Wissenschaftler den Entwurf mit den aktuellen Anforderungen und Empfehlungen für vertrauenswürdige Künstliche Intelligenz verglichen, die bisher von der Europäischen Kommission, der von ihr beauftragten Expertengruppe High-Level-Expert Group on AI (HLEG) sowie dem Bundesamt für Sicherheit in der Informationstechnik (BSI) formuliert wurden.
Die Studie des Fraunhofer IAIS zeigt, dass die Einführung eines Managementsystems für Künstliche Intelligenz für Unternehmen einen angemessenen Schritt darstellen kann, um passende Strategien und Prozesse für die vertrauenswürdige Entwicklung und Nutzung derartiger Technologien zu definieren. „Für Organisationen, die Künstliche Intelligenz einsetzen, sollte das Ziel, verantwortungsvoll, vertrauenswürdig und rechtskonform zu sein, in ihrer Governance-, Risk- und Compliance-Strategie deutlich zum Ausdruck kommen“, empfiehlt Dr. Michael Mock, Co-Autor der Studie, der am Fraunhofer IAIS das vom Bundesministerium für Wirtschaft und Energie geförderte Projekt KI-Absicherung für sichere intelligente Anwendungen im Autonomen Fahren leitet. „Managementsysteme für Künstliche Intelligenz können Anwender und Entwickler derartiger Anwendungen auch langfristig beim Einhalten von aktuellen und kommenden Richtlinien und Gesetzen unterstützen. Selbst wenn mehrere Interessensgruppen aktiv sind und komplexe Lieferketten vorliegen, erleichtert der Einsatz von derartiger Managementsysteme das Einhalten von Vorschriften über den gesamten Lebenszyklus von intelligenten Systemen.“
Richtlinien schaffen Vertrauen bei Anwendern
Auch auf die Akzeptanz und das Vertrauen von KI-Technologien in der Gesellschaft können Managementsystemen in Unternehmen einen positiven Einfluss haben, wie die Wissenschaftler des Fraunhofer IAIS in ihrer Studie hervorheben. „Unserer Einschätzung nach sind Managementsysteme für intelligente Technologien ein wichtiger Baustein, um das Vertrauen von Stakeholdern – wie zum Beispiel Kunden oder Mitarbeitern – in Künstliche Intelligenz wesentlich zu stärken«, erläutert Dr. Maximilian Poretschkin, Co-Autor der Studie und Teamleiter KI-Absicherung und Zertifizierung am Fraunhofer IAIS.
Als eines der führenden Forschungsinstitute im Bereich Künstlicher Intelligenz in Europa befasst sich das Fraunhofer IAIS ebenfalls mit der Vertrauenswürdigkeit und Zuverlässigkeit von KI-Systemen. Im Projekt ZERTIFIZIERTE KI ist das Institut an der Definition von praxistauglichen Prüfgrundlagen und Kriterienwerken beteiligt. Diese Expertise ermöglicht es den Wissenschaftlern, den bisherigen Norm-Entwurf zu Managementsystemen für intelligente Technologie zu bewerten. „Mit dem Regulierungsentwurf der EU-Kommission, aber auch anderen Dokumenten wie etwa den Empfehlungen der High-Level-Expert Group on AI bilden sich wichtige Leitplanken für den Einsatz Künstlicher Intelligenz heraus“, erläutert Poretschkin „Es ist daher sehr wichtig, entstehende Standards mit diesen zu vergleichen.
Handlungsempfehlungen für Technologie und Organisation
In ihrer 60-seitigen Studie geben die Experten für intelligente Technologie konkrete Handlungsempfehlungen, inwiefern sich der Norm-Entwurf noch verbessern lässt. Die Studie fasst zunächst den Standard-Entwurf sowie die Leitlinien der Europäischen Kommission (Proposal for AI Regulation), der High-Level-Expert Group on AI (Assessment List for Trustworthy AI) und des BSI (AIC4-Katalog) zusammen. In der detaillierten Gegenüberstellung aller Dokumente werden neben organisatorischen auch die technischen Anforderungen miteinander verglichen. Der Vergleich orientiert sich an dem vom Fraunhofer IAIS kürzlich veröffentlichten KI-Prüfkatalog, einem Leitfaden für die Gestaltung vertrauenswürdiger Künstlicher Intelligenz. Darüber hinaus behandelt die Studie die Zertifizierung von Managementsystemen für Künstliche Intelligenz.
Die von Microsoft finanzierte Studie „Management System Support for Trustworthy Artificial Intelligence“ ist kostenlos zum Download verfügbar. Jürgen Frisch
