KI-Systeme: BSI und Fraunhofer IAIS entwickeln neuen Prüfkatalog

Share on facebook
Share on twitter
Share on linkedin
Share on xing
Share on whatsapp
Share on email
Share on print

KI-Systeme: BSI und Fraunhofer IAIS entwickeln neuen Prüfkatalog

Share on facebook
Share on twitter
Share on linkedin
Share on xing
Share on whatsapp
Share on email
Share on print
Wie können Unternehmen ihre KI-Systeme vertrauenswürdig gestalten? Mit dieser Frage beschäftigt sich eine neu gegründete Arbeitsgruppe von BSI und Fraunhofer IAIS im Rahmen des KI.NRW-Projekts „Zertifizierte KI“. Ziel ist es, standardisierungsreife Prüfgrundlagen für KI-Systeme zu definieren.
KI-Systeme KI-Projekt Künstliche Intelligenz

Quelle: Phonlamai Photo/Shutterstock

Die neue Arbeitsgruppe des Bundesamts für Sicherheit in der Informationstechnik (BSI) und des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS hat zum Ziel, standardisierungsreife Prüfgrundlagen und Kriterienwerke für KI-Systeme zu definieren. Wissenschaftler des Fraunhofer IAIS haben eine wichtige inhaltliche Grundlage geschaffen.

Ein über 160 Seiten starker KI-Prüfkatalog soll Unternehmen, Anforderungen an die Vertrauenswürdigkeit intelligenter Systeme für die Entwicklung individueller KI-Anwendungen zu operationalisieren. Dieser in ersten Pilotprojekten erprobte Leitfaden fließt nun in die Zusammenarbeit mit dem BSI ein und ist ab sofort für die Öffentlichkeit zugänglich. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.

KI-Systeme: Leitlinien für die Vertrauenswürdigkeit

KI-Systeme Fraunhofer IAS
Der in ersten Pilotprojekten erprobte Leitfaden zur Gestaltung vertrauenswürdiger künstlicher Intelligenz ist ab sofort für die Öffentlichkeit zugänglich. (Bild: Alex, stock.adobe.com/Fraunhofer IAIS)

Bei einer automatisierten Analyse von Bewerbungsdokumenten sind die Anforderungen an die Vertrauenswürdigkeit eines KI-Systems anders zu bewerten als bei einem Bilderkennungsverfahren zur Qualitätssicherung von Autokarosserien. Zwar gibt es erste Anforderungen und Leitlinien zur Vertrauenswürdigkeit von KI-Systemen, diese sind aber oftmals noch zu allgemein und abstrakt formuliert. Eine wichtige Konkretisierung stellt der kürzlich veröffentlichte AIC4-Katalog des BSI dar, welcher Cloud-basierte KI-Systeme adressiert. Gleichzeitig stehen andere bestehende Prüfverfahren, etwa aus der funktionalen Sicherheit oder der IT-Sicherheit, vor Herausforderungen. Insbesondere, wenn es darum geht, ihre Bewertungsschemata auf Systeme mit KI-Komponenten anzuwenden.


Arbeitsgruppe „Zertifizierte KI“ entwickelt KI-Prüfkatalog

Ziel der neu gegründeten Arbeitsgruppe des Projekts „Zertifizierte KI“ ist es, diese Lücke zu füllen und praxistaugliche Prüfgrundlagen und Kriterienwerke zu definieren. Von zentraler Bedeutung ist hierbei die Anschlussfähigkeit an bestehende Prüfschemata und die Kompatibilität mit den Anforderungen der geplanten EU-Regulierung für KI. Die Ergebnisse bilden die Basis für kommende Standards und sollen schnell international harmonisiert werden.

Eine wichtige Grundlage für die Arbeitsgruppe bildet der heute veröffentlichte KI-Prüfkatalog des Fraunhofer IAIS. Das Team rund um Dr. Maximilian Poretschkin, Leiter KI-Absicherung und -Zertifizierung am Fraunhofer IAIS, hat ein umfassendes Bewertungsschema veröffentlicht, das Unternehmen dabei hilft, Anforderungen an KI-Systeme individuell und lösungsspezifisch zu operationalisieren.                       

Entwicklungsprozess der KI-Systeme verbessern

Der Prüfkatalog adressiert zwei Zielgruppen gleichermaßen. „Mit dem KI-Prüfkatalog haben wir jetzt ein praxistaugliches Dokument, das von unabhängigen Prüforganisationen als Grundlage für zukünftige Produktprüfungen genutzt werden kann. Gleichzeitig stellt er Unternehmen das Handwerkszeug zur Verfügung, mit dem sie bereits im Entwicklungsprozess ihre Systeme selbst evaluieren und verbessern können und sich so auf zukünftige regulatorische Anforderungen vorbereiten können“, erklärt Prof. Dr. Stefan Wrobel, Institutsleiter Fraunhofer IAIS und Mitglied in der von der Bundesregierung neu gegründeten Koordinierungsgruppe KI-Normung und Konformität.             

KI-Systeme Fraunhofer IAIS
Prof. Dr. Stefan Wrobel ist Institutsleiter des Fraunhofer IAIS. (Bild: Fraunhofer IAIS)

Für die Wettbewerbsfähigkeit von Unternehmen ist eine Prüfung und Zertifizierung von KI-Systemen ganz zentral. „Der Prüfkatalog bietet einen konkreten Leitfaden, mit dem Unternehmen ihre KI-Systeme nach hohen Qualitätsstandards entwickeln können. Dies ist wichtig, um Vertrauen in unsere Technologien zu sichern und auf internationalen Märkten zu bestehen«, sagt der nordrhein-westfälische Digitalminister Prof. Dr. Andreas Pinkwart. „Auf dem Weg zum führenden Standort für angewandte Künstliche Intelligenz kommen wir damit weiter voran.“ Die Entwicklung des Prüfkatalogs wurde im Rahmen der nordrhein-westfälischen Kompetenzplattform KI.NRW gefördert.

KI-Systeme Fraunhofer IAIS
Am 24. November 2020 unterzeichneten Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer IAIS (links), und BSI-Präsident Arne Schönbohm (rechts) im Beisein von NRW-Digitalminister Prof. Dr. Andreas Pinkwart eine Kooperationsvereinbarung zur Entwicklung einer KI-Zertifizierung „made in Germany“. (Bild: MWIDE/M. Hermenau)

Beteiligte Partner des Flagship-Projekts „Zertifizierte KI“.

Das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS mit Sitz in Sankt Augustin bei Bonn ist Teil der größten Organisation für anwendungsorientierte Forschung in Europa. Und es ist eines der führenden Wissenschaftsinstitute auf den Gebieten künstliche Intelligenz, maschinelles Lernen und Big Data in Deutschland und Europa. Mit seinen mehr als 300 Mitarbeitenden unterstützt das Institut Unternehmen bei der Optimierung von Produkten, Dienstleistungen, Prozessen und Strukturen. Außerdem bietet es Unternehmen Hilfe bei der Entwicklung neuer digitaler Geschäftsmodelle.

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) gestaltet Informationssicherheit in der Digitalisierung durch Prävention, Detektion und Reaktion für Staat, Wirtschaft und Gesellschaft. Als Cyber-Sicherheitsbehörde des Bundes ist es Aufgabe des BSI, Deutschland digital sicher zu machen. Seit seiner Gründung 1991 hat sich das BSI zu einem Kompetenzzentrum für Fragen der Informationssicherheit entwickelt.

Die Kompetenzplattform KI.NRW baut Nordrhein-Westfalen zu einem bundesweit führenden Standort für angewandte künstliche Intelligenz aus und etabliert das Land in internationalen Netzwerken. Als zentrale Landes-Dachorganisation für künstliche Intelligenz vereint KI.NRW den Dreiklang aus Spitzenforschung, Innovation und Unternehmertum. Ziel ist es, den Transfer von KI aus der Spitzenforschung in die Wirtschaft zu beschleunigen. Darüber hinaus will sie eine Leitregion für berufliche Qualifizierung in KI aufbauen und Impulse im gesellschaftlichen Dialog setzen.

Lesen Sie auch: „KI – Made in Germany“ etablieren: Normungsroadmap ebnet den Weg

Share on facebook
Facebook
Share on twitter
Twitter
Share on linkedin
LinkedIn
Share on xing
XING
Share on whatsapp
WhatsApp
Share on email
E-Mail
Share on print
Drucken

Andere Leser haben sich auch für die folgenden Artikel interessiert

Die Deloitte-Studie „Future of the chemicals value chain in Europe” wirft einen Blick in die Zukunft: Wie wird sich die Chemieindustrie in den nächsten 20 Jahren entwickeln? Wie wird sie auf Markttendenzen reagieren? Und wo wird sie sich im Kontext einer nahezu alles umfassenden Digitalisierung positionieren? Die Studie identifiziert insgesamt vier Optionen, die beide Enden der Skala bedienen.

Redaktionsbrief

Tragen Sie sich zu unserem Redaktionsbrief ein, um auf dem Laufenden zu bleiben.

Wir wollen immer besser werden!

Deshalb fragen wir SIE, was Sie wollen!

Nehmen Sie an unserer Umfrage teil, und helfen Sie uns noch besser zu werden!

zur Umfrage

Oft gelesen

Aktuelle Ausgabe

Topthema: Produktdaten auf Knopfdruck

Dank WebApp Zeit und Kosten sparen

Mehr erfahren

Entdecken Sie weitere Magazine

Schön, dass Sie sich auch für weitere Fachmagazine unseres Verlages interessieren.

Unsere Fachtitel beleuchten viele Aspekte der Digitalen Transformation entlang der Wertschöpfungskette und sprechen damit unterschiedliche Leserzielgruppen an.