Mit dem sogenannten Artificial Intelligence Act hat die EU-Kommission kürzlich den Entwurf einer Verordnung vorgestellt, um Systeme zu regulieren, die Künstliche Intelligenz verwenden. Der Grundgedanke, die Entwicklung von KI in die richtigen Bahnen zu lenken und damit langfristig Vertrauen aufzubauen, ist positiv zu sehen. Zugleich besteht aber die Gefahr, dass dadurch die Wettbewerbsfähigkeit verloren geht bzw. die Entwicklung von KI-Systemen langwieriger und kostenintensiver wird.
Pflichten für Anbieter und Nutzer
Im Fokus der Verordnung steht, KI-Systeme in Hochrisikobereichen zu regulieren. Dazu gehören zum Beispiel Bildung, Personalwesen, kritische Infrastruktur, Medizin etc. Künftig sollen konforme KI-Systeme ein CE-Kennzeichen erhalten, wobei Anbieter die Konformitätsbewertung der KI-Systeme im Hochrisikobereich weitgehend selbstverantwortlich vorzunehmen haben. Nur in einigen speziellen Bereichen mit besonders hohem Risiko soll die Bewertung verpflichtend durch eine externe Partei erfolgen.
Anbieter sollen dafür umfassende Compliance Anforderungen erfüllen, wie etwa ein Risiko- und Qualitätsmanagement einrichten, technische Dokumentationen und Protokolle aufbewahren, für angemessene Genauigkeit, Robustheit und Cybersicherheit sorgen usw. Dieses Self-Assessment ist zwar nur im Hochrisikobereich vorgeschrieben, die Verordnung ermutigt aber dazu, auch alle anderen Anwendungen zu bewerten.
Anwender (ausgenommen ist die rein private Nutzung) sollen zur Überwachung der KI-Systeme verpflichtet werden, indem sie Systemanbieter über etwaige Risiken oder Fehlfunktionen informieren oder gegebenenfalls den Betrieb des Systems aussetzen.
Unterstützungsbedarf bei Konformitätsprüfungen
Insgesamt ist der Entwurf des Artificial Intelligence Act als ein erster guter Ansatzpunkt zu sehen, um weltweite Standards zu setzen und einen sicheren und transparenten digitalen EU-Binnenmarkt voranzutreiben. Eines der Hauptziele der Verordnung ist zudem, einen „Fleckerlteppich“ an nationalen Regelungen zu vermeiden. Die umfassenden Verpflichtungen könnten bei Unternehmen aber für Unsicherheit oder Überforderung sorgen und die Wertschöpfung von KI verringern oder gar verhindern. Konkrete Unterstützungs- und Förderangebote werden entscheidend sein, um die Innovationskraft von Unternehmen und die Kommerzialisierung von Forschungsergebnissen nicht einzubremsen.
