• Project number: F 2432
• Institution: Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) / HFC - Human-Factors-Consult GmbH, Berlin / IKEM - Institut für Klimaschutz, Energie und Mobilität, Berlin
• Status: Completed Project

Description:

Mit diesem Forschungsprojekt wurde untersucht, ob und inwieweit der Einsatz von KI-Algorithmen und anderer, sicherheitstechnisch zu bewertender Software mit Autonomiemerkmalen in physischen Systemen der Industrie, Änderungen im Rechtsrahmen erforderlich machen, insbesondere im Produkt- und Betriebssicherheitsrecht.

Auf der Basis umfangreicher Literaturrecherchen und Expertenbefragungen wurden relevante Faktoren bzw. Eigenschaften solcher physischen Systeme und deren Umgebungen untersucht und in einer Taxonomie dargestellt. In dem hierauf aufbauenden Rechtsgutachten werden sowohl relevante Kriterien für die Fortentwicklung der notwendigen produktspezifischen und betrieblichen Anforderungen bewertet, als auch angrenzende Rechtsgebiete betrachtet, wie z. B. das Immissionsschutzrecht oder auch das Haftungsrecht.

Die Untersuchungen machten deutlich, dass die Definitionen der Begriffe "Produkt" und "Gesamtheit von Maschinen" auf hochgradig vernetzte Systeme erweitert werden sollten. Eine neue Definition für den Begriff "wandelbare Produkte" sowie die Schaffung einer Pflicht des Herstellers zur Einführung eines "Produktbegleitungskonzepts" werden zudem für notwendig erachtet.

Für die Anwendung von KI-Algorithmen in solchen Systemen dürfen außerdem sicherheitsrelevante Daten nur dann verwendet werden, wenn sie einen hohen Grad an Qualität aufweisen, damit das erforderliche Sicherheitsniveau gewährleistet werden kann.