Maschinelle Lernverfahren (ML) haben in den letzten Jahren spektakuläre Erfolge verzeichnet, beispielsweise bei der Interpretation und Klassifikation von Bildern oder der Steuerung von Prozessen. Daraus wird häufig die Hoffnung auf sichere, zuverlässige Produkte und Dienstleistungen abgeleitet – von der Luftfahrt bis hin zur Automobilindustrie und Medizintechnik. Wie viele neue Technologie bergen auch ML-Technologien sowohl Chancen als auch Risiken in sich. Nutzer erwarten die gleiche Verlässlichkeit und Sicherheit, unabhängig davon, ob Systeme ML-gestützt sind oder nicht. In Produkte und Dienstleistungen eingebettete ML-Technologien können neue Risiken mit sich bringen. Beispielsweise wenn ein ML-gesteuertes Fahrzeug aufgrund eines Klassifikationsfehlers einen Gegenstand auf der Straße falsch identifiziert und einen Unfall mit Verletzungen und Sachschäden verursacht. Fehlende regulatorische Vorgaben und Zertifizierungsprozesse führen neben den Risiken für betroffenen Personen auch zu Rechtsunsicherheit für Unternehmen, die ML-gestützte Produkte entwickeln. Des Weiteren sind auch Fragen des Datenschutz und des Schutzes der Privatsphäre zu klären.