No risk, no fun?! KI-Systeme bewerten, um sie verantwortlich und gerecht gestalten zu können

Systeme Künstlicher Intelligenz halten zunehmend Einzug in die Betriebe - oft unter unklaren Risiken. Ein „risikoadaptierter Regulierungsansatz“, wie von der Datenethikkommission (DEK 2019) und im EU AI Act skizziert, hilft, proaktiv zu handeln und Risiken wie Überwachung durch KI zu minimieren. In dieser Session möchten wir aufzeigen, weshalb und wie KI-Systeme nach Risikostufen eingeteilt und entsprechend ihrer Risikostufe reguliert werden sollten. Wir stellen eine Risikomatrix für eine fundierte KI-Risikobeurteilung vor und berichten über praktische Vorgehensweisen bei der Bewertung. Nach kurzen Impulsreferaten und einem betrieblichen Praxisbeispiel diskutieren wir mit den Zuhörer*innen die Kriterien, Machbarkeit und Erfolgsbedingungen einer solchen Risikobewertung.