Ethische Fragen bei Künstlicher Intelligenz: Mit welchen Herausforderungen müssen wir umgehen? Teil 1

Die französische Datenschutzbehörde CNIL feierte im Januar ihr 40-jähriges Bestehen. Wir nehmen dieses Jubiläum zum Anlass, um auf den Bericht der Behörde vom Dezember 2017, der sich mit den wichtigsten Fragen rund um Künstliche Intelligenz und Algorithmen auseinandersetzt, hinzuweisen.

Die CNIL identifiziert sechs große Bereiche, in denen sich ethische Dilemma auftun:

Autonome Maschinen: Entscheidungen, die autonome Maschinen fällen, können für Fragen des freien Willens und für das Übernehmen von Verantwortung eine Bedrohung darstellen.

Tendenzen, Diskriminierung und Ausschluss: KI-Systeme können vorgegebene Tendenzen einprogrammiert haben und Diskriminierungen oder den Ausschluss von Personen oder Personengruppen mit sich bringen.

Algorithmischen Profilieren von Menschen: Hier geht es um den Konflikt, dass Software einerseits durch das persönliche Zuschneiden nützlich für den Einzelnen und für die Gesellschaft als ganzes sein kann, andererseits aber diese errechnete Personalisierung eine Bedrohung für gesellschaftliche Werte wie politischen und kulturellen Pluralismus oder das gemeinschaftliche Tragen von Risiken sein kann.

Verhinderung der Ansammlung riesiger Datenmengen für maschinelles Lernen: Wie kann die Balance zwischen den beiden konträren Zielen Datenmengen für KI zu sammeln und dem Schutz der persönlichen Daten von Individuen gestaltet werden?

Herausforderungen bei der Auswahl von Daten in Qualität, Quantität und Relevanz:  Wenn es um die Menge von Daten, um deren Korrektheit und die Abwesenheit von systematischen Fehlern in Daten geht, stellen sich weitere Probleme. Daher sollte man Softwareergebnissen gegenüber kritisch bleiben und kein übermäßiges Vertrauen in Entscheidungen von KI-Systemen entwickeln.

Menschliche Identität im KI-Zeitalter: Maschinen werden nicht nur autonomer, sondern entwickeln auch hybride Formen mit dem Menschen. Wie sollen wir mit humanoiden Robotern umgehen, die höchstwahrscheinlich emotionale Reaktionen bei Menschen auslösen werden?

Die Empfehlungen der CNIL zu diesen Fragestellungen folgen in einem späteren Blog-Beitrag.