vorsicht-algorithmen

17-12-18 02:54:00,

Wie die Nutzer vor den Ergebnissen und Wirkungen der Algorithmen geschützt werden können

Der These, dass Algorithmen unser Leben stark beeinflussen und noch stärker beeinflussen werden, wird jeder zustimmen. Und dass dabei die Rechte der Nutzer von Algorithmen stärker zu schützen sind, ist auch Konsens.

Um dies zu erreichen, wird unter #algorules eine Berufs-Ethik für Programmierer vorgeschlagen, über die man bis zum 21. Dezember abstimmen und Kommentare geben kann.

Ethik für Programmierer gibt es schon lange, z.B. seit 34 Jahren “Das Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF)”, die Autoren der aktuellen Umfrage vom Think Tank iRights.Lab tragen aber keine Norwegerpullover.

Unter der Ägide der Bertelsmann-Stiftung wurden unter Algorithmenethik.de mehrere interessante Beiträge zum Thema zusammengetragen, dabei wurden auch drei amerikanische ethische Regelsysteme für Programmierer ausgewertet.

Umso mehr verwundert es, dass die Berufs-Ethik-Kriterien in der Online-Befragung etwas dünn ausgefallen sind, man kann nur hoffen, dass stark nachgebessert wird.

Ein Hauptproblem ist, dass die Autoren einem Berufsbild eines allmächtigen Programmierers folgen, das noch aus den 70er-Jahren stammt, dieses Bild galt vielleicht zu Zeiten von Joseph Weizenbaums “Die Macht der Computer und die Ohnmacht der Vernunft”. Inzwischen ist der Beruf des Programmierers in einer Vielzahl von Professionen aufgegangen, die Tätigkeit des Programmierens ist industrialisiert, sprich stark arbeitsteilig, geworden.

Schlimmer noch: Große Teile des Codes werden von Werkstudenten, Freelancern oder Offshore-Programmierern irgendwo in der Dritten Welt erzeugt, die mit dem späteren Einsatz der Verfahren gar nichts zu tun haben.

Wie die Berufs-Ethik der Ärzte die Patienten schützen soll, sollen die vorgeschlagenen Kriterien die Nutzer vor den Ergebnissen und Wirkungen der Algorithmen schützen.

Bei der Beurteilung der Kriterien wird immer wieder auf folgende Einsatzbeispiele zurückgegriffen:

  • Börsenhandels-Algorithmen
    Handeln in Sekundenbruchteilen mit großen Aktienmengen. Aufgrund des hohen Tempos ist eine Überwachung durch Menschen in Echtzeit nicht möglich.
  • Autonomes Fahren
    Algorithmen steuern Fahrzeuge durch den Verkehr.
  • Scoring-Algorithmen/Online-Shop Algorithmen
    Nutzer werden in ihrer Bonität bewertet, um ihnen z.B. einen Kredit zu gewähren oder ihnen einen persönlichen Preis (den höchsten, den sie nach Ansicht des Algorithmus zahlen würden) anzubieten.

Bei einer Online-Befragung könnten natürlich nicht allzu komplexe Sachverhalte abgefragt werden.

 » Lees verder