Künstliche Intelligenz: Industrie verwässert Ethik-Leitlinien

kunstliche-intelligenz-industrie-verwassert-ethik-leitlinien

22-04-19 09:39:00,

Killer-Roboter der US-Army: Künstliche Intelligenz entscheidet über Leben und Tod.
© futureoflive.org

Killer-Roboter der US-Army: Künstliche Intelligenz entscheidet über Leben und Tod.


Cornelia Eisenach, higgs / 22. Apr 2019 –

Auf Druck der Industrie-Lobby: In der EU soll es keine «rote Linie» bei der Entwicklung von künstlicher Intelligenz geben.

Künstliche Intelligenz aus Europa soll vertrauenswürdig sein – so will es die EU, die Anfang April ihre Ethik-Leitlinien für künstliche Intelligenz (KI) vorstellte. Doch diese Leitlinien sind scheinbar auf Druck einiger Mitglieder der zuständigen Expertengruppe verwässert worden. Dies berichtet der Philosoph Thomas Metzinger von der Universität Mainz auf Anfrage.

Wichtiges in Kürze

  • Die EU-Ethik-Leitlinien für KI sollten eigentlich auch vorgeben, was mit KI in Europa nicht gemacht werden darf.
  • Diese Vorgaben sollten als nicht verhandelbar, als sogenannte rote Linien gelten.
  • Doch auf Druck von Industrievertretern innerhalb des Expertengremiums wurden jegliche Verweise auf rote Linien gestrichen.

Metzinger war Teil des 52-köpfigen Expertengremiums, welches die Leitlinien erarbeitete, und hatte den Auftrag, zusammen mit einem Kollegen nicht verhandelbare ethische Prinzipien, sogenannte rote Linien festzulegen. Gemeint waren Dinge, die in Europa mit KI nicht gemacht werden sollen. Dazu gehörte unter anderem das Erforschen tödlicher autonomer Waffensysteme – wie sie die USA bereits betreiben – oder die automatisierte Identifikation von Personen mittels Gesichtserkennung.

Alles ist nun verhandelbar

«Wir haben solche roten Linien in einen Entwurf der Leitlinien aufgenommen», sagt Metzinger. «Daraufhin haben Gruppenmitglieder, viele von ihnen aus der Industrie, darauf bestanden, dass wir jegliche Verweise auf rote Linien im Dokument wieder streichen.»

Einige von Metzingers nicht verhandelbaren Prinzipien finden im Dokument zwar als «critical concerns» Erwähnung. Doch er sagt: «Nun gibt es in dem Dokument nichts mehr, was nicht verhandelbar wäre.»

Dass die Ethik-Leitlinien insbesondere bei der Entwicklung von KI-Waffensystemen keine konkrete rote Linie ziehen, sei erstaunlich und problematisch, sagt die Ethikerin Eva Weber-Guskar, die derzeit im Rahmen der «Digital Society Initiative» an der Universität Zürich zu KI-Ethik forscht. «Aus der Geschichte der Atomwaffen sollte man gelernt haben, dass es wichtig ist, solchen Entwicklungen so früh wie möglich Schranken zu setzen.»

Industrie dominierte

Grund für die Abschwächung seiner Forderungen war nach Metzingers Meinung die unausgewogene Zusammensetzung der Expertengruppe.

 » Lees verder

%d bloggers liken dit: