Dominanz großer Tech-Monopole verhindern: UN-Bericht drängt auf stärkere Kontrolle von KI-Systemen

24-10-18 08:37:00,

Algorithmische Entscheidungssysteme können Menschenrechte verletzen. Tech-Firmen und Regierungen nehmen durch von Künstlicher Intelligenz (KI) gelenkte Systeme potentiell Einfluss auf die Freiheit der Meinungsbildung und der Meinungsäußerung, sowie auf Privatsphäre und den Schutz von Menschen vor Diskriminierung. Zu dem Schluss kommt ein Bericht des UN-Sonderbeauftragten für den Schutz der Meinungsfreiheit, des US-Jurist David Kaye. Der Bericht empfiehlt Staaten und Firmen die stärkere Kontrolle von KI-Systemen.


netzpolitik.org – ermöglicht durch Dich.

David KayeDavid Kaye CC-BY 2.0 Maina Kiai

Kayes wichtigste Empfehlung an die Staaten lautet, die großen Tech-Monopole zu regulieren. Die Konzentration von KI-Expertise und Macht in der Hand weniger dominanter Firmen müsse verhindert werden, schreibt der UN-Experte. Er fordert weiters, durch Regulierung die barrierefreie Nutzung von Diensten und Technologien über Anbietergrenzen hinweg durchzusetzen (Stichwort: Interoperabilität). Die Staaten sollten zudem Netzneutralität und Geräte-Neutralität rechtlich durchsetzen.

UN-Generalsekretär António Guterres legte den Bericht Ende August den Mitgliedstaaten vor. Das Thema ist brandaktuell: Immer mehr Industriestaaten beschließen derzeit KI-Strategien – damit sind meist vor allem Investitionen zur Förderung der Technologie-Entwicklung gemeint. Deutschland will dabei bald nachfolgen. Die Datenethikkommission empfahl der Bundesregierung zuletzt bereits, sie solle sich bei ihren Plänen stärker an Grundwerten orientieren. Denn bisher stehen beim Thema KI meist Wirtschaftsinteressen im Vordergrund. Auch müssten algorithmische Entscheidungsverfahren in der öffentlichen Verwaltung eindeutig und für jeden nachvollziehbar sein, forderten zuletzt die Informationsfreiheits-Beauftragten von Bund und Ländern.

Warnung vor verflochtenen Machtinteressen

Der UN-Bericht warnt angesichts einer immer stärker KI-gestützten Öffentlichkeit, unter anderem bei Suchmaschinen oder Sozialen Medien, vor dem potentiell übermächtigen Einfluss von wenigen auf die Meinungsbildung. „Beispielsweise sind es eine Handvoll Technologiefirmen, die eine überwältigende Mehrzahl der Online-Suchabfragen verbuchen“, schreibt Kaye. Die Monopolverhältnisse bei Suchmaschinen gäben etwa einzelnen Firmen die Macht darüber, Nutzern ihre Suchergebnisse als relevante Information zu einem bestimmten Thema oder sogar als objektive Präsentation der Fakten erscheinen zu lassen. Zugleich seien die Kriterien für die Auswahl absolut intransparent.

Für die Entwicklung von KI-Systemen braucht es große Datenmengen und langfristige Investitionen. Darum dominiere bei der Entwicklung wohl der private Sektor, schreibt Kaye. Das führe jedoch zur Abhängigkeit des Staates von dessen Technologie. Es steige das Risiko,

 » Lees verder