KI: Verbot der Algorithmen, die unsere Menschenrechte bedrohen, sagt UN-Chef

Ruft dazu auf, die Bremsen zu betätigen Einsatz künstlicher Intelligenz und in einigen Fällen, die Technologie ganz zu verbieten, werden immer lauter. Jetzt hat sich die UN-Menschenrechtsbeauftragte Michelle Bachelet dem Chor von Experten angeschlossen, die die Regierungen auffordern, stärkere Maßnahmen zu ergreifen, um Algorithmen unter Kontrolle zu halten neuer Bericht, der Moratorien für den Verkauf und die Nutzung künstlicher Intelligenz empfiehlt für risikoreiche Anwendungsfälle.

Bachelet plädierte außerdem für ein Verbot einiger KI-Anwendungen, die gegen internationale Menschenrechtsnormen verstoßen, etwa die soziale Bewertung von Personen anhand diskriminierender Kriterien.

Da es noch keine Sicherheitsvorkehrungen gebe, um sicherzustellen, dass die Technologie verantwortungsvoll genutzt werde, müssten die Regierungen der künstlichen Intelligenz dringend Einhalt gebieten, sagte der UN-Kommissar. Andernfalls werden Algorithmen, die möglicherweise den Menschenrechten schaden, weiterhin unkontrolliert eingesetzt, was den Bürgern noch mehr Schaden zufügt.

SEHEN: Wenn wir Computer in unser Gehirn einbauen, könnten seltsame Dinge in unserem Kopf passieren

Algorithmen seien bereits in jedem Aspekt des Lebens der meisten Menschen vorhanden, betonte Bachelet und verwies auf verschiedene Systeme, die es seien Sie sind derzeit an lebensverändernden Entscheidungen beteiligt, etwa darüber, wer öffentliche Dienstleistungen erhält, wer einen Job bekommt oder was Benutzer sehen und teilen können online.

„Wir können es uns nicht leisten, in Sachen KI weiterhin aufzuholen und ihren Einsatz mit begrenzten oder keinen Grenzen zu ermöglichen.“ oder Aufsicht und Umgang mit den fast unvermeidlichen menschenrechtlichen Konsequenzen im Nachhinein“, sagte Bachelet.

Die Kommentare der UN-Kommissarin stammen aus einem Bericht, den ihr Büro zur Untersuchung erstellt hatte wie sich KI auf Menschenrechte wie Privatsphäre, Gesundheit, Bildung, Bewegungsfreiheit oder Freiheit auswirken könnte Ausdruck.

Dabei wurde festgestellt, dass künstliche Intelligenz weitgehend „eine Kraft des Guten“ ist, die Gesellschaften und Volkswirtschaften helfen kann Um große Herausforderungen zu bewältigen, betonte der Bericht auch die „unbestreitbaren und stetig wachsenden“ Auswirkungen der KI auf bestimmte Menschen Rechte.

Beispielsweise können Algorithmen erheblich in die Privatsphäre der Nutzer eingreifen. KI-Systeme werden mit großen Datenmengen, einschließlich personenbezogener Daten, gefüttert, was Unternehmen dazu ermutigt sammeln, speichern und verarbeiten vertrauliche Informationen über ihre Benutzer oder Kunden, manchmal im Geheimen Wege. Mithilfe der Systeme können wiederum Vorhersagen über das Privatleben der Menschen getroffen werden, angefangen von der Nachbarschaft, in der sie leben, bis hin zu ihren Schlafgewohnheiten.

Dem Bericht zufolge gibt es mehrere Sektoren, in denen der Einsatz dieser KI-Systeme besonders besorgniserregend ist. Dazu gehören die Strafverfolgung, wo Algorithmen die Entscheidung zur Festnahme eines Straftäters beeinflussen können, sowie öffentliche Dienste, wo KI-Modelle können bei der Ermittlung von Sozialhilfeansprüchen bis hin zur Entscheidung helfen, ob eine Familie für Besuche von der Kinderbetreuung angemeldet werden sollte Dienstleistungen.

Am Arbeitsplatz wies der Bericht auf das Risiko hin, das mit der Verwendung von Algorithmen zur Überwachung und Steuerung von Arbeitnehmern einhergeht. Und online können KI-Systeme zur Unterstützung von Content-Management-Entscheidungen eingesetzt werden, was entscheidend dazu beiträgt, zu entscheiden, welcher Art von Inhalten jeder Benutzer ausgesetzt ist.

Bei vielen dieser Anwendungen besteht ein doppeltes Risiko. Das KI-System selbst kann nicht nur im Widerspruch zu grundlegenden Menschenrechten wie dem Recht auf Privatsphäre stehen; In einigen Fällen kann die Technologie jedoch auch diskriminierende Entscheidungen treffen, wenn der Algorithmus voreingenommen ist.

Beispielsweise könnten die Daten, die zur Information von KI-Systemen verwendet werden, auf bestimmte Gruppen ausgerichtet sein, oder dies könnte der Fall sein einfach fehlerhaft, veraltet oder irrelevant sein, was wiederum dazu führt, dass Algorithmen unfair sind Entscheidungen. So funktioniert beispielsweise der Algorithmus, der letztes Jahr in Großbritannien zur Vorhersage der Noten von Schülern verwendet wurde Am Ende vergaben sie höhere Noten an diejenigen, die in wohlhabenderen Gegenden lebten.

SEHEN: Sie möchten nicht gehackt werden? Dann vermeiden Sie diese drei „außerordentlich gefährlichen“ Cybersicherheitsfehler

Es gibt genügend Beispiele dafür, dass KI-Modelle schädliche – und manchmal schlicht falsche – Entscheidungen treffen, die Anlass zur Sorge geben. „Das Risiko der Diskriminierung im Zusammenhang mit KI-gesteuerten Entscheidungen – Entscheidungen, die Menschenleben verändern, definieren oder schädigen können – ist nur allzu real.“ Deshalb bedarf es einer systematischen Bewertung und Überwachung der Auswirkungen von KI-Systemen, um Menschenrechtsrisiken zu erkennen und zu mindern“, sagte Bachelet.

Der UN-Bericht machte insbesondere auf den Einsatz von Algorithmen durch Staaten zu Überwachungszwecken aufmerksam, insbesondere von biometrischen Technologien B. die Gesichtserkennung, die dazu dient, Personen in Echtzeit und aus der Ferne zu identifizieren, mit dem Potenzial, eine unbegrenzte Nachverfolgung zu ermöglichen Einzelpersonen.

Bis dahin soll es ein Moratorium für den Einsatz biometrischer Technologien im öffentlichen Raum geben, heißt es in dem Bericht hat gezeigt, dass es keine Probleme mit der Genauigkeit des Algorithmus gibt und dass das System keine hat diskriminierende Wirkung.

Es liegt daher an den Regierungen, die richtigen Gesetze umzusetzen, um die Entwicklung von KI-Tools voranzutreiben Nach Angaben der Vereinten Nationen ermöglichen sie es, Überwachung und andere Menschenrechtsverletzungen unter Kontrolle zu bringen Kommissar.

Anfang des Jahres beispielsweise die EU-Kommission stellte einen Regelentwurf zur künstlichen Intelligenz vor, das KI-Anwendungen nach unterschiedlichen Risikostufen katalogisierte. An der Spitze der Pyramide standen Anwendungsfälle mit „inakzeptablem Risiko“, die gegen Grundrechte verstoßen und verboten werden sollten.

Der Einsatz der Gesichtserkennung im öffentlichen Raum sollte laut EU-Kommission verboten werden, da er diese Rechte verletze. Das Urteil enthielt jedoch verschiedene Ausnahmen, die von Interessengruppen kritisiert wurden, weil sie zu viele Schlupflöcher zuließen.