FTC untersucht den ChatGPT-Hersteller OpenAI auf mögliche Schäden für Benutzer. Folgendes müssen Sie wissen:

ChatGPT von OpenAI ist seit seiner Einführung unglaublich beliebt geworden und ist damit das am schnellsten wachsende Anwendung aller Zeiten. Bei so vielen Benutzern sind Fragen dazu aufgekommen, wie Benutzerdaten erfasst, genutzt und geschützt werden – und jetzt möchte die Federal Trade Commission (FTC) Antworten.

In einem 20-seitiges FTC-Dokument erhalten von Die Washington Post, Die Regierungsbehörde bittet OpenAI, Dokumentation zu nahezu allen Aspekten ihres Vorhabens vorzulegen Sprachmodell, mit besonderem Fokus auf die Verarbeitung von Benutzerdaten durch OpenAI und die Ausgabe von „false“ durch ChatGPT Aussagen.

Auch: Trainieren Sie KI-Modelle mit Ihren eigenen Daten, um Risiken zu mindern 

Dem Dokument zufolge untersucht die FTC, ob OpenAI „unfair oder irreführend“ handelt Datenschutz- oder Datensicherheitspraktiken“ oder wenn es sich an „betrügerischen Praktiken“ beteiligt hat, die zu Schäden führen könnten Verbraucher.

Die FTC bittet um detaillierte Erläuterungen dazu, wie OpenAI seine Daten erhält, wie diese Daten zum Trainieren des Modells verwendet werden und welche Verfahren zur Bewertung von Risiko und Sicherheit vorhanden sind.

Darüber hinaus fordert die FTC OpenAI auch auf, offenzulegen, welche Schritte es unternommen hat, um das Risiko zu mindern, dass LLM „falsche, irreführende oder herabwürdigende“ Aussagen über reale Personen generiert.

Diese Untersuchungen folgen mehreren Vorfällen mit ChatGPT, die Anlass zur Sorge gaben und sogar zu Klagen gegen OpenAI führten.

Beispielsweise kam es am 20. März zu einem Datenschutzverstoß Konversationen von ChatGPT-Benutzern wurden offengelegt und Informationen zu Zahlungen von Abonnenten. Der Verstoß machte die potenziellen Risiken des Einsatzes von KI-Tools deutlich und führte sogar dazu Italien verbietet ChatGPT insgesamt, obwohl das Verbot aufgehoben wurde.

Auch: Die meisten Arbeitnehmer möchten generative KI nutzen, um ihre Karriere voranzutreiben, wissen aber nicht wie 

Weitere Beispiele sind zwei gegen OpenAI eingereichte Sammelklagen. Einer der Klagen gegen OpenAI behauptet, dass das KI-Unternehmen „gestohlene Daten“ von Kunden verwendet hat, um seine Produkte zu trainieren und zu entwickeln.

Die andere Klage bezieht sich auf die Halluzinationen von ChatGPT und seine Fähigkeit, falsche Aussagen über Menschen zu machen. In OpenAIs erster Verleumdungsfall, verklagte ein Radiomoderator aus Georgia OpenAI, nachdem er festgestellt hatte, dass ChatGPT angeblich falsche Informationen über ihn verbreitete, und beschuldigte ihn der Unterschlagung von Geldern.