Noyb reicht wegen Falschinformationen Beschwerde gegen OpenAI ein

Noyb reicht wegen Falschinformationen Beschwerde gegen OpenAI ein

Nicht zuletzt wegen "Halluzinationen" generativer KI-Systeme liefern Chatbots wie ChatGPT oft fehlerhafte oder gar völlig erfundene Informationen zu Personen. Die Datenschutzorganisation Noyb will dem ein Ende setzen und hat gegen das Unternehmen Beschwerde eingereicht.
29. April 2024

     

ChatGPT verbreite Falschinformationen über Personen, stellt die Datenschutzorganisation Noyb fest, und OpenAI könne nichts dagegen tun: Die fehlerhaften ChatGPT-Angaben entstehen teils durch die sogenannten Halluzinationen der generativen KI. Darüber hinaus wisse OpenAI nicht einmal, woher die Daten stammen oder welche Daten ChatGPT über einzelne Personen speichere. Und sogar bei nachgewiesenen Falschinformationen lehnte OpenAI zumindest in einem Fall einen Antrag auf Korrektur oder Löschung ab.

Maartje de Graaf, Datenschutzjuristin bei Noyb hält dazu fest: „Die Verpflichtung, einem Auskunftsersuchen nachzukommen, gilt für alle Unternehmen. Es ist selbstverständlich möglich, die verwendeten Trainingsdaten zu protokollieren, um zumindest eine Vorstellung von den Informationsquellen zu erhalten. Es scheint, dass mit jeder 'Innovation' eine andere Gruppe von Unternehmen meint, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen.“


Weil all dies kaum mit der EU-DSGVO konform geht, fordert Noyb nun von der österreichischen Datenschutzbehörde eine Untersuchung der Datenverarbeitungspraktiken von OpenAI. Ausserdem fordert Noyb, dass OpenAI dem Auskunftsbegehren des erwähnten Beschwerdeführers nachkommt und seine Verarbeitung in Einklang mit der DSGVO bringt. Darüber hinaus fordert die Datenschutzorganisation die Behörde auf, eine Busse gegen OpenAI auszusprechen, um die zukünftige Einhaltung der Vorschriften sicherzustellen. (ubi)


Weitere Artikel zum Thema

Youtube will nicht, dass OpenAI Videos zum Training für Sora nutzt

8. April 2024 - Laut Neal Mohan, CEO von Youtube, würde OpenAI gegen die Nutzungsbedingungen verstossen, wenn es für das Training von Sora Youtube-Videos verwende.

Elon Musk erhebt Klage gegen OpenAI

4. März 2024 - Einst Mitgründer von OpenAI, verklagt Elon Musk nun das Unternehmen und seinen CEO Sam Altman mit dem Vorwurf, OpenAI sei de facto eine Microsoft-Tochter und entwickle die geplante Artificial General Intelligence, um die Gewinne von Microsoft zu maximieren.

Meta erneut mit juristischem Gegenwind

8. Februar 2024 - Meta hat deutsche User nach Ansicht des Düsseldorfer Oberlandgerichts nur unzureichend über den kostenpflichtigen Bestellprozess aufgeklärt. Weiteres Ungemach betreffend den Abopreisen drohnt eventuell aus Österreich.


Artikel kommentieren
Kommentare werden vor der Freischaltung durch die Redaktion geprüft.

Anti-Spam-Frage: Was für Schuhe trug der gestiefelte Kater?
GOLD SPONSOREN
SPONSOREN & PARTNER