Italien hat den KI-Chatbot ChatGPT mit sofortiger Wirkung verboten. Das Land hat den Verdacht, dass die Verarbeitung von Nutzerdaten nicht im Einklang mit der Datenschutz-Grundverordnung steht. Die italienische Datenschutzbehörde beruft sich zudem auf eine Datenpanne und spricht von einem mangelnden Schutz von Minderjährigen.
So schreibt die Garante Per La Protezione Dei Dati Personali auf ihrer Website. Die Behörde wirft dem ChatGPT-Entwickler OpenAI einen „Mangel an Informationen für Nutzer und Interessierte darüber vor, wessen Daten gesammelt werden“. Es gäbe auch keine Rechtsgrundlage dafür, dass ChatGPT Massendaten zum Zweck des Sprachmodelltrainings sammelt und speichert.
Was das Mindestalter für die Nutzung von ChatGPT angeht, so räumt die Aufsichtsbehörde ein, dass es eine Beschränkung für Kinder unter 13 Jahren in Bezug auf die KI gibt, stellt aber fest, dass es auch „keinerlei Filter zur Altersüberprüfung“ gibt. Gleichzeitig kann ChatGPT „Minderjährige mit Antworten konfrontieren, die im Hinblick auf ihren Entwicklungsstand und ihre Selbstwahrnehmung absolut unangemessen sind“.
Die von der italienischen Behörde erwähnte Datenpanne ereignete sich am 20. März. BleepingComputer z. B. berichtete über dieses Leck, dass es sich um Namen, E-Mail-Adressen, Rechnungsadressen, teilweise Kreditkartendaten und eine Historie der eingegebenen Eingabeaufforderungen handelt. Es hat nicht den Anschein, dass die eingegebenen Eingabeaufforderungen mit anderen Nutzern in Verbindung gebracht werden können.
OpenAI, das nach Angaben der Behörde keine Niederlassung in der EU hat, aber über einen designierten Vertreter in der EU verfügt, hat 20 Tage Zeit, um auf die Beschwerden zu reagieren. Eine mögliche Geldstrafe könnte bis zu 20 Millionen Euro oder 4 Prozent des Jahresumsatzes betragen. Die Behörde hat eine weitere Untersuchung eingeleitet.
