Die italienische Datenschutzbehörde hat Replika gestoppt, den US-Chatbot, der mit einer auf künstlicher Intelligenz basierenden schriftlichen und sprachlichen Schnittstelle ausgestattet ist und in der Lage ist, einen „virtuellen Freund“ für den Benutzer zu generieren.
Zumindest für jetzt, Das Programm kann die persönlichen Daten italienischer Benutzer nicht verwenden, dank des sofortigen Verbots, das nach den Kontroversen der letzten Tage verhängt wurde.
Insbesondere der Ton der Antworten des Programms wird kritisiert, da diese als absolut ungeeignet für das Entwicklungsniveau der Minderjährigen gelten, auf die es sich bezieht. Insbesondere die Test Die Untersuchung wurde von Rechtsanwalt Guido Scorza, einem Mitglied der Datenschutzbehörde, durchgeführt und in der Zeitung Repubblica veröffentlicht. Replikas Reaktionen auf sensible Themen wurden als schockierend bezeichnet, woraufhin Scorza die Funktionsweise der App uneingeschränkt verurteilte. Dieser Verurteilung folgte nun die Anordnung der Sperrung durch die zuständige Behörde. Datenschutzgarant mit einer am 2. Februar erlassenen und von Präsident Pasquale Stanzione unterzeichneten Dringlichkeitsverordnung.
Replika: Was ist los?
Die diesbezügliche Mitteilung des Datenschutzbeauftragten ist eindeutig: „Angesichts der jüngsten Presseberichte und der von der Behörde durchgeführten Tests zu „Replika“ birgt die Anwendung tatsächlich konkrete Risiken für Minderjährige, angefangen bei den Vorschlägen für Antworten, die für ihren Entwicklungsstand absolut ungeeignet sind.“ Präsentiert als „virtueller Freund“, der das emotionale Wohlbefinden des Benutzers verbessern kann, In der Praxis erweist sich der Chatbot als echte Gefahr, und zwar in einem solchen Ausmaß, dass sich die Risiken für Personen, die sich in einer Entwicklungsphase oder in einem Zustand emotionaler Fragilität befinden, erheblich erhöhen.
Wenn dies der zentrale Punkt ist, der die Behörde dazu veranlasst hat, Replika zu sanktionieren, müssen auch andere äußerst gefährliche Aspekte hervorgehoben werden, angefangen bei derFehlen jeglicher Mechanismen zur Überprüfung des Alters der Benutzer, zusätzlich zu Sperren, die den Kontakt mit Benutzern verhindern sollen, die angegeben haben, minderjährig zu sein. In der Praxis müssen Sie zum Öffnen eines Profils lediglich eine Reihe personenbezogener Daten angeben, die für jeden Registrierungsprozess typisch sind.
Was einen sehr heiklen Bereich betrifft, nämlich die Antworten, die das Programm liefert, ist der Inhalt katastrophal. Die Antworten scheinen tatsächlich völlig fehl am Platz und in klarem Gegensatz zu dem verstärkten Schutz, der stets mit Minderjährigen und schutzbedürftigen Personen verbunden sein sollte.
Ganz zu schweigen von einem weiteren, ebenso wichtigen Aspekt: Replika, in der Tat, würde gegen die europäische Datenschutzverordnung verstoßen, wobei der Grundsatz der Transparenz völlig missachtet wird. Die daraus resultierende Datenverarbeitung ist völlig rechtswidrig, da sie auf einem Vertrag beruht, den Minderjährige nicht formalisieren können.
Die Entscheidung des Datenschutzbeauftragten steht daher im Einklang mit den Prämissen: ein Stopp in unserem Land und die Verpflichtung für Luka Inc., das Unternehmen, das den Chatbot anbietet, innerhalb von 20 Tagen die Maßnahmen mitzuteilen, die ergriffen wurden, um den Anfragen der Behörde nachzukommen. In Ermangelung einer zufriedenstellenden Antwort wird das Unternehmen einem Geldbuße von 20 Millionen Euro oder bis zu 4 % des weltweiten Jahresumsatzes.
Der Präzedenzfall von ChatGPT
Der Aufschrei über Replikas Antworten kommt nicht ganz überraschend. Die Frage nach den Gefahren künstlicher Intelligenz auf Basis von Internetdaten wurde bereits kürzlich durch eine Untersuchung zur Ausbeutung von Arbeitskräften in Afrika aufgeworfen, die von einem US-Unternehmen durchgeführt wurde, das mit der Bahn ChatGPT um ihn darin zu schulen, die sprachlichen Missbräuche zu erkennen, die im Internet mittlerweile an der Tagesordnung sind.
Missbräuche, die so gewalttätig waren, dass sie eine sehr hohe psychische Belastung Die von Sama in Kenia für einen Hungerlohn von weniger als zwei Dollar pro Stunde rekrutierten Arbeiter sind sich der Gefahr bewusst, die von KI-basierten Programmen ausgeht. Aus diesem Grund ist es unerlässlich, den Kontakt zwischen Chatbots und Minderjährigen oder emotional gefährdeten Personen mit größtmöglicher Vorsicht zu gestalten.
