Schutz der Verbraucher vor KI-Missbrauch
Region - Ein neues EU-Gesetz regelt die Nutzung künstlicher Intelligenz und soll Verbraucherinnen und Verbraucher vor den Folgen missbräuchlicher Nutzung schützen. Am 2. Februar 2025 traten die ersten Regelungen des sogenannten AI Acts in Kraft. Dessen Ziel ist es, die Menschen davor zu schützen, dass sie von der KI manipuliert oder diskriminiert werden. Außerdem soll in Zukunft größere Transparenz in Sachen KI-Nutzung herrschen.
-
KI Missbrauch
© iStock-2159347582_mim.girl
Die Künstliche Intelligenz ist bereits heute eine feste Größe in unserem Alltag. Das ist oft praktisch,
doch es hat auch seine Schattenseiten und Risiken. Viele Informationen, die echt wirken, werden in Wahrheit mithilfe der KI produziert und dann beispielsweise in den sozialen Medien verbreiten. Nur
bemerken wir dies häufig nicht, weil die künstlichen Inhalte täuschend echt wirken. Im Zusammenhang mit der Bundestagswahl rückte dieses Thema in den Fokus, weil es gezielte Kampagnen mit von der KI geschaffenen Inhalten gab, mit denen Fehlinformationen gestreut wurden. Das waren zum Beispiel Videos, in denen Politikern Aussagen untergeschoben wurden, die überhaupt nicht von ihnen stammten. Diese Videos sind kaum von echten zu unterscheiden. Sie können im Internet sehr schnell verbreitet werden und so die Meinung vieler Menschen manipulieren. Doch nicht nur vor Wahlen, auch in der Werbung können zum Beispiel Prominenten Sätze untergeschoben werden, mit denen sie für Produkte werben.
Künstliche Intelligenz kann Daten unbemerkt erfassen
Andererseits kann mithilfe der KI unser aller Verhalten analysiert werden. Ganz gleich, ob es sich um
eine Suchanfrage im Internet, um Einkäufe, um Reiserouten oder auch um persönliche Informationen
handelt: Die KI kann Unmengen von Informationen sammeln – und oft bemerken es die Betroffenen
Personen nicht.
EU will Verbraucher mit AI Act schützen
Mit dem AI Act will die EU nun die Verbraucherrechte stärken. Das Gesetz wird in den Mitgliedstaaten
bis 2026 nach und nach umgesetzt. Es gilt in der Europäischen Union. Und zwar auch für
Unternehmen aus anderen Ländern, die in der EU mit KI-Systemen arbeiten oder handeln. Zu den
ersten Regeln, die schon seit dem 2. Februar greifen, gehört das Verbot des Social Scoring. Damit sind soziale Bewertungen gemeint, die beispielsweise auf Posts in den sozialen Medien beruhen.
Vermieter, Arbeitgeber oder Händler könnten an daraus abgeleiteten Bewertungen von potenziellen
Mietern, Arbeitnehmern oder Käufern interessiert sein und von diesen beeinflusst werden. So könnte
bei der Jobsuche benachteiligt sein, wer in den sozialen Medien des Öfteren berichtet, dass er viel
feiert oder dass seine Arbeit ihm keinen Spaß macht.
Vorsicht – Manipulation!
Verboten ist auch, Kinder oder andere Menschen, die von der Gesellschaft eigentlich geschützt
werden müssten, mit psychologischer Beeinflussung zu Käufen in Apps zu verleiten. Ebenfalls
verboten sind Manipulationen mithilfe der KI. Damit sind zum Beispiel von der KI gefälschte Bilder
gemeint, mit denen Verbraucher zu Geldanlagen verleitet werden können, für die sie sich ohne diese
KI-Inhalte nicht entscheiden würden.
Transparenz ist unverzichtbar
Im August 2026 wird es zudem zur Pflicht, Texte, Bilder, Videos und Audiodateien zu kennzeichnen,
die mit der KI erstellt wurden. Jeder soll es wissen, wenn die KI am Werk war. Erfüllen Unternehmen
diese Pflicht nicht, müssen sie mit empfindlichen Strafen rechnen. Das können bis zu sieben Prozent
ihres weltweiten Jahresumsatzes oder bis zu 35 Millionen Euro sein. Für Verbraucher sollte es aber schon jetzt eine Selbstverständlichkeit sein, sämtliche Inhalte sozialer und anderer Medien kritisch zu hinterfragen und so zu versuchen, sich nicht täuschen zu lassen.
Pflichten von Unternehmen
Auch Unternehmen haben ab dem 01. Februar 2025 z. B. die Pflicht, ihre Mitarbeiter in der korrekten Nutzung von KI zu schulen und entsprechende Nachweise zu führen.
Weitere Seiten zum Thema: