Regeln für KI im Online-Handel: „Mensch Herr des Verfahrens“– Schopper fordert Schutz für Verbraucher
Ministerin Theresa Schopper spricht sich für verbindliche Regeln für sogenannte KI-Assistenten aus.
Marijan Murat/dpa- Verbraucherschutzministerin Theresa Schopper fordert EU-Regeln für KI-Assistenten.
- KI soll nicht über Geld oder Verträge entscheiden – klare Kennzeichnung von KI-Entscheidungen.
- Risiken: falsches Verständnis, Überschreiten von Preislimits, ungewollte Buchungen.
- Manipulierte Inhalte können Befehle auslösen – Datenversand oder Bestellungen möglich.
- Mehr Zugriffsrechte erhöhen Risiko von Datenmissbrauch, daher gut sichtbarer Kosten-Button.
Die Zusammenfassung wurde durch künstliche Intelligenz erstellt.
Künstliche Intelligenz soll den Alltag erleichtern – aber nicht selbst über Geld und Verträge entscheiden. Deshalb spricht sich die für den Verbraucherschutz zuständige Bauministerin Theresa Schopper (Grüne) für verbindliche Regeln für sogenannte KI-Assistenten aus, bevor diese massenhaft zum Einsatz kommen. „Es muss Haltelinien und Leitplanken geben, dass der Mensch der Herr des Verfahrens bleibt,“ sagte die Grünen-Politikerin in Stuttgart. Der Rechtsrahmen müsse am besten auf EU-Ebene geregelt werden. Das müsse schnell passieren, weil die Technik sicherlich sehr schnell den Alltag der Menschen noch intensiver beeinflussen könnte.
Schopper forderte die Regeln für KI-Agenten, die Verbraucher beim Einkaufen, Buchen oder Organisieren unterstützen. „Der Agent darf weder direkt manipulieren noch selbst manipulierbar sein. Zudem muss eine klare Kennzeichnung von KI-Entscheidungen erfolgen.“ Es müsse auch die Möglichkeit geben, dass man Grenzen formulieren könne, wie viel Geld man ausgeben wolle.
Verbraucher müssen Preislimit selbst festlegen
Problematisch wird es nach Angaben des Verbraucherschutzministeriums etwa, wenn der Agent eine Aufgabe falsch versteht, ein gesetztes Preislimit überschreitet oder eine kostenpflichtige Buchung auslöst, die so nicht gewollt war. Auch manipulierte Inhalte könnten zum Risiko werden: In einer Webseite, einem Dokument oder einer E-Mail könnten versteckte Anweisungen enthalten sein. Der Agent könnte diese als Auftrag verstehen und etwa Daten weiterleiten, Nachrichten versenden oder eine Bestellung auslösen.
Das Einkaufen der KI überlassen? Findet Schopper keine gute Idee.
Sina Schuldt/dpaDamit ein Agent selbstständig handeln kann, braucht er häufig Zugriff auf E-Mails, Kalender, Dateien, Kundenkonten oder Zahlungsdienste, wie das Ministerium weiter mitteilte. Je mehr Rechte er erhalte, desto größer sei das Risiko von Datenmissbrauch, Fehlentscheidungen und Kontrollverlust. Außerdem mahnte Schopper: „Es muss künftig einen eindeutig und gut lesbaren Button geben, damit der Verbraucher merkt, dass er jetzt eine kostenpflichtige Aktion auslöst.“