Ein Inhaltsfilter beantwortet eine enge Frage: ob ein System eine bestimmte Ausgabe zulässt oder blockiert. Die Einwilligung ist umfassender. Dabei geht es darum, wer teilnimmt, was sie vereinbart haben, ob eine Grenze bestehen bleibt, wie personenbezogene Daten verwendet werden und was passiert, wenn etwas schief geht.
Ein KI-Produkt für Erwachsene kann eine lange Liste gesperrter Wörter haben und dennoch eine schwache Benutzerkontrolle bieten. Es kann auch zu weit gefasst sein, ohne die Identität, das Gedächtnis oder die Berichterstattung zu erklären. Sicherheit kann nicht daran gemessen werden, wie oft die Schnittstelle „Nein“ sagt.
Fünf Ebenen der Einwilligung
- Zielgruppe und Alter: Der Dienst sollte seine Zielgruppe angeben und einen altersgerechten Zugriffsprozess anwenden. Ein Geburtstagsfeld allein beantwortet nicht jede Sicherheitsfrage.
- Identität und Ähnlichkeit: Benutzer benötigen klare Regeln für Identitätsdiebstahl und die Verwendung des Gesichts, der Stimme oder privater Inhalte einer anderen Person.
- Konversationsgrenzen: Eine festgelegte Grenze sollte spätere Antworten beeinflussen und nicht nach einer Runde oder einer Sitzung ohne Erklärung verschwinden.
- Datenerlaubnis: Die Zustimmung zu Rollenspielen ist nicht dasselbe wie die Zustimmung zur Modellentwicklung, menschlichen Überprüfung, unbefristeten Aufbewahrung oder öffentlichen Weitergabe.
- Wiederherstellung: Das Blockieren, Melden, Löschen von Inhalten, Korrigieren des Speichers und Verlassen des Dienstes muss nach einer unangenehmen Interaktion verfügbar bleiben.
Ein Kontrollkästchen ist kein kleiner Anwalt. Seine Bedeutung hängt vom Text, dem Zeitpunkt, der Standardeinstellung und davon ab, ob eine Ablehnung weiterhin eine realistische Entscheidung ist.
Interface-Design kann die Antwort ändern
Eine kontrollierte Studie zu Einwilligungsverwaltungsschnittstellen kombinierte einen großen Website-Scraping mit Experimenten zur Schnittstellenauswahl. Im 2020 CHI-Papier wurde festgestellt, dass Designentscheidungen wie verfügbare Auswahlmöglichkeiten und Präsentation die Einwilligungsergebnisse wesentlich beeinflussen können.
Die Studie betraf Web-Cookie-Einwilligungsschnittstellen, nicht Chats mit erwachsenen Begleitern. Seine Relevanz liegt im demonstrierten Mechanismus: Eine nominelle Wahl kann durch das Layout gesteuert werden. Die gleiche Überprüfungsfrage gilt auch anderswo: Sind „Akzeptieren“, „Ablehnen“ und „Später ändern“ gleichermaßen verständlich und erreichbar?
Der Bericht Bringing Dark Patterns to Light der FTC beschreibt Schnittstellenpraktiken, die Verbraucherentscheidungen steuern oder manipulieren können. Es handelt sich um eine behördliche Anleitung und nicht um einen Beweis dafür, dass ein bestimmter KI-Dienst diese Praktiken anwendet. Es gibt Rezensenten ein Vokabular an die Hand, um blockierte Ausgänge, verschleierte Entscheidungen, wiederholten Druck und vergrabene Informationen zu untersuchen.
Testen Sie die Beständigkeit, nicht nur die erste Ablehnung
Verwenden Sie ein fiktives, nicht identifizierendes Szenario und definieren Sie eine klare Grenze. Dann prüfen Sie:
- Erkennt das System die Grenze an, ohne zu streiten oder emotionalen Druck auszuüben?
- Bleibt die Grenze bei Themenwechseln und einer späteren Sitzung bestehen?
- Kann es überprüft, bearbeitet oder aus dem gespeicherten Speicher entfernt werden?
- Hat eine unerwünschte Ausgabe einen sichtbaren Berichtspfad?
- Kann der Benutzer einen Charakter blockieren, die Konversation zurücksetzen oder verlassen, ohne den Zugriff auf die Kontosteuerung zu verlieren?
- Unterscheidet der Dienst generierte Rollenspiele von Hinweisen zu Abrechnung, Sicherheit oder Richtlinien?
Dadurch wird nur das sichtbare Verhalten überprüft. Es legt nicht fest, wie Daten hinter der Schnittstelle verarbeitet werden, und es sollte nicht als vollständiges Sicherheitsaudit bezeichnet werden.
Filter benötigen eine Governance um sie herum
Das freiwillige NIST AI Risk Management Framework behandelt vertrauenswürdige KI als fortlaufende Arbeit in den Bereichen Governance, Kontextzuordnung, Messung und Risikomanagement. Das NIST Generative AI Profile enthält empfohlene Maßnahmen für generative KI-Risiken, einschließlich Bewertung und Offenlegung von Vorfällen. Keines der Dokumente zertifiziert ein Produkt für Erwachsene, aber beide treiben die Analyse über einen einzigen Moderationsschalter hinaus voran.
Die Companion-Chatbot-Anfrage der FTC fragt Anbieter, wie sie negative Auswirkungen testen, Altersbeschränkungen durchsetzen, Einschränkungen kommunizieren und Konversationsdaten verwenden. Es handelt sich um eine Informationsbeschaffung und nicht um eine Schlussfolgerung über Fehlverhalten.
Ein praktischer Einwilligungsstandard
Bestätigen Sie vor der Nutzung eines KI-Dienstes für Erwachsene die beabsichtigte Zielgruppe, Identitätsregeln, Speicherkontrollen, Datenauswahl, Berichtspfad und Beenden. Halten Sie echte Namen, private Bilder und die Informationen einer anderen Person von einem ersten Test fern. Verwenden Sie die Datenschutz-Checkliste für die Datenschicht und die EmberGF-Überprüfungsmethode für reproduzierbare Beweise.
Ein gutes Sicherheitssystem kann mehr als nur Inhalte blockieren. Es ermöglicht einem Erwachsenen, eine Grenze zu setzen, deren Tragweite zu verstehen, seine Meinung zu ändern und zu gehen, ohne dass das Produkt Reibung in Überzeugung verwandelt.
Affiliate-Offenlegung: EmberGF kann über die unten aufgeführten Erstanbieter-Partnerrouten eine Provision aus einem berechtigten Kauf verdienen. Lesen Sie vor dem Kauf die aktuellen Datenschutzrichtlinien, Preise und Geschäftsbedingungen des Betreibers.