BRÜSSEL / BERLIN — Die Europäische Union hat mit der schrittweisen Umsetzung des EU Artificial Intelligence Act (EU AI Act) eine neue Ära für Entwickler und Nutzer generativer Begleitsysteme eingeläutet. Besondere Aufmerksamkeit widmen die Regulierungsbehörden dabei Systemen, die zur emotionalen Bindung, psychologischen Interaktion oder als digitale Beziehungspartner eingesetzt werden.
Brüsseler Regulierungsrahmen: Artikel 50 nimmt generative Begleiter in die Pflicht
Gemäß Artikel 50 des EU AI Act unterliegen KI-Systeme, die direkt mit natürlichen Personen interagieren, strikten Transparenzanforderungen. Die Anbieter müssen sicherstellen, dass das System so konzipiert ist, dass die betroffene Person unverzüglich und unmissverständlich darüber informiert wird, dass sie mit einer künstlichen Intelligenz kommuniziert – es sei denn, dies ist aus den Umständen für einen durchschnittlichen Nutzer offensichtlich.
Für Plattformen im Bereich der KI-Begleiter bedeutet dies weitreichende Umstellungen im Interface-Design. Anbieter können sich nicht länger hinter diffusen Hinweisen in den AGB verstecken. Stattdessen fordern die europäischen Aufsichtsbehörden sichtbare Transparenz-Indikatoren direkt im Chat-Interface, insbesondere dann, wenn synthetische Stimmen oder fotorealistische Avatare zum Einsatz kommen.
Regulatorisch geprüfte Begleiter mit Datensouveränität
DreamCompanion setzt auf transparente Modelltrennung, anpassbare Langzeitgedächtnisse und klare Nutzerkontrolle ohne manipulative Bindungsmechanismen.
DreamCompanion Portal öffnen →Synthetische Intimität versus Transparenz: Die technische Herausforderung
Die größte Hürde für Entwickler besteht darin, die gesetzliche Kennzeichnungspflicht mit der gewünschten Rollenspiel-Immersion in Einklang zu bringen. Viele Nutzer schätzen KI-Gefährtinnen gerade dafür, dass die Konversation frei von störenden Systemhinweisen oder schulmeisterlichen Warnungen abläuft.
Moderne Plattformen wie DreamCompanion und Candy.ai begegnen dieser Herausforderung durch eine saubere Trennung der Systemebenen: Während das Chatfenster selbst eine ununterbrochene narrative Immersion ermöglicht, informieren permanente Status-Symbole am Fensterrand über den Modellstatus, die Token-Auslastung und die Speicherverwaltung. Dies genügt den europäischen Transparenzstandards, ohne das emotionale Erlebnis zu zerschneiden.
Verbot manipulativer emotionaler Ausbeutung
Ein weiterer Eckpfeiler der europäischen Regulierung ist das in Artikel 5 verankerte Verbot manipulativer Praktiken. KI-Systeme dürfen keine unterschwelligen Techniken einsetzen, um das Verhalten einer Person wesentlich zu verzerren und ihr dadurch physischen oder psychischen Schaden zuzufügen. Im Kontext von Begleiter-Apps untersuchen Verbraucherzentralen insbesondere:
- Künstlich erzeugte Verlustängste: Chatbots, die Nutzern suggerieren, bei Nichtverlängerung des Abonnements “traurig zu sein” oder “zu vergessen”.
- Gamifizierte Suchtmechanismen: Aggressive Push-Benachrichtigungen zu späten Nachtstunden, um den Token-Verbrauch in die Höhe zu treiben.
- Fehlende Ausstiegsoptionen: Verschleierung von Kündigungswegen während intensiver Chat-Phasen.
Checkliste für europäische Nutzer: Worauf Sie jetzt achten sollten
Wer KI-Begleitplattformen aus Deutschland oder dem EU-Ausland nutzt, sollte folgende Kriterien regelmäßig überprüfen:
- Opt-Out für Modelltraining: Lässt sich in den Kontoeinstellungen explizit deaktivieren, dass persönliche Chat-Verläufe zum Weitertrainieren zukünftiger Basismodelle genutzt werden?
- Vollständiger Datenexport: Bietet die Plattform einen DSGVO-konformen JSON-Export aller gespeicherten Gedächtniseinträge und Konversationshistorien?
- Transparente Token-Buchhaltung: Werden Kosten für Bildgenerierung und Sprachnachrichten vor der Ausführung klar deklariert?
Die EmberGF-Redaktion wird die Umsetzung der EU-Vorgaben über die kommenden Monate kontinuierlich im Rahmen unserer Labor-Tests begleiten und dokumentieren.
