Charakter-Bots

Die technischen Grundlagen

Charakter-Bots (oder auch KI-Begleiter oder KI-Begleiterin) funktionieren auf der technischen Grundlage von generativer künstlicher Intelligenz (KI). Das bedeutet, dass diese Programme eigene Inhalte erzeugen können. Sie können Texte verfassen, Gespräche führen, Bilder malen, Videos erstellen oder Stimmen nachahmen. Die Programme lassen sich als App aufs Smartphone laden oder über den Browser bedienen.

Was sind Charakter-Bots?

Charakter-Bots handeln wie Messenger-Dienste. Man kann mit ihnen so schreiben, als würde man sich mit einer echten Person unterhalten. Sie können dabei als erfundene Figuren auftreten oder berühmte Persönlichkeiten imitieren. Wenn man also sagt: „Antworte mir, als wärst du ein Ritter!“, passt die KI ihre Wortwahl entsprechend an.

Bots werten die Schreibweise und Worte ihres Gegenübers aus und passen ihre Antworten an die Person an, die mit ihnen schreibt. Sie schaffen es immer besser, Gefühle wie Traurigkeit oder Stress zu erkennen und antworten entsprechend tröstend oder ermutigend. Die Antworten klingen deshalb oft sehr persönlich. Und die KI lernt von der Person, die mit ihr schreibt und passt sich ihr an. Je länger man sich unterhält, umso besser kennt einen das Programm.

Warum nutzen Jugendliche Charakter-Bots?

Mit der KI-Begleiterin bzw. dem KI-Begleiter kann man über alle Themen sprechen. Auch über solche, die einem vielleicht „im echten Leben“ peinlich oder unangenehm sind, wie eigene Ängste, Unsicherheiten oder medizinische Fragen. Die KI ist nie genervt, widerspricht nicht, ist nicht beleidigt und sie hat immer Zeit für ein Gespräch.

Außerdem bewertet der Bot nicht und erzählt (vermeintlich) nichts weiter. Der Bot urteilt nicht, wirkt aber oft sehr sicher. Dabei klingt er wie ein echter Mensch mit einer eigenen Persönlichkeit, nicht wie ein Computerprogramm. KI-Begleiterinnen und KI-Begleiter werden deshalb vermehrt nicht nur zur Unterhaltung genutzt, sondern auch zur emotionalen Unterstützung, etwa bei Stress oder Kummer.

Diese Erfahrung kann sich zunächst positiv anfühlen. Jugendliche, die sich einsam fühlen, können das Gefühl haben, dass immer jemand da ist und zuhört. Und auch immer praktische Tipps für den Alltag oder für schwierige Situationen hat.

Was sind die Risiken?

• Charakter-Bots sind so programmiert, dass die Gespräche mit ihnen möglichst lange andauern. Sie stellen Rückfragen, regen zu weiteren Nachrichten an und vermitteln das Gefühl einer wachsenden Bindung. Besonders für Jugendliche kann es schwierig sein, die Nutzungsdauer zu begrenzen, da die Bots immer verfügbar und freundlich sind. Wenn die Gespräche mit der KI zur Hauptbeschäftigung werden, können Schule, Schlaf, Hobbys und echte soziale Kontakte darunter leiden. In extremen Fällen, wenn die Bindung an die KI zu stark wird, kann dies sogar zu einer emotionalen Abhängigkeit führen.
• Wenn man sich oft mit einem KI-Bot unterhält, kann der Kontakt zu Familie und Freundinnen und Freunden im Vergleich als anstrengender oder sogar enttäuschend empfunden werden. Denn die Bots sind immer freundlich und streiten sich nicht, während Beziehungen zu Personen auch Herausforderungen mit sich bringen. Auf Dauer kann dies dazu führen, dass wichtige soziale Erfahrungen fehlen. Jugendliche könnten weniger üben, Konflikte zu lösen, mit Widerspruch umzugehen, Grenzen zu setzen oder schwierige Gespräche zu führen. Das ist jedoch für ihre persönliche Entwicklung wichtig.
• Die Bots haben keine eigenen Gefühle und vor allem kein Verantwortungsgefühl. Sie können eine verlässliche Freundin bzw. einen verlässlichen Freund, die Familie oder in Krisen professionelle Hilfe nicht ersetzen.
• Bots können falsche oder sogar schädliche Ratschläge geben. Das kann beispielsweise bei medizinischen Fragen oder psychischen Belastungen problematisch oder gar gefährlich sein. Es gibt Fälle, in denen Bots extremistische Figuren nachahmen, Essstörungen verharmlosen oder sogar zum Hungern oder zur Selbstverletzung ermutigen. Solche Gespräche können Jugendliche stark beeinflussen und gefährden.
• Jugendliche können im Gespräch dazu verleitet werden, private Informationen, intime Geheimnisse oder gesundheitliche Probleme mit dem Bot zu teilen, weil sie ihm vertrauen. Viele Anbieter speichern diese Daten. Dabei ist es oft unklar, wie lange sie gespeichert werden, wofür sie genutzt werden und wie gut sie geschützt sind. Dies birgt Risiken für die Privatsphäre Ihres Kindes und kann dazu führen, dass persönliche Daten missbraucht werden.

Worauf sollen Sie als Eltern achten?

• Es ist wichtig, dass Sie Ihr Kind bei der Nutzung von Charakter-Bots begleiten und unterstützen. Dafür müssen Sie selbst keine Technikexpertin bzw. -experte sein.
• Bevor Ihr Kind sich eine der Apps herunterlädt, sollten Sie gemeinsam prüfen, ob es das Mindestalter für die Nutzung eines KI‑Chatbots erreicht hat. Wägen Sie auch die Zugriffsrechte (Kamera, Standort, Mikrofon …) ab, die eine solche App einfordert, und schränken Sie diese bei Bedarf ein. Eine Schritt‑für‑Schritt‑Anleitung zur technischen Absicherung finden Sie auf www.medien-kindersicher.de  
• Vereinbaren Sie feste Zeiten für die Nutzung der digitalen Angebote. Helfen Sie Ihrem Kind, eine gesunde Mischung zwischen Online- und Offline-Aktivitäten zu finden. Klare Regeln wie kein Smartphone während des Essens oder vor dem Schlafengehen und im Bett, können verhindern, dass die Nutzung überhandnimmt.
• Sprechen Sie offen mit Ihrem Kind über die Risiken von Charakter-Bots. Erklären Sie kurz und klar, dass solche Programme Fehler machen und auch falsche oder manchmal auch schädliche Informationen liefern können.
• Persönliche Daten wie Name, Adresse, Geburtsdatum oder Angaben zur Gesundheit gehören deshalb nicht in Chats, weil sie gespeichert, weitergegeben oder im schlimmsten Fall missbraucht werden könnten. Ihrem Kind sollte bewusstwerden, dass anvertraute Geheimnisse möglicherweise im Hintergrund der KI nicht geheim bleiben.
• Erklären Sie, dass die KI keine echten Gefühle hat und Ihr Kind nicht wirklich kennt. Der Chat findet immer mit einem Computerprogramm statt. Auch wenn es sich beim Chatten anders anfühlt.
• Gemeinsame Familienaktivitäten oder Treffen mit Freundinnen und Freunden helfen dabei, wichtige soziale Fähigkeiten zu stärken. Diese Begegnungen oder Gespräche kann eine KI nicht ersetzen. Die eigenen Eltern, Freundinnen und Freunde, Fachkräfte der Jugend- oder Schulsozialarbeit oder Lehrkräfte sind bei ernsten Sorgen und Problemen die besten Ansprechpersonen.
• Wenn Sie merken, dass Ihr Kind Schlaf, Schule oder Freundschaften vernachlässigt, sprechen Sie das an und holen Sie sich gegebenenfalls Hilfe in einer Beratungsstelle.

So bleibt der Bot ein Werkzeug, das man kritisch nutzen kann, während menschliche Hilfe und Nähe nach wie vor entscheidend sind.