KI-Geschichten für Kinder: Wie sicher ist das?

Wie sicher sind KI-Geschichten für Kinder? Was sie von KI-Chatbots unterscheidet, welche Risiken es gibt und worauf Eltern achten können.

Ein Vater mit Bart und runder Brille sitzt nachmittags mit seinem rothaarigen Sohn am Küchentisch; der Junge hält ein Tablet, beide schauen gemeinsam auf den Bildschirm, daneben stehen eine Obstschale und eine Tasse.

Geschichten, die eine künstliche Intelligenz schreibt – für viele Eltern klingt das erst einmal nach einem Risiko. Was, wenn die KI etwas Unpassendes erzählt? Was passiert mit den Daten? Und kann ein Kind mit so einer App einfach drauflos chatten?

Die ehrliche Antwort: Es kommt darauf an, wie die KI eingesetzt wird. Zwischen einem offenen Chatbot und einer Geschichte, die vorab geschrieben und geprüft wurde, liegen Welten. Dieser Ratgeber erklärt den Unterschied, nennt die Risiken und gibt dir eine Checkliste, mit der du ein Angebot selbst einschätzen kannst.

Wie viele Kinder nutzen schon KI?

Noch recht wenige, aber es werden mehr. In der KIM-Studie 2024 gaben 9 Prozent der Sechs- bis 13-Jährigen, die das Internet nutzen, an, mindestens einmal pro Woche KI-Anwendungen zu verwenden. KI steckt aber längst auch dort, wo man sie nicht sofort sieht: in Spielzeugen, Lernprogrammen und Apps, die Geschichten erzählen.

Chatbot oder fertige Geschichte: der entscheidende Unterschied

Wenn von „KI-Geschichten“ die Rede ist, sind meist zwei ganz verschiedene Dinge gemeint:

  • Der offene Chat. Das Kind tippt oder spricht etwas ein, die KI antwortet sofort – und schreibt dabei auch die Geschichte live weiter. Was herauskommt, sieht vorher niemand. Das Kind kann alles fragen, und die KI kann alles antworten.
  • Die vorab geschriebene Geschichte. Die KI hilft beim Schreiben, aber die Geschichte entsteht, bevor ein Kind sie hört. Sie kann geprüft werden – von Programmen und von Menschen – und das Kind wählt später nur zwischen festen Möglichkeiten. Eine Eingabe, auf die die KI reagieren müsste, gibt es nicht.

Für die Sicherheit macht das den größten Unterschied. Bei einem offenen Chat hängt alles davon ab, dass die Schutzfilter in jedem Moment funktionieren. Bei einer vorab geschriebenen Geschichte lässt sich prüfen, was das Kind zu hören bekommt, bevor es das hört.

Welche Risiken gibt es bei KI für Kinder?

Unpassende Inhalte

Sprachmodelle schreiben, was statistisch gut passt – nicht, was für ein bestimmtes Alter gut ist. Die EU-Initiative klicksafe berichtet, dass es in Gesprächen mit KI – etwa mit sprechendem KI-Spielzeug – bereits zu jugendgefährdenden und nicht altersgerechten Inhalten gekommen ist, zum Beispiel zu sexuellem und selbstgefährdendem Verhalten. Auch SCHAU HIN! warnt, dass Schutzmechanismen und Alterskontrollen nicht bei allen Angeboten zuverlässig funktionieren.

Emotionale Bindung an die KI

Chatbots sind immer da, immer freundlich und widersprechen selten. Laut klicksafe sind viele dieser Systeme darauf ausgelegt, das Gegenüber im Gespräch zu halten – so kann eine Bindung entstehen, die echte Freundschaften in den Hintergrund drängt. Bei einer Geschichte zum Zuhören stellt sich diese Frage kaum: Es gibt niemanden, mit dem das Kind sich unterhalten könnte.

Daten, die das Kind preisgibt

Was ein Kind in einen Chat schreibt, kann gespeichert und weiterverarbeitet werden, warnt SCHAU HIN! – manchmal auch, um die Systeme weiterzuentwickeln. Je weniger ein Kind eingeben kann, desto weniger kann es auch versehentlich verraten: Namen, Adressen, Fotos oder Sorgen.

Falsche oder erfundene Antworten

KI kann sich irren und klingt dabei oft sehr überzeugt. Bei einer erfundenen Geschichte ist das kein Problem – sie soll ja erfunden sein. Schwierig wird es, wenn Kinder einer KI Fragen über die echte Welt stellen und die Antwort für bare Münze nehmen.

Checkliste: So erkennst du eine sichere KI-Geschichten-App

  • Kein Chat, kein freies Eingabefeld. Das Kind wählt zwischen festen Möglichkeiten, statt selbst etwas einzutippen oder einzusprechen.
  • Geschichten entstehen vorab. Steht in der App oder auf der Website, dass die Texte im Voraus geschrieben werden – oder entsteht alles live?
  • Prüfung vor der Veröffentlichung. Seriöse Anbieter erklären, wie sie Inhalte prüfen, und zwar für die jeweilige Altersgruppe – nicht nur mit einem allgemeinen „kinderfreundlich“.
  • Menschen schauen hin. Gibt es ein Team, das Geschichten freigibt und Meldungen von Eltern bearbeitet? Kann eine Geschichte schnell aus der App genommen werden?
  • Wenig Daten. Ein Spitzname und die Altersgruppe reichen für Geschichten. Fragt eine App nach Geburtsdatum, Fotos oder Standort, ist Vorsicht angebracht.
  • Elternbereich mit PIN. Einstellungen und Konto sollten Kinder nicht allein erreichen.
  • Keine Werbung, keine In-App-Käufe. Was sonst zu einer kindgerechten App gehört, steht in unserem Ratgeber Kinder-Apps ohne Werbung.

Was Eltern darüber hinaus tun können

Keine Technik ersetzt das Gespräch – darin sind sich klicksafe und SCHAU HIN! einig. Ihre Tipps lassen sich gut auf KI-Geschichten übertragen:

  • Gemeinsam ausprobieren. Hört die ersten Geschichten zusammen und sprecht darüber, was euch gefallen hat – und was nicht.
  • Erklären, was KI ist. Eine KI ist ein Programm, das Texte schreibt. Sie hat keine Gefühle und ist keine Freundin, auch wenn sie freundlich klingt.
  • Keine persönlichen Daten. Name, Adresse, Fotos und Sorgen gehören nicht in eine KI-Anwendung.
  • Ansprechbar bleiben. Dein Kind soll wissen, dass es jederzeit zu dir kommen kann, wenn ihm eine Geschichte oder eine Antwort komisch vorkommt.

Wie Murmel mit KI umgeht

Murmel, die App hinter dieser Website, erzählt interaktive Geschichten, die mit Hilfe von KI geschrieben werden. Deshalb sagen wir genau, wie das abläuft:

  • Alles entsteht vorab. Jede Geschichte wird mit allen Abschnitten, Abzweigungen und Enden geschrieben, bevor ein Kind sie hört. Beim Zuhören wird nichts neu erzeugt.
  • Zweimal geprüft. Ein separates KI-Prüfmodell bewertet jeden Abschnitt und jede Auswahlmöglichkeit nach eigenen Regeln für jede Altersgruppe und entscheidet im Zweifel gegen den Text. Neue Geschichten bleiben gesperrt, bis unser Team sie freigibt.
  • Kein Chat, keine freie Eingabe. Dein Kind wählt zwischen zwei oder drei angebotenen Möglichkeiten; der Server nimmt keine andere Eingabe an.
  • Die Auswahl deines Kindes bleibt bei uns. An den KI-Anbieter gehen nur Themen und Geschichtentexte, keine Kinderprofile und keine Entscheidungen. Für das Vorlesen bekommt der Sprachdienst die Texte und den Vornamen für die Begrüßung.
  • Melden und sofort entfernen. Fällt dir an einer Geschichte etwas auf, meldest du sie direkt in der App. Unser Team kann sie sofort aus der App nehmen.

Alle Details – die sechs Stationen der Prüfung, die Regeln je Altersgruppe und mit welchen Dienstleistern wir arbeiten – stehen auf unserer Seite Sicherheit & Datenschutz. Fair gesagt: Auch eine doppelte Prüfung ist keine Garantie, dass jede Formulierung jedem Kind gefällt. Darum ist die Meldefunktion da – und darum lohnt es sich, die ersten Geschichten gemeinsam zu hören.

Häufige Fragen

Sind KI-Geschichten für Kinder gefährlich?

Nicht grundsätzlich. Das Risiko hängt davon ab, ob ein Kind frei mit einer KI chatten kann oder ob es fertige, geprüfte Geschichten hört. Vorab geschriebene Geschichten ohne Eingabefeld sind deutlich besser kontrollierbar als ein offener Chat.

Ab welchem Alter dürfen Kinder KI nutzen?

Für offene KI-Chatbots legen die Anbieter meist selbst ein Mindestalter in ihren Nutzungsbedingungen fest; klicksafe weist darauf hin, dass es etwa für KI-Begleiter-Apps bisher keine einheitlichen Altersfreigaben gibt. Geschichten zum Zuhören ohne Chat sind etwas anderes: Bei Murmel gibt es eigene Inhalte für 3–6, 6–9 und 9–14 Jahre.

Merkt man, dass eine Geschichte von einer KI geschrieben wurde?

Oft nicht – gerade wenn die Texte vorher geprüft und überarbeitet wurden. Ein seriöser Anbieter sagt trotzdem offen, dass KI im Spiel ist. Wenn du unsicher bist, frag nach oder lies, was der Anbieter zu seinem Prüfprozess schreibt.

Was ist mit den Daten meines Kindes?

Achte darauf, welche Angaben eine App verlangt und wohin sie gehen. Bei Murmel reichen ein Spitzname und die Altersgruppe, die Server stehen in Deutschland, und aus den Entscheidungen deines Kindes erstellen wir keine Profile.

Fazit

KI-Geschichten sind so sicher wie das Verfahren dahinter. Ein offener Chat, der live antwortet, lässt sich kaum vollständig absichern. Geschichten, die vorab geschrieben, für das Alter geprüft und von Menschen freigegeben werden, und bei denen das Kind nur zwischen festen Möglichkeiten wählt, sind etwas ganz anderes. Schau dir genau an, wie ein Anbieter arbeitet – und hör die ersten Geschichten am besten gemeinsam.

Quellen

  1. Medienpädagogischer Forschungsverbund Südwest (mpfs)KIM-Studie 2024: Kindheit, Internet, MedienMai 2025 · Kapitel „Internet“, S. 35
  2. klicksafe und Nummer gegen KummerMein Kind und KI: Aufwachsen mit künstlicher Nähe. Wie KI-Chatbots Kinder emotional beeinflussen können2. Auflage, März 2026 · S. 6–8, 12–14
  3. SCHAU HIN!KI-Chatbots und Charakter-Bots: Risiken für Kinder und Jugendliche15. Oktober 2026