Unter dem Label „KinderGPT“ entwickelt das Unternehmen HillcrownAI kreative KI-Lösungen für den Kinder- und Jugendbereich. Gründer und Geschäftsführer Oliver Mauckner spricht im BRANDORA-Interview über die rechtlichen, ethischen und technologischen Aspekte und stellt Anwendungsgebiete vor – gegenwärtige und zukünftige.
Oliver, unter der Marke KinderGPT beschäftigt ihr euch, allgemein gesprochen mit KI für den Kids-Sektor. Kannst du einen kurzen Abriss geben: Seit wann gibt es euch und was war bei Gründung eure Mission?
Wir haben 2024 gegründet und der Gründungsmoment war eine Frage, die keiner von uns beantworten konnte: Welcher KI würde ich mein Kind anvertrauen? Wir haben gesucht und nichts gefunden, also haben wir es selbst gebaut. Wir, das sind vier Gründer, zwei davon Väter mit 4 Kindern zwischen 4-10 Jahren. Vier Freunde mit einem gemeinsamen Instinkt, denn die Frage oben ist keine Elternfrage, es ist eine gesellschaftliche Frage. Millionen Kinder nutzen täglich KI-Systeme, die für Erwachsene gebaut wurden. Mit dem Wissen der ganzen Welt, ohne Filter, ohne Verantwortungsträger. Das kann nicht die Antwort sein. KinderGPT ist deshalb die Antwort, die wir uns selbst gewünscht hätten.
In euren ersten Jahren habt ihr größtenteils App-basierte KI-Tools angefertigt?
Ich würde das anders formulieren: Wir haben schnell gelernt, dass eine App allein nicht die Antwort sein kann. Nicht weil die Idee falsch war, sondern weil das Problem tiefer liegt und der Grund war vor allem ein rechtlicher: Wer KI für Kinder entwickeln will, darf nicht auf der Anwendungsebene denken. DSGVO, Jugendschutz, Anforderungen an Transparenz und Kontrolle, das alles hängt an der Infrastruktur, nicht an der Oberfläche. Wir mussten KinderGPT von Grund auf umfassend denken und bauen: nicht als App-Hersteller, sondern als Infrastrukturlieferant. Das hat länger gedauert, aber es ist auch der Grund, warum wir heute der einzige Anbieter sind, der das Problem wirklich gelöst hat und nicht nur eine freundliche Oberfläche über ein ungeregeltes System gelegt hat.
Welche wichtigen rechtlichen Aspekte müsst ihr beachten, wenn ihr kindgerechte KI-Assistenten für Websites oder Apps designt?
Die meisten, die heute KI für Kinder bauen, wissen nicht, was auf sie zukommt, oder hoffen, dass es sie nicht betrifft. Aber es betrifft sie.
Der EU AI Act klassifiziert KI-Systeme, die mit Kindern interagieren oder für Kinder im Bildungs- und Entertainmentbereich eingesetzt werden, als Hochrisikosysteme. Das heißt: Konformitätsbewertung, vollständige technische Dokumentation, verpflichtendes Logging, menschliche Aufsicht und Registrierung in der EU-Datenbank. Das ist kein Bürokratieakt, das ist ein kompletter Entwicklungsprozess.
Dazu kommen die DSGVO-Anforderungen: Keine Persönlichkeitsprofile für Minderjährige, keine Verhaltensdaten zu Marketingzwecken, elterliche Einwilligung für Kinder unter 14, in manchen EU-Ländern unter 16 Jahren. Und keine KI-Ausgaben, für die niemand Verantwortung übernimmt. Wer glaubt, er kann einfach ChatGPT hinter seinen Content schalten: Das war gestern. Seit dem 2. August ist das in der EU rechtswidrig und das gilt für Apps, Websites, Plüschtiere, Bildungsplattformen — alles.
Ist die Vergütung für Sprecher ikonischer Kinder-Figuren ein Thema?
Das ist ein wichtiges Thema, das die Branche noch nicht umfassend verstanden hat – und das betrifft die Risiken, die teuer werden können, ebenso, wie die Chancen. Wer eine ikonische Figur mit einer KI-Stimme sprechen lässt, die nach dem Original klingt, bewegt sich in rechtlichen Minenfeldern: Stimmrechte, Persönlichkeitsrechte, Markenschutz – all das gilt auch für KI-generierte Stimmen. Und "klingt wie" reicht als Schutz nicht aus, das haben erste Urteile in den USA bereits gezeigt.
Wir denken hier weiter und sind offen für den Dialog, denn was wir u.a. geschaffen haben, ist die technische Möglichkeit, Originalstimmen so einzusetzen, dass die Sprecher die volle Kontrolle behalten: Sie sehen, wie oft und wie lange ihre Stimme genutzt wurde und werden dafür vergütet. Ein Spotify für ihre Stimme.
Das bedeutet: Sprecher können zustimmen, weil sie die Kontrolle nicht verlieren. Lizenzgeber können zustimmen, weil das System nur das sagt, was vorab freigegeben wurde. Und Eltern können zustimmen, weil die Stimme, die ihr Kind kennt, wirklich die ist, der sie vertrauen.
Werdet ihr in Zukunft auch verstärkt physische Spielwaren wie Plüschtiere oder Actionfiguren mit Sprachfunktionen ausstatten?
Ja, aber nicht, weil es technisch interessant ist, sondern weil es das natürlichste Interface für kleine Kinder ist. Die halten noch kein Smartphone, sondern lieber ein Plüschtier. Wenn das sprechen kann, mit einer vertrauten Stimme, in der Sprache des Kindes, mit den Werten, die Eltern sich wünschen, dann macht das Spaß und Sinn. Stellt euch eine Alexa vor, die Fell hat und keine Daten in die Cloud schickt.
Die Technologie ist vorhanden: ein NFC-Chip im Spielzeug, Verbindung zum Gerät der Eltern, Owned Intelligence im Hintergrund. Was es braucht, sind Hersteller und Lizenzgeber, die das erkennen und kindersicher umsetzen. Wir sind bereit.
Interaktive Spielanleitungen könnten ebenfalls ein kommender Marktsektor werden?
Absolut und ich halte das für einen der am stärksten unterschätzten Bereiche in diesem Markt. Eine Spielanleitung ist heute ein Dokument, in drei Jahren ist sie ein Dialog. Ein Kind fragt: "Was passiert, wenn ich dies oder das tue?" und bekommt eine altersgerechte Antwort. Kein langer Text, keine überforderten Eltern, kein Frust am Spieltisch. Dafür aktives verstehen, lernen, unterhalten.
Für Spielehersteller ist das eine große Chance: Wer es richtig macht, also barrierefrei, kindgerecht und sicher, hat einen echten Differentiator. Wer es falsch macht und ein generisches System dahinter schaltet, hat ein regulatorisches Problem. Und früher oder später zudem einen Eltern-Shitsturm in den Bewertungen.
Inwiefern ist eure Arbeit vom EU AI Act betroffen, der jüngst in Kraft getreten ist?
Der EU AI Act ist für uns keine neue Herausforderung, sondern eine Bestätigung! Wir haben KinderGPT von Anfang an als Hochrisikosystem behandelt, weil Kinder das denkbar sensibelste Publikum sind. Was der AI Act jetzt für alle vorschreibt — vollständige Transparenz, kein Persönlichkeitsprofiling, Logging, menschliche Aufsicht, kindgerechte Ausgaben — war für uns von Anfang an der Standard.
Seit dem 2. August 2026 ist KinderGPT damit eines der wenigen Systeme in Europa, das compliant ist. Die meisten sind es nicht, das ist kein Zufall, das ist der Vorsprung von zwei Jahren Entwicklungsarbeit.
Was das für Unternehmen bedeutet, die KI im Kinderbereich einsetzen: Ihr müsst beweisen können, dass das System sicher ist. Nicht behaupten, beweisen! Dokumentiert, auditierbar, registriert. Kein Unternehmen, das mit Kindern arbeitet, kann das ignorieren. Und wer es heute ignoriert, zahlt morgen.
Ihr veranstaltet am 16. September ein kostenloses Online-Briefing für betroffene Marktteilnehmer. Kannst du in diesem Zusammenhang erklären, was man unter Owned Intelligence versteht?
Owned Intelligence ist das Gegenteil von dem, was die meisten KI-Systeme tun. Wenn du ChatGPT fragst, fragst du eine Maschine, die das Internet kennt, alle Bücher, alle Meinungen, ungefiltert. Das nennen wir Borrowed Intelligence: geliehenes Wissen, unkontrollierbar, ohne echten Verantwortungsträger.
Owned Intelligence bedeutet: Das System weiß nur, was sein Besitzer entschieden hat. Punkt. KinderGPT weiß, was Eltern und Inhaltsersteller für Kinder freigegeben haben und nichts darüber hinaus. Das ist keine technische Einschränkung, das ist eine bewusste Entscheidung und sie macht den Unterschied zwischen einer KI, der man Kinder anvertrauen kann, und einer, die man besser nicht in die Nähe von Kindern lässt.
Am 16. September, 10 Uhr, erklären wir genau das, kostenlos, online, 60 Minuten. Kein Pitch, kein Verkaufsgespräch. Mit dabei sind Härting Rechtsanwälte aus Berlin für die juristische Einordnung. Die Veranstaltung richtet sich an Marken, Verlage und Lizenzgeber, die wissen wollen, was der 2. August konkret für sie bedeutet und warum geliehene Intelligenz in regulierten Zielgruppen zum Risiko wird. Bitte rechtzeitig anmelden unter hillcrownai.com/briefing
Was müssen Lizenzgeber und was Lizenznehmer im Zusammenhang mit KI im Kindersektor besonders beachten?
Für Lizenzgeber, also die, deren Marke, Figur oder Content in einer KI landet: Kontrolliert, was das System über euch sagt. Vorher, nicht nachher. Ein generisches KI-System kann im Namen eurer Figur Aussagen machen, die ihr niemals autorisiert hättet. Über Ernährung, über Politik… über alles, was das Kind fragt. Owned Intelligence schließt das strukturell aus, weil ihr bestimmt, was der Wissenskorpus enthält, alles andere ist ein Blindflug mit eurer Marke.
Für Lizenznehmer, also die, die eine Lizenz erhalten und KI einsetzen wollen: Prüft erstens, ob der Lizenzvertrag KI-Nutzung überhaupt erlaubt. Die meisten älteren Verträge tun das nicht explizit. Prüft zweitens, ob das System, das ihr einsetzt, AI-Act-compliant ist. Der Lizenzgeber wird euch im Haftungsfall nicht schützen. Und prüft drittens, ob ihr das eurem Publikum — den Eltern — erklären könnt. Wer das nicht in einem Satz kann, hat vermutlich ein Problem.
Zum Schluss einmal „The bigger Picture": Welche Fragen muss die Gesellschaft im Hinblick auf die Nutzung von KI durch Kinder aus deiner Sicht am dringendsten beantworten?
Das sind 3 Fragen und keine davon darf noch länger aufgeschoben werden.
Frage: 1 Wer trägt die Verantwortung für das, was eine KI einem Kind sagt? Heute ist die Antwort: niemand. Der Anbieter verweist auf die Nutzungsbedingungen. Das Unternehmen dahinter ist außerhalb der EU. Die Eltern haben irgendwo „Ich stimme zu" geklickt. Das reicht nicht. Es braucht einen benennbaren Verantwortungsträger und der AI Act ist der erste Schritt in diese Richtung. Aber nur der erste.
Frage 2: Haben Kinder das Recht, ohne KI aufzuwachsen und wie schützen wir es? Nicht als Verbot, sondern als bewusste Entscheidung. Die meisten Kinder werden KI nutzen, das ist nicht aufzuhalten. Aber es braucht Räume, in denen das nicht passiert, und Eltern, die das aktiv entscheiden können. Heute haben sie kaum eine Wahl.
Frage 3: Wer definiert, was „kindgerecht" bedeutet? Heute entscheidet meistens das Unternehmen, nach Marketingkriterien, nicht nach Entwicklungspsychologie. Das ist ein Problem. Was Kinder brauchen, wissen Kinderpsychologen, Pädagogen und Eltern. Aber Produkt-Manager im Zweifel nicht.
Und dahinter steht eine vierte Frage, die oft vergessen wird: Wie erziehen wir Kinder zu mündigen Nutzern von KI? Medienkompetenz war schon für das Internet wichtig, für KI ist sie existenziell. Kinder, die verstehen, was eine KI kann und was nicht, was sie weiß und was sie erfindet, sind viel besser geschützt als Kinder, denen KI einfach entzogen wird.
KinderGPT ist eine Antwort auf diese Fragen. Aber eine einzelne Antwort reicht nicht. Was fehlt, ist gesellschaftliche Einigkeit darüber, was wir von KI für Kinder fordern. Der AI Act ist ein Anfang, aber sicher noch nicht das Ende.