Zu Beginn seines Impulses erläuterte Brendel, dass generative KI-Modelle auf Statistik basieren. Obwohl diese Algorithmen kein Weltverständnis oder Bewusstsein besitzen, erzeugen sie bei den Anwender*innen das Gefühl einer Beziehung – einfach aus dem Grund, dass sie Sprache verwenden, und „Sprache ist immer Beziehung“. Zudem neigen Menschen zur Vermenschlichung von Technologie: Instinktiv stufen sie Handlungen von Computersystemen, für die sie selbst Intelligenz bräuchten, als intelligent ein. Das Phänomen verstärkt sich noch, wenn Sprache involviert ist.
Insbesondere Jugendliche, von denen bereits ein Drittel KI-Chatbots für soziale Interaktionen wie Freundschaft oder emotionale Unterstützung nutzt, tappen in diese „Vermenschlichungsfalle“. Denn wesentliche Fähigkeiten, die für eine kritische Einordnung nötig sind – wie Metakognition („Nachdenken über das Denken“), Abstraktionsfähigkeit (KI als Statistikmaschine) und Medienkritik (das Wissen über Geschäftsmodelle der KI-Hersteller) – sind bei Jugendlichen noch nicht voll entwickelt. Dies mache sie besonders empfänglich für KI-Beziehungen. Auch wenn sie einseitig seien („parasozial“), seien die empfundenen Gefühle dennoch echt und die Beziehungen müssten daher ernst genommen werden. Eine vorschnelle Verurteilung von KI-Freundschaften als „unecht“ nehme die Betroffenen nicht ernst.
Neben psychologischen Herausforderungen – wie der Preisgabe persönlicher Daten durch ein aufgebautes, teils intimes Vertrauensverhältnis – wies der Vortrag auf technische Unzulänglichkeiten von KI-Chatbots hin. So würden Inhaltsfilter nicht zuverlässig funktionieren und es fehle an einer verlässlichen Alterskontrolle für minderjährige Nutzer. Zudem würden psychische Krankheiten durch die KI oft nicht richtig erkannt.
Abschließend gab Brendel den anwesenden Eltern und Großeltern Handlungsempfehlungen. Er riet dazu, KI „als Werkzeug und nicht als Wesen“ zu behandeln. So sollten Eltern und Kinder etwa darauf verzichten, bei KI-Befehlen „Bitte“ und „Danke“ zu verwenden, um sich selbst die Grenze zwischen menschlicher und Maschinenkommunikation zu verdeutlichen. Weiterhin sei es wichtig, aufrichtiges Interesse an der KI-Nutzung des Kindes zu zeigen und auch die eigene KI-Nutzung kritisch zu hinterfragen. Auch die Aufstellung gemeinsamer Regeln wurde empfohlen, wie etwa KI nicht aus Langeweile zu nutzen. Letztendlich müssten Bezugspersonen „Beziehungsvorbilder“ sein. Eltern und Großeltern sollten vorleben, wie wertvoll echte menschliche Beziehungen sind, damit Kinder den Unterschied zwischen maschineller Simulation und echter Empathie erlernen. Ein Handout mit den Handlungsempfehlungen kann hier heruntergeladen werden: https://kurzlinks.de/ki-freundschaft-handout
zurück zur Übersicht