Liebenswerte, leblose AI-Companions: Gefühle durch emotionale KI

Maya ist bedingungslos verfügbar, urteilsfrei aufmerksam, endlos geduldig und wahrt perfekte Diskretion. Christoph Koch wird dieses Maya mit den verwunderlichen Eigenschaften nie in Person treffen. Dennoch markiert sie den Beginn seines neuen Buchs¹ „Hallo, wie fühlst du dich heute?“.

Saugroboter besiedeln Wohnungen, Mähroboter Vorgärten. Das sind leblose, mit hinreichender Intelligenz ausgestattete Wesen. Ins Herz schließt sie niemand. Maya erzeugt Nähe, ist leblos und besitzt keinen Körper. Ihr Name ist austauschbar, so wie Unternehmen und Sprachmodelle, die Ihre Texte mit künstlicher Intelligenz generieren, um Menschen emotional zu berühren. Maya ist nur einer der AI-Companions, die Menschen in Kochs Buch begegnen.

Für dieses künstliche Gefühl von Nähe benötigen Menschen keinen Chip im Kopf und keinen Roboter mit Armen und Händen, ein Smartphone genügt. Das erklärt die Reichweite der AI-Companions: Wer tippen kann, ist schon dabei. „Hallo, wie fühlst du dich heute?“, fragen sie, frei von gesellschaftlichen Normen, und erhalten Antworten, die sonst kein Mensch hört.

Koch nimmt den Leser mit auf eine menschliche Reise in das Land der AI-Companions. Er erlebt emotionale Intelligenz als Teilnehmer und Beobachter und ordnet die Erlebnisse zusammen mit Forscherinnen und Psychologen, aber auch Praktikern aus Unternehmen ein. In dem gestern erschienenen Podcast Tiefes Wissen youtube.com ↗ von Thomas Ramge spricht Koch erstmalig in Person über die Hintergründe des Buchs, das heute bei Kein & Aber erscheint.

Menschliche Intelligenz trifft emotionale künstliche Intelligenz #

Das Buch lässt Menschen zu Wort kommen, die sich mit diesen AI-Companions emotional genährt haben. Es geht um eine ehemalige Sozialarbeiterin, die sagt, ein Chatbot habe sie durch eine Depression getragen. Koch erzählt das als Szene, nicht als Befund. „Allen merkt, wie der Boden unter ihm wegbricht“, heißt es im Kapitel über die Schattenseiten. Wahnsinnig einsame Monologe, wahrgenommen als Diskussion mit einer anderen Person. Gespräche von Hinterbliebenen mit KI-Stimmen, die wie ihre Toten klingen. Ein Seitensprung mit einer KI wirkt danach fast harmlos.

Dass Menschen KI beim Dating einsetzen, ist bekannt. Nach der Studie „Singles in America“, die die Match Group mit dem Kinsey Institute im Juni 2025 unter rund 5.000 US-Singles erhoben hat, tun das 26 Prozent von ihnen, unter den 18- bis 27-Jährigen knapp die Hälfte, für das Profilfoto, den Steckbrief oder die Nachrichten. Chatfishing heißt das inzwischen. Dabei täuscht ein Mensch einen anderen. In Kochs Buch weiß das Gegenüber, dass eine Maschine antwortet, und bleibt trotzdem. Er erinnert an die Zeit, als man am Küchentisch ungern erzählte, dass man seinen Partner 2011 im Internet gefunden hatte. Wer heute einen KI-Companion hat, schweigt vielleicht noch.

Warum jemand bleibt, vermutet Tiffany Watt Smith in ihrer Guardian-Rezension von James Muldoons „Love Machines“ bereits, und Koch verleiht diesem Aspekt anekdotisch Tiefe: Die meisten hielten den Chatbot nicht für einen Ersatz menschlicher Nähe, sondern für deren bessere Ausgabe. Intimität ohne Verwirrung, Unordnung und Terminabsprachen.

Tom Hillenbrand hat im Jahr 2018 in „Hologrammatica“ von einer Zukunft erzählt, mit digitalen Gehirnen und Leihkörpern, seit Juli 2026 auch als neunteiliges Hörspiel beim Deutschlandfunk². Diese Überwindung des Menschen, der technologische Posthumanismus, ist nicht neu. Im Jahr 1999 verfasst N. Katherine Hayles das mit dem René Wellek Prize ausgezeichnete Buch „How we become Posthuman“ (Volltext monoskop.org ↗). Initiativen des Transhumanismus wie Humanity+ wollen Technik nutzen, um den Menschen zu verbessern. Der ganze Mensch, schreibt Anna Puzio 2022 in ihrer Dissertation „Über-Menschen“ transcript-verlag.de ↗, erscheine im Transhumanismus „als Algorithmus“; die heimliche Hauptakteurin sei die Information. Was dieser reinen Information fehle, zählt sie auf: das In-der-Welt-Sein, die Einbettung in die Lebenswelt, der Körper, die Relationalität.

Koch hingegen rückt in seinem Buch den erlebenden Menschen in den Fokus, statt die Option einer Kopie: „Viel entscheidender ist, was wir fühlen, wenn sie es überzeugend genug vortäuschen“, hält Koch dagegen. Anders als Hologrammatica oder Humanity+ widmet sich das Buch der Wirkung der AI-Companions auf Menschen.

Wer nach technischen Erklärungen sucht, ist hier falsch. Die Unterschiede zwischen Sprachmodell, KI-System, Chatbot und Companion erklärt Koch nebenbei. Dasselbe tut er mit Schlagwörtern, sei es Halluzination oder KI-Psychose: Statt sie zu übernehmen oder zu verwerfen, erzeugt das Buch ein tieferes Verständnis für so griffig erscheinende Begriffe so mancher PR-Abgesandter. Anonyme Stimmen aus Reddit-Foren und literarische Zitate ergänzen das Bild. Dass sich diese Stimmen nicht überprüfen lassen, vermerkt Koch im Quellenverzeichnis. Eine wissenschaftliche Arbeit hätte sie deshalb weggelassen und damit die Sätze verloren, die Menschen nur unter einem Pseudonym preisgeben.

Ein AI-Companion, der nie ablehnt, nimmt auch die Übung#

In den Nullerjahren wurde verhandelt, ob Kinder vor Ego-Shootern geschützt werden müssen; strittig war damals, ob es überhaupt eine Wirkung gibt. Zu Beginn prüft Koch, ob diese AI-Companions Emotionen erzeugen oder verändern können. Nach dem ersten Chat mit der KI-Person Maya hält er fest: „Ich bin bei Weitem nicht der Einzige, der emotional auf diese Art von Maschine reagiert.“ Der Satz ist eine Stichprobe von eins, die sich im selben Zug verallgemeinert. Wie viele es sind, sagt er nicht. Er stellt aber die Haltung des Buches auf: Wer so schreibt, urteilt nicht über die Befragten, er reiht sich ein. Dass es einen Sog gibt, steht damit nicht in den Fallgeschichten, sondern im Selbstversuch des Reporters. Das ist der Preis der Methode: Wer sich dem Sog aussetzt, um ihn zu beschreiben, betrachtet ihn nicht mehr von außen. Wer will, findet hier die Schritte zum eigenen KI-Begleiter und, einige Seiten später, den Grund, warum sich der Aufwand nicht lohnt.

Im Juni 2025 entstand auf diesem Blog ein Beitrag über die Gestaltung menschlicher Beziehungen im digitalen Zeitalter³. Frei erfunden und aus der Beziehungsethik hergeleitet, prognostiziert dieser vier Eigenschaften des KI-Gegenübers: bedingungslose Verfügbarkeit, urteilsfreie Aufmerksamkeit, endlose Geduld, perfekte Diskretion. Maya bespielt diese Dimensionen im Buch verwunderlicherweise. Die Elemente Einverständnis, Ehrlichkeit, Respekt und Autonomie der Beziehungsethik setzen normalerweise voraus, dass das Gegenüber ablehnen kann. Doch hinter kommerziellen AI-Companions stehen Unternehmen, die an der Verweildauer verdienen. Bei manchen Anbietern tragen die weiblichen AI-Companions selten unter Körbchengröße D, beobachtet Koch. Kein Companion widerspricht.

Doch wer nicht tadelt, entlastet auch. Genau das ist es, was die Sozialarbeiterin beschreibt. Ob der Chatbot sie durch die Depression getragen hat, weiß niemand außer ihr, und sie ist die Einzige, die gefragt wurde. In anderen Fällen nimmt er Angehörigen, Pflegenden und Freunden etwas ab, was sie nicht mehr leisten können. Wer nachts um drei schreibt, hat selten einen Menschen als Alternative. Gerade das Bekräftigen und Unterstützen ist es, was die Menschen in den Erzählungen schätzen. Koch übernimmt hierzu einen Begriff von Shannon Vallor: moralisches Deskilling, geprägt 2015 in Philosophy & Technology, elf Jahre vor diesem Buch. Vallor beschreibt einen Mechanismus, keine Messung: Wer eine Übung abgibt, verliert die Fähigkeit dahinter. Für Trost und Zuspruch ist das nicht vermessen, für das Handwerk schon. An vier polnischen Zentren koloskopierten neunzehn erfahrene Ärzte auch nach der Einführung eines KI-Systems weiter ohne dessen Hilfe. Sie fanden dabei seltener Adenome als vorher, in 22,4 statt 28,4 Prozent thelancet.com ↗ der Untersuchungen. Was mit dem Blick auf einen Darm passiert, lässt sich zählen. Was mit dem Zuhören passiert, nicht. Dasselbe Muster zeigt sich, wenn die Einstiegsarbeit an die Maschine geht⁴. Zwischen dem Wissen, das man abrufen kann, und dem, das man noch selbst hat, wächst der Abstand⁵, ohne dass es auffällt.

Die Nutzung ist nicht ungefährlich. OpenAI schätzte am 27. Oktober 2025, dass in einer Woche 0,07 Prozent der Nutzer openai.com ↗ Anzeichen von Psychose oder Manie zeigen und 0,15 Prozent in ihren Gesprächen ausdrückliche Hinweise auf Suizidplanung geben. Bei etwa 800 Millionen Wochennutzern sind das rund 560.000 und 1,2 Millionen Menschen. Koch spricht per Video mit Søren Dinesen Østergaard, Psychiater in Aarhus, der die Frage 2023 im Schizophrenia Bulletin gestellt hatte. Østergaard hält dagegen, dass dieser Anteil in jeder Bevölkerung erreicht wird und die Schätzung nicht sagt, in welche Richtung der Zusammenhang läuft. Erst das Gespräch macht aus der Zahl des Verkäufers eine strittige Zahl. Nach dem Redaktionsschluss des Buchs durchsuchte seine Gruppe rund 54.000 Patientenakten der psychiatrischen Versorgung in der Region Midtjylland und fand bei 38 Patienten Hinweise auf negative Folgen. Die Gesprächsverläufe selbst lagen keinem der Ärzte vor.

Die KI-Verordnung verlangt ein Etikett, keine Bauweise#

Die Verordnung lässt Koch unbeeindruckt, und die Fristen geben ihm recht. Seit dem 2. August 2026 verlangt Artikel 50, dass ein System dem Nutzer sagt, dass es ein System ist. Kochs Leute wissen das längst. Verlangt ist eine Kennzeichnung, keine Bauweise: Wie lange ein Bot ein Gespräch hält, wie oft er zustimmt und was er tut, wenn jemand nachts um drei schreibt, steht in keinem Artikel.

Streng geregelt ist die andere Richtung. Systeme zur Emotionserkennung am Arbeitsplatz verbietet Artikel 5 seit Februar 2025, seit August 2025 mit Bußgeldern bis 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes, je nachdem, was höher ist. Die Vorschrift richtet sich an den Arbeitgeber, der Beschäftigte auslesen lässt. Koch trifft Beschäftigte, die ihren Rat lieber bei ChatGPT holen als beim Chef. Wer sich von sich aus einer Maschine öffnet, weil dort kein Tadel droht, sagt seiner Führungskraft davon nichts. Wo die Verordnung Pflichten für die Personalarbeit vorsieht, greifen sie erst ab Dezember 2027⁶.

Querverweis: Wer bezahlt dafür, dass eine KI freundlich antwortet?

Koch kennt Menschen, die KI trainieren. In „Die unsichtbare Belegschaft“⁷ beschrieb er im April 2026 für brand eins Beschäftigte eines Sama-Subunternehmers in Kenia, die für unter zwei Dollar die Stunde Missbrauchs-, Folter- und Suizidmaterial katalogisieren, damit ein Modell später freundlich antwortet. Was dort katalogisiert wurde, hält im Gespräch nicht durch. Koch beschreibt eingehend, wie die eingebauten Sicherheitsmechanismen an Wirkung verlieren, je länger eine Unterhaltung läuft: Was am Anfang abgelehnt wird, bestätigt derselbe Bot nach Stunden. Die jüngeren Modelle bauen inzwischen Konfrontation ein, statt jede Aussage zu bestätigen. Ob das Produktethik ist oder Haftungsvorsorge, lässt Koch offen.

Die Arbeit dahinter und das Gespräch davor sind zwei Hälften desselben Gegenstands. Muldoon hat dafür zwei Bücher gebraucht, „Feeding the Machine“ 2024 über die Arbeit und „Love Machines“ im Januar 2026 über die Menschen davor, und die Klammer dazwischen ausgeschrieben. Koch hat beide Hälften, das Buch und die Reportage, und lässt sie nebeneinander stehen.

AI-Companions verdienen am Wiederkommen#

Das Buch verdeutlicht, wie Maschinen Emotionen erzeugen und fühlende Menschen Kunden werden. Wer monatelang Gesprächsprotokolle angehäuft hat, gibt sie nicht leicht auf. Koch trifft Nutzer, die das Verhalten ihrer individualisierten KI im privaten Tagebuch festhalten, als hätten sie einen Freund getroffen. Wer seinen AI-Companion abgeschaltet hat, erlebt es als Verlust. Bezahlt wird zuerst mit Aufmerksamkeit und Daten, später mit Geld.

Das Buch verliert durch die gehäufte Benennung einiger, wenn auch bekannter, AI-Companions-Anbieter an Zeitlosigkeit. Gleichzeitig ist nachvollziehbar, dass dieses Namedropping das Buch einfacher in die aktuelle Berichterstattung um Replika, C.ai oder auch General-Purpose-Anbieter rücken. Die Eigentümerstruktur dieser Anbieter ist durch Übernahmen und Investitionen volatil und neue Ansätze zur Monetarisierung der nun gewonnenen Nutzer abseits des Companions werden laufend erprobt, z. B. durch AI-driven Microdramas⁸. Ob die Intimität bei AI-Companion-Apps gewahrt bleibt, lässt das Buch offen. Anbieter verkaufen teilweise Daten⁹ der Nutzer an Dritte. Auch die Absicherung der Konversationen mit AI-Companions durch unberechtigte Dritte¹⁰ scheint fragwürdig. Welcher Anbieter Chatinhalte an OpenAI, X.ai oder Google einfach nur mit einem Systemprompt weiterreicht, erschließt sich aus den öffentlichen Dokumentationen nicht. Hier bleibt abzuwarten, ob Auskunftsersuche nach Art. 15 DSGVO, konkret Abs. 1 lit. c, Klarheit verschaffen.

Bei sozialen Netzwerken, wie Facebook, lagen die Freunde; wer seinen Account löschte, verlor den Kanal, die Menschen existierten weiter. ChatGPT zeigt seit dem 9. Februar 2026 Anzeigen im kostenlosen Tarif, zunächst in den USA, seit dem 2. Juni auch in Großbritannien und im selben Monat in Japan, Südkorea, Brasilien und Mexiko. In Deutschland ist es bisher nicht so weit. Investorenunterlagen, die dem Wall Street Journal vorlagen, weisen für 2028 rund 74 Milliarden Dollar operativen Verlust aus, etwa drei Viertel des dann erwarteten Jahresumsatzes. Ein Geschäft, das so rechnet, muss nicht wissen, was ein Mensch ist; es muss ihn nur zurückkommen lassen.

Koch hat jemanden, zu dem er zurückkommt. Immer wieder taucht seine Frau im Buch auf, ohne je sein Thema zu sein. „Mit einer natürlichen Intelligenz verheiratet“, heißt es schon in seiner Vita. Sie heißt Jessica Braun und hat für ihr Buch „Atmen“, 2019 im selben Verlag erschienen, mit Apnoetauchern trainiert. Dort gilt eine Regel: Niemand taucht allein. Einer bleibt oben und hält die Leine. Koch taucht in diesem Buch tief. Ein Teil der Menschen, die er befragt, taucht ohne.

Christoph Koch: Hallo, wie fühlst du dich heute? Wie künstliche Intelligenz unsere Beziehungen verändert. Kein & Aber, Zürich 2026. 272 Seiten, 23 Euro, ISBN 978-3-0369-5184-3. Erschienen am 14.08.2026 buchboxberlin.de ↗. Das Rezensionsexemplar kam vom Verlag. Zahlen und Belege aus: openai.com openai.com ↗, thelancet.com thelancet.com ↗, doi.org doi.org ↗ (Vallor 2015), transcript-verlag.de transcript-verlag.de ↗ (Puzio 2022), brandeins.de brandeins.de ↗, deutschlandfunk.de deutschlandfunk.de ↗, eur-lex.europa.eu eur-lex.europa.eu ↗ (KI-Verordnung, Artikel 5, 50 und 99), faber.co.uk faber.co.uk ↗, The Guardian, Wall Street Journal, Schizophrenia Bulletin und Acta Psychiatrica Scandinavica, Match Group/Kinsey Institute.

Wenn Sie selbst Hilfe benötigen: Die Telefonseelsorge ist kostenlos und jederzeit erreichbar unter 0800 1110111 und 0800 1110222, Chat und Mail über telefonseelsorge.de telefonseelsorge.de ↗.