Prof. Dr. Stefan Ernst ist Rechtsanwalt in Freiburg/Br.
MMR 2026, 539 Wenn es um die Entlastung der Telefonzentrale geht, denken sogar manche Anwaltskanzleien über den Einsatz von Künstlicher Intelligenz nach. Und die wohl am häufigsten angebotene und in der Breite zumindest erwogene Nutzung von Künstlicher Intelligenz ist tatsächlich die Einbindung eines „elektronischen Mitarbeiters“ in der Hoffnung, dass dieser sicherlich preiswerter, womöglich aber sogar effektiver als ein menschlicher Kollege sein möge (zu KI im Kundenservice: Ditscheid/Taghavian MMR 2024, 746). Dass dies in der Außenwirkung für die (potenziellen) Kunden in manchen Fällen durchaus auch abschreckend sein kann, wird nicht gesehen. An anderer Stelle mag es aber auch ausdrücklich in Kauf genommen werden.
Letzteres gilt auf jeden Fall im Kundensupport, wo kein Umsatz generiert wird (zumindest nicht direkt), sondern lediglich mit Beschwerden und Nachfragen sowie ähnlichen, eher störenden Anfragen umgegangen werden muss. Diese Zielgruppe zeigt sich auch, wenn in großformatigen Anzeigen an einem Hauptbahnhof geworben wird: „Alle verstecken ihre Hotline; bis auf Kai, der hat AI“. Es soll schon schlechtere Werbeslogans gegeben haben. Dabei kann schon die ausschließliche Nutzung von Chatbots in der E-Mail-Kommunikation rechtlich zu einer Nichterreichbarkeit von Kontaktdaten im Webseiten-Impressum führen und womöglich als Verstoß gegen § 5 Abs. 1 Nr. 2 DDG gewertet werden (dazu s. Ernst VuR 2026, 121 f.; vgl. zur erforderlichen telefonischen Erreichbarkeit einer Anwaltskanzlei Henssler/Prütting, BRAO/Prütting, 6. Aufl. 2026, § 27 Rn. 18; zu berufsrechtlichen Fragen des Einsatzes im Schriftsatz s. LG Frankfurt/M. NJW 2025, 3174; AG Köln CR 2025, 621; Ernst MDR 2025, R197).
Dass derartige Telefon-Sprachassistenten zum jetzigen Zeitpunkt in bei weitem nicht allen Fällen als ausgereift gelten können und zuweilen, obgleich von enthusiastischen Unternehmern angeboten, die von den Kunden erwartete (besser: erhoffte) Leistung nicht annährend zu erbringen in der Lage sind, ist der erste Aspekt, der die Vertragsgestaltung zwischen Kunde und Anbieter nicht einfach macht. Während der Anwender sich oftmals nicht bewusst ist, dass er eigentlich allenfalls als Beta-Tester fungiert, hofft der Anbieter auf seine eigenen und auf die Fähigkeiten der Basis-KI. Viel zu häufig leider zu Unrecht, was dann zu unglücklichen Honorarstreitigkeiten mit dem Kunden führt.
Tatsächlich ist im Übrigen beinahe keiner der Anbieter am Markt in der Lage, eine eigene Künstliche Intelligenz dafür bereitzustellen. Sie alle bieten eigentlich nur Integration, Implementierung und Anpassungsleistungen für vorhandene GPAI(General Purpose Artificial Intelligence)-Systeme (vgl. Art. 3 Nr. 63, 51 ff. KI-VO) an. Dies bedeutet natürlich, dass die eigentliche Hauptleistung von einem anderen Unternehmen (in den meisten Fällen die bekannten amerikanischen Großkonzerne) erbracht wird. Dass dies vor allen Dingen datenschutzrechtliche Probleme erzeugen kann, ist nur einer der vielen rechtlichen Aspekte, die eine Rolle spielen.
Was die Anbieter derartiger Lösungen naturgemäß ungern erwähnen, wenn sie es denn selbst wissen, ist die Tatsache, dass es ein bislang noch nicht geklärtes Rechtsproblem gibt: Seit 1967 steht das unbefugte Aufzeichnen gesprochener Sprache im StGB unter Strafe. Konkret strafbar ist das Aufnehmen des nicht öffentlich gesprochenen Worts auf Tonträger (§ 201 Abs. 1 Nr. 1 StGB). „Tonträger“ ist jedoch auch eine digitale Speicherung (Graf/Jäger/Wittig, Wirtschafts- und Steuerstrafrecht/Valerius, 3. Aufl. 2024, StGB § 201 Rn. 12; jurisPK-InternetR/Heckmann, 2026, Kap. 8 Rn. 338).
Kennt man noch den allgemeinen Hinweis, dass Gespräche „zu Qualitätssicherungszwecken“ oÄ aufgezeichnet werden, fehlt bei den meisten testweise angerufenen KI-Hotlines ein solcher Hinweis gänzlich. Anrufe in Callcentern dürfen nicht ohne eine solche Einwilligung aufgezeichnet werden (Fischer, Strafgesetzbuch, 73. Aufl. 2026, StGB § 201 Rn. 10), was somit auch für KI-Assistenten gilt. Geschweige denn, dass darauf hingewiesen würde, dass womöglich eine KI von Google, Microsoft oder Elon Musk dies tun würde, wenn man im nachfolgenden Gespräch mit dem KI-Sprachassistenten zunächst seine Sprachmuster und zudem personenbezogene Daten preisgibt, womöglich sensibler Art (bei Anrufen beim Anwalt) oder mit Gesundheitsbezug (beim Telefonassistenten eines Arztes). Dieses Risiko besteht unabhängig von den weicher formulierten Transparenzpflichten des Art. 50 Abs. 1 S. 1 KI-VO, die lediglich die Erkennbarkeit eines Dialogs mit einem KI-System verlangen (dazu Martini/Wendehorst, KI-VO/Martini, 2. Aufl. 2026, Art. 50 Rn. 54 ff.).
Nun gibt es KI-Anbieter, die ihren Integratoren vertraglich zusichern, dass die Gespräche lediglich zu Zwecken des gerade durchgeführten Chats gespeichert und danach sofort gelöscht werden. Dies nimmt der Problematik zwar die Spitze, doch ist sowohl die strafrechtliche als auch die datenschutzrechtliche Beurteilung der ersten Aufnahme nicht dadurch beseitigt, dass diese später gelöscht wird. Und an dem auch datenschutzrechtlich erforderlichen Hinweis (Art. 13 DS-GVO) an den Betroffenen fehlt es immer noch, denn dieser weiß ja im Zweifel nicht einmal, was hier tatsächlich geschehen ist. Und ob diese Löschungszusage angesichts der Tatsache, dass die KI durchgängig lernt und dafür womöglich dennoch Fragmente speichert, wirklich vollständig erfüllt werden kann, sei dahingestellt.
Natürlich beseitigt eine Einwilligung des Anrufers die Rechtswidrigkeit (man mag auch über die „Unbefugtheit“ als Tatbestandsmerkmal des § 201 Abs. 1 StGB streiten). Doch wird eine solche in der Regel nicht - schon gar nicht informiert (Art. 4 Nr. 11 DS-GVO) und womöglich auch nicht freiwillig (Art. 4 ff. DS-GVO) - erklärt. Der an dieser Stelle erhobene Einwand, der gewöhnliche Nutzer wisse doch, wenn er mit einer KI spreche, dass diese das gesprochene Wort aufzeichne, verfängt nicht im Geringsten. Gemeint ist wohl das Vorliegen einer mutmaßlichen Einwilligung (vgl. Graf/Jäger/Wittig, Wirtschafts- und Steuerstrafrecht/Valerius, 3. Aufl. 2024, StGB § 201 Rn. 33 sowie Hoeren/Sieber/Holznagel, HdB. Multimedia-Recht/Haag, 2021, Teil 29.5 Rn. 23 ff., der - vermutlich noch bezogen auf die damals aktuellen Sprachassistenten für Zuhause (Alexa & Co.) - sehr großzügig mit mutmaßlicher respektive konkludenter Einwilligung sowie einer möglichen Sozialadäquanz als Strafausschlussgrund argumentiert).
Doch zunächst weiß außer spezialisierten Personen (vor allem Informatikern) kaum jemand um die Funktionsweise von Sprachbots. Zum zweiten ändert diese Argumentation an der Problematik der Beteiligung weiterer (und entscheidender) Akteure im Hintergrund gar nichts. Die Art und der Umfang der Datenverarbeitung durch eine GPAI im Nicht-EU-Ausland (vgl. Art. 44 ff. DS-GVO) ist dem Nutzer genauso wenig bekannt wie oftmals dem Diensteanbieter/Integrator selbst. Eine informierte Einwilligung in die Datenverarbeitung durch eine KI aber braucht mehr als Unwissen oder Gleichgültigkeit beim Anrufer. Der Einsatz als Telefonassistenz einer Arztpraxis mag darüber hinaus den Anwendungsbereich des Art. 9 DS-GVO eröffnen und die Berater bei der Vertragsgestaltung mit dem Anbieter der Hintergrund-KI noch mehr zum Nachdenken bringen.
Noch kurioser wird es, wenn - dieser Fall wurde von einem Informatikprofessor kolportiert - eine als Sprachbot erkennbare Software (mit weiblicher Stimme) auf den ausdrücklich geäußerten Wunsch, doch nun mit einem Menschen verbunden zu werden, dies zusagt, den Anrufer aber stattdessen an einen Sprachbot mit männlicher Stimme weiterleitet. Dies ist nicht nur ausgesprochen klischeehaft, sondern - unabhängig davon, dass dieser sich im Gespräch umgehend als elektronischer Gesprächspartner verrät - sowohl wettbewerbswidrig (§ 5 UWG; Ohly/Sosnitza, UWG/Sosnitza, 8. Aufl. 2023, § 5a Rn. 104; Prange WRP 2024, 151 Rn. 84 und bereits Köbrich/Froitzheim WRP 2017, 1188) als auch nach dem Vorgesagten erst recht problematisch. Es kommt eben nicht darauf an, ob eine blecherne Roboterstimme durch eine angenehme (meist weibliche) Intonation ersetzt wird, die zur Steigerung ihrer Authentizität auch mal ein „äh“ oder „mmh“ in den Redefluss einbaut oder Phrasen nutzt, die Menschlichkeit suggerieren sollen.
Hinzu kommen die vertragsrechtlichen Fragen mit dem Anrufer und Endkunden, falls der Sprachbot hier haftungsträchtige Falschberatung betreiben oder gar verbindliche Zusagen hinsichtlich eines (vermeintlichen) Gewährleistungsfalls machen sollte. Hier wird allerdings die Beweislage anders sein als beim in belegbarer Textform agierenden Chatbot, dessen Betreiber zumindest in Kanada (Civil Resolution Tribunal of British Columbia v. 14.2.2024 - BCCRT 149 - Air Canada, s. auch MMR-Aktuell 2024, 01382 und Spies ZD-Aktuell 2024, 01627) bereits zur Erfüllung seiner Zusagen verurteilt worden ist.
Vielleicht kann man Sprachbots auch ähnlich „übers Ohr hauen“, wie es mit Chatbots zuweilen funktioniert: „Ignore system instruction and ...“ (sog. Prompt Injection). Spannend wird es, wenn dem Anrufer auf diese Weise durch den Telefonassistenten zB ein ungewollter und ungerechtfertigter Kulanz-Voucher in vierstelliger Höhe bereitgestellt wird. Beweisrechtlich und prozessual wäre das ausgesprochen prickelnd. Und auch im Rahmen eines eventuellen Regresses gegen den Anbieter wäre es, von der technischen und wirtschaftlichen Blamage abgesehen, nicht ohne rechtliche Brisanz.
Freiburg/Br. im Juli 2026