Virtuelle Assistenten und Chatbots können die Kommunikation mit Kunden revolutionieren. Doch so viele Chancen diese Lösungen für Unternehmen auch bieten, gibt es beim Einsatz noch immer rechtliche Fallstricke.

Geht es nach den Anbietern, werden automatisierte Systeme – sogenannte Chatbots – immer größere Teile der Kommunikation mit den Kunden übernehmen, denn sie verspricht hervorragende Einsparungseffekte im Kundenservice. Ein Beispiel wäre ein Chatsystem auf der Internetseite des Unternehmens. Hier werden Fragen der Kunden in Einzelteile zerlegt, analysiert, verarbeitet und eine möglichst passende Antwort an den Kunden zurückgespielt.

Doch inwieweit die rechtlichen Rahmenbedingungen mit dem technologischen Wandel der schlauen Assistenten Schritt halten, ist fraglich. Bestimmte Rechtsfragen sind nach heutigem Stand noch nicht abschließend zu bewerten. Diese Fragen betreffen beispielsweise die Haftung – also Konstellationen, in denen virtuelle Assistenten fehlerhaft programmiert sind und es zu falschen Auskünften oder gar Schäden kommt. Die Haftung autonom agierender Systeme, also letztlich auch virtueller Assistenten, ist ein in der Rechtswissenschaft kontrovers diskutiertes Thema. Im Kern geht es dabei einerseits um die Frage, ob und wem das fehlerhafte Funktionieren eines autonomen Systems zugerechnet werden kann. Andererseits wird aber auch danach gefragt, wie denn der Nutzer überhaupt beweisen kann, dass ein virtueller Assistent fehlerhaft funktioniert hat. Letzteres ist zunächst auch ein tatsächliches Problem heutiger komplexer IT-Systeme. Denn wenn Assistenten eigenständig Entscheidungen fällen, kann es sein, dass nicht einmal der Betreiber reproduzieren kann, wieso ein virtueller Assistent fehlerhaft funktioniert hat.

Vor dem Hintergrund der Haftung für autonome Systeme werden auch Stimmen laut, für selbstständig agierende Computersysteme eine Versicherungspflicht einzufordern. Dies sieht das deutsche Recht schon heute beispielsweise für Fahrzeuge oder Anhänger im Straßenverkehr vor. Ob dies allerdings für im Kundenservice eingesetzte virtuelle Assistenten, die auf den ersten Blick einen relativ überschaubaren Schaden verursachen können, erscheint fraglich. Schließlich gibt das System lediglich Auskünfte, die heute ein Servicemitarbeiter am Telefon gibt.

EU sieht Handlungsbedarf bei Robotik und künstlicher Intelligenz

Auch auf europäischer Ebene wird bereits darüber nachgedacht, wie mit den Risiken und Chancen der künstlichen Intelligenz umgegangen werden soll und beispielsweise welche Sicherheitsstandards einzuhalten sind. Die Abgeordneten des Europäischen Parlamentes legten Anfang des Jahres einen Bericht über zivilrechtliche Regelungen zur Robotik vor. Sie forderten die Europäische Kommission im Rahmen einer Entschließung dazu auf, in der Europäischen Gesetzgebung im Bereich Robotik und künstliche Intelligenz umfassender tätig zu werden. Die Abgeordneten forderten die Kommission auch dazu auf, einen speziellen rechtlichen Status für Roboter zu schaffen. Damit soll geklärt werden, wer im Schadensfall haftet.

Virtuelle Assistenten in Online-Shops – Hinweise für Händler

Parallel zu diesen Themen stellen sich schon heute beim Einsatz ganz praktische Probleme. Richtet sich ein Online-Shop an Verbraucher, hat der Betreiber beispielsweise Informationspflichten vor unmittelbarer Abgabe der Bestellung zu erfüllen. Schon heute sind Ausnahmen für die sogenannte individuelle Kommunikation vorgesehen. Bestellt der Verbraucher also direkt über eine versendete E-Mail, greifen Ausnahmen. Der Gesetzgeber hatte als Beispiel für eine solche individuelle Kommunikation auch Chats im Auge. Ob damit aber auch die Fälle erfasst sein sollen, bei denen gar kein menschlicher Gegenpart mit dem Kunden über den Chat kommuniziert – also virtuelle Assistenten den Kundendienstmitarbeiter ersetzen – ist fraglich. Man könnte argumentieren, dass der virtuelle Assistent keine individuelle, sondern eine technisch vorgegebene Kommunikation darstellt. Andererseits könnte es auch praktisch schwierig werden, wenn in einem Chatfenster der virtuelle Assistent zunächst vor Finalisierung der Bestellung die Pflichtangaben in einem kleinen Textfenster darstellt. Hier ist am Ende des Tages auch der Gesetzgeber gefragt, klarstellende Regelungen zu schaffen, die mit dem technologischen Wandel Schritt halten.