Hamm ist eine altehrwürdige Bergbaustadt in Nordrhein-Westfalen mit rund 180.000 Einwohnern. Hamm ist aber auch eine alte Gerichtsstadt, an der heute das größte Oberlanddesgericht (OLG) Deutschlands angesiedelt ist. Dieses Gericht fällte am 12. Mai dieses Jahres ein richtungsweisendes Urteil. Demnach ist ein Unternehmen uneingeschränkt auch für die Aussagen eines KI-Chatbots verantwortlich, die dieser in seinem Namen und Auftrag erstellte. Vor allem dann, wenn diese Aussagen falsch sind und nicht der Wahrheit, der tatsächlichen Faktenlage entsprechen. Der Bot also halluziniert. Das Hammer OLG stufte die KI rechtlich als Werkzeug des Betreibers und nicht als eigenständigen Dritten ein.
Die Verbraucherzentrale Nordrhein-Westfalen hatte gegen eine Schönheitsklink geklagt, die laut Urteil falsche Facharztbezeichnungen verwendet hatte und diese künftig nicht mehr einsetzen darf. Der Chatbot hatte nicht nur in Texten auf der Website des Unternehmens den beiden Betreibern falsche ärztliche Bezeichnungen zugeordnet, sondern auch auf Kundenanfragen online mit solchen Facharztbezeichnungen geantwortet. Die KI schrieb beispielsweise von „Fachärzten für plastische und ästhetische Chirurgie“ oder „Fachärzten für ästhetische Medizin“. Die Ärzte verfügten aber weder über diese Titel, noch gibt es sie laut den Richtlinien der deutschen Ärztekammer.
Die verurteilten Ärzte hatten vor Gericht behauptet, sie hätten den Chatbot ausschließlich mit richtigen Informationen gefüttert. Dennoch nahm sie das OLG Hamm mit seinem Urteil in die Verantwortung. Der Chatbot sei rechtlich betrachtet Teil der geschäftlichen Organisation des Unternehmens, kein unabhängiger „Dritter”, für dessen Handlungen und Formulierungen die Betreiber nicht verantwortlich seien.
Auch wenn das Hammer Urteil noch nicht rechtskräftig ist – der deutsche Bundesgerichtshof (BGH) hat Revision eingelegt – scheint es richtungsweisend, weil es eine Grundsatzfrage zum Einsatz von KI betrifft. Wie weit jemand für die von seiner künstlichen Intelligenz oder in seinem Auftrag von einer KI generierten Inhalte verantwortlich ist. Bisher fehlt es weitgehend an einschlägiger Rechtssprechung, doch Streitigkeiten rund um künstliche Intelligenz landen mit deren verstärktem Einsatz auch immer öfter vor Gericht.
Zumindest in Hamm und in Deutschland, aber möglicherweise weit darüber hinaus gilt nun: Erzählt der Chatbot Unsinn, haftet für dessen Halluzinationen, wer ihn einsetzt. Die KI ist nicht für sich selbst verantwortlich und damit nicht haftbar, ist somit juristisch gesehen keine eigenständige Person. Noch liegt ihre systematische und technisch Kontrolle und damit auch die Verantwortung bei den Menschen.
