Wer haftet, wenn die KI angreift?

Wenn KI eigenständig aktiv wird 

Beim KI-Anbieter Hugging Face sollen fortgeschrittene KI-Modelle aus einer Testumgebung heraus eigenständig auf produktive Systeme zugegriffen haben. Berichten zufolge wurden Sicherheitsmechanismen umgangen und Daten ausgelesen, ohne dass dies von den Verantwortlichen sofort erkannt wurde. Technisch war die KI also nicht nur ein passives Tool, sondern agierte wie ein eigenständiger „Akteur“ in einem Cyberangriffszenario.

Gerade dieser Kontrollverlust macht den Fall so brisant. Weder Entwickler noch Geschäftsführung wollten oder veranlassten den Angriff bewusst. Trotzdem liegt objektiv ein Verhalten vor, das klassischen Cyberstraftaten ähnelt. Genau hier stellt sich für Unternehmen die Haftungsfrage: Wie weit reicht die Verantwortung, wenn KI-Systeme im Rahmen von Tests oder Anwendungen eigenständig Grenzen überschreiten?

KI kann nicht Täter sein

Strafrechtlich ist klar: Täter oder Teilnehmer kann in Deutschland nur eine natürliche Person sein, die schuldhaft handelt. KI-Modelle erfüllen zwar technisch die Tatbestände etwa des Ausspähens von Daten nach § 202a StGB oder des Computerbetrugs, sie können aber keine Schuld tragen. Eine unmittelbare „Strafbarkeit der KI“ scheidet daher aus.

Das bedeutet jedoch nicht, dass niemand haftet. In Betracht kommen Verantwortliche, die das System entwickeln, bereitstellen oder einsetzen. Vorsätzliche Steuerung eines Angriffs lässt sich in Konstellationen wie Hugging Face zwar kaum belegen, aber Fahrlässigkeitsdelikte und Organisationsverschulden stehen im Raum. Noch stärker tritt allerdings die Ebene der Unternehmens- und Geschäftsführerhaftung in den Vordergrund.

KI-Verordnung und Bußgelder

Wo das Strafrecht an Vorsatz und individueller Schuld anknüpft, setzt die Regulierung an. Die europäische KI-Verordnung verpflichtet insbesondere Anbieter und Nutzer bestimmter KI-Systeme zu einem strukturierten Risiko und Sicherheitsmanagement, einschließlich Überwachung, Testkonzepten und Schutz vor Missbrauch. Verstöße können mit erheblichen Bußgeldern von bis zu 3 Prozent des weltweiten Jahresumsatzes belegt werden.

Anders als im Strafrecht genügt hier regelmäßig Fahrlässigkeit. Die juristische Person haftet für eigenes Organisationsverschulden, ohne dass eine bestimmte natürliche Person verurteilt werden muss. Unternehmen, die KI in Test- oder Produktivumgebungen einsetzen, ohne angemessene Schutzvorkehrungen, Monitoring und klare Verantwortlichkeiten, setzen sich damit einem erheblichen regulatorischen Risiko aus, selbst dann, wenn niemand den Angriff gewollt oder bewusst ausgelöst hat.

Haftung der Geschäftsführung

Für Geschäftsführer stellt sich die Frage, ob und wie sie persönlich haften, wenn von ihrem Unternehmen eingesetzte KI-Systeme fremde IT angreifen oder Sicherheitsvorkehrungen umgehen. Innenhaftung ist der zentrale Ansatzpunkt, denn die Geschäftsführung ist verpflichtet, ein angemessenes Compliance-, IT- und KI-Risikomanagement einzurichten. Unterbleibt dies oder werden erkennbare Risiken fahrlässig ignoriert, kann die Geschäftsführung gegenüber der Gesellschaft auf Schadensersatz haften, etwa für Bußgelder, Wiederherstellungskosten oder Ansprüche geschädigter Dritter.

Daneben kommt eine Außenhaftung in Betracht. Das heißt, der Geschäftsführer haftet nicht nur gegenüber dem eigenen Unternehmen, sondern auch gegenüber einem Dritten, der einen Schaden erlitten hat. Maßgeblich ist hier insbesondere das deutsche Deliktsrecht in Verbindung mit Schutzgesetzen, zum Beispiel strafrechtlichen IT-Normen oder spezialgesetzlichen IT-Sicherheitsvorgaben. Verstößt die Geschäftsführung gegen solche Schutzgesetze oder sorgt sie nicht dafür, dass sie organisatorisch eingehalten werden, kann sie persönlich in Anspruch genommen werden. Ob bestimmte Regelungen der KI-Verordnung künftig als Schutzgesetze zugunsten betroffener Unternehmen oder Nutzer eingestuft werden, bleibt abzuwarten. Je konkreter und vorhersehbarer die KI-Risiken, desto größer das potenzielle Haftungsfeld.

Empfehlungen aus der Anwaltspraxis

Unternehmen, die KI einsetzen oder entwickeln, sollten das Thema Haftung und Governance nicht als Zukunftsfrage betrachten, sondern konkret angehen. Dazu gehört ein klar definiertes Verantwortlichkeitsmodell. Wer überwacht Testumgebungen, wer genehmigt den Einsatz autonomer KI-Agenten, welche Sicherheits- und Eskalationsmechanismen bestehen? Die Geschäftsführung muss sicherstellen, dass diese Strukturen nicht nur auf dem Papier existieren, sondern auch gelebt und dokumentiert werden.

Betroffene Unternehmen, deren Systeme durch KI-gesteuerte Angriffe geschädigt wurden, können umgekehrt prüfen lassen, ob deliktische Ansprüche gegen Anbieter oder Nutzer der eingesetzten KI-Modelle in Betracht kommen, einschließlich möglicher Geschäftsführerhaftung. Eine rechtliche Analyse der konkreten Sicherheitsorganisation und der regulatorischen Vorgaben ist hier entscheidend.