KI in der Kanzlei: Verträge, Datenschutz, Gerichte – worauf es jetzt ankommt

Künstliche Intelligenz hält in Kanzleien zunehmend Einzug in die tägliche Arbeit – sei es bei der Vertragsgestaltung, der Dokumentenanalyse oder der Aufbereitung juristischer Inhalte. Damit wachsen nicht nur die Einsatzmöglichkeiten, sondern auch die rechtlichen und praktischen Fragen: Welche Tools dürfen genutzt werden? Wo liegen die Grenzen bei Datenschutz und Berufsrecht? Welche Anforderungen ergeben sich aus dem AI Act – und wie gehen Gerichte bislang mit dem Nachweis und der Bewertung von KI-Einsatz um? Im zweiten Teil des Interviews ordnet Tom Braegelmann die wichtigsten Problemfelder ein und zeigt, worauf Kanzleien jetzt besonders achten sollten. 

Bei KI-Verträgen stellt sich oft schon die Grundfrage: Worum geht es hier eigentlich rechtlich – Werkleistung, Dienstleistung oder Lizenz? Warum ist diese Einordnung so entscheidend?

Die Frage zielt nicht auf den Einsatz von KI im Mandat, sondern auf den Bezug von KI-Leistungen durch die Kanzlei – etwa von einem deutschen Anbieter, der Berufsrechts- und Datenschutzkonformität gewährleistet, oder von ausländischen Dienstleistern. Maßgeblich ist dabei stets die Frage nach der geschuldeten Leistung: Schuldet der Anbieter ein perfektes Ergebnis oder lediglich eine KI-Leistung mittlerer Art und Güte, die der Auftraggeber selbst zu finalisieren hat? 

Die Antwort hängt auch davon ab, ob ein generisches Werkzeug genutzt oder die KI eines bestimmten Anbieters für spezifische Zwecke eingebettet wird. Denkbar ist etwa der Betrieb einer Telefonhotline mittels Sprach-KI; mit modernen Sprachagenten funktioniert das mittlerweile bemerkenswert zuverlässig. Es stellt sich dann die Frage, ob der Anbieter auch die tatsächliche Funktionsfähigkeit des Systems schuldet. Hinzu kommt, dass KI-Anwendungen nahezu immer in digitale Workflows eingebunden sind: Eine Sprach-KI allein genügt nicht – sie muss Daten abfragen und das Gespräch bei Bedarf an einen menschlichen Bearbeiter übergeben können. 

Schließlich tritt die lizenzrechtliche Dimension hinzu: Darf der Output überhaupt verwendet werden, und besteht daran ein eigenes Urheberrecht? Vielfach wird vertreten, KI-generierter Output sei nicht urheberrechtlich geschützt; das kann zutreffen, hängt aber von der Eingabequalität und vom Umfang der eigenen Bearbeitung ab. Wer einen eigenen Text mit KI lediglich stilistisch überarbeitet, hat daran selbstverständlich ein Urheberrecht. Viele Anbieter räumen den Kunden zwar ausdrücklich Rechte am Output ein. Das wird allerdings problematisch, wenn die KI versehentlich Inhalte erzeugt, die ein urheberrechtliches Plagiat darstellen: Der Anbieter mag Rechte versprechen, kann sie aber nicht wirksam verschaffen. Hier stellen sich also erhebliche dogmatische Folgefragen, bei denen Vorsicht geboten ist. 

Wo liegen in der KI-gestützten Vertragsgestaltung derzeit die größten Risiken?

KIs schreiben immer in dem, was sie für die bestmögliche Lösung halten. Ohne Anbindung an juristische Datenbanken oder Vertragsformulare können sie aber nicht verlässlich beurteilen, ob ihre Klauseln einem Marktstandard und der aktuellen Rechtslage entsprechen. Häufig wird das gleichwohl der Fall sein, weil die führenden KIs inzwischen sehr leistungsfähig sind und einige deutsche Anbieter ihre Systeme mit juristischen Inhalten trainieren. Entscheidend bleibt aber der Anschluss an verlässliche Quellen. 

Selbst dann gilt: Eine Klausel kann theoretisch hervorragend formuliert sein und im konkreten Fall dennoch nicht passen. Sie mag sich in die Vertragslogik einfügen, ohne der realen Lebenssituation der Parteien gerecht zu werden. Jeder Vertrag will die Wirklichkeit möglichst vollständig und stimmig abbilden – genau daran kann eine KI im Einzelfall scheitern. Genau das kann die KI nicht wissen. Selbst die sauberste sprachliche und systematische Klauselformulierung, die alle Folgeänderungen mitzieht, kann fachlich am Thema vorbeigehen und auf eine falsche Fährte führen. 

Ein sorgfältig arbeitender Mensch würde einen solchen Fehler in der Regel nicht machen. Die manuelle Vertragsarbeit kann zwar ebenfalls scheitern, etwa weil der Bearbeiter den Vertrag nicht versteht; ein wirklich durchdachter Vertrag bietet aber die Gewähr, dass die Lösung nicht völlig danebenliegt, weil der Mensch zugleich die ungeschriebenen Sachverhalte mitbedenkt, die hinter dem Vertrag stehen. Genau das entzieht sich der KI. Die Gefahr liegt daher gerade in der sprachlichen Brillanz: Eine Klausel klingt häufig so überzeugend, dass man sie unbesehen übernimmt. 

Spätestens beim Thema Datenschutz, Berufsrecht und Geheimnisschutz wird es für Kanzleien heikel. Wo unterschätzen viele die Risiken noch?

Manche Kanzleien meinen, sie könnten Verbraucher-KI wie ChatGPT, Claude oder Perplexity einsetzen, wenn sie nur einige Namen in Dokumenten schwärzen. Das trifft nicht zu: Auch mit geschwärzten Namen lässt sich häufig noch erschließen, worum es in einem Dokument geht und welche Personen betroffen sind. Erforderlich ist daher eine KI, die gleichsam einen rechtlichen Schutzmantel bildet, also berufs- und datenschutzrechtlich tragfähig ausgestaltet ist. 

Gerade bei amerikanischen Anbietern ist das nicht trivial. Ab einer gewissen Mandantengröße erhält man dort zwar regelmäßig eine Auftragsverarbeitungsvereinbarung nach Art. 28 DSGVO; deutlich seltener ist hingegen eine Vereinbarung nach § 203 StGB und § 43e BRAO erhältlich. Für andere freie Berufe gelten parallele Regelungen in den jeweiligen Berufsgesetzen. Das ist insofern problematisch, als der Gesetzgeber 2017 mit der Einbeziehung mitwirkender Personen gerade die rechtliche Grundlage dafür geschaffen hat, dass Anwälte Cloud-Dienstleistungen rechtssicher nutzen können – vorausgesetzt, sie schließen mit einem geeigneten Anbieter einen Vertrag, der diesen insbesondere auf die strafrechtlichen Risiken verpflichtet. Für kleinere Kanzleien ist das bei vielen US-Anbietern schwierig umzusetzen, wenngleich es durchaus Dienstleister gibt, die diese Anforderungen erfüllen. 

Ein weiteres Missverständnis besteht in der Annahme, US-amerikanische KI sei generell unzulässig, weil Behörden auf Cloud-Inhalte zugreifen könnten. Die bloße Zugriffsmöglichkeit von Behörden – das gilt im Übrigen auch für deutsche Behörden – steht nach dem Verständnis vieler führender Strafrechtsexperten dem Abschluss einer Vereinbarung nach § 203 StGB und § 43e BRAO und der anschließenden Nutzung nicht entgegen, die theoretische Zugriffsmöglichkeit entscheidet die Frage allein nicht. Selbstverständlich ist aber genau zu prüfen, mit welchem Dienstleister kooperiert wird. 

Bietet die Kanzlei selbst keine geeigneten Werkzeuge an, weichen Mitarbeiter erfahrungsgemäß auf sogenannte Schatten-KI aus. Auch das ist ein erhebliches Problem – insbesondere dann, wenn der Arbeitgeber dieses Verhalten wissentlich duldet. 

Der AI Act wird ab August 2026 in weiten Teilen praktisch relevant. Was sollten Kanzleien und Vertragsgestalter jetzt vorbereiten, statt erst kurz vorher zu reagieren?

Derzeit zeichnet sich politisch eine erneute Verschiebung einzelner Fristen ab. Formal ist die KI-Verordnung („AI Act“, auch KIVO oder KI-VO abgekürzt) der EU als Produktsicherheitsgesetz längst in Kraft; nach und nach werden jedoch weitere Bereiche scharfgeschaltet. Grundsätzlich ist es sehr gut, dass die EU die Produktsicherheit von KI EU-weit geregelt hat, um einen Binnenmarkt für KI-Produkte/-Dienstleistungen zu schaffen und reale Risiken einzuhegen. Die Transparenzpflichten des AI Act werden ab August 2026 praktisch relevant. Anwaltliche Schriftsätze oder Vertragsentwürfe, die in aller Regel nicht öffentlich sind und zudem einer fachlichen Kontrolle unterliegen, also im Prinzip fast alle anwaltlichen Erzeugnisse, die nicht Werbung sind, fallen jedoch nicht unter die Transparenzpflichten des AI Act, auch nicht nach Art. 50 Abs. 4 UA 2 KIVO. 

Soweit Pflichten praktisch relevant werden, treffen sie meist die Kanzleien selbst, weil diese die Systeme als Betreiber im Sinne des AI Act einsetzen. Der AI Act unterscheidet zwischen Anbietern – den großen Herstellern – und Betreibern, die die Tools nutzen. Letztere sind gerade nicht nur Endnutzer im technischen Sinne, sondern auch Kanzleien als Organisationseinheiten; das ist im Blick zu behalten. 

Praktisch wichtig sind sodann die Verbote. Mit Blick auf Art. 5 KIVO, der bösartige KI verbietet, ist allerdings unwahrscheinlich, dass Kanzleien überhaupt KIs einsetzen, die unter diese Verbotskategorien fallen. Relevanter ist Art. 6 i.V.m. Anhang III KIVO, der bestimmte Hochrisiko-KI-Anwendungen typisiert. „Hochrisiko“ bedeutet dabei nicht, dass die KI als solche gefährlich oder unzulässig wäre; die EU lässt den Einsatz vielmehr unter bestimmten Auflagen zu, etwa hinsichtlich Grundrechtsschutz, Konformitätsbewertung und Meldepflichten. Über den sogenannten KI-Omnibus könnten hier noch weitere Ausnahmen geschaffen werden; das bleibt abzuwarten. 

Praktisch relevant wird das insbesondere im Personalbereich: Werden Stellenanzeigen oder Mitarbeiterdaten mit KI ausgewertet, gerät man rasch in den Bereich der Hochrisiko-KI. Das betrifft auch Kanzleien, soweit sie im arbeitsrechtlichen Bereich oder intern in größerem Umfang entsprechende Anwendungen einsetzen. Beherrschbar ist das aber. 

Anhang III KIVO nennt zudem den Justizbereich. Auch wenn Anwälte Organe der Rechtspflege sind, fallen sie damit nicht ohne Weiteres unter „Justiz“ in diesem Sinne. Da der AI Act Unionsrecht ist, sind seine Begriffe autonom-unionsrechtlich auszulegen; ein deutsches Begriffsverständnis ist nicht zwingend maßgeblich. Nach herrschendem Verständnis ist anwaltlicher KI-Einsatz aber regelmäßig keine Hochrisiko-Justiz-KI im Sinne des AI Act. 

Entscheidend ist letztlich die KI-Kompetenz nach Art. 4 AI Act. Eine KI-Schulungspflicht gibt es in dem Sinne zwar nicht. Eine Kanzlei, die als Betreiberin KI-Leistungen eines Anbieters nutzt, benötigt aber ganz pragmatisch eine interne KI-Richtlinie. Die muss klarstellen, was mit den Tools zulässigerweise gemacht werden darf, wie der Output einzuordnen ist und wie verhindert wird, dass eine an sich zulässige KI in einer Weise eingesetzt wird, die sie zur Hochrisiko-KI werden lässt. Genau das ist die eigentliche Krux: Ob etwas Hochrisiko-KI ist, hängt teilweise von der konkreten Nutzungsart ab. Mit demselben Werkzeug lässt sich eine einfache Klageerwiderung in einer Zahlungsklage formulieren – oder eine Stellenanzeigenauswertung durchführen. Interne Richtlinien und klare Zweckbestimmungen sind daher entscheidend, um zu verhindern, dass Mitarbeiter informell in regulatorisch sensible Anwendungsbereiche hineingleiten. 

Gibt es aktuelle Entscheidungen, an denen sich besonders deutlich zeigt, wie unsicher Gerichte beim Nachweis und bei der Bewertung von KI-Einsatz noch sind?

Bekannt geworden sind mehrere Entscheidungen des Verwaltungsgerichts München, in denen Studierende Probleme bekamen, weil ihre prüfungsrelevanten Arbeiten von ihrer bisherigen Leistungsfähigkeit oder ihrem Stil deutlich abwichen. Daraus wurde relativ zügig auf einen unzulässigen KI-Einsatz geschlossen. Selbstverständlich dürfen Studierende nicht täuschen; gleichwohl wirkte es in einigen Verfahren so, als sei der KI-Einsatz schon als solcher „verdächtig“. (Die Nutzung von KI ist dabei nicht per se problematisch; entscheidend ist, wie sie konkret eingesetzt wird.)  

Im Kern geht es ohnehin nicht um das Werkzeug, sondern um die Täuschung selbst: Ob mit elterlicher Hilfe, durch einen Ghostwriter, durch Freunde oder durch KI – entscheidend ist allein, ob eine eigenständige Prüfungsleistung vorliegt. Der Einsatz eines bestimmten Tools ist nicht per se anders zu bewerten als ein anderes Hilfsmittel. Daran zeigt sich, dass Gerichte mit der technischen Einordnung von KI noch erkennbar ringen. Schon ein Blick in den AI Act offenbart die Schwierigkeit einer tragfähigen Definition. Man hätte sich gewünscht, dass Gerichte es sich an dieser Stelle nicht zu leicht machen mit dem Schluss: Die Leistung war besser als zuvor, also war KI im Spiel, also liegt eine Täuschung vor. Eine solche Indizienkette mag im einstweiligen Rechtsschutz tragen; dogmatisch überzeugt sie nicht. 

Neuere Entscheidungen lassen erkennen, dass die Gerichte inzwischen sorgfältiger argumentieren und im Prüfungsrecht stärker die eigentliche Frage in den Mittelpunkt rücken: Wann liegt tatsächlich eine Täuschung vor? Das ist der richtige Ansatz, weil die eingesetzten Mittel lediglich Indiz sind, der Maßstab aber die Eigenständigkeit der Prüfungsleistung ist. 

Vergleichbare Schwierigkeiten zeigen sich im Urheberrecht. In einem Münchener Verfahren wurde der GEMA Recht gegeben, weil die KI Inhalte memorisiert habe – wenn auch nicht in der klassischen Form einer Datenbank. Das ist konsequent und nachvollziehbar, soweit die KI urheberrechtlich geschützte Inhalte reproduzieren kann; zugleich werden über die technische Einordnung noch erhebliche Debatten geführt werden. Umstritten bleibt zudem, ob und inwieweit KI-Output oder Prompts urheberrechtlich geschützt sein können. Eine Münchener Entscheidung tendierte dazu, dies zu verneinen; der Output war dort allerdings sehr schlicht, und der Fall wirkte fast wie ein bemühter Testfall. Genau das ist immer problematisch: bad cases make bad law. 

Welche Unsicherheiten erleben Sie in der Beratung derzeit am häufigsten und welche davon stehen auch im Mittelpunkt Ihres Webinars „KI – Aktuelle Rechtsprechung, Vertragspraxis und Compliance 2025/2026“?

Unsicherheiten bestehen zunächst hinsichtlich der Frage, welche KI überhaupt eingesetzt werden darf: Was gilt unter dem US-Cloud Act? Welche Vereinbarungen sind datenschutz- und berufsrechtlich erforderlich? Hinzu kommt einerseits Skepsis – „was kann das überhaupt?“ – und andererseits Überforderung, weil viele Systeme auf den ersten Blick ähnlich wirken (Sprachmodelle, Transformer, Prompts), in ihrer Leistungsfähigkeit aber erheblich voneinander abweichen. Manche Systeme bringen exzellente juristische Datenbanken mit, andere ausgereifte Workflows, einige schreiben besser, andere haben ihre Stärken an anderer Stelle. 

Es besteht also eine gewisse Überforderung durch die schiere Vielfalt der Tools. Viele Kanzleien testen vier oder fünf Systeme und nutzen letztlich nicht eines, sondern zwei oder drei parallel, um Stärken und Schwächen der Anbieter auszugleichen. Darauf gehe ich im Webinar selbstverständlich ein – ebenso auf die Frage, wie sich der Einsatz pragmatisch und zugleich rechtskonform organisieren lässt. 

Maßgeblich bleibt dabei stets die Werteordnung der jeweiligen Kanzlei, ihre Sensibilitäten und ihre tatsächliche Kanzleiphilosophie – und natürlich die Mandantenstruktur. Bei Mandanten mit insiderrechtlicher Relevanz sind gänzlich andere Anonymisierungsanforderungen einzuhalten; umgekehrt kann eine Kanzlei den KI-Einsatz auch auf solche Aufgaben beschränken, die datenschutz- und berufsrechtlich vergleichsweise unbedenklich sind, etwa das Ausformulieren juristischer Begründungen ohne personenbezogene Daten und Mandatsgeheimnisse. 

Auch hier gilt: Die neue Technik ersetzt die Arbeitskraft und Intelligenz der Anwältinnen und Anwälte nicht; sie transformiert ihre Arbeit. Die in der Beratung regelmäßig gestellte Frage, ob KI Zeit spart, lässt sich nicht pauschal beantworten. Häufig genügt es bereits, dass die KI schlicht bessere Werkzeuge bereitstellt als die bisher verfügbaren. 

Bleibt ein letzter zentraler Punkt: Wie lassen sich diese – durchaus leistungsfähigen – KIs an die bestehende Legacy-E-Akte anbinden? Voraussichtlich wird dies 2026 in erheblichem Umfang dadurch gelöst, dass E-Akten-Anbieter entweder eigene KI-Tools integrieren oder ihre Systeme stärker für Drittlösungen öffnen. Derzeit ist das aber noch ein ganz wesentlicher Knackpunkt. 

Besten Dank, Tom Braegelmann für das Gespräch. Für Kanzleien wird die entscheidende Frage in den kommenden Monaten nicht sein, ob sie mit KI arbeiten, sondern unter welchen Rahmenbedingungen. Wer Datenschutz, Berufsrecht, Vertragsfragen und interne Regeln früh mitdenkt, schafft die Grundlage für einen praxistauglichen und rechtssicheren Einsatz. Genau darin liegt derzeit die eigentliche Herausforderung – und zugleich die Chance, KI nicht nur technisch, sondern auch organisatorisch klug in die Kanzleiarbeit zu integrieren. 

Das Gespräch führte Julia Schmidt