Prompts – also die menschlichen Handlungsanweisungen für ein KI-System – sind mehr als einfache Textbausteine: Sie transportieren Kontext, Aufgabenstellung, Wissensverknüpfungen und Compliance-Anforderungen. Wer sie nicht systematisch organisiert, läuft Gefahr, im Wildwuchs unstrukturierter KI-Möglichkeiten zu versinken. So wird ihr Einsatz schnell zur zusätzlichen Belastung, statt die Produktivität zu erhöhen.
Ein unterschätztes Gut: Prompts sind wertvolle Daten
Egal, ob man ChatGPT, Microsoft Copilot oder einen spezifischen Legal AI Workspace nutzt – der richtige Prompt ist entscheidend für ein gutes Ergebnis. Denn ein präzise formulierter Prompt kann den Unterschied machen zwischen einer oberflächlichen Textausgabe und einer verwertbaren, rechtlich belastbaren Analyse. Hinzu kommt ein rechtlicher Aspekt: Prompts enthalten oftmals sensible Daten. Ein solides Prompt-Management-System kann hierauf aufmerksam machen und darauf hinweisen, den Prompt lediglich in hierfür freigegebenen Systemen zu nutzen.
Gerade in Kanzleien, die auf Genauigkeit, Nachvollziehbarkeit und Vertraulichkeit angewiesen sind, reicht es daher nicht, Prompts beliebig abzulegen. Sie sollten vielmehr an zentraler Stelle versioniert, kategorisiert, validiert und sicher verwahrt werden. Insoweit ähneln sie Mandantendaten und internen Wissensdokumenten. Sie sind damit etwa mit jahrelang gepflegten rechtsgebiets- und aufgabenbezogenen Vorlagen und Templates vergleichbar. Man denke beispielsweise an Prompts zur Erstellung einer fristlosen Kündigung auf Basis einer E-Mail der Mandantin oder zur chronologischen Aufbereitung eines Schriftsatzes der Gegenseite in privaten Baurechtsstreitigkeiten.
Vom Wildwuchs zur Struktur
Die Praxis zeigt: Erste Versuche, Prompts in Word- oder Excel-Dateien zu sammeln, mögen für kleine Teams und vereinzelte Anwendungsfälle ausreichen. Doch im Laufe der Zeit steigt die kanzleiweite Erfahrung mit KI-Anwendungen, die Anzahl der Anwendungsfälle sowie die Komplexität der einzelnen Prompts. Daher stößt diese Form der Dokumentation schnell an ihre Grenzen. Es genügt nicht mehr, sie unstrukturiert abzulegen, sondern es braucht eine Verwaltung, die den gesamten Lebenszyklus eines Prompts berücksichtigt. Denn Prompts verändern sich im Laufe der Zeit mit ihrer Umgebung: Anforderungen neuer KI-Systeme sowie Gesetzesänderungen wollen ebenso eingepflegt werden wie sich verändernde Stilanforderungen der jeweiligen Benutzerinnen und Benutzer.
Bereits heute gibt es spezialisierte Prompt-Verwaltungssoftware, die auf diese Anforderungen zugeschnitten ist und sich in Kanzlei-Workflows integrieren lässt. Vereinzelt hört man auch von Kanzleien, die ihre Software selbst programmieren, um sie bestmöglich an ihre Bedürfnisse anzupassen. Auch die Open-Source-Community bietet hier mit vielseitigen Projekten erste Anknüpfungspunkte. All diese Lösungen bieten zudem den Vorteil, dass die jeweilige Kanzlei unabhängiger von einzelnen KI-Tools wird. Denn die erarbeiteten Prompts stehen zentral abrufbar zur Nutzung in allen Systemen zur Verfügung. Wechselt die Kanzlei den Anbieter oder nutzt verschiedene KI-Tools parallel, bleiben die entwickelten Prompts erhalten und für alle Mitarbeiterinnen und Mitarbeiter nutzbar.
Personelle Konsequenzen: Neue Rollen und Verantwortlichkeiten
Mit dem Aufbau solcher Strukturen stellt sich auch die Frage nach klaren Zuständigkeiten. Die Verwaltung von Prompts ist keine bloße Nebenaufgabe, sondern entwickelt sich zu einer teamübergreifenden Tätigkeit von Berufsträgern und Legal Engineers: Rechtsanwältinnen und Rechtsanwälte nutzen Prompts in der Mandatsarbeit und identifizieren etwaiges Verbesserungspotenzial. Legal Engineers treten hinzu, verbessern den Prompt aus technischer Sicht und übermitteln das Ergebnis an den Berufsträger zurück, der den verbesserten Prompt erneut prüft sowie zur kanzleiweiten Nutzung freigibt. Eine zentrale Rolle nehmen zudem Anwältinnen und Anwälte im Knowledge Management der Kanzlei ein, die dafür sorgen, dass das juristische Wissen der Kanzlei systematisch eingebettet, aktualisiert und in die jeweiligen Prompts eingepflegt wird.
Entscheidend ist, dass all diese Verantwortlichkeiten klar definiert werden, um Verbindlichkeit zu schaffen, Zuständigkeiten abzugrenzen und die Qualität des Prompt-Managements zu sichern. Damit nähern sich Kanzleien dem, was Unternehmen aus anderen Branchen längst als Data Governance etabliert haben: klare Regeln, Rollen und Prozesse, die den Umgang mit Daten – und nun eben auch mit Prompts – strukturieren.
Eine Investition in die Kanzlei
All das zeigt: Prompt-Management ist nicht nur eine Frage der Technik, sondern auch ein Instrument des Wissensmanagements. In einem Prompt steckt nicht nur die konkrete Frage, sondern auch juristisches Erfahrungswissen, das in seine Formulierung eingeflossen ist. Werden diese Eingaben zentral dokumentiert, versioniert und evaluiert, lassen sich Ergebnisse reproduzieren, vergleichen und skalieren.
Das schafft einen doppelten Nutzen: Einerseits verbessern sich Konsistenz und Qualität der Ergebnisse, welche die KI auswirft. Andererseits wird das geistige Kapital der Kanzlei in Form juristischer Expertise langfristig gesichert und für künftige Anwendungen verfügbar gemacht. Gleichzeitig verändert sich der Charakter von Wissen: Wo früher Kommentare, Handakten oder Datenbanken als wichtigste Wissensträger galten, rücken nun auch Prompts als neue Wissenseinheiten in den Fokus. Das zwingt Kanzleien, ihr Knowledge-Management kritisch zu prüfen und womöglich grundlegend zu überdenken. Denn gute Prompts sind das geistige Eigentum der jeweiligen Einheit.
Doch Prompt-Management ist nicht statisch. Die Eingaben von heute sind in wenigen Monaten möglicherweise überholt – sei es durch neue Gesetze, veränderte Mandantenanforderungen oder Weiterentwicklungen der KI-Systeme. Das Management von Prompts muss deshalb selbst dynamisch bleiben: Es verlangt regelmäßige Aktualisierungen, ständige Evaluation und die Bereitschaft, Bestehendes kritisch zu hinterfragen.
Prompts als Ausdruck juristischer Expertise
Prompt-Management berührt fundamentale Aspekte des juristischen Wissens. Wenn juristische Expertise in Zeiten von KI (auch) in Form von Prompts strukturiert wird, verändert sich dann nicht auch, was wir unter juristischem Wissen verstehen?
Prompts sind kondensierte Expertise, eine Art destilliertes Erfahrungswissen. Sie tragen Denkweisen, Argumentationsmuster und Wertungen in sich. Wer diese Eingaben sorgfältig pflegt, schafft nicht nur eine Datenbank für kommende Fälle oder Fallbestandteile, sondern prägt zugleich die Arbeitsweise der kommenden Juristengeneration mit, deren Ausbildung Kanzleien zunehmend vor wirtschaftliche Herausforderungen stellt.
Vielleicht wird man in einigen Jahren nicht mehr allein auf Kommentare, Urteile oder Handakten zurückblicken, um juristische Entwicklungen nachzuvollziehen, sondern auch auf die Archive der Prompts, die einst mit den ersten KI-Systemen eingesetzt wurden. So unscheinbar diese Daten heute auch erscheinen mögen: In ihnen könnte ein Stück Rechtsgeschichte stecken.
Fest steht: Sich frühzeitig mit professionellem Prompt-Management auseinanderzusetzen, lohnt sich. Der Aufwand ist eine Investition in die Zukunft der Kanzlei, Qualitätssicherung und, nicht zuletzt, ein Wettbewerbsvorteil.
RA Marc Ohrendorf, LL.M. (UCL, London) ist Chief of Staff des internationalen AI Management Boards von Osborne Clarke und Experte in den Bereichen Rechtstechnologie und künstliche Intelligenz. Er ist zudem Unternehmer und Podcast-Host.


