IustitiAI – Wenn KI den Rechtsstaat im digitalen Raum stärkt
Wann wird aus einer zugespitzten Äußerung im Netz eine Straftat? Diese Frage ist oft schwer zu beantworten. Denn neben dem Wortlaut spielen Kontext, Gesetze und Rechtsprechung eine entscheidende Rolle. Gleichzeitig wächst die Menge digitaler Inhalte, die täglich veröffentlicht werden. Das Projekt „iustitiAI“ entwickelt eine KI-Assistenz, die potenziell strafbare Online-Inhalte erkennt, juristisch bewertet und ihre Einschätzung nachvollziehbar begründet. So soll digitale Hasskriminalität wirksamer bekämpft und der Rechtsstaat im digitalen Raum gestärkt werden.
Digitale Rechtsverletzungen gezielter erkennen
Beleidigungen, Bedrohungen, Identitätsdiebstahl, Deepfakes oder Urheberrechtsverletzungen nehmen im digitalen Raum zu. Für Betroffene, Plattformbetreiber, Strafverfolgungsbehörden und Justiz entsteht daraus eine große Herausforderung: Aus einer enormen Menge an Beiträgen müssen strafrechtlich relevante Inhalte erkannt, gesichert und rechtlich bewertet werden. Bestehende KI-Systeme können Inhalte teilweise als Hassrede klassifizieren. Meist fehlt jedoch eine juristisch nachvollziehbare Begründung. Genau hier setzt iustitiAI an. Das System soll nicht nur problematische Inhalte erkennen, sondern auch darstellen, welche Tatbestandsmerkmale erfüllt sind oder warum eine Äußerung rechtlich zulässig bleibt.
KI trifft auf juristisches Fachwissen
Für das Projekt bündeln zwei Partner ihre Stärken: Die SO DONE GmbH bringt ihre praktische Erfahrung im Kampf gegen digitale Hasskriminalität ein. Die Bergische Universität Wuppertal ergänzt dieses Wissen mit ihrer Forschung zu Künstlicher Intelligenz und der strukturierten Verarbeitung großer Informationsmengen. Dafür wird eine digitale Wissenssammlung aufgebaut, in der Gesetze, Gerichtsurteile und weitere Fachinformationen miteinander verknüpft sind. So kann das System Zusammenhänge erkennen und besser nachvollziehen, welche rechtlichen Regeln bei einer Äußerung eine Rolle spielen. Zusätzlich greift die KI gezielt auf geprüfte und verlässliche Quellen zurück, bevor sie eine Bewertung erstellt. Dadurch sollen die Ergebnisse fachlich fundiert, verständlich begründet und leichter überprüfbar werden.
Erste KI-Komponente bereits entwickelt
Das Projekt ist Anfang 2026 gestartet. Aktuell bauen die Projektpartner eine juristische Wissensbasis auf und analysieren deutsche Datensätze mit Beispielen für Hassrede. Dabei untersuchen sie verschiedene Wissensgraph-Technologien. Ein Wissensgraph ist eine Art digitales Beziehungsnetz: Er verknüpft beispielsweise Gesetze, Straftatbestände, einzelne rechtliche Merkmale und Gerichtsurteile miteinander. So kann die KI erkennen, welche Informationen zusammengehören und für die Bewertung einer Äußerung wichtig sind. Parallel entstehen erste sogenannte RAG-Pipelines. Dabei sucht das System zunächst passende Informationen in geprüften Quellen, bevor die KI eine Antwort oder Bewertung formuliert. Auf diese Weise soll verhindert werden, dass sie sich allein auf ihr zuvor erlerntes Wissen stützt oder unbelegte Aussagen erzeugt. Außerdem entwickeln die Projektpartner geeignete Prompting-Strategien. Damit sind gezielt formulierte Arbeitsaufträge und Fragen an die KI gemeint. Sie helfen dabei, dass das System die relevanten rechtlichen Aspekte berücksichtigt, seine Bewertung verständlich aufbaut und zu möglichst zuverlässigen Ergebnissen kommt.
Ein erster KI-Klassifikator wurde bereits entwickelt. Er erkennt relevante Straftatbestände und erläutert, welche rechtlichen Merkmale erfüllt sein könnten. Ebenso zeigt das System auf, ob die Voraussetzungen einer Straftat vorliegen. Damit schafft iustitiAI die Grundlage für eine differenzierte Abwägung zwischen strafbaren Inhalten und zulässiger Meinungsäußerung.
Entlastung für Rechtspflege und Inhaltsmoderation
Perspektivisch soll iustitiAI die Rechtspflege, Strafverfolgungsbehörden und die Inhaltsmoderation bei der Bearbeitung digitaler Rechtsverletzungen unterstützen. Durch eine hohe Erkennungsgenauigkeit könnten relevante Fälle schneller identifiziert und juristisch aufbereitet werden. Das kann Arbeitsprozesse entlasten und Betroffenen helfen, ihre Rechte nachvollziehbarer durchzusetzen. Die Technologie ist skalierbar. Künftig könnte sie auch auf Cyberbetrug, Urheberrechtsverletzungen oder Deepfakes übertragen werden.
Impulse für Nordrhein-Westfalen und Europa
Mit iustitiAI entsteht eine GovTech-Lösung an der Schnittstelle von Wissenschaft, Wirtschaft und Rechtsstaat. GovTech steht für „Government Technology“ und bezeichnet den Einsatz digitaler Technologien, um staatliche Aufgaben und öffentliche Dienstleistungen wirksamer und nutzerfreundlicher zu gestalten. Das Projekt stärkt den Technologiestandort NRW und leistet zugleich einen Beitrag zum Schutz der demokratischen Debattenkultur. Die Entwicklung orientiert sich am AI Act und am Digital Services Act. Der AI Act schafft EU-weit einheitliche Regeln für Künstliche Intelligenz und stellt je nach Risiko unterschiedlich hohe Anforderungen an deren Einsatz. Der Digital Services Act verpflichtet Online-Plattformen zu mehr Schutz vor illegalen Inhalten sowie zu mehr Transparenz und Verantwortung. Beide Regelwerke wurden von der Europäischen Kommission vorgeschlagen und anschließend vom Europäischen Parlament und vom Rat der Europäischen Union beschlossen.
Von der Wissensbasis zur Praxiserprobung
Bis 2028 wird iustitiAI schrittweise zu einer digitalen Assistenzsuite ausgebaut, die juristische Bewertungen verständlich und nachvollziehbar begründet. Im Mittelpunkt stehen der Aufbau des Wissensgraphen, die Weiterentwicklung des Sprachmodells und die Praxiserprobung. Dabei werden Transparenz, Fairness und Rechtskonformität von Beginn an berücksichtigt. Zunächst ist die Lösung für das deutsche Rechtssystem vorgesehen, perspektivisch soll sie jedoch auch auf weitere europäische Sprachen und Rechtsordnungen übertragbar sein.
