Sullivan & Cromwell entschuldigt sich vor Gericht, nachdem KI falsche Rechtszitate generiert

TLDR

• Renommierte Anwaltskanzlei reicht Gerichtsdokument mit KI-gefälschten Zitaten ein

• Sullivan & Cromwell räumt Verifizierungsfehler in Insolvenzfall ein

• KI-generierte Ungenauigkeiten gefährden Einreichung beim Bundesgericht

• Gegnerische Anwälte entdecken gefälschte Rechtsprechung in Gerichtseinreichung

• Vorfall unterstreicht dringenden Bedarf an verbesserten KI-Validierungsprotokollen

Der Rechtsberufsstand sieht sich erneuter Kritik hinsichtlich der Zuverlässigkeit künstlicher Intelligenz ausgesetzt, nachdem einer der führenden amerikanischen Anwaltskanzleien ein erheblicher Fehler unterlaufen ist. Sullivan & Cromwell hat öffentlich eingeräumt, ein Gerichtsdokument eingereicht zu haben, das mit KI-gefälschten Fallzitaten und ungenauen Rechtsquellen durchsetzt war. Der Vorfall hat die Kanzlei dazu veranlasst, eine umfassende interne Untersuchung ihrer KI-Sicherheitsvorkehrungen durchzuführen.

Gefälschte Zitate gefährden Einreichung beim Bundesgericht

Die renommierte Anwaltskanzlei entdeckte erhebliche Mängel in einem Chapter-15-Insolvenzschriftsatz im Zusammenhang mit dem Prince-Group-Rechtsstreit. Systeme künstlicher Intelligenz erzeugten fiktive Fallverweise und analysierten Bestimmungen des US-amerikanischen Insolvenzrechts fehlerhaft. Diese Fälschungen wurden in Unterlagen aufgenommen, die einem New Yorker Bundesinsolvenzgericht vorgelegt wurden.

Andrew Dietderich, der die Restrukturierungsabteilung der Kanzlei leitet, übernahm persönlich die Verantwortung für die Mängel des Dokuments. Er bestätigte, dass die Kanzlei zwar über etablierte KI-Nutzungsrichtlinien verfügt, diese Protokolle bei der Erstellung dieses speziellen Dokuments jedoch nicht eingehalten wurden. Die Organisation hat seither Korrekturmaßnahmen ergriffen, um das Wiederauftreten KI-gesteuerter Fehler in künftigen Rechtseinreichungen zu vermeiden.

Boies Schiller Flexner, das die gegnerischen Parteien vertritt, stellte Unstimmigkeiten fest und brachte diese zur Kenntnis des Gerichts. Die Prüfung ergab, dass bestimmte referenzierte Fälle vollständig inexistent waren oder völlig irrelevante Gerichtsentscheidungen zitiert wurden. Daraufhin reichte die Kanzlei eine überarbeitete Fassung mit Anmerkungen ein, die die KI-erzeugten Fehler klar kennzeichnen.

Verifizierungsfehler verdeutlichen systemische KI-Herausforderungen

Diese Episode verdeutlicht die weit verbreiteten Schwierigkeiten, mit denen Anwaltskanzleien konfrontiert sind, die künstliche Intelligenz zur Produktivitätssteigerung und Fallbearbeitung einsetzen. Zahlreiche Rechtsanwaltskanzleien setzen KI-Systeme für die juristische Recherche und Dokumentenerstellung ein, doch unzureichende Verifizierungsprotokolle erzeugen weiterhin Schwachstellen. Rechtsexperten müssen die Spannung zwischen betrieblicher Effizienz und Präzision meistern, wenn sie KI in ihre Arbeitsabläufe integrieren.

Sullivan & Cromwell hat erklärt, strenge KI-Nutzungsrichtlinien durchzusetzen, einschließlich einer obligatorischen menschlichen Überprüfung aller KI-generierten Materialien. Die Kanzlei räumte ein, dass die Qualitätskontrollmechanismen in diesem Fall versagt haben und fehlerhafte Inhalte unkontrolliert weitergeleitet wurden. Der Vorfall hat die Prüfung von KI-Governance-Rahmenbedingungen in kritischen rechtlichen Kontexten verstärkt.

Branchendaten zeigen eine zunehmende Häufigkeit von KI-Halluzinationen in Gerichtseinreichungen, insbesondere im Zusammenhang mit erfundenen Rechtspräzedenzfällen. Untersuchungen dokumentieren weltweit mehr als 1.300 solcher Vorfälle, wobei die Mehrzahl auf amerikanische Gerichte entfällt. Dieses aufkommende Muster unterstreicht den Imperativ für strengere Authentifizierungsmechanismen beim Einsatz von KI in rechtlichen Dokumentationsprozessen.

Auswirkungen reichen über den Einzelfall hinaus

Der Prince-Group-Rechtsstreit dreht sich um Vorwürfe weitreichender Betrugsschemata, die Zwangsarbeitspraktiken und finanzielles Fehlverhalten umfassen. US-amerikanische Staatsanwälte haben sowohl Strafverfahren als auch Vermögensbeschlagnahmungsmaßnahmen im Zusammenhang mit den Aktivitäten der Organisation eingeleitet. Daher ist Präzision in Rechtsdokumenten bei Angelegenheiten mit komplexen transnationalen Vorwürfen von höchster Bedeutung.

Sullivan & Cromwell hat zuvor Mandanten in prominenten Angelegenheiten vertreten, darunter das Insolvenzverfahren der FTX-Börse. Die Kanzlei berechnet Premiumhonorare und bearbeitet anspruchsvolle Restrukturierungsfälle über mehrere Rechtszuständigkeiten hinweg. Diese KI-bezogene Panne hat Anfragen zur Qualitätskontrolle in großen Rechtsunternehmen ausgelöst.

Die Kanzlei führt ihre laufende interne Untersuchung fort und überprüft gleichzeitig Schulungsprogramme und Compliance-Rahmenbedingungen für den Einsatz künstlicher Intelligenz. Ihr Ziel umfasst die Stärkung von Schutzmaßnahmen und die Verbesserung der Verantwortlichkeit in allen Dokumentenerstellungsworkflows. Da die Integration künstlicher Intelligenz sich beschleunigt, sieht sich die Rechtsbranche wachsenden Erwartungen gegenüber, Zuverlässigkeit zu gewährleisten und kostspielige Fehler zu vermeiden.

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.