Sullivan & Cromwell przeprasza sąd po tym, jak AI wygenerowało fałszywe cytaty prawne

TLDR

• Prestiżowa kancelaria prawna składa dokument sądowy z cytowaniami sfabrykowanymi przez AI

• Sullivan & Cromwell przyznaje się do błędów weryfikacji w sprawie upadłościowej

• Nieścisłości generowane przez AI kompromitują złożenie dokumentów w sądzie federalnym

• Przeciwna strona odkrywa sfabrykowane orzecznictwo w piśmie prawnym

• Incydent podkreśla krytyczną potrzebę wzmocnienia protokołów walidacji AI

Środowisko prawnicze ponownie staje w obliczu wzmożonej kontroli wiarygodności sztucznej inteligencji po poważnym błędzie popełnionym przez elitarną amerykańską kancelarię prawną. Sullivan & Cromwell publicznie przyznało, że złożyło dokument sądowy pełen sfabrykowanych przez AI cytowań spraw i niedokładnych odniesień prawnych. Incydent skłonił kancelarię do przeprowadzenia kompleksowego wewnętrznego dochodzenia w sprawie jej zabezpieczeń związanych ze sztuczną inteligencją.

Sfabrykowane cytowania kompromitują złożenie dokumentów w sądzie federalnym

Prestiżowa kancelaria prawna odkryła poważne wady w dokumencie upadłościowym na podstawie rozdziału 15, dotyczącym sporu Prince Group. Systemy sztucznej inteligencji wytworzyły fikcyjne odniesienia do spraw i nieprawidłowo przeanalizowały przepisy amerykańskiego prawa upadłościowego. Te sfabrykowane treści zostały zawarte w materiałach przedstawionych federalnemu sądowi upadłościowemu w Nowym Jorku.

Andrew Dietderich, który nadzoruje dział restrukturyzacji kancelarii, wziął osobistą odpowiedzialność za niedociągnięcia dokumentu. Potwierdził, że choć kancelaria utrzymuje ustalone wytyczne dotyczące korzystania z AI, protokoły te nie były przestrzegane podczas tworzenia tego konkretnego dokumentu. Organizacja wdrożyła od tego czasu środki naprawcze, aby uniknąć powtórzenia się błędów napędzanych przez AI w kolejnych pismach prawnych.

Boies Schiller Flexner, działający w imieniu stron przeciwnych, zidentyfikował rozbieżności i zwrócił na nie uwagę sądu. Ich analiza ujawniła, że niektóre przywoływane sprawy były całkowicie nieistniejące lub cytowały zupełnie niezwiązane orzeczenia sądowe. W konsekwencji kancelaria złożyła poprawioną wersję z adnotacjami wyraźnie identyfikującymi błędy wytworzone przez AI.

Błędy weryfikacji uwypuklają systemowe wyzwania AI

Ten epizod demonstruje powszechne trudności, z jakimi borykają się kancelarie prawne wdrażające sztuczną inteligencję w celu zwiększenia produktywności i zarządzania obciążeniem sprawami. Wiele praktyk prawniczych wykorzystuje systemy AI do badań prawnych i tworzenia dokumentów, jednak nieodpowiednie protokoły weryfikacji nadal tworzą podatności. Prawnicy muszą balansować między efektywnością operacyjną a precyzją przy wdrażaniu AI do swoich procesów pracy.

Sullivan & Cromwell oświadczyło, że egzekwuje rygorystyczne zasady korzystania z AI, w tym obowiązkowy przegląd ludzki wszystkich materiałów generowanych przez AI. Kancelaria przyznała, że mechanizmy kontroli jakości zawiodły w tej sprawie, pozwalając wadliwym treściom przejść bez sprawdzenia. Incydent wzmocnił badanie ram zarządzania sztuczną inteligencją w krytycznych kontekstach prawnych.

Dane branżowe ujawniają rosnącą częstotliwość halucynacji AI pojawiających się w pismach sądowych, szczególnie dotyczących wymyślonych precedensów prawnych. Badania dokumentują ponad 1300 takich przypadków na całym świecie, przy czym większość koncentruje się w amerykańskich sądach. Ten wyłaniający się wzorzec podkreśla konieczność stosowania bardziej rygorystycznych mechanizmów uwierzytelniania przy wdrażaniu AI w procesach dokumentacji prawnej.

Implikacje wykraczają poza odosobniony incydent

Spór Prince Group koncentruje się na oskarżeniach o rozległe schematy oszustw, obejmujące praktyki pracy przymusowej i nadużycia finansowe. Prokuratorzy Stanów Zjednoczonych wszczęli zarówno postępowania karne, jak i działania związane z konfiskatą mienia powiązane z działalnością organizacji. W konsekwencji precyzja w dokumentach prawnych staje się kluczowa w sprawach dotyczących skomplikowanych oskarżeń transnarodowych.

Sullivan & Cromwell wcześniej reprezentowało klientów w prominentnych sprawach, w tym w postępowaniu upadłościowym giełdy FTX. Kancelaria pobiera wysokie stawki i prowadzi skomplikowane sprawy reorganizacyjne obejmujące wiele jurysdykcji prawnych. Ta awaria związana z AI wywołała pytania dotyczące kontroli jakości w dużych przedsiębiorstwach prawniczych.

Kancelaria kontynuuje swoje wewnętrzne dochodzenie, jednocześnie weryfikując programy edukacyjne i ramy zgodności regulujące wdrażanie sztucznej inteligencji. Jej celem jest wzmocnienie środków ochronnych i zwiększenie odpowiedzialności w całych procesach tworzenia dokumentów. Wraz z przyspieszającą integracją sztucznej inteligencji branża prawnicza staje w obliczu rosnących oczekiwań co do gwarantowania niezawodności i eliminacji kosztownych błędów.

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.