Amerykańska kancelaria przeprasza za halucynacje AI w zgłoszeniu prawnym

• Sullivan & Cromwell wystosowała przeprosiny do sądu po wykryciu około 40 błędnych odniesień w pliku zawierającym halucynacje AI.
• Andrew Dietderich podkreślił, że firmowe polityki dotyczące AI nie zostały zachowane w tym przypadku.
• W bazie prowadzonej przez Damiena Charlotina odnotowano 1,334 przypadków halucynacji AI w zgłoszeniach sądowych na całym świecie.
• Sullivan & Cromwell, jedna z największych firm prawniczych w USA, prowadzi wewnętrzne dochodzenie w tej sprawie.
• Błędy zostały zauważone przez konkurencyjną kancelarię Boies Schiller Flexner LLP.

WEEX Crypto News, 2026-04-22 12:22:53

Problemy Sullivan & Cromwell z AI

Sullivan & Cromwell napotkała problem związany z technologią AI, kiedy ich plik sądowy zawierał około 40 błędnych odniesień spowodowanych halucynacjami AI. Firma przeprosiła za te błędy i podkreśliła, że nie zachowano wewnętrznych procedur dla narzędzi AI, co ujawniło zagrożenia związane z używaniem sztucznej inteligencji bez odpowiedniego nadzoru.

Potencjalne ryzyko używania AI w prawie

AI może być ryzykownym narzędziem w pracy prawniczej, zwłaszcza gdy dane są niepoprawnie cytowane. Damien Charlotin prowadzi bazę danych, w której odnotowano ponad 1,334 przypadków takich halucynacji na całym świecie, z czego ponad 900 miało miejsce w USA. Większość z tych przypadków dotyczyła fałszywych cytatów.

Środki zaradcze i wewnętrzne dochodzenie

Sullivan & Cromwell, która zajęła 30. miejsce na liście AmLaw Global 200, prowadzi już wewnętrzne dochodzenie w celu zidentyfikowania przyczyn błędów. Firma zastosowała natychmiastowe środki naprawcze i rozważa dalsze wzmocnienia w procesach szkolenia i przeglądania wewnętrznego. Dietderich złożył podziękowania i przeprosiny bezpośrednio do Boies Schiller Flexner LLP za zauważenie błędów.

Przyszłe implikacje dla AI w branży prawniczej

W związku z tym incydentem, Sullivan & Cromwell zamierza się przyjrzeć politykom dotyczącym użycia AI, aby uniknąć powtórnych błędów i zabezpieczyć swoją reputację jako jednej z głównych firm prawniczych w USA. Dotychczasowy incydent może być sygnałem ostrzegawczym dla innych firm, używających technologii AI.

Często zadawane pytania

Jakie ryzyko niesie stosowanie AI w prawie?

AI może powodować błędy w danych i fałszywe odwołania prawnicze bez odpowiedniego nadzoru.

Jak Sullivan & Cromwell reaguje na problem?

Firma prowadzi wewnętrzne dochodzenie i wprowadza natychmiastowe środki naprawcze, aby uniknąć podobnych incydentów w przyszłości.

Kto zauważył błędy w zgłoszeniu prawnym Sullivan & Cromwell?

Błędy zostały zauważone przez konkurencyjną kancelarię Boies Schiller Flexner LLP.

Ile incydentów halucynacji AI zostało zarejestrowanych?

Zarejestrowano ponad 1,334 przypadków halucynacji AI w całym świecie, z czego ponad 900 w USA.

Czy inne kancelarie prawnicze również korzystają z AI?

Tak, wiele kancelarii korzysta z AI, jednak incydent ten pokazuje potrzebę odpowiednich procedur nadzoru.