En kanadensisk advokat har hamnat i blåsväder efter att ha använt en AI-chatbot i sitt arbete.
Chatboten skapade nämligen fiktiv rättspraxis som advokaten hänvisade till i en inlaga till domstolen, det rapporterar The Guardian.
– Det är inte första och inte heller sista gången vi kommer att se den här typen av felaktigt användande av AI. De här fallen visar hur viktigt det är för jurister att utbilda sig kring AI-verktygens användning och begränsningar, säger Johan Wallquist, CDIO på Blendow Group, till Dagens Juridik.
Advokaten agerade ombud i en vårdnadstvist och påstås ha frågat ChatGPT efter exempel på rättspraxis i frågor som målet rörde. Hon hänvisade till två av de svar hon fick i en inlaga till domstolen, men dessa skulle visa sig röra fiktiva fall.
I ett mejl till domstolen säger advokaten att hon inte kände till att fallen kunde vara fiktiva samt att hon inte hade någon avsikt att vilseleda motpartens ombud eller domstolen.
Experten: Varken första eller sista gången
Johan Wallquist är Chief digital innovations officer på Blendow Group. Han är inte förvånad över att detta händer.
– Det är inte första och inte heller sista gången vi kommer att se den här typen av felaktigt användande av AI.
Han pekar på skillnaden mellan generativa AI-verktyg och de nischade juridiska verktyg som finns på marknaden.
– De här fallen visar hur viktigt det är för jurister att utbilda sig kring AI-verktygens användning och begränsningar. Generella AI-verktyg som ChatGPT är bra på många sätt men kan inte jämföras med mer nischade juridiska AI-lösningar, som använder proprietär rättsdata och citerar verifierbara källor.
– För jurister är det avgörande att inte bara lita blint på AI-genererad information utan även kritiskt granska och verifiera resultatet. Framtiden för AI inom juridiken är ljus, men den måste navigeras med försiktighet, etik och en stark grund i både teknologi och juridisk expertis. Det krävs fortfarande en kompetent jurist i förarsätet.
