Любопитно31 май 2023

Нюйоркски адвокат, хванат да използва ChatGPT - цитирал случаи, които не съществуват

Добре е да проверявате всички данни, получени от изкуствения интелект

Адвокат в Ню Йорк изпаднал в сериозно затруднение със съдия, който го разобличил, че представя невярна информация. Адвокатът представил пред съда правно изследване, създадено от чатбота ChatGPT с изкуствен интелект (AI).

Вървяло дело срещу авиокомпания, съдена за причиняване на телесна повреда. Адвокатите на ищеца подали кратка информация, съдържаща няколко случая, които да се използват като правен прецедент. За съжаление, представените случаи, уж от съдебната практика, били „сметнати за несъществуващи“ от съда.

Чатботът надлежно изписал 6 случая от съдебната практика от 1999 г. до 2019 г. Адвокат Стивън А. Шварц, с над 30-годишен опит според BBC, се доверил на данните, изплюти без замисляне от изкуствения интелект. Шварц обявил в клетвената декларация, че не е използвал ChatGPT за правни изследвания преди и не бил наясно с вероятността съдържанието, което му се дава, да не е вярно.

За да докаже, че не лъже, а просто се е доверил без проверка на изкуствения интелект, Шварц приложил екранни снимки, заснели злополучния чат. Вижда се, че адвокатът пита събеседника си за един от случаите - дали е реален и чатботът отговаря „да“. Шварц все пак моли машината да посочи източници. Отговорът е , че конкретният случай може да бъде намерен „в бази данни за правни изследвания като Westlaw и LexisNexis“. На въпроса „другите случаи, които предоставихте фалшиви ли са“, AI отговоря „Не“, добавяйки, че те могат да бъдат открити в същите бази данни.

Колкото и забавни да са чатботовете или колкото и напреднали да изглеждат, те все още са склонни към „халюцинации“ – напълно сериозно и отговорно звучащи отговори, които по никакъв начин не са свързани с реалния свят.

В писмено извинение адвокатът споделил, че „дълбоко съжалява, че е използвал изкуствен интелект, за да допълни правното изследване“ и се зарекъл „никога да не го прави в бъдеще без категорична проверка за автентичност“.

Източник