Наука30 декември 2021

Китай изобрети робот-прокурор, който ще достигне перфектното обвинение

Изкуственият интелект се справя лесно с измами, хазарт, опасно шофиране, кражба и подстрекателство към кавга

Китайски учени обявиха, че първи в света са създали изкуствен интелект, който ще обвинява провинилите се в съда. Според изследователите „прокурорът“ с ИИ може да повдигне обвинение с повече от 97 процента точност въз основа на устно описание на случая. Машината е построена и тествана от Шанхайската народна прокуратура Пудонг - най-голямата и най-натоварената областна прокуратура в страната, съобщава South China Morning Post.

Технологията може да намали ежедневното натоварване на прокурорите, позволявайки им да се съсредоточат върху по-трудни задачи, според професор Ши Йонг, директор на лабораторията за управление на големи бази данни в Китайската академия на науките, който е ръководител на проекта. „Системата може да замени до известна степен прокурорите в процеса на вземане на решения“, казаха Ши и колегите му в статия, публикувана този месец в местното рецензирано списание Management Review .

Много страни в света с интерес поглеждат към прилагането на AI технологията в правораздаването. Немски прокурори са използвали технология с изкуствен интелект при разпознаване на изображения в цифровата криминалистика, за да увеличат скоростта и точността при обработката на дела.

Прокурорите в Китай първи използваха AI през 2016 г. Много от тях сега използват роботизираната система System 206. Инструментът може да оцени силата на доказателствата, условията за арест и колко опасен се счита заподозреният за обществеността.

Но всички съществуващи инструменти с изкуствен интелект имат ограничена роля, тъй като „те не участват в процеса на вземане на решения за повдигане на обвинения и предлагане на присъди“, коментираха от екира на Ши. Вземането на такива решения ще изисква от машината да идентифицира и премахне от делото всяко съдържание, което няма отношение към престъплението, без да елиминира полезната информация.

Машината също ще трябва да преобразува сложен, постоянно променящ се човешки език в стандартен математически или геометричен формат, който компютърът може да разбере. Китайските интернет компании са разработили мощни инструменти за обработка на естествен език, но работата им често изисква големи компютри, до които прокурорите нямат достъп.

Прокурорът с изкуствен интелект, разработен от екипа на Ши, може да работи на настолен компютър. На всеки заподозрян ще бъде повдигнато обвинение въз основа на 1000 „черти“, получени от генерирания от човека текст за описание на случая, повечето от които са твърде малки или абстрактни, за да имат смисъл за хората. След това системата ще оцени доказателствата.

Машината е била „обучена“ върху опита на над 17 000 случая от 2015 до 2020 г. Досега тя може да идентифицира и повдига обвинения за осемте най-често срещани престъпления в Шанхай.

Става дума за измами с кредитни карти, злоупотреба с хазарт, опасно шофиране, умишлено нараняване, възпрепятстване на служебни задължения, кражба, измама и „подбуждане към кавги и провокиране на проблеми“ – всеобхватно обвинение, често използвано за задушаване на несъгласието.

Прокурорът-робот скоро ще бъде обогатен с по-мощни надстройки. Той ще може да разпознава по-рядко срещани престъпления и да повдига множество обвинения срещу един заподозрян.

Прокурор в южния град Гуанджоу каза, че има известни опасения относно използването на AI при повдигане на обвинения.

„Точността от 97 процента може да е висока от технологична гледна точка, но винаги ще има шанс за грешка“, каза прокурорът, който поиска да не бъде назоваван поради чувствителността на въпроса. „Кой ще поеме отговорност, когато това се случи? Прокурорът, машината или дизайнерът на алгоритъма?"
Друг проблем е, че прокурорът с изкуствен интелект може да повдигне обвинение само въз основа на предишния си опит. Не може да предвиди обществената реакция в случай с променяща се социална среда.

„ИИ може да помогне за откриване на грешка, но не може да замени хората при вземането на решение“, каза прокурорът, пожелал анонимност.

Независимо от това, Китай агресивно използва AI в почти всеки сектор на правителството, за да се опита да подобри ефективността, да намали корупцията и да засили контрола. Някои китайски градове са използвали машини за наблюдение на социалните кръгове на държавните служители и дейности за откриване на корупция.

Много китайски съдилища използват AI, за да помогнат на съдиите да обработват досиета от дела и да вземат решения като например дали да приемат или отхвърлят жалба. Повечето китайски затвори също са възприели AI технология за проследяване на физическото и психическото състояние на затворниците, с цел намаляване на насилието.

Източник