Наука21 юни 2021

Възходът на робота-убиец

През 2020-а дрон преследва човешка цел в Либия, ИИ не различава училищен автобус от танк

Снимка: Wikimedia.org

Перспективата за война с масовата употреба на изкуствен интелект се засилва все повече. Още през миналата година в Youtube се появи клип, в който се демонстрира устройство, което стреля от въздуха по манекени на хора. Въпреки призивите за забрана на роботите-килъри, тяхното производство е факт и представя ужасяваща, апокалиптична визия за живота на Земята в най-близко бъдеще.

Според доклад от 548 страници на Обединените нации, цитиран от New Scientist, „смъртоносен“ оръжеен безпилотен самолет може всъщност да е „преследвал човешка цел“, без да му е заповядано, т.е. напълно автономно. Твърди се, че квадрокоптерът Kargu-2 е търсил човешка цел по време на престрелка между либийските правителствени сили и лоялните привърженици на Халифа Хафтар в Либия през март миналата година.

Kargu, известен като „безпилотен самолет“, използва идентификация на обект, базирана на машинно обучение, за определяне и ангажиране на цели. Освен това има възможности за „роене", което позволява до 20 дрона да работят заедно.

Последните доклади отбелязват, че Kargu, насочен към детонация при удар, е действал в среда, която не изисква човешки контролер и впоследствие е насочен към един от войниците на Хафтар, докато той се е опитвал да отстъпи.

Дали може безпилотникът-убиец да прави разлика между предал се войник и боец, който просто се оттегля? Дали хипотетично е възможно някой да се предаде на безпилотния самолет, ако иска? За съжаление оръжията с изкуствен интелект трудно различават танк от училищен автобус.

Ето какво е публикувано неотдавна в Бюлетина на атомните учени за този тип оръжия: „ OpenAI - водеща в света компания за изкуствен интелект - разработи система, която може да класифицира, че една ябълка е от сорта Granny Smith с 85,6% достоверност. И все пак, ако залепите върху ябълката лист хартия с надпис „iPod“ - системата за машинно зрение ще даде сигнал за 99,7% увереност, че ябълката е iPod."

В един от експериментите изследователите на AI са променили един пиксел върху изображение и накарали системата за машинно зрение да класифицира стелт бомбардировач като куче. По време на война противникът може просто да нарисува „училищен автобус“ върху танк или по-злонамерено - „танк“ върху училищен автобус и потенциално да заблуди автономното оръжие.

Доколкото ни е известно, инцидентът в Либия е първият регистриран случай, когато дрон е нападнал човек, без да получи инструкции за това. Не е изненадващо, че правозащитни групи като Хюман Райтс Уотч призоваха за прекратяване на технологията „робот-убиец “, агитирайки за забрана на разработването, производството и употребата на тези оръжия. В миналото ООН също е обсъждала забраната на тази технология. По това време генералният секретар на ООН Антонио Гутериш нарече тези камикадзета „морално отвратителни“.

Според Guardian през следващото десетилетие се очаква да бъдат изтъргувани над 80 000 дронове за наблюдение и почти 2000 дронове за атака по целия свят.

А само си представете какво ще се случи, ако тези системи са хакнати или манипулирани по някакъв начин от кибер престъпници, чуждестранни конкуренти, терористични организации и други подобни...

Източник