Подкрепете ни!




Наука21 юни 2021

Възходът на робота-убиец

През 2020-а дрон преследва човешка цел в Либия, ИИ не различава училищен автобус от танк

Снимка: Wikimedia.org
Снимка: Wikimedia.org


Перспективата за война с масовата употреба на изкуствен интелект се засилва все повече. Още през миналата година в Youtube се появи клип, в който се демонстрира устройство, което стреля от въздуха по манекени на хора. Въпреки призивите за забрана на роботите-килъри, тяхното производство е факт и представя ужасяваща, апокалиптична визия за живота на Земята в най-близко бъдеще.

Според доклад от 548 страници на Обединените нации, цитиран от New Scientist, „смъртоносен“ оръжеен безпилотен самолет може всъщност да е „преследвал човешка цел“, без да му е заповядано, т.е. напълно автономно. Твърди се, че квадрокоптерът Kargu-2 е търсил човешка цел по време на престрелка между либийските правителствени сили и лоялните привърженици на Халифа Хафтар в Либия през март миналата година.

Kargu, известен като „безпилотен самолет“, използва идентификация на обект, базирана на машинно обучение, за определяне и ангажиране на цели. Освен това има възможности за „роене", което позволява до 20 дрона да работят заедно.

Последните  доклади отбелязват, че Kargu, насочен към детонация при удар, е действал в среда, която не изисква човешки контролер и впоследствие е насочен към един от войниците на Хафтар, докато той се е опитвал да отстъпи.


Дали може безпилотникът-убиец да прави разлика между предал се войник и боец, който просто се оттегля? Дали хипотетично е възможно някой да се предаде на безпилотния самолет, ако иска? За съжаление оръжията с изкуствен интелект трудно различават танк от училищен автобус. 
Ето какво е публикувано неотдавна в Бюлетина на атомните учени за този тип оръжия: „ OpenAI - водеща в света компания за изкуствен интелект - разработи система, която може да  класифицира, че една ябълка е от сорта Granny Smith с 85,6% достоверност. И все пак, ако залепите върху ябълката лист хартия с надпис „iPod“ -  системата за машинно зрение ще даде сигнал за 99,7% увереност, че ябълката е iPod." 
В  един от експериментите изследователите на AI са променили един пиксел върху изображение и накарали системата за машинно зрение да класифицира стелт бомбардировач като куче. По време на война противникът може просто да нарисува „училищен автобус“ върху танк или по-злонамерено - „танк“ върху училищен автобус и потенциално да заблуди автономното оръжие.

Доколкото ни е известно, инцидентът в Либия е първият регистриран случай, когато дрон е нападнал човек, без да получи инструкции за това. Не е изненадващо, че правозащитни групи като Хюман Райтс Уотч призоваха за прекратяване на технологията „робот-убиец “, агитирайки за забрана на разработването, производството и употребата на тези оръжия. В миналото ООН също е обсъждала забраната на тази технология. По това време генералният секретар на ООН Антонио Гутериш нарече тези камикадзета „морално отвратителни“. 

Според  Guardian през следващото десетилетие се очаква да бъдат изтъргувани над 80 000 дронове за наблюдение и почти 2000 дронове за атака по целия свят. 

А само си представете какво ще се случи, ако тези системи са хакнати или манипулирани по някакъв начин от кибер престъпници, чуждестранни конкуренти, терористични организации и други подобни... 
Източник

Още по темата:

Слушайте 5 минути на ден и животът ви напълно ще се промени Наука

Слушайте 5 минути на ден и животът ви напълно ще се промени

Чистите тибетски лечебни дзен звуци намаляват стреса и тревожността, действат болкоуспокояващо

Чипираният пациент на Мъск играе шах със силата на мисълта Наука

Чипираният пациент на Мъск играе шах със силата на мисълта

Парализираният от раменете надолу мъж: „Започнах да си представям как курсорът се движи"

Равноденствие и слънцестоене – знаете ли разликата? Наука

Равноденствие и слънцестоене – знаете ли разликата?

Приликата е само, че и двете се случват два пъти годишно и са свързани със Слънцето

Полюсите на Титан са опасани с идеално прави линии Наука

Полюсите на Титан са опасани с идеално прави линии

Учени изследват геоложката характеристика на спътника на Сатурн

Starship на SpaceX все пак успешно излетя и достигна орбита за първи път Наука

Starship на SpaceX все пак успешно излетя и достигна орбита за първи път

Накрая изгоря над Индийския океан, но напредък има

Първият отворен AI модел на български език вече е достъпен за всички Наука

Първият отворен AI модел на български език вече е достъпен за всички

Обучен е с над 3 милиарда български изречения и се състои от 7 милиарда параметъра

Слънцето не е било толкова активно от 2017 г. Наука

Слънцето не е било толкова активно от 2017 г.

На 8 април 2024 г. пълното слънчево затъмнение ще разкрие великолепната корона на нашето светило

„Одисей“ кацна на Луната Наука

„Одисей“ кацна на Луната

В НАСА ликуват, защото и това прилуняване беше критично

Вероятността хората да изчезнат заради изкуствения интелект е до 10 процента Наука

Вероятността хората да изчезнат заради изкуствения интелект е до 10 процента

Експерти по машинно обучение са категорични, че AI ще доведе до напредък в науката и културата, но и ще създаде нови заплахи

Хипотеза: още 5 подобни на Земята светове се крият на края на Слънчевата система Наука

Хипотеза: още 5 подобни на Земята светове се крият на края на Слънчевата система

Младото Слънце може да е уловило няколко екзопланети с размерите на Марс или Меркурий, които още не сме открили

Пчелите са идеалните „екологични детективи” Наука

Пчелите са идеалните „екологични детективи”

Докато търсят храна, те „събират” и замърсители от въздуха, почвата и водата

Компанията Neuralink на Илон Мъск имплантира мозъчен чип на човек Наука

Компанията Neuralink на Илон Мъск имплантира мозъчен чип на човек

Целта е чипираният, който е скован от парализа, да предава мислите си на компютъра и да общува със света и близките си

Откриха изцяло нов клас живи организми в храносмилателната ни система Наука

Откриха изцяло нов клас живи организми в храносмилателната ни система

Запознайте се с новата неразделна част от човека – обелиските

Съвпадът Марс и Меркурий на 27.01 ще е най-близката планетарна среща през 2024 г. Наука

Съвпадът Марс и Меркурий на 27.01 ще е най-близката планетарна среща през 2024 г.

Най-ясно звездният спектакъл ще се вижда от Нова Зеландия

Унгарец предупреди берлинчани за метеорит 75 минути преди падането му Наука

Унгарец предупреди берлинчани за метеорит 75 минути преди падането му

Това е едва осмият път, в който такова явление е успешно предсказано

Заснеха растение, което „говори“ със съседа си Наука

Заснеха растение, което „говори“ със съседа си

Учени успяха да разгадаят ефирната комуникационна мрежа между две стръкчета