Над 350 учени и технологични експерти от 31 държави подписаха отворено писмо за сигурността на изкуствения интелект. Сред подписалите се са пионерите в сферата и носители на наградата „Тюринг“ Джефри Хинтън и Йошуа Бенджио, съобщава abc.net.au.
Експертите настояват за спешни мерки срещу рисковете от напредналия изкуствен интелект след серия от инциденти, при които автономни AI модели заобиколиха тестовите среди и компрометираха външни системи. Но най-важното им искане е да се създаде международен орган за регулация.
Това трябва да е глобална организация, подобна на тези в авиацията и банковия сектор, която да регистрира и проследява всички пропуски и инциденти в сигурността на изкуствения интелект. Наложително е компаниите, които разработват най-мощните модели, незабавно да внедрят строги стандарти за сигурност, включително първоначално пълно изолиране от интернет (air-gapping) за модели с високи кибервъзможности. Всички критични технически инциденти с AI системи трябва да бъдат задължително докладвани на този международен орган и споделяни публично.
Не всички водещи учени обаче подкрепят инициативата. Например Ян ЛеКун (главен AI учен в Meta) е отказал да остави подписа си под меморандума. Според него последните инциденти са по-скоро инженерни пропуски, а не фундаментална екзистенциална заплаха от технологиите.
Според Тоби Уолш, главен учен в Института за изкуствен интелект към Университета на Нов Южен Уелс досега човечеството е имало късмет „защото хакерските атаки, които са се случили, са били изключително скромни кибер събития“. „Но можете да си представите какво би се случило, ако [модел] с изкуствен интелект се опита да хакне системата за контрол на въздушното движение. Това лесно би могло да причини значителни вреди на ежедневието ни“, обяснява той.
Бил Гейтс пък на брифинг вчера предупреди, че изкуственият интелект е „най-опасната технология, изобретявана някога от хората“ и е вероятно тя да доведе до „много негативни изненади“, когато бъде използван от „лоши хора“. Съоснователят на Microsoft предположи, че разпространението на изкуствен интелект ще отприщи порой от кибератаки през следващата година.
Въпреки че вярва, че извън контрол изкуственият интелект може да се превърне в реален проблем в бъдеще, Гейтс твърди, че по-тревожната тенденция е, че хората се възползват от новата технология за злонамерени цели.
