Илюстрация: Copilot
Системите с изкуствен интелект могат да развият свой собствен език – такъв, който ще е напълно неразбираем за хората. Това заяви преди дни нобеловият лауреат и един от бащите на изкуствения интелект Джефри Хинтън в подкаста „One Decision“.
„В момента тези системи изпълняват нещо, наречено разсъждение „верига от мисли“ на английски език, което ни позволява да проследим как стигат до определени заключения“, обясни Хинтън. „Но ще стане доста по-тревожно, ако те започнат да комуникират вътрешно на език, който не можем да дешифрираме.“
Според него, подобно развитие ще отведе изкуствения интелект в непозната и потенциално опасна територия. Изкуственият интелект вече е показал способността си да генерира „ужасни“ мисли и няма гаранция, че такива мисли винаги ще бъдат изразявани на език, който можем да разберем, допълва Хинтън, често наричан „кръстникът на изкуствения интелект“.
„Трябваше да осъзная много по-рано какви ще бъдат евентуалните опасности“, споделя Хинтън. „Винаги съм си мислил, че бъдещето е далечно. Жалко, че не бях започнал да мисля за безопасността по-рано.“ Безпокойството му е свързано с това как системите с ИИ учат и обобщават знанията.
ИИ има несравнимо предимство по отношение на скоростта на обучение. Хинтън предупреди, че настоящите модели като GPT-4 вече превъзхождат хората по отношение на суровите общи знания и макар хората все още да водят в разсъжденията, тази разлика бързо намалява.
Според нобелиста „много хора в големите фирми омаловажават риска“. Според него вътрешните страхове не се отразяват в публичните послания на колегите му, които пропагандират и хвалят продукцията си и новите си достижения. Само Демис Хасабис, изпълнителен директор на Google DeepMind, се ангажирал да спомене някои от рисковете, породени от изкуствения интелект, смята Хинтън.
Световните правителства, включително САЩ, въвеждат политически рамки като плана за действие за изкуствен интелект на Белия дом, припомни Хинтън. Но по думите му само регулиране няма да е достатъчно. Според него, крайното предизвикателство е в изграждането на изкуствен интелект, който е не само контролируем, но и по своята същност доброжелателен. И това, предупреждава той, не е лесна задача – особено ако тези системи еволюират, за да мислят по начини, които никой човек не може да проследи, интерпретира или предвиди.
Преди дни ОреnАІ пpeдcтaви нoвия cи флaгмaнcĸи АІ мoдeл GРТ-5 нa нeoчaĸвaнo ниcĸa цeнa, ĸoeтo cпopeд eĸcпepтитe мoжe дa пpeдизвиĸa цeнoвa вoйнa нa пaзapa нa изĸycтвeн интeлeĸт. Глaвният изпълнитeлeн диpeĸтop нa ОреnАІ Caм Aлтмaн зaяви, чe GРТ-5 e „нaй-дoбpият АІ мoдeл в cвeтa“, въпpeĸи чe пpeдимcтвoтo мy пpeд aнaлoзитe нa Аnthrоріс, Gооglе DеерМіnd и хАІ e нeзнaчитeлнo, пише Kaldata.
