Джефри Хинтън. Снимка: Jay Dixit / Wikimedia Commons, CC BY-SA 4.0. Редакционна обработка.
Носителят на Нобелова награда и един от учените, положили основите на съвременния изкуствен интелект - Джефри Хинтън предупреждава, че хората трябва да изградят отношения на доверие и сътрудничество с бъдещите AI системи. Според него изкуственият интелект вече показва признаци на съзнание или поне на самонаблюдение, а в бъдеще може да стане по-интелигентен от хората. Това заяви Хинтън в интервю за The Telegraph.
Хинтън смята, че най-голямата опасност не е непременно в сценарии като тези от научната фантастика, а в съвсем реални заплахи като мащабни кибератаки, създаване на опасни вируси и автономни AI агенти, които действат извън човешки контрол. Той признава, че се тревожи най-вече за бъдещето на своите деца, а не за себе си.
По думите му, ако човечеството иска да съществува безопасно редом с все по-мощни интелигентни системи, трябва да намери начин те да бъдат мотивирани да се грижат за хората. Според него: „Трябва да ги направим така, че истински да ги е грижа за нас. Ако не го направим, сме загубени“. „Изкуственият интелект има също толкова субективен опит, колкото и ние“, казва Хинтън в интервюто и допълва: „Скорошна публикация показа, че изкуственият интелект променя поведението си, когато си мисли, че е тестван, осъзнава, че е тестван.“
Хинтън беше един от тримата носители на наградата Тюринг за 2018 г., която се счита за Нобелова награда за компютърни науки, както и за действителната Нобелова награда за физика през 2024 г. Неговата работа върху невронните мрежи се счита за основополагаща за съвременния бум на тази област, припомня futurism.com.
