„Ако продължим по сегашния път, е по-вероятно човечеството да изгуби контрол над системите с изкуствен интелект, а не да ги запази. Това може да завърши с изчезването на човешкия вид.“ Прогнозата е на Джейкъб Коксън, бивш изследовател от Anthropic, съобщава CBS New York. Коксън се яви на изслушване пред Градския съвет на Ню Йорк в понеделник.
Заседанието е било посветено на рисковете от изкуствения интелект. Присъствали са представители на Anthropic, OpenAI, Google и Meta, а общинските съветници са обсъждали възможни местни мерки за контрол и прозрачност на AI системите.
В изявлението си Коксън отправи едно от най-острите предупреждения, чувани досега от бивш служител на водеща AI компания. Според него индустрията се движи твърде бързо към създаването на все по-мощни системи, без да разполага с надежден начин да ги контролира. Той заяви, че разработчиците все още не разбират напълно как работят най-напредналите модели и как биха могли да предотвратят нежелано поведение на изкуствения интелект в бъдеще. „Все още не знаем как да контролираме нито една система с изкуствен интелект“, категоричен е Коксън.
Коксън предупреди съветниците, че AI системите са все по-близо до момент, в който ще могат сами да подобряват собствените си способности. По думите му това може да доведе до загуба на човешки контрол над технологията, ако безопасността изостава от темпа на развитие.
„Приближаваме се до момента, в който системите с изкуствен интелект ще могат сами да се усъвършенстват, тоест да извършват изследователската работа, която досега вършеха хората.“
Сред основните му критики беше и културата на работа в големите технологични компании. Той сравни подхода им със стартиращите фирми, които пускат продукти възможно най-бързо и решават проблемите впоследствие. Според него такъв модел е неприемлив, когато става дума за технология с потенциално огромно въздействие върху обществото.
„Нуждаем се от известно забавяне в разработването на най-мощните модели на изкуствен интелект“, смята Коксън. Той публично подаде оставка от Anthropic - производител на AI приложението Claude - преди месец, припомня CBS New York. Тогава изследователят обвини компанията и конкурента й OpenAI, че „залагат с живота си“ като се стремят да разработят напреднали AI модели. Изкуственият интелект може да унищожи човечеството до 2030 г., прогнозира Коксън.
В писмо до Градския съвет преди изслушването в понеделник, изпълнителен директор на OpenAI оповести, че компанията тества модели за опасни възможности и тревожно поведение, засилва сигурността и наблюдава за провали на предпазни мерки.
