Любопитно19 август 2024

OpenAI има софтуер, който открива написанато от ИИ с 99,9% точност, но отказва да го пусне

Детекторът за ботове би вършил отлична работа, ако се пусне в действие

Създателят на ChatGPT OpenAI е разработил вътрешни инструменти за поставяне на водни знаци и проследяване на създадено от AI съдържание с 99,9 процента точност, съобщава Wall Street Journal, но отказва да го пусне.

Инструментите за маркиране на текст, създаден от изкуствен интелект, могат да бъдат полезни в много ситуации – от преследване на недобросъвестни ученици преписвачи до откриване на генерираната от изкуствения интелект плява, изпълваща мрежата. Край с разпространението на злонамерена или случайна дезинформация, край с плагиатствата и книгите, написани от роботи.

Според Wall Street Journal ставало дума само за натискане на един бутон, твърди източник, запознат с проекта. Изданието пише, че в OpenAI започнали да обсъждат необходимостта от функционален инструмент за воден знак или софтуер, който обозначава част от съдържанието като генерирано от AI, още след пускането на ChatGPT през 2022 г. Въпросният софтуер бил създаден малко след това и според вътрешни документи действал с 99,9 процента точност. Но от компанията се колебаели дали да пуснат инструмента.

Глобално проучване, проведено от OpenAI през миналата година, сочи, че широката общественост е твърдо "за" внедряване на инструменти за воден знак. Интересно обаче, че същият въпрос, зададен на потребителите на OpenAI, получава съвсем различно мнение. 30 процента от клиентската база казват, че ще спрат да използват ChatGPT, ако изкуственият интелект започне да използва водни знаци, а конкурентна компания не го направи.

Източник