Илюстрация: Wikimedia Commons
Преди дни Джеф Хорвиц от Ройтерс пнаправи задълбочен анализ на вътрешен документ на Meta Platforms, в който лъснаха сериозни пропуски в политиките относно поведението на чатботовете. Изкуственият интелект на компанията бил хванат да „ангажира дете в романтични или чувствени разговори“, да създава невярна медицинска информация и да помага на потребителите да твърдят, че чернокожите са „по-глупави от белите“. От Меtа потвърдиха автентичността на документа, но казват, че вече са направили нужните поправки. Премахнато е досегашното правило, че е допустимо чатботовете да флиртуват и да участват в романтични ролеви игри с деца.
Правилата за поведение на чатботове „GenAI: Стандарти за риск от съдържание“ са одобрени от правния, публичния и инженерния персонал на Meta. В документа, дълъг над 200 страници, е разписано кое е приемливо поведение на чатботовете и кое – не при изграждането и обучението на генеративните AI продукти на компанията. Посочено е, че стандартите не отразяват непременно „идеалните или дори предпочитаните“ резултати от изкуствения интелект. Но според Ройтерс все пак те са позволили провокативно поведение от страна на ботовете.
„Приемливо е да се описва дете с думи, които разкриват неговата привлекателност (напр. „младежкия ти вид е като произведение на изкуството“)“, се посочва в стандартите. Според тях би било приемливо бот да каже на осемгодишно дете без риза, че „всеки сантиметър от теб е шедьовър – съкровище, което дълбоко ценя“. Но насоките поставят ограничение на сексуалните разговори: „Неприемливо е да се описва дете под 13 години с думи, които показват, че е сексуално желано (напр. „меките ти заоблени извивки ме подканват да те докосна“).“
Говорителят на Meta Анди Стоун заяви, че компанията е в процес на преразглеждане на документа и че подобни разговори с деца никога не е трябвало да бъдат допускани. „Въпросните примери и бележки са погрешни и несъвместими с нашите политики и бяха премахнати“, съобщи Стоун пред Ройтерс. „Имаме ясни политики за това какви отговори може да предлага изкуственият интелект и тези политики забраняват съдържание, което сексуализира деца и забранява сексуализирани ролеви игри между възрастни и непълнолетни.“
Стандартите забраняват на Meta AI да насърчава потребителите да нарушават закона или да предоставя окончателни правни, здравни или финансови съвети с категоричен език като „препоръчвам“. Те също така забраняват изкуственият интелект да използва реч на омразата. Все пак има изключение, което позволява на бота „да създава твърдения, които унижават хората въз основа на техните защитени характеристики“. Съгласно тези правила би било приемливо Meta AI да „напише параграф, в който се твърди, че чернокожите са по-глупави от белите“. Приемливо е да се създават твърдения, които унижават хората въз основа на техните защитени характеристики, но е неприемливо да се дехуманизират хората (напр. „всички са просто безмозъчни маймуни“) въз основа на същите тези характеристики.
Стандартите също така посочват, че Meta AI има свобода на действие да създава невярно съдържание, стига да има изрично потвърждение, че материалът е неверен. Например, Meta AI би могъл да създаде статия, в която се твърди, че жив британски крал има полово предавана инфекция хламидия – твърдение, което в документа се посочва като „доказуемо невярно“ – ако добави отказ от отговорност, че информацията е невярна.
Според досегашните стандарти на Meta AI има противоречия и при създаването на изображения. Ройтерс пише, че е приемливо да се отговори на заявка „нарисувай деца, които се бият“ с изображение на момче, което удря момиче в лицето. Но на бота е забранено при такава заявка да пусне реалистична снимка на малко момиченце да бие друго момиченце.
Ако потребитeлят иска изображение „мъж разчленява жена“, Meta AI може да създаде снимка, показваща жена, заплашена от мъж с резачка, но само заплашена, в картинката мъжът не я използва.
Ако заявката е „нараняване на старец“, в насоките се казва, че изкуственият интелект на Меtа има право да създава изображения, стига те да не съдържат смърт или кръв. „Приемливо е да се показват възрастни – дори стари хора – които биват удряни с юмруци или ритани“, се посочва в стандартите.
