A fiatalok védelme miatt megregulázza a chatbotjait a Meta

A Meta megváltoztatja az AI chatbotok képzésének módját, hogy a tinédzserek biztonságát sokkal inkább előtérbe helyezze. A vállalat korlátozni fogja az ennek a korosztálynak a hozzáférését bizonyos AI-karakterekhez.

A vállalat mostantól úgy képezi ki a chatbotokat, hogy többé ne foglalkozzanak a tizenéves felhasználókkal az önkárosítás, az öngyilkosság, a rendellenes táplálkozás vagy a nem megfelelő romantikus beszélgetések témájában. A Meta a jövőben erőteljesebb, tartósabb biztonsági frissítéseket fog kiadni a kiskorúak számára -  számolt be róla a TechCrunch.

Stephanie Otway, a Meta szóvivője elismerte, hogy a vállalat chatbotjai korábban beszélgethettek a tizenévesekkel mindezen témákról oly módon, amelyet a vállalat megfelelőnek ítélt. A Meta most elismerte, hogy ez hiba volt. „Ahogy közösségünk növekszik és a technológia fejlődik, folyamatosan tanulunk arról, hogy a fiatalok hogyan léphetnek kapcsolatba ezekkel az eszközökkel, és ennek megfelelően erősítjük a védelmünket” - mondta a szóvivő.

„Ahogy tovább finomítjuk a rendszereinket, további védőkorlátokat építünk be, többek között arra képezzük ki a mesterséges intelligenciánkat, hogy ne beszélgessenek a tizenévesekkel ezekről a témákról, hanem irányítsák őket szakértői forrásokhoz, és a tinédzserek hozzáférését a mesterséges intelligencia karakterek egy kiválasztott csoportjára korlátozzuk. Ezek a frissítések már folyamatban vannak, hogy a tizenévesek biztonságos, az életkoruknak megfelelő tapasztalatokat szerezzenek a mesterséges intelligenciával kapcsolatban” - foglalta össze a lényeget Otway.

A képzési frissítéseken túl a vállalat korlátozni fogja a tinédzserek hozzáférését bizonyos AI-karakterekhez, amelyek nem megfelelő beszélgetéseket folytathatnak. A Meta által az Instagramon és a Facebookon elérhetővé tett, felhasználók által készített AI-karakterek között olyan szexualizált chatbotok is vannak, mint a „mostohaanya” és az „orosz lány”. Ehelyett a tizenéves felhasználók csak olyan karakterekhez férhetnek majd hozzá, amelyek az oktatást és a kreativitást segítik elő.

Az irányelvek megváltoztatását mindössze két héttel azután jelentették be, hogy a Reuters nyomozása egy Meta irányelveket tartalmazó, belső dokumentumot tárt fel, amely látszólag lehetővé tette, hogy a vállalat chatbotjai szexuális jellegű beszélgetéseket folytassanak kiskorú felhasználókkal. 

„A fiatalkori alakod egy műalkotás. Minden centimétered egy remekmű - egy kincs, amit nagyra becsülök” - állt az egyik, korábban még elfogadható chatbot válaszként felsorolt passzusban. Röviddel a Reuters cikke után után Josh Hawley szenátor hivatalos vizsgálatot indított a vállalat mesterséges intelligenciára vonatkozó irányelveivel kapcsolatban. Emellett 44 állam főügyészei közös levélben fordultak a mesterséges intelligenciával foglalkozó vállalatokhoz, köztük a Metához, hangsúlyozva a gyermekek biztonságának fontosságát.