Dirbtinio intelekto pagrindu veikiantys socialinių tinklų moderavimo algoritmai vis dažniau lemia rimtas pasekmes verslui. Australijoje gyvenanti „Pilates World Australia“ įkūrėja Roshėlė Marinato tapo vienu iš tokių atvejų – nekaltas vaizdo įrašas su šunimis jai kainavo ne tik nervus, bet ir dešimtis tūkstančių eurų prarastų pajamų.
Verslininkė neteko apie 25 tūkst. svarų sterlingų – maždaug 1,47 mln. eurų – kai po „Instagram“ paskyrų blokavimo prarado galimybę naudotis pagrindiniais savo verslo kanalais.
Kaip nekaltas vaizdo įrašas virto „pažeidimu“
Praėjusių metų birželį Roshėlė į „Instagram“ asmeninę paskyrą įkėlė trumpą vaizdo įrašą, kuriame matyti tik trys jos šunys, žiūrintys pro langą. Nė vieno žmogaus, jokio dviprasmiško turinio – tik augintiniai.
Tačiau netrukus ji gavo pranešimą iš „Meta“, kad jos turinys esą pažeidžia platformos taisykles dėl „vaikų seksualinės prievartos, smurto ir nuogybių“. Netrukus buvo užblokuota ne tik asmeninė, bet ir jos verslo paskyra, nors moteris vis kartojo, kad vaizdo įraše „nebuvo nė vieno žmogaus“.
Bejėgiškumas prieš automatizuotas sistemas
Keturių vaikų mama pasakoja net 22 kartus bandžiusi apskųsti sprendimą. Ji kreipėsi į „Meta“, kuri valdo „Instagram“, „Facebook“ ir „WhatsApp“, tačiau visus kartus sulaukdavo tik automatinių atsakymų iš dirbtinio intelekto sistemos, kuri nuosekliai atmesdavo jos apeliacijas.
„Gavau laišką iš „Meta“, kad mano paskyra sustabdyta“, – sakė Roshėlė. Dėl prarastos galimybės komunikuoti su klientais ir reklamuoti paslaugas jos verslas, anot jos, neteko apie 25 tūkst. svarų sterlingų pajamų.
Verslininkės pasamdyti teisininkai siuntė oficialius paklausimus „Meta“ biurams Kalifornijoje ir Sidnėjuje, tačiau tai taip pat nedavė jokio rezultato – paskyros liko užblokuotos.
Paskyras išgelbėjo trečioji šalis
Galiausiai, praradusi viltį sulaukti pagalbos iš pačios „Meta“, Roshėlė kreipėsi į trečiosios šalies įmonę, kuri siūlo paskyrų atstatymo paslaugas, ir sumokėjo už bandymą atgauti prieigą.
„Sumokėjome jiems ir maniau, kad tai tikriausiai bus apgaulė, bet tuo metu buvau tokioje nevilties būsenoje, verslas patyrė tokį didelį smūgį, kad buvau pasirengusi rizikuoti. Ir tai suveikė – atgavome savo paskyras“, – pasakojo australė.
Vis dėlto didžiausias smūgis jai – ne tik finansinis. Roshėlė pripažįsta, kad ją ypač slegia pats faktas, jog su jos vardu ir įmonės prekės ženklu galėjo būti siejamos tokio pobūdžio, ypač jautrios ir sunkios, kaltinimų formuluotės.
Ji įsitikinusi, kad dirbtinio intelekto klaida padarė žalos ir jos finansams, ir reputacijai.
„Labai sunku suvokti, kad kažkas panašaus gali būti siejama su mano verslo pavadinimu ir skaitmenine reputacija. Tai iš tiesų baisu – ir viskas tik dėl dirbtinio intelekto klaidos. Neįmanoma nuspėti, ką „Meta“ laikys pažeidimu, o ko – ne, nes tas vaizdo įrašas buvo tiesiog su trimis šunimis“, – sakė ji.
„Meta“ pozicija ir griežtėjanti kontrolė
„Meta“ komentare „Sky News Australia“ teigė: „Nuolat dirbame, kad gerintume mūsų taisyklių taikymą ir užtikrintume bendruomenės saugumą. Nematome įrodymų, kad žymiai daugėtų atvejų, kai sankcijos pritaikomos klaidingai.“
Tuo pat metu „Instagram“ pastaruoju metu įdiegė griežtesnius turinio ribojimus vartotojams iki 18 metų pagal PG-13 standartą. Dirbtinis intelektas automatiškai slepia turinį su necenzūrine leksika, seksualiniais užuominomis, narkotikais ar pavojingais triukais. Paaugliai negali patys pakeisti šių nustatymų be tėvų leidimo ir negali sekti „18+“ turinį kuriančių paskyrų, pavyzdžiui, „OnlyFans“ reklamuotojų.
Tokie ribojimai įvesti „Meta“ reaguojant į JAV iškeltus ieškinius ir augantį spaudimą geriau saugoti nepilnamečių psichinę sveikatą. Tačiau Roshėlės istorija parodo ir kitą pusę – kaip pernelyg agresyvus, nepakankamai tikslus automatizuotas moderavimas gali sugriauti sąžiningai dirbančių žmonių verslus.
