Instagram by mohol čoskoro prehodnotiť, ako moderuje transbody

Dozorná rada Meta sa zaoberá dvoma prípadmi okolo cenzúry queer tvorcov.
  Instagram by mohol čoskoro prehodnotiť, ako moderuje transbody SOPA Images/Getty Images

Dozorná rada spoločnosti Meta sa pripravuje na zváženie prípadu týkajúceho sa rodovej identity a nahoty na Instagrame, ktorého výsledok ovplyvní používateľské skúsenosti trans a nebinárnych ľudí všade.



Dozorná rada, externý orgán, ktorý sa zaoberá otázkami rozhodnutí o presadzovaní obsahu na Facebooku a Instagrame, oznámil V utorok bude preverovať štyri nové prípady. Jeden z prípadov rieši dva samostatné prípady, v ktorých boli trans a nebinárnemu páru odstránené obrázky zo spoločného účtu, ktorý prevádzkujú. Na prvom obrázku z roku 2021 boli obaja ľudia nahí od pása nahor, s páskou telovej farby cez bradavky. Na druhom obrázku, zverejnenom v roku 2022, jedna osoba zakrýva druhej osobe bradavky rukami. Titulky k obom obrázkom diskutovali o tom, ako osoba, ktorá má na oboch obrázkoch odhalenú hruď, čoskoro podstúpi špičkový chirurgický zákrok, pričom poznamenali „ich plány zdokumentovať proces operácie a diskutovať o problémoch trans zdravotnej starostlivosti“ a obsahovali oznámenie o finančnej zbierke. Dozorná rada ponechala príspevky aj účty v anonymite.

Meta odstránila oba príspevky s odvolaním sa na Norma komunity sexuálneho obťažovania , pravidlá týkajúce sa sexuálneho obsahu vo vlastníctve spoločnosti Meta, vrátane Facebooku a Instagramu. Táto norma obmedzuje obsah, ktorý „uľahčuje, podnecuje alebo koordinuje sexuálne stretnutia alebo komerčné sexuálne služby medzi dospelými“, ako aj „sexuálne explicitný jazyk, ktorý môže viesť k sexuálnemu obťažovaniu“. Napriek tomu, že ani jeden príspevok neobsahoval takýto výraz, traja používatelia nahlásili prvý príspevok ako „pornografiu a sebapoškodzovanie“. Hoci ľudskí moderátori, ktorí tieto sťažnosti preskúmali, spočiatku zistili, že príspevok neporušuje pravidlá, obsah bol nahlásený štvrtýkrát a samostatný moderátor príspevok odstránil.



Zistilo sa, že druhý príspevok „potenciálne porušuje“ Meta moderovanie AI , hoci to ľudskí recenzenti považovali za neporušujúce. Aj keď bol príspevok dvakrát nahlásený pre obsah potenciálne porušujúci pravidlá, nahlásenia sa automaticky uzavreli. Keď však Meta's AI skontrolovala príspevok tretíkrát a zistila, že potenciálne porušuje pravidlá, samostatný recenzent sa rozhodol príspevok odstrániť.



Hoci sa pár pokúsil apelovať na Meta, aby obnovila príspevky, spoločnosť odmietla ustúpiť. Až potom, čo sa pár odvolal k správnej rade, Meta považovala tieto odstránenia za „chyby pri presadzovaní práva“ a obnovila ich. Rada teraz žiada verejnosť o vyjadrenie k prípadu.

Rada vo svojom utorňajšom oznámení napísala, že by osobitne ocenila komentáre k tomu, či zásady spoločnosti Meta týkajúce sa nahoty a sexuálneho obťažovania dostatočne rešpektujú práva trans a nebinárnych používateľov. Správna rada tiež žiada komentáre o tom, či má Meta okrem iných tém zavedené dostatočné postupy na riešenie nahláseného neporušujúceho obsahu a ako zmierniť riziko chybného odstránenia. Termín pre predkladanie pripomienok verejnosti je utorok 9. augusta o 11:00 EDT.

Táto správa prichádza v čase zvýšenej kontroly zameranej na Meta, a to ako pre ňu obmedzenia obsahu súvisiaceho s potratmi v post- Roe éry a pre ňu používanie AI pri moderovaní obsahu . Informátor Facebooku Frances Haugen nedávno kritizoval spoliehanie sa spoločnosti na AI, na rozdiel od spravodlivého platenia moderátorov ľudského obsahu, a povedal, že AI môže byť „len taká presná“.



„Ľudia, ktorí na tom skutočne pracujú, tomu hovoria strojové učenie, pretože nie je inteligentné,“ povedal Haugen Business Insider .

Tento nedostatok presnosti má aj ľudskú cenu. A nedávna správa GLAAD zistili, že Meta, spolu s každou ďalšou veľkou platformou sociálnych médií, stále zlyháva v ochrane svojich LGBTQ+ používateľov. Organizácia vyzvala giganta sociálnych médií, aby zverejnil komplexné údaje o tom, ako sa presadzujú jeho zásady na ochranu LGBTQ+ používateľov, berúc do úvahy, že anti-LGBTQ+ obsah stále koluje okolo Facebooku a Meta a vyhýba sa očiam moderátorov, či už ľudí alebo nie.

Od prijatia legislatívy SESTA-FOSTA „proti obchodovaniu s ľuďmi“ v roku 2018 čelia LGBTQ+ ľudia na internete zvýšenie cenzúry a tieňového zákazu . Je to preto, že zákony odstránili zásadnú ochranu, ktorá stanovila, že platformy nemôžu niesť zodpovednosť za obsah vytvorený používateľmi, čím sa vytvorila výnimka pre obsah súvisiaci s „obchodovaním so sexom“, čo bolo tiež nesprávne spojené s konsenzuálna sexuálna práca . Ale ako ukazuje prípad Meta, len existujúce queer a trans telá sú až príliš často považované za nevhodne sexuálne, a to všetko okrem ťažkostí, ktorým čelia skutočné queer a trans sexuálne pracovníčky.