Ako Facebook a Grindr ohrozili súkromie queer ľudí

Nedávne Únik údajov Cambridge Analytica , ktorá odhalila, že konzultačná firma so sídlom v Spojenom kráľovstve použila údaje miliónov používateľov Facebooku na zacielenie reklám v mene Trumpa, naznačila, ako môžu byť neoprávnené údaje použité na zacielenie nielen na americkú populáciu vo všeobecnosti, ale aj na čudných ľudí a konkrétne na naše informácie. Táto možnosť je teraz bližšie k realite, ako je BuzzFeed hlásené včera že Grindr umožňuje dvom firmám tretích strán prístup k HIV statusu, polohe a ďalším osobne identifikovateľným a citlivým informáciám používateľov.

Takéto odhalenia vyvolali u mnohých divných ľudí vrátane mňa obavy z toho, aké rozsiahlejšie spôsoby využívajú naše osobné údaje spoločnosti ako Facebook a Grindr, a to s naším súhlasom aj bez neho, a aké jedinečné rizikové faktory predstavujú ich praktiky pre queer komunitu. Ak máme žiť v tomto svete ako bezpeční a slobodní používatelia internetu, je nevyhnutné pochopiť, ako sa používajú naše údaje a ako tieto algoritmy fungujú, najmä teraz, keď vieme, že sa nepoužívajú len na predaj produktov, ale aj na ovplyvniť naše myšlienky, názory a politické názory.

Aj keď sa objavili určité hnutia na odpor proti hromadnému zdieľaniu údajov, ako napríklad #DeleteFacebook, realita nášho internetového sveta je taká, že naše údaje sa zhromažďujú v masovom meradle a nie sú exkluzívne pre žiadnu jednotlivú platformu. Kedykoľvek prehliadame alebo prehľadávame web, posielame e-maily a uverejňujeme informácie o aplikáciách ako Grindr, je pravdepodobné, že tieto akcie sa používajú na účely zhromažďovania údajov. Či už sa tieto údaje dostanú do rúk marketingovej skupiny, politickej organizácie alebo poradenskej firmy, naše informácie nezostanú nečinné. Môžeme sa pokúsiť o určitú kontrolu nad procesom – napríklad pomocou okna inkognito, keď sme online – ale to môže ochrániť iba časť našej internetovej aktivity. Už nie sme len spotrebiteľmi na internete – sami sme komoditami, keďže naše údaje predávajú aj tretie strany. Môže to byť strašná myšlienka, ale je to tiež to, čo umožňuje, aby bola veľká časť internetu bezplatná a prístupná, pretože predaj našich údajov a ich používanie na zacielenie reklám bráni spoločnostiam, aby museli účtovať poplatky priamo používateľom.

Skôr než sa začneme chrániť, je dôležité vedieť, ako takýto zber údajov v skutočnosti funguje. Pri strojovom učení je dôležité poznamenať, že množstvo údajov, ktoré spoločnosti zhromažďujú týmto spôsobom, je príliš veľké na to, aby ich niekto skutočne preosial. Namiesto toho spoločnosti vkladajú údaje do modelov a strojov, ktoré o nás budú predpovedať. Robia to tak, že sa snažia zistiť, ako nadviazať spojenie medzi všetkými rôznymi informáciami, ktoré dostávajú, ako je počet priateľov, ktorých máte, alebo aké filmy máte radi. Pomocou týchto informácií sa môžu modelky pokúsiť uhádnuť vaše pohlavie, politické presvedčenie alebo pravdepodobnosť, že si kúpite produkt. Odtiaľto o nás vytvárajú profily, ktoré sa potom predávajú inzerentom.

Tieto modely sú také zložité, že ich ľudia priamo nevyrábajú. Namiesto toho sa tieto modely, tiež známe ako algoritmy, trénujú tak, že sa stroje učia hádať správne odpovede na údaje, ktoré si ľudia prezreli, a dúfajú, že to platí pre všeobecnú populáciu.

S týmto učením však zápasia aj bežne používané algoritmy, ako napríklad technológia rozpoznávania tváre účinné iba ak ste biely muž . Pre queer ľudí môžu veľké dáta viesť aj k zvýšenému zacieleniu a mylným predstavám o queerness a jeho vzťahu k tomu, ako konáme. Toľko preferencií a akcií, ktoré nás definujú ako queer, nie sú presne pochopené ani skutočnými ľuďmi, nehovoriac o algoritmoch, a medzi členmi queer komunity sa značne líšia, napriek tomu systémy strojového učenia používajú takéto akcie, aby sa nás pokúsili identifikovať.

Väčšie problémy môžu nastať, keď softvér funguje tak, ako má, alebo, ako je to v prípade Grindr, ak dobrovoľne poskytneme informácie o sebe a očakávame, že budú súkromné, a až neskôr zistíme, že sú nahlásené tretím stranám. Týmto dávame právomoc predpovedať, kto sme a ako nás zacieliť na strany, ktoré sme výslovne nepovolili. To nemusí byť také frustrujúce, keď nám to predstavuje iba reklamu, a dokonca môže byť užitočné, ak sa používa zodpovedne. Môže pomôcť členom queer komunity nájsť sa navzájom alebo dostať potrebné informácie k tým, ktorí ich potrebujú. Ale toto zhromažďovanie údajov je desivejšie, keď sa používa na politické cielenie a policajnú činnosť, a ešte desivejšie, ak sa používa v každej časti nášho života, aby sme sa zbavili akéhokoľvek zdania súkromia.

Súkromie bolo pre queer komunitu vždy mimoriadne dôležité, pretože musíme navigovať, ku komu môžeme byť, kde je bezpečné byť sami sebou a s kým odhaliť veci, ako je náš HIV status. Zachovanie našej bezpečnosti online nie je nový zvláštny problém – je to starý problém, ktorý sa rieši v novom a masívnom meradle. Problémy s ochranou súkromia v queer komunite siahajú do bojov, za ktoré bojovalo mnoho skorších queer aktivistov v našich baroch, domoch a iných spoločenských priestoroch. Ak algoritmus dokáže zistiť alebo vysloviť domnienku, že sme divní, a zároveň doručiť informácie o našom stave HIV tretej strane, sami strácame právomoc rozhodovať o tom, kedy takéto citlivé informácie odhalíme. Tieto údaje môžu byť poskytnuté inzerentom, samozrejme, ale aj orgánom činným v trestnom konaní, našim rodinám, školským správcom, poisťovniam alebo zamestnávateľom a v prípade ich zneužitia nás stavajú do neuveriteľne nebezpečných situácií.

V roku 2014 Facebook zmenili svoje zásady aby si používatelia mohli vybrať, kedy poskytnú naše údaje aplikáciám tretích strán, ale stále musíme byť opatrní, ktorým dávame povolenia. Odhalenia Grindr priniesli tento problém do popredia, pretože zoznamovacia aplikácia priznala zdieľanie stavu HIV používateľov s tretími stranami, ale bránila sa tvrdením, že takéto použitie je povolené jej zásady ochrany osobných údajov, ktorých skúmanie veľa používateľov nevenuje čas. (Včera neskoro, spoločnosť povedal prestali by sa tým zdieľať informácie o HIV používateľov s tretími stranami.) Hoci tieto tretie strany nie sú inzerentmi a sú to spoločnosti, ktoré sa snažia optimalizovať aplikácie, ide o to, že by to nemali byť informácie, ktoré by mal Grindr poskytnúť. Pre pochybných spotrebiteľov, ktorí chcú chrániť svoje súkromie, je preto dôležité sledovať tieto zásady, aby sa zabezpečilo, že informácie o nich sa nedostanú do nesprávnych rúk. Okrem toho, že musíme byť opatrní, musíme tiež zvýšiť hlas a zabezpečiť, aby Facebook, Grindr a ďalšie spoločnosti, ktoré získavajú naše údaje, nedovolili nesprávnym inzerentom použiť ich platformy, aby sa na nás zamerali so zlým úmyslom.

Nejde len o súkromie – ide o naše právo existovať na verejnosti ako čudní ľudia podľa našich vlastných podmienok a právo robiť to bezpečne. Ako skupina anonymných queerov napísal v roku 1990: Byť queer neznamená právo na súkromie; ide o slobodu byť verejným, byť tým, kým sme.

Jason Gurevitch je juniorkou na Colby College, kde študuje informatiku a ženské, rodové a sexuálne štúdiá. Je ambasádorom GLAAD Campus a minulé leto strávil v spoločnosti Google výskumom pomocou strojového učenia.