Prečo stále dôverujeme Amazonu? Ako Big Tech obri zlyhajú chrániť spoločnosť

Spoločnosť Amazon mohla očakávať veľa pozornosti verejnosti, keď oznámila, kde by založila svoje nové sídlo - ale ako mnohé technologické spoločnosti nedávno nepredpokladala, aká negatívna bude odpoveď. Na vybraných územiach Amazonky v New Yorku a vo Virgínii sa miestni politici postavili proti daňovým poplatkom, ktoré spoločnosť prisľúbila. Novinári v celom politickom spektre sa zaoberali dohodami - a sociálne médiá sa naplnili hlasmi Newyorčanov a Virginiáncov, ktorí sľúbili odpor.

Podobne, zjavenia, že Facebook využil antisemitské konšpiračné teórie na podkopanie legitimity kritikov, naznačujú, že namiesto toho, aby sa zmenili, Facebook by radšej pokračoval v ofenzíve. Dokonca aj keď Amazon a Apple videli, že ich hodnoty na akciovom trhu sú krátko na vrchole 1 bilióna dolárov, technologickí manažéri boli pred Kongresom pretiahnutí, snažili sa zaujať jednotný postoj k nenávistným prejavom, chytili zakryté sexuálne pochybenia a videli svojich vlastných zamestnancov, ktorí protestovali proti obchodným obchodom.

V niektorých kruhoch sa to vníma ako strata dôvery verejnosti v technologické firmy, ktoré sľúbili prerobiť svet - spoločensky, environmentálne a politicky - alebo aspoň tak frustrovane, ako tieto spoločnosti zmenili svet. Technologické spoločnosti však musia urobiť oveľa viac, než znovu získať dôveru verejnosti; musia dokázať, že si to zaslúžili na prvom mieste - ktoré, keď sa umiestnili do kontextu dejín technologickej kritiky a skepticizmu, neboli.

Pri pohľade z problémov

Veľké technologické spoločnosti využívali svoje projekty v neurčito utopickom, pozitívnom žargóne, ktorý zatemňuje politiku a verejnú politiku, prekračuje partizánstvo a - pohodlne - sa vyhýba kontrole. Spoločnosť Google svojim zamestnancom pripomenula: „Nebuď zlý.“ Facebook sa snažil „urobiť svet otvorenejším a prepojenejším“. Kto by mohol namietať proti týmto ideálom?

Učenci varovali pred nebezpečenstvom platforiem, ako sú tieto, dlho predtým, než sa mnohí z ich zakladateľov dokonca narodili. V roku 1970 sociálny kritik a historik technológie Lewis Mumford predpovedal, že cieľom toho, čo nazval „počítačom“, je „vybaviť a spracovať nekonečné množstvo dát, aby sa rozšírila úloha a zabezpečila nadvláda v energetickom systéme. „V tom istom roku upozornil seminár na esej feministky mysliteľky Jo Freeman na inherentnú mocenskú nerovnováhu, ktorá zostala v systémoch, ktoré sa zdali byť pre všetkých rovnaké.

Podobne, v roku 1976, počítačový vedec Joseph Weizenbaum predpovedal, že v nasledujúcich desaťročiach by sa ľudia ocitli v stave núdze, pretože sa stali čoraz viac závislými od nepriehľadných technických systémov. Odvtedy sa vydalo nespočetné množstvo podobných varovaní, vrátane dôležitých najnovších štipendií, ako je napr. Výskumný program spoločnosti Safiya Noble, ktorý skúma, ako spoločnosť Google vyhľadáva replikáciu rasových a rodových predsudkov a mediálneho učenca Siva Vaidhyanthan vo vyhlásení, že „problém s Facebookom je Facebook.“

Technologické spoločnosti sú silné a bohaté, ale ich dni vyhýbania sa kontrole sa môžu skončiť. Zdá sa, že americká verejnosť začína mať podozrenie, že technologickí obri neboli pripravení a možno aj neochotní prevziať zodpovednosť za nástroje, ktoré uvoľnili na svet.

V nadväznosti na prezidentské voľby v roku 2016 pretrvávajú vysoké obavy, že ruské a iné zahraničné vlády využívajú akúkoľvek dostupnú platformu sociálnych médií na rozsievanie nesúhlasu a nespokojnosti v spoločnostiach po celom svete.

Facebook ešte nevyriešil problémy s ochranou osobných údajov a transparentnosťou, ktoré spôsobili škandál Cambridge Analytica. Twitter je preferovaný megafón pre prezidenta Donalda Trumpa a domov pre rušivé množstvo násilných nenávistných prejavov. Budúcnosť firemných kancelárií spoločnosti Amazon sa formuje ako mnohostranná bitka medzi volenými predstaviteľmi a ľuďmi, ktorých údajne zastupujú.

Je to Neznalosť alebo Naivete?

Ak sa pozrieme na súčasnú situáciu s históriou kritických technológií, je ťažké sa domnievať, že technologické spoločnosti si zaslúžia krízu, ktorej čelia. Tieto spoločnosti žiadajú ľudí, aby im zverili svoje e-maily, osobné údaje, online vyhľadávacie histórie a finančné informácie do tej miery, že mnohí z týchto spoločností s hrdosťou dávajú najavo, že poznajú jednotlivcov lepšie ako oni sami. Podporujú svoje najnovšie systémy, vrátane „inteligentných reproduktorov“ a „inteligentných kamier“, ktoré sa snažia zabezpečiť, aby každý sledovaný okamih používateľov - a tiež spiace chvíle - mohli byť monitorované, čím sa do ich algoritmov na tvorbu peňazí naskytne viac údajov.

Zdá sa však, že tieto spoločnosti zjavne demonštrujú, aká je nedôvera, ktorú vlastne sú, únik údajov, zdieľanie osobných informácií a nezabránenie hackingu, pretože pomaly zapĺňajú svet rušivou techno-paranoiou, ktorá si zaslúži epizódu „Čierneho zrkadla“.."

Reakcie technologických firiem na každé nové zjavenie zapadajú do štandardného vzoru: Po tom, čo sa objaví škandál, zainteresovaná spoločnosť vyjadruje alarm, že sa niečo pokazilo, sľubuje vyšetrovanie a sľuby urobiť lepšie v budúcnosti. Niektoré časové dni, týždne, alebo dokonca mesiace - neskôr spoločnosť odhalí, že škandál bol priamym dôsledkom toho, ako bol systém navrhnutý, a vykradne zděšeného výkonného predstaviteľa, aby vyjadril rozhorčenie nad deštruktívnym používaním zlých ľudí nájdených pre ich systém, bez pripustenia, že problém je samotný systém.

Zuckerberg sám povedal americkému senátu v apríli 2018, že ho škandál Cambridge Analytica naučil „máme zodpovednosť nielen za to, aby sme ľuďom dávali nástroje, ale aby sme sa uistili, že tieto nástroje sa používajú na dobré účely“. pri vytváraní multimiliardovej spoločnosti.

Prestavba z ľavej časti

Použitie akejkoľvek technológie - od noža k počítaču - nesie riziká, ale s rastúcou veľkosťou a zložitosťou technologických systémov sa rozsah týchto rizík zvyšuje. Technológia je užitočná len vtedy, ak ju ľudia môžu používať bezpečne, spôsobmi, kde výhody prevažujú nad nebezpečenstvami, a ak sa môžu cítiť istí, že rozumejú a akceptujú potenciálne riziká. Pred niekoľkými rokmi sa Facebook, Twitter a Google mohli ukázať väčšine ľudí ako benígne komunikačné metódy, ktoré priniesli spoločnosti viac, než odniesli. Ale s každým novým škandálom a zmätenou odpoveďou čoraz viac ľudí vidí, že tieto spoločnosti predstavujú pre spoločnosť vážne nebezpečenstvo.

Ako lákavé, ako to môže byť ukázať na tlačidlo „vypnúť“, nie je jednoduché riešenie. Technickí giganti sa stali súčasťou štruktúry každodenného života stoviek miliónov ľudí. Navrhnúť, aby ľudia jednoducho skončili, je jednoduché, ale nevie si uvedomiť, aká je závislosť mnohých ľudí na týchto platformách - a to, ako sa môžu cítiť v čoraz netolerovateľnejšej situácii.

Ako výsledok, ľudia kupujú knihy o tom, ako zlé Amazon je - tým, že objedná ich na Amazon. Vykonávajú vyhľadávanie Google na články o tom, koľko informácií spoločnosť Google vie o každom jednotlivom používateľovi. Píšu o tom, koľko nenávidia Twitter a uverejňujú články na Facebooku o najnovšom škandále Facebook.

Technologické spoločnosti sa môžu ocitnúť nad stále sa zhoršujúcou užívateľskou základňou, pretože ich platformy rozšírili nespokojnosť ďalej a širšie, ako bolo možné v minulosti. Alebo sa môžu rozhodnúť, že sa dramaticky zmenia, rozpadnú sa, zmenia niektoré kontroly na demokratické rozhodnutia svojich užívateľov a prevezmú zodpovednosť za škody, ktoré ich platformy a produkty urobili svetu. Zdá sa však, že priemysel už neprekročil ponuku, aby ponúkol ospravedlnenie pri napoly, a zároveň pokračoval v podnikaní ako obvykle. Dúfajme, že sa to zmení. Ale ak je minulosť nejakým sprievodcom, pravdepodobne to nebude.

Tento článok bol pôvodne uverejnený na Konverzácii Zacharyho Loeba. Prečítajte si pôvodný článok.