Michal Kosinski: Facebook je fantastický pro demokracii

Profesor Michal Kosinski z univerzity Stanford vlastně mohl přispět k vítězství Donalda Trumpa v prezidentských volbách. Jen nepřímo, ale od roku 2016 musí s touto výčitkou žít.

Profesor Kosinski je psycholog, který pomocí analýzy dat proniká do našich srdcí a hlav. Celá historie začala v polovině roku 2010. Tehdy Kosinski ještě pracoval v renomovaném centru pro psychometrii na univerzitě v Cambridgi. Vyzkoumal, že algoritmy mohou s pomocí jen několika lajků, které dáme na Facebooku, sestavit rozsáhlý osobní profil uživatele. Tuto metodu později použila firma Cambridge Analytica v upravené podobě pro Trumpovu kampaň při zpracování neoprávněně získaných osobních dat uživatelů Facebooku. To se prozradilo na jaře loňského roku v aféře kolem této firmy. Pobouření nad lehkovážným zacházením Facebooku s daty uživatelů bylo velké. Michal Kosinski byl do této záležitosti nedobrovolně vtažen. Dnes tento rodilý Polák vyučuje a bádá na univerzitě Stanford.

 

Pane profesore, vyzýváte k tomu, abychom se vzdali soukromé sféry. Co to pro člověka vlastně znamená?

Po největší část dějin lidstva nic takového jako soukromá sféra neexistovalo. Žili jsme v malých skupinách na savaně a neexistovala žádná možnost odtud odejít. Všechno, co se v tomto společenství odehrávalo, bylo na očích všem. Podobně je tomu – a to až do dneška – na venkově. Teprve život ve městech nám umožnil mít soukromou sféru. Má to určité výhody proti životu ve skupině na savaně. Pokud bychom například zastávali názory, které tato skupina nesdílí, asi bychom z ní byli vyloučeni. Městský život naproti tomu nabízí ochranu anonymitou, a tím enormní svobody.

 

Máme se těchto svobod vzdát?

Především bychom měli přestat s tím, že posuzujeme tuto tematiku černobíle. Individuum ve venkovském společenství je asi méně svobodné, ale toto společenství drží pohromadě určitý druh sociálního tmelu: Neakceptovatelné chybné chování může být relativně rychle rozpoznáno a sankcionováno. V městském životě tento sociální tmel není tolik přítomný a lidé mají sklon k chybnému chování, například ke krádežím. Ale naproti tomu mají více svobody. Vždy je to ale kompromisem. Musíme si být vědomi toho, že neexistuje žádná cesta zpátky. 

 

Proč není žádná cesta zpět? 

Rostoucí zemědělství mělo pro společnost kromě výhod také velmi vysoké náklady. Lidé se mohli na jedné straně dostatečně živit a obyvatelstvo rostlo. Na druhé straně vedl usedlý způsob života k tomu že častěji docházelo k válkám. Rolníci nemohli před nepřáteli utéct, protože by museli opustit svoji půdu. A byli také vystaveni působení špatného počasí, kterému se také nemohli vyhnout. A tak to bylo a je i s mnoha novými technologiemi. Přinášejí nám i nevýhody. Usedlé venkovské obyvatelstvo se nemohlo znovu stát nomády, už k tomu bylo příliš velké.

 

Znamená to, že musíme napřed projít dlouhou cestou potíží, než se nové technologie jako Big Data nebo umělá inteligence vyplatí?

Ano, pocítíme stinné stránky těchto technologií. Ale není cesty zpátky, ani pro Evropu. Co se stane podle vašeho názoru v Číně, Rusku nebo USA? Tuto chybu už Evropa jednou udělala, a to je důvod, proč firmy jako Google nebo Facebook nejsou v Evropě, nýbrž v USA. A protože USA chtějí jít v oblasti regulace cestou Evropy, přejdou tyto firmy do Číny, anebo tam budou zakládány. Když nebudeme dávat pozor, budou brzy Američané a Evropané využívat čínské technologické služby, protože budou díky generovaným množstvím dat prostě lepší. Americe a Evropě hrozí v digitalizaci prohra, protože se snaží chránit něco, co se už ochránit nedá: soukromou sféru.

{mprestriction ids="1,2"}

Co dostaneme za to, když se vzdáme svojí soukromé sféry?

Nové služby a produkty, které jsou založeny na sběru dat, enormně obohatí náš život. Přirozeně to působí strašidelně, když jsou shromažďována naše genetická data, ale na druhé straně mohou být naše nemoci snadněji rozpoznány a léčeny. Místo toho, abychom bojovali proti nevyhnutelnému, měli bychom to spoluvytvářet.

 

Jak máme spoluvytvářet společnost, ve které nám naše data už nepatří?

Problém není v tom, že naše osobní data už nejsou skryta v bankách dat, nýbrž v tom, co lze s nimi dělat. Pojišťovací koncerny by mohly například využívat DNA, aby vyloučily zákazníky s genetickými vadami z pojišťovací ochrany. Pokud by ovšem bylo toto odvětví regulováno tak, že by k pojištění všech zákazníků bylo zavázáno, bylo by i v zájmu pojišťoven bránit zájmy zákazníků a pomáhat jim co nejlépe vyřešit jejich zdravotní riziko. Kolik lidských životů by bylo možné zachránit, kolik dětí ochránit, pokud by byl možný přístup k vyhledávaným dotazům u Googlu. Když se tam někdo ptá po metodách, jak se zabít, nebo když se tam dítě vyptává, zda je normální, že ho dospělý osahává na genitáliích, bylo by možné předejít sebevraždám i zneužívání. Ale dal by se přirozeně očekávat obrovský křik ochránců dat.

 

Ale tím bychom se rychle vydali směrem k dohlížitelskému státu.

V diskusích panuje velká licoměrnost. Nesmíme tato data využívat, abychom zachránili životy. Ale Facebook a Google je používat mohou, aby nám prodávaly nejrůznější zbytečnosti.

 

Pojďme se bavit o blížících se prezidentských volbách v USA v příštím roce. Obáváte se, že voliči mohou být přes sociální sítě manipulováni kandidáty, jinými politiky, nebo dokonce temnými silami ze zahraničí?

Ne, sociální sítě jsou pro demokracii fantastické. Strach z toho, že například Facebook se může stát nástrojem masové manipulace, je dalším příkladem toho, jak se dnes rozhořčujeme nad problémy, které neexistují, a necháváme stranou ty, které jsou skutečné. Vezměme tzv. fake news. Přirozeně existují falešné zprávy. Je jich dokonce víc než dříve, protože je kdokoliv může umístit na internet a pak je přes sociální sítě stokrát i milionkrát dál šířit. Otázka ovšem je, zda občan v průměru těmto falešným zprávám věří více než v minulosti. Lidé jsou dnes tak dobře informováni jako nikdy předtím. Přirozeně jsou i dnes čas od času opačné tendence, jak například ukazují kampaně proti očkování. Ale trend je jednoznačný.

 

Vycházíte tedy z toho, že je také mýtem, že se lidé přes internet a platformy, jakými jsou Facebook a Twitter, radikalizují?

Ano, celosvětové ankety o hodnotách a názorech ukazují, že se lidé obecně pohybují směrem k podpoře lidských práv, k demokracii anebo pro práva homosexuálů. A to mimo jiné kvůli informacím, které jsou k dispozici na internetu. To je obrovský pokrok.

 

Když se ale podíváte na Ameriku a na populismus, je tam vidět určitý rozpor.

Tak se podívejte padesát let zpátky! Tehdy jsme měli v Evropě ještě železnou oponu. To bylo skutečné rozdělení. Anebo se podívejte na Ameriku. Není to tak ještě dlouho, kdy v této zemi existovala skupina občanů – Afroameričané, kterým byla odpírána plná občanská práva. Toto zásadní rozdělení bylo překonáno. Dnes Amerika diskutuje o tom, zda má zdravotní pojištění pokrývat 80 nebo 100 procent obyvatel. To jsou ty jemnosti. Pochopitelně se dnes velmi hlasitě diskutuje. Ale to souvisí s tím, že přístup ke komunikačním kanálům prostřednictvím sociálních sítí a internetu se všeobecně demokratizoval.

 

Ve vašich výzkumech jste prokázal, že je potřeba jen několik málo dat k tomu, aby byly stanoveny základní vlastnosti jednotlivé osobnosti. Jak velké odhadujete nebezpečí, že tyto poznatky budou v příštím americkém volebním boji zneužity a že kandidáti nebo zahraniční aktéři se pokusí individuálně zaměřenými falešnými informacemi provést „výplach“ mozku?

To je směšné. Dobrá věc je, že se politici mohou na každého jednotlivého voliče obrátit s individuálním poselstvím. Představte si, že by politik měl možnost ve volebním boji zaklepat na každé dveře a začít s občanem hovořit. To není v reálném životě možné, ale na Facebooku a dalších sociálních sítích to jde. Proto jsou sociální sítě dobré pro demokracii.

 

Jaká jsou skutečná rizika, která v diskuzi podle vašeho názoru přehlížíme?

Ignorujeme nebezpečí, že algoritmy naši demokracii kompletně mění. Představme si dva politiky. Ten jeden používá algoritmy, aby předal svoje volební poselství, ten druhý ne. Ten první s velkou pravděpodobností volby vyhraje. Vítěz voleb bude algoritmy používat i nadále, aby prosadil svoji politickou agendu. A tím bude úspěšnější než ten politik, který algoritmy nepoužívá. Na základě dat pak budou algoritmy stále lepší. Jednoho dne to povede k tomu, že politici přestanou být aktéry, ale stanou se jen rozhraním pro algoritmus, který bude samostatně jednat a rozhodovat. Totéž se může stát šéfům koncernů, generálům a lékařům: Ti všichni dobrovolně odevzdávají svoje rozhodovací pravomoci. To je enormní riziko.

 

Kam to povede?

Především nám hrozí nebezpečí, že společnost bude řízena algoritmy a ne lidmi. Za druhé bychom následovali algoritmy, kterým bychom už nerozuměli. Naše mozky nejsou vybaveny pro komplexitu algoritmů. Přijde čas, kdy algoritmy budou přijímat rozhodnutí, která jsou pro nás jako homo sapiens velmi špatná, a my, lidé, tato rozhodnutí budeme přesto provádět.

 

To se poslouchá jako sci-fi.

To je už částečně teď realitou. Když přijímá centrální banka rozhodnutí o úrocích, základem jsou algoritmy, které vycházejí z terabytů dat. Obchodníci na Wall Streetu zakládají svoje koupě a prodeje akcií už nyní převážně na algoritmech.

 

Vy jako psychiatr také používáte algoritmy, abyste z dat určil osobnost člověka. Důvěřujete tomu?

Je velmi jednoduché jen z několika dat vypočítat, zda někdo trpí depresemi. Jak ale algoritmy k tomu závěru došly, to pochopím často až po týdenním, někdy i měsíčním zkoumání, ačkoliv jsou to relativně jednoduché algoritmy. A teď si představte inženýra u Googlu. Ten chce prostě jen vytvářet stále lepší algoritmy. Pravděpodobně jej nezajímá, jak algoritmus dospěje k rozhodnutí. A to je velmi nebezpečné.

 

Jak můžeme snížit riziko, abychom nebyli jednoho dne řízeni algoritmy?

Nejdříve musíme toto riziko rozpoznat a přestat se do krve hádat o fake news a radikalizaci. A musíme se smířit s tím, že není žádné cesty zpět. Je stále více dat, algoritmy jsou stále lepší a my je bude stále více využívat. Pokrok se nedá zastavit. Nakonec budeme muset požadovat, aby umělá inteligence byla transparentní a srozumitelná. 

{/mprestriction} 

Přeložil Miroslav Pavel.

 

Michal Kosinski (*8. května 1982, Varšava) je polský psycholog a působí jako profesor na univerzitě Stanford. Jeho výzkum se zaměřuje na individuální rozdíly v chování, preferencích a výkonu. Konkrétně se zajímá o mechanismy propojující psychologické zvláštnosti (jako je osobnost) se širokou škálou organizačních a sociálních výsledků, včetně pracovního výkonu, zaměstnání, spotřebitelských preferencí a ideologie. To zahrnuje kromě chování také jazyk i sledování rysů obličeje. Kosinski provádí svůj výzkum pomocí řady výpočetních metod, včetně strojového učení, těžby dat a observačních studií, do nichž jsou zapojeny miliony účastníků.