Tristan Harris o peklu umělé inteligence a sociálních sítí
21. 3. 2024
čas čtení
12 minut
Tristan Harris. (Foto Stephen McCarthy/Collision via Sportsfile)
Moderátor, BBC Radio Four Today Programme, středa 20. 3. 2024: Před
více než deseti lety pracoval Tristan Harris ve společnosti Google jako
etik designu. Napsal článek se 141 slajdy s názvem "A call to minimise
distraction and respect users' attention (Výzva k minimalizaci
rozptylování a respektování pozornosti uživatelů)". Jednoduše se obával,
že náš vztah k technologiím se vyvíjí špatně. Místo aby nás osvobodila a
soustředila se na to, co činí bytí člověkem výjimečným a cenným,
podkopává naši autonomii, soustředila příliš mnoho moci v příliš málo
rukou a poškodila posvátná pouta, která dávají našemu životu smysl.
Založil Centrum pro humánní technologie, které nyní věnuje spoustu času
varování světa nejen před nebezpečím sociálních médií a chytrých
telefonů, ale i umělé inteligence. Přicestoval ze Států a právě teď
přichází do studia pořadu Today. A dobré ráno.
Pojďme krátce k tomu příběhu o vzniku vaší organizace. Jsem obeznámen s výkonnou zprávou o technologických společnostech, ale mnoho lidí ji znát nebude. Nebudou vědět, že jste byl v různých seznamech časopisu Time stovky nejvlivnějších lidí v oblasti technologií a tak dále. Proč jste odešel ze společnosti Google?
Tristan Harris: Byl jsem v Googlu, a to v roce 2013, a viděl jsem, že v příštích deseti letech nás čeká zkáza, pokud dovolíme, aby tato zvrácená motivace v technologiích pokračovala, a tou zvrácenou motivací byl závod o pozornost - když jsem seděl v Googlu, nebylo to tak, že by problémem byl Google samotný, ale to, že Google hostoval a šířil tuto ekonomiku pozornosti a lidé mají jen určité množství lidské pozornosti. A chytré telefony otevřely tuto zcela novou nemovitost lidské pozornosti schopností trvale oslovovat lidi 24 hodin denně, 7 dní v týdnu a společnosti sociálních médií byly nuceny maximalizovat čas strávený zapojením lidí. Dokonce i BBC musí maximalizovat pozornost svých posluchačů, že? Ale ne způsobem, který je napojen na cenu akcií v bilionovém tržním ocenění jako to musí dělat TikTok nebo Facebook. A tak jsem se snažil poukázat na to, že pokud nezastavíme závod o pozornost, vytvoří to závod o jádro našeho mozkového kmene k ještě návykovější, roztěkanější, polarizovanější, sexualizované společnosti, protože to všechno je ten ekonomický úspěch tohoto obchodního modelu angažovanosti.
Moderátor: A abychom si udělali představu o tom, jak tyto pobídky fungují v praxi, vím, že jste často mluvil o tom příkladu YouTube, kde si spousta lidí neuvědomuje, že YouTube byl vynalezen teprve v roce 2000, vytvořen v roce 2004. je to něco přes 2 a půl miliardy lidí, co používají You Tube? Jen nám dejte představu o tom, kolik času na něm tráví a jak velkou část sledování YouTube netvoří to, co lidé vyhledali, ale to, co vám předhodí algoritmy YouTube, aby upoutaly vaši pozornost.
Tristan Harris: To je pravda. Myslím, že drtivou většinu návštěvnosti YouTube tvoří doporučení od algoritmů. Ale stejně jako u TikToku, i pro ty, kteří používají TikTok, když používáte YouTube nebo TikTok, máte v podstatě superpočítač namířený na svůj mozkový kmen, a tak za tou skleněnou tabulkou, když přejedete prstem nahoru, abyste viděli, jaké je další video, jste právě aktivovali největší superpočítač na světě namířený na váš mozek, aby vypočítal, které video vás s největší pravděpodobností udrží u sledování. A lidé říkají: "Dobře, tak o co jde? Pokud mi to doporučuje videa, která se mi líbí nebo která mě zaujmou, proč bychom to měli považovat za škodlivé?
Proto, že to každému člověku personalizuje to další video, a tak to rozbíjí naši sdílenou realitu, protože teď každý dostává svou vlastní na míru šitou, angažovanou realitu. Pro dospívající dívku. Pokud začne s videem o dietě, další video bude video o anorexii, protože videa o anorexii vás dobře udrží na YouTube, To, že jsme dovolili, aby tento experiment trval 10 let, všude to vytvořilo politicky rozhořčenější a rozpolcenější společnost. V demokraciích, jak jste se zmínil dříve, tento rok jsou jakési super volby demokracií v roce 2024, 2 miliardy lidí budou mít demokratické volby.
Moderátor: Více než polovina lidstva, ano..
Moderátor: Jen k vaší poznámce o tom klasickém příkladu, kdy jdete hledat radu ohledně stravování a skončíte u obrázků anorexie. Vím, protože jsem to tu otázku různým společnostem položil, že Google by řekl, Facebook by řekl, že přijali velmi rozsáhlá opatření, aby se pokusili držet lidi dál od tohoto druhu škodlivého obsahu, od sebepoškozování, což je problém, o kterém jsme v tomto pořadu často mluvili. Myslíte si, že se jim to podařilo?
Tristan Harris: Určitě do toho hodně investovali. Zejména poté, co jsme kvůli tomu začali asi před pěti lety vznášet obavy, ale musíte si představit, že tento algoritmus, tento doporučovací systém běžel 10 let, dlouho bez omezení, 10 let, a za tu dobu napáchal velké škody. škoda. Způsobil rozhádanost obyvatelstva, a také víte, TikTok je opravdu nejpoužívanější. Celosvětově... Ano, více než miliarda. A jedna věc, kterou by si západní země měly uvědomit, je otázka, zda byste během studené války dovolili Sovětskému svazu ovládat televizní program pro celý západní svět? A myslím si, že je opravdu zajímavé přemýšlet o společnosti ovlivněné čínskou komunistickou stranou, která určuje, co uvidí 2 miliardy lidí na celém světě při příštích volbách. Takže nejde jen o to, že byste řekněme v 60. letech minulého století dovolili Rusku určovat televizní program pro USA nebo Velkou Británii. Dovolíte, aby se televizní program chystal na vaše nejdůležitější volby, že? Takže to je opravdu nebezpečná situace, a proto se v USA v poslední době rozmohl ten zákaz TikToku.
Pojďme k mladým lidem, co ukazují důkazy o vlivu chytrých telefonů a sociálních médií na mladou mysl?
Moderátor: Je to skvělý autor. Už jsme ho tu měli několikrát, napsal knihu Spravedlivá mysl, kterou by spousta lidí mohla znát, ale jeho zájmem je zmapovat vzestup Instagramu, což je podle něj hlavní problém. A nárůst úzkosti a deprese mezi dospívajícími dívkami v Americe.
Moderátor: Měl bych říct, že ještě tento týden budeme mluvit s Jjonathanem Heightem, umělá inteligence to všechno posouvá na novou úroveň a často slýcháme o potenciálu umělé inteligence. Je jedním z definičních znaků umělé inteligence právě rychlost vývoje a lidstvo potřebuje čas, aby vstřebalo nové technologie, že? Potřebujeme čas, abychom jim porozuměli, a zdá se, že umělá inteligence v tomto ohledu si oprqavdu sama dělá, co chce.
Tristan Harris: To je pravda. Ano. Umělá inteligence dramaticky prohloubí problémy, které jsme viděli u sociálních médií. Pokud tedy o sociálních médiích uvažujete jako o prvním kontaktu s kurátorskou AI, vše, co dělá, je kurátorství, určuje, který videopříspěvek nebo tweet se vám zobrazí, když přejedete prstem vpravo nahoru a posunete obrazovku. A jen to už stačilo k tomu, aby tak upadly demokracie po celém světě, aby se podělalo duševní zdraví dětí, aby to opravdu narušilo a pokřivilo společnost. A nyní, při druhém kontaktu s umělou inteligencí, to je generativní umělá inteligence. Neurčuje to, co vidíme. Je schopná generovat, generovat text.
Tristan Harris: S novými videi, novými rozhodnutími, novými nápady, generuje vědecké hypotézy. Víte, generuje analýzy trhu. Můžete použít umělou inteligenci ke generování obsahu a pak to, co vám umožňuje dělat, je vyrábět deep fakes, s nimiž můžete jít do voleb. Můžete mít nadlidské přesvědčování a řeč. Můžete určit, vzhledem k tomu, že tento člověk žije v této části společnosti s touto demografií a tímto příjmem, co by pro něj bylo motivující sdělení? A můžu dělat nadlidské přesvědčování vice lidí. Můžeme také generovat audio. Můžu si vzít 5, 10 sekund vašeho hlasu. A pak mohu začít vytvářet jakousi vaši falešnou verzi a mluvit tím s vaší bankou. Tohle superzvýší mnoho dalších problémů, které jsme viděli v souvislosti se sociálními médii.
A jak jste řekl, pokud pobídka předpovídá výsledek, v sociálních médiích bylo pobídkou zapojení, angažmá. V tomto dalším kolem, v umělé inteligenci je pobídkou závod o zavedení. Jde nyní o tom, kdo nasadí svou umělou inteligenci rychleji než ten druhý, a to znamená, že závodí co nejrychleji, což znamená, že vyhodí bezpečnost z okna. Nejde o to, že by se lidé nestarali o bezpečnost, ale o to, že jí nejsou schopni věnovat čas, když jejich konkurenti prostě vydávají věci co nejrychleji. Je to jednak závod mezi USA a Čínou, ale také závod západních společností mezi sebou.
Moderátor: Proto o tom musíme mluvit. Tristram Harris. Spoluzakladatel a výkonný ředitel Centra pro humánní technologie. Děkujeme, že jste k nám přišel.
Moderátor: Proto o tom musíme mluvit. Tristram Harris. Spoluzakladatel a výkonný ředitel Centra pro humánní technologie. Děkujeme, že jste k nám přišel.
Tristan Harris: Moc děkuji za pozvání.
Zdroj v angličtině ZDE (od minuty 2.37.00)
5480
Diskuse