Como a tecnologia sequestra as mentes das pessoas - de um mágico e do designer de ética do Google

como michael knight morreu

Eu sou um especialista em como a tecnologia sequestra nossas vulnerabilidades psicológicas. É por isso que passei os últimos três anos como um especialista em design no Google, preocupando-me em como projetar as coisas de uma forma que proteja a mente de um bilhão de pessoas contra o sequestro.

Ao usar a tecnologia, muitas vezes nos concentramos otimisticamente em todas as coisas que ele faz por nós. Mas eu quero mostrar a você onde pode fazer o oposto.

Onde a tecnologia explora as fraquezas de nossas mentes ?

Aprendi a pensar assim quando era mágico. Os mágicos começam procurando pontos cegos, bordas, vulnerabilidades e limites da percepção das pessoas, para que possam influenciar o que as pessoas fazem sem que percebam. Depois de saber como apertar os botões das pessoas, você pode tocá-los como um piano.

Sou eu fazendo mágica com as mãos na festa de aniversário da minha mãe(Foto do autor)

E é exatamente isso que os designers de produtos fazem com a sua mente. Eles jogam suas vulnerabilidades psicológicas (consciente e inconscientemente) contra você na corrida para chamar sua atenção.

Eu quero mostrar a você como eles fazem isso.

Hijack # 1: se você controla o menu, você controla as escolhas

Limitando a escolha(Foto do autor)

A cultura ocidental é construída em torno de ideais de escolha individual e liberdade. Milhões de nós defendemos ferozmente nosso direito de fazer escolhas livres, enquanto ignoramos como essas escolhas são manipuladas a montante por menus que não escolhemos em primeiro lugar.

Isso é exatamente o que os mágicos fazem. Eles dão às pessoas a ilusão de livre escolha enquanto arquitetam o menu para que ganhem, não importa o que você escolha. Não consigo enfatizar o suficiente o quão profundo é esse insight.

Quando as pessoas recebem um menu de opções, raramente perguntam:

• o que não está no menu?
• por que estou sendo dado essas opções e não outros?
• eu conheço os objetivos do fornecedor do menu?
• é este menu capacitando para minha necessidade original, ou as escolhas são na verdade uma distração? (por exemplo, uma grande variedade de pastas de dente)

Por exemplo, imagine que você saiu com amigos em uma noite de terça-feira e deseja manter a conversa. Você abre o Yelp para encontrar recomendações próximas e ver uma lista de bares. O grupo se transforma em um amontoado de rostos olhando para seus telefones comparando barras. Eles examinam as fotos de cada um, comparando coquetéis. Este menu ainda é relevante para o desejo original do grupo?

Não é que os bares não sejam uma boa escolha, é que o Yelp substituiu a pergunta original do grupo (onde podemos continuar conversando?) Por uma pergunta diferente (o que é um bar com boas fotos de coquetéis?) Tudo modelando o menu.

Além disso, o grupo cai na ilusão de que o menu do Yelp representa um conjunto completo de escolhas para onde ir. Enquanto olham para seus telefones, eles não veem o parque do outro lado da rua com uma banda tocando música ao vivo. Eles sentem falta da galeria pop-up do outro lado da rua que serve crepes e café. Nenhum deles aparece no menu do Yelp.

O Yelp sutilmente reformula a necessidade do grupo, onde podemos continuar conversando? em termos de fotos de coquetéis servidos.(Captura de tela: Tristan Harris)

Quanto mais opções a tecnologia nos oferece em quase todos os domínios de nossas vidas (informações, eventos, lugares para ir, amigos, namoro, empregos) - quanto mais presumimos que nosso telefone é sempre o menu mais poderoso e útil para escolher . É isso?

O menu mais estimulante é diferente do menu que tem mais opções . Mas quando nos rendemos cegamente aos menus que recebemos, é fácil perder a noção da diferença:

• Quem está livre esta noite para sair? torna-se um menu de pessoas mais recentes que nos enviaram mensagens de texto (a quem poderíamos pingar).
• O que está acontecendo no mundo? torna-se um menu de histórias de feed de notícias.
• Quem está solteiro para ir a um encontro? torna-se um menu de rostos para deslizar no Tinder (em vez de eventos locais com amigos ou aventuras urbanas nas proximidades).
• Eu tenho que responder a este e-mail. torna-se um menu de chaves para digitar uma resposta (em vez de fortalecer maneiras de se comunicar com uma pessoa).

O Yelp sutilmente reformula a necessidade do grupo, onde podemos continuar conversando? em termos de fotos de coquetéis servidos.(Foto do autor)

Quando acordamos de manhã e viramos nosso telefone para ver uma lista de notificações - isso enquadra a experiência de acordar de manhã em torno de um menu de todas as coisas que perdi desde ontem. (para mais exemplos, veja Palestra sobre Empowering Design de Joe Edelman )

Uma lista de notificações quando acordamos de manhã - quão poderoso é este menu de opções ao acordar? Isso reflete o que nos preocupa? (do Empowering Design Talk de Joe Edelman)(Foto: Tristan Harris)

Ao moldar os menus que escolhemos, a tecnologia sequestra a maneira como percebemos nossas escolhas e as substitui por novas. Porém, quanto mais prestamos atenção às opções que temos, mais perceberemos quando elas não se alinham realmente com nossas verdadeiras necessidades.

Hijack # 2: coloque um caça-níqueis em um bilhão de bolsos

Se você é um aplicativo, como mantém as pessoas presas? Transforme-se em uma máquina caça-níqueis.

A pessoa média verifica seu telefone 150 vezes por dia. porque nós fazemos isso? Estamos fazendo 150 consciente escolhas ?

Com que frequência você verifica seu e-mail por dia?(Captura de tela: Tristan Harris)

Uma das principais razões é o ingrediente psicológico nº 1 nas máquinas caça-níqueis: recompensas variáveis ​​intermitentes .

Se você quiser maximizar a dependência, tudo o que os designers de tecnologia precisam fazer é vincular a ação de um usuário (como puxar uma alavanca) com uma recompensa variável . Você puxa uma alavanca e imediatamente recebe uma recompensa atraente (uma partida, um prêmio!) Ou nada. A dependência é maximizada quando a taxa de recompensa é mais variável.

Esse efeito realmente funciona nas pessoas? sim. As máquinas caça-níqueis ganham mais dinheiro nos Estados Unidos do que beisebol, filmes e parques temáticos combinado . Em relação a outros tipos de jogos de azar, as pessoas ficam 'problemáticas' com caça-níqueis 3-4x mais rápido de acordo com a professora da NYU Natasha Dow Schull, autora de Vício por Design.

Mas aqui está a triste verdade - vários bilhões de pessoas têm uma máquina caça-níqueis no bolso:

• Quando tiramos nosso telefone do bolso, estamos jogar uma máquina caça-níqueis para ver quais notificações recebemos.
• Quando puxamos para atualizar nosso e-mail, estamos jogar uma máquina caça-níqueis para ver que novo e-mail recebemos.
• Quando deslizamos o dedo para baixo para rolar o feed do Instagram, estamos jogar uma máquina caça-níqueis para ver que foto vem a seguir.
• Quando deslizamos o rosto para a esquerda / direita em aplicativos de namoro como o Tinder, estamos jogar uma máquina caça-níqueis para ver se temos uma correspondência.
• Quando tocamos no número de notificações vermelhas, estamos jogar uma máquina caça-níqueis para o que está por baixo.

Notificações vermelhas(Captura de tela: Tristan Harris)

Aplicativos e sites distribuem recompensas variáveis ​​intermitentes em todos os seus produtos porque é bom para os negócios.

Mas em outros casos, as máquinas caça-níqueis surgem por acidente. Por exemplo, não há nenhuma empresa mal-intencionada por trás todo e-mail que conscientemente escolheu torná-lo uma máquina caça-níqueis. Ninguém lucra quando milhões verificam seus e-mails e não há nada lá. Nem os designers da Apple e do Google quer telefones para funcionar como caça-níqueis. Surgiu por acidente.

Mas agora empresas como a Apple e o Google têm a responsabilidade de reduzir esses efeitos em converter recompensas variáveis ​​intermitentes em recompensas menos viciantes e mais previsíveis com melhor design. Por exemplo, eles podem capacitar as pessoas a definir horários previsíveis durante o dia ou semana para verificar os aplicativos das máquinas caça-níqueis e ajustar correspondentemente quando novas mensagens forem entregues para se alinharem com esses horários.

Hijack # 3: Medo de perder algo importante (FOMSI)

Outra forma de aplicativos e sites sequestrarem a mente das pessoas é induzindo a 1% de chance de você estar perdendo algo importante.

Se eu convencer você de que sou um canal para informações importantes, mensagens, amizades ou oportunidades sexuais em potencial - será difícil para você me desligar, cancelar ou remover sua conta - porque (aha, eu ganhei) você pode perca algo importante:

• Isso nos mantém inscritos em boletins informativos, mesmo depois que eles não entregaram benefícios recentes (e se eu perder um anúncio futuro?)
• Isso nos mantém amigos de pessoas com quem não conversamos há anos (e se eu perder algo importante deles?)
• Isso nos mantém digitando rostos em aplicativos de namoro, mesmo quando não encontramos ninguém há algum tempo (e se eu perder isso uma partida quente quem gosta de mim?)
• Isso nos mantém usando as mídias sociais (e se eu perder aquela notícia importante ou ficar para trás do que meus amigos estão falando?)

Mas se ampliarmos esse medo, descobriremos que é ilimitado : sempre vamos perder algo importante a qualquer momento quando paramos de usar algo.

• Há momentos mágicos no Facebook que perderemos se não o usarmos pela 6ª hora (por exemplo, um velho amigo que está visitando a cidade agora mesmo )
• Há momentos mágicos que perderemos no Tinder (por exemplo, nosso parceiro romântico dos sonhos) por não deslizar nossa 700ª partida.
• Vamos perder chamadas de emergência se não estivermos conectados 24 horas por dia, 7 dias por semana .

Mas viver momento a momento com o medo de perder algo não é como fomos feitos para viver.

E é incrível como rapidamente, uma vez que deixamos esse medo ir, acordamos da ilusão. Quando nos desconectarmos por mais de um dia, cancele a inscrição dessas notificações ou vá para Acampamento Aterrado - as preocupações que pensávamos que teríamos não acontecem de fato.

Não perdemos o que não vemos.

O pensamento, e se eu perder algo importante? é gerado antes de desconectar, cancelar a inscrição ou desligar - Não após. Imagine se as empresas de tecnologia reconhecessem isso e nos ajudassem a ajustar proativamente nossos relacionamentos com amigos e empresas em termos do que definimos como tempo bem gasto para nossas vidas, em vez de em termos do que podemos perder.

Hijack # 4: aprovação social

Facilmente uma das coisas mais persuasivas que um ser humano pode receber.(Captura de tela: Tristan Harris)

Somos todos vulneráveis ​​a aprovação social . A necessidade de pertencer, de ser aprovado ou apreciado pelos nossos semelhantes está entre as mais altas motivações humanas. Mas agora nossa aprovação social está nas mãos de empresas de tecnologia.

Quando sou marcado pelo meu amigo Marc, imagino-o fazendo um escolha consciente para me marcar. Mas não vejo como uma empresa como o Facebook orquestrou isso em primeiro lugar.

O Facebook, Instagram ou SnapChat podem manipular a frequência com que as pessoas são marcadas em fotos, sugerindo automaticamente todos os rostos que as pessoas devem marcar (por exemplo, mostrando uma caixa com uma confirmação de 1 clique, Marque Tristan nesta foto?).

Então, quando Marc me marca, ele é realmente respondendo à sugestão do Facebook, não fazer uma escolha independente. Mas, por meio de escolhas de design como essa, O Facebook controla o multiplicador para quantas vezes milhões de pessoas experimentam sua aprovação social na linha .

O Facebook usa sugestões automáticas como essa para fazer as pessoas marcarem mais pessoas, criando mais externalidades e interrupções sociais.(Captura de tela: Tristan Harris)

jackie morreu no final de enfermeira jackie

O mesmo acontece quando mudamos nossa foto de perfil principal - o Facebook sabe que é um momento em que estamos vulnerável a aprovação social : o que meus amigos acham da minha nova foto? O Facebook pode ter uma classificação mais elevada no feed de notícias, por isso permanece por mais tempo e mais amigos irão gostar ou comentar. Cada vez que eles gostam ou comentam sobre isso, nós seremos puxados de volta.

Todos respondem inatamente à aprovação social, mas alguns dados demográficos (adolescentes) são mais vulneráveis ​​a ela do que outros. É por isso que é tão importante reconhecer o quão poderosos os designers são quando exploram esta vulnerabilidade.

Hijack # 5: Reciprocidade social (tit-for-tat)

• Você me faz um favor - eu te devo um na próxima vez.
• Você diz, obrigado - eu tenho que dizer que você é bem-vindo.
• Você me envia um e-mail - é rude não responder.
• Você me segue - é rude não te seguir de volta. (especialmente para adolescentes)

Nós somos vulnerável a necessidade de retribuir os gestos dos outros . Mas, assim como acontece com a aprovação social, as empresas de tecnologia agora manipulam a frequência com que a vivenciamos.

Em alguns casos, é por acidente. Aplicativos de e-mail, mensagens de texto e mensagens são fábricas de reciprocidade social . Mas, em outros casos, as empresas exploram essa vulnerabilidade propositalmente.

O LinkedIn é o ofensor mais óbvio. O LinkedIn deseja que tantas pessoas criem obrigações sociais umas para as outras quanto possível, porque cada vez que eles retribuem (aceitando uma conexão, respondendo a uma mensagem ou endossando alguém de volta por uma habilidade), eles precisam voltar ao linkedin.com, onde podem fazer com que as pessoas passem mais tempo.

Como o Facebook, o LinkedIn explora uma assimetria de percepção. Quando você recebe um convite de alguém para se conectar, você imagina essa pessoa fazendo um escolha consciente para convidar você, quando na realidade, eles provavelmente responderam inconscientemente à lista de contatos sugeridos do LinkedIn. Em outras palavras, o LinkedIn transforma seu impulsos inconscientes (adicionar uma pessoa) em novas obrigações sociais que milhões de pessoas se sentem obrigadas a pagar. Ao mesmo tempo, eles lucram com o tempo que as pessoas gastam fazendo isso.

O LinkedIn explora uma assimetria de percepção.(Foto: Tristan Harris)

Imagine milhões de pessoas sendo interrompidas assim ao longo do dia, correndo como galinhas com a cabeça cortada, retribuindo - tudo projetado por empresas que lucram com isso.

Bem-vindo às redes sociais.

Depois de aceitar um endosso, o LinkedIn aproveita sua tendência para retribuir, oferecendo em troca * quatro * pessoas adicionais para você endossar.(Captura de tela: Tristan Harris)

Imagine se as empresas de tecnologia tivessem a responsabilidade de minimizar a reciprocidade social. Ou se houvesse uma organização independente que representasse os interesses do público - um consórcio da indústria ou um FDA para tecnologia - que monitorava quando as empresas de tecnologia abusavam desses preconceitos?

Hijack # 6: tigelas sem fundo, feeds infinitos e reprodução automática

O YouTube reproduz automaticamente o próximo vídeo após uma contagem regressiva(Captura de tela: Tristan Harris)

Outra maneira de sequestrar as pessoas é mantê-las consumindo coisas, mesmo quando não estão mais com fome.

Como? Fácil. Pegue uma experiência que era limitada e finita e transforme-a em um fluxo sem fundo isso continua .

O professor Brian Wansink da Cornell demonstrou isso em seu estudo mostrando você pode enganar as pessoas para que continuem comendo sopa, dando-lhes uma tigela sem fundo que reabastece automaticamente enquanto comem. Com tigelas sem fundo, as pessoas comem 73% mais calorias do que aquelas com tigelas normais e subestimam em 140 calorias quantas calorias comeram.

As empresas de tecnologia exploram o mesmo princípio. Os feeds de notícias são propositalmente projetados para serem recarregados automaticamente com motivos para mantê-lo na tela e eliminar propositalmente qualquer motivo para você pausar, reconsiderar ou sair.

É também por isso que sites de vídeo e mídia social como Netflix, YouTube ou Facebook Reprodução automática o próximo vídeo após uma contagem regressiva em vez de esperar que você faça uma escolha consciente (caso você não faça isso). Uma grande parte do tráfego nesses sites é impulsionada pela reprodução automática do próximo item.

Netflix autoplay em ação(Foto: Tristan Harris)

As empresas de tecnologia costumam alegar que estamos apenas tornando mais fácil para os usuários ver o vídeo eles querem para ver quando eles estão realmente servindo a seus interesses comerciais. E você não pode culpá-los, porque aumentar o tempo gasto é a moeda pela qual competem.

Em vez disso, imagine se as empresas de tecnologia capacitassem você para Limite conscientemente a sua experiência para se alinhar com o que seria tempo bem gasto para você. Não apenas limitando o quantidade de tempo que você gasta, mas o qualidades do que seria um tempo bem gasto.

Hijack # 7: Interrupção Instantânea vs. Entrega Respeitosa

As empresas sabem que mensagens que interrompem as pessoas imediatamente são mais persuasivas em fazer as pessoas responderem do que mensagens entregues de forma assíncrona (como e-mail ou qualquer caixa de entrada adiada).

Se pudesse escolher, o Facebook Messenger (ou WhatsApp, WeChat ou SnapChat) iria preferem projetar seu sistema de mensagens para interromper os destinatários imediatamente (e mostrar uma caixa de bate-papo) em vez de ajudar os usuários a respeitarem a atenção uns dos outros.

Em outras palavras, interrupção é boa para o negócio .

Também é do seu interesse aumentar o sentimento de urgência e reciprocidade social. Por exemplo, Facebook automaticamente diz ao remetente quando você viu a mensagem, em vez de permitir que você evite revelar se a leu (agora que você sabe que vi a mensagem, me sinto ainda mais obrigado a responder.)

Em contraste, a Apple permite que os usuários com mais respeito habilitem ou desabilitem os Recibos de Leitura.

O problema é que maximizar as interrupções em nome dos negócios cria uma tragédia para os comuns, arruinando os períodos de atenção global e causando bilhões de interrupções desnecessárias a cada dia. Este é um grande problema que precisamos corrigir com padrões de design compartilhados (potencialmente, como parte de Tempo bem gasto )

Hijack # 8: agrupando seus motivos com os motivos deles

Outra forma de os aplicativos sequestrarem você é pegando seus motivos para visitar o aplicativo (para realizar uma tarefa) e torná-los inseparáveis ​​dos motivos de negócios do aplicativo (maximizando o quanto consumimos quando chegamos).

Por exemplo, no mundo físico das histórias de mercearia, os motivos mais populares # 1 e # 2 para visitar são recargas de farmácia e compra de leite. Mas os supermercados querem maximizar a quantidade de pessoas que compram, então eles colocam a farmácia e o leite no fundo da loja.

Em outras palavras, eles tornam o que o cliente deseja (leite, farmácia) inseparável do que a empresa deseja. Se as lojas fossem verdadeiramente organizado para apoiar as pessoas , eles iriam coloque os itens mais populares na frente .

As empresas de tecnologia projetam seus sites da mesma maneira. Por exemplo, quando você deseja pesquisar um evento do Facebook que está acontecendo hoje à noite (seu motivo), o aplicativo do Facebook não permite que você o acesse sem primeiro acessar o feed de notícias (seus motivos), e isso é de propósito. O Facebook quer converter todos os motivos que você tem para usar o Facebook em um motivo que é maximizar o tempo que você gasta consumindo coisas .

Em um mundo ideal, os aplicativos sempre dariam a você uma caminho direto para conseguir o que você quer separadamente do que eles querem.

Imagine uma declaração de direitos digital delineando os padrões de design que forçou os produtos usados ​​por bilhões de pessoas a apoiar maneiras empoderadoras de navegar em direção a seus objetivos.

Hijack # 9: escolhas inconvenientes

Dizem que é o suficiente para as empresas fazerem escolhas disponíveis.

• Se você não gostar, você sempre pode usar um produto diferente.
• Se você não gostar, você pode cancelar a assinatura a qualquer momento.
• Se você é viciado em nosso aplicativo, pode desinstalá-lo a qualquer momento do seu telefone.

Negócios naturalmente querem fazer as escolhas que eles querem que você faça mais fácil, e as escolhas que eles não querem que você faça mais difíceis. Os mágicos fazem a mesma coisa. Você torna mais fácil para o espectador escolher o que você quer que ele escolha e mais difícil escolher o que você não quer.

Por exemplo, NYTimes.com permite que você escolha livremente cancelar sua assinatura digital. Mas em vez de apenas fazer isso quando você clica em Cancelar assinatura, eles enviar a você um e-mail com informações sobre como cancelar sua conta ligando para um número de telefone que só abre em determinados horários.

O NYTimes afirma que está dando a liberdade de escolha de cancelar sua conta(Captura de tela: Tristan Harris)

assistir nova rick and morty temporada 4

Em vez de ver o mundo em termos de disponibilidade de escolhas , devemos ver o mundo em termos de fricção necessária para decretar escolhas . Imagine um mundo onde as escolhas fossem rotuladas com a dificuldade de cumprimento (como coeficientes de atrito) e houvesse uma entidade independente - um consórcio da indústria ou sem fins lucrativos - que rotulasse essas dificuldades e definisse padrões de como a navegação deveria ser fácil.

Hijack # 10: Erros de previsão, estratégias de controle da porta

O Facebook promete uma escolha fácil para ver a foto. Ainda clicaríamos se ele desse o preço verdadeiro?(Foto: Tristan Harris)

Por último, os aplicativos podem explorar a incapacidade das pessoas de prever as consequências de um clique.

As pessoas não prevêem intuitivamente o custo verdadeiro de um clique quando é apresentado a eles. Os vendedores usam técnicas de 'pé na porta' pedindo um pequeno pedido inócuo para começar (apenas um clique para ver qual tweet foi retuitado) e escalar a partir daí (por que você não fica um pouco?). Praticamente todos os sites de engajamento usam esse truque.

Imagine se os navegadores da web e smartphones, os gateways através dos quais as pessoas fazem essas escolhas, estivessem realmente observando as pessoas e as ajudassem a prever as consequências dos cliques (com base em dados reais sobre quais benefícios e custos realmente teve ?).

É por isso que adiciono o tempo estimado de leitura no topo das minhas postagens. Quando você coloca o verdadeiro custo de uma escolha na frente das pessoas, você está tratando seus usuários ou público com dignidade e respeito. Em um Tempo bem gasto internet, as escolhas podiam ser enquadradas em termos de custo e benefício projetados, de forma que as pessoas pudessem fazer escolhas informadas por padrão, não fazendo trabalho extra.

O TripAdvisor usa a técnica do pé na porta ao solicitar uma avaliação com um único clique (quantas estrelas?), Enquanto oculta a pesquisa de três páginas de perguntas por trás do clique.(Foto: Tristan Harris)

Resumo e como podemos consertar isso

Você está chateado porque a tecnologia sequestra sua agência? Eu também. Eu listei algumas técnicas, mas existem literalmente milhares. Imagine estantes inteiras, seminários, workshops e treinamentos que ensinam técnicas como essas a aspirantes a empreendedores de tecnologia. Imagine centenas de engenheiros cujo trabalho diário é inventar novas maneiras de mantê-lo ligado.

A liberdade final é uma mente livre, e precisamos da tecnologia que está em nossa equipe para nos ajudar a viver, sentir, pensar e agir livremente.

Precisamos que nossos smartphones, telas de notificações e navegadores da web sejam exoesqueletos para nossas mentes e relacionamentos interpessoais que coloquem nossos valores, não nossos impulsos, em primeiro lugar. O tempo das pessoas é valioso . E devemos protegê-lo com o mesmo rigor que a privacidade e outros direitos digitais.

Tristan Harris foi filósofo de produto no Google até 2016, onde estudou como a tecnologia afeta a atenção, o bem-estar e o comportamento de um bilhão de pessoas. Para obter mais recursos sobre o tempo bem gasto, consulte http://timewellspent.io .

ATUALIZAÇÃO: A primeira versão deste post faltou agradecimento àqueles que inspiraram meu pensamento ao longo de muitos anos, incluindo Joe Edelman , Não seja raskin , Raph D'Amico, Jonathan Harris e Damon Horowitz .

Meu pensamento sobre menus e tomada de escolha está profundamente enraizado no Joe Edelman's trabalhar em valores humanos e escolha .