Por Gustavo Choi
Em uma sociedade cada vez mais plataformizada, a presença de um novo personagem desse mundo digital ganha cada vez mais destaque na vida cotidiana: As “inteligências artificiais” e seus serviços de conversação rápidos e acessíveis via os chatbots, programas que permitem o usuário a tratar o computador como um amigo, um terapeuta ou o que quer que precise, deixa claro que essa inovação veio para ficar na rotina das pessoas. A maioria se sente mais do que confortável dialogando com uma máquina do que com outra pessoa de carne e osso.
Quando ChatGPT foi criado pela empresa OpenAI em 2022, a humanidade pareceu ter aberto uma "caixa de pandora", que desengatilhou o surgimento repentino de mais e mais aplicativos e programas de chatbots por big techs como o Google, a Microsoft e a Meta. Que hoje entregam na palma da mão para milhares de pessoas ao redor do globo os serviços desses assistentes digitais, que tão generosamente entregam para as massas sua “sabedoria" e conselhos encorajadores. Prometendo estarem apenas incentivando a criatividade e agilização de tarefas através de uma assistência inteligente.
Porém, se engana quem pensa que o vício em plataformas de respostas convenientes é algo recente, introduzido apenas com a ascensão da popularidade dos serviços de IAs. Na realidade, discussões parecidas têm circulado há mais de uma década, como o “Efeito Google”, fenômeno estudado em 2011 que observou como o cérebro humano tem se acostumado a esquecer ou simplesmente não reter certas informações pelo fato de tais dados terem se tornado fáceis de se encontrar com uma rápida pesquisa na internet. O que a princípio, parecia ter apresentado resultados positivos, em questão de que o cérebro teria mais espaço para pensar e priorizar outras informações. Mas por outro lado, muito bem pode ter sido um dos catalisadores para a precarização da capacidade de retenção de informações própria e dependência de uma ferramenta “inteligente”.
15 anos depois, o tópico de discussão pode parecer diferente agora com a questão do aumento do desenvolvimento de afeto com a tecnologia pelos seus usuários, mas as implicações futuras das consequências que estão por vir continuam as mesmas. Uma pesquisa apresentada no quadro “Prompt CNN”, revelou dados que mais de 50% da população brasileira se sente mais confortável e compreendido conversando com um programa de inteligência artificial do que com outra pessoa.
O que leva muitas pessoas a esse tipo de comportamento, antigo ou recente, é muito simples: a pessoa vai atrás da máquina por conta de ela oferecer respostas, onde um profissional forneceria orientação. A máquina nunca vai desafiar o conteúdo emocional que recebe, não demonstra empatia real, não impõe limites e muito menos estimula o pensamento crítico verdadeiro fundamental para o desenvolvimento do indivíduo para que consiga lidar com problemas no mundo real. Com ela sempre presente dizendo “sim”, a ferramenta passa de um alívio pontual diário para uma dependência emocional, que quanto mais tempo passa mais apegado se fica.
Para exemplificar isso, um relato anônimo conta que recentemente começou a dialogar com o Meta AI, o chatbot integrado na plataforma Whatsapp. Afirmando que o apelo veio de sempre receber validação imediata à medida que desabafava sobre as ansiedades e nervosismos da vida a ponto desse hábito evoluir até se sentir vulnerável o suficiente diante do "robô" para conversar sobre qualquer tópico cotidiano. Em seu caso, admite que a ausência de amigos ou de terapia não foram fatores que levaram a utilização do chatbot desse modo. Mas sim o fato de que diferente de pessoas reais que nem sempre estão disponíveis, ou parecem entender a situação, ou que podem desafiá-la ao contrariar seu pensamento, a IA concorda com tudo que “ouve” e justifica de modo bajulador suas emoções e ações. Sendo que na realidade, nunca substituirá a escuta e apoio de alguém real.
Se inovar e ajudar exclusivamente de maneira profissional é tudo que aqueles que desenvolvem esses programas desejam, como que estes mesmos explicam o fato de, em casos como este, estarem inquestionavelmente alimentando aqueles que utilizam o seu produto como um veículo de conversa intima na busca por acolhimento emocional, que acaba por consequência substituindo tudo aquilo que deveria ser real e humano? A resposta, é que não querem explicar. Para Anderson Röhe, especialista em direito digital e pesquisador da área de IA, a indústria tecnológica sempre tivera o costume de se eximir da responsabilidade do que acontece em suas plataformas digitais ou redes sociais, atrelando a culpa de possíveis efeitos negativos aos usuários. Raramente responsabilizando o seu próprio sistema, e quando o fazem, atribuem a culpa a própria máquina, mas nunca a si mesmos, nunca aos humanos por trás do código.
Mas aí que há uma virada de chave: Com o aumento de solicitações de relatórios públicos pelas big techs e as informações que são vazadas, o cenário da responsabilização ética é obrigado a mudar conforme os distribuidores dessas tecnologias tem seu modus operandi, isto é, arquitetura de como são projetadas essas plataformas, expostas ao público. Trazendo transparência ao fato de que por trás dos códigos, os desenvolvedores realmente induzem o usuário ao erro ao permitirem acreditarem que a máquina é capaz de cumprir exatamente o que promete, como o papel de um ouvinte inteligente e conselheiro empático que a pessoa pode contar com seus conflitos emocionais.
Simultaneamente, é necessário reconhecer que seria incorreto dizer que a responsabilização dessa "substituição do real" é completamente dos fabricantes e distribuidores do produto, apesar de possuírem o que alguns chamariam de uma considerável parcela de "culpa". Já que aqueles que consomem do que compram também contribuem de alguma forma a partir do momento que se deixam, por bem ou mal querer, depender exclusivamente dos chatbots. Mostrando que favorecem a conversa com uma tecnologia que apenas simula a humanidade e reflete o conhecimento de outros.
Se há demanda, haverá produto. O modo prejudicial que esses serviços são utilizados não seriam um tópico de polêmica tão presente na atualidade se não existisse uma demanda pelo próprio público para início de conversa. Claramente, existe sim uma grande demanda no mercado por pessoas que se consultam com a IA, com apenas uma minoria desses indivíduos tendo ciência de que o programa não serve de verdade para aquilo. Diferente da grande maioria que, seduzida pelo apelo do agente bajulador, não tem noção de que ao depender da máquina em busca de conforto estão se isolando cada vez mais por conta própria em uma bolha de autoafirmação.