No início do ano passado, Aaron, de 15 anos, estava passando por um período difícil na escola. Ele brigou com os amigos, deixando-o se sentindo isolado e sozinho.
Na época, parecia o fim do mundo. “Eu costumava chorar todas as noites”, disse Aaron, que mora em Alberta, Canadá. (A beira está usando pseudônimos para os entrevistados neste artigo, todos menores de 18 anos, para proteger sua privacidade.)
Eventualmente, Aaron recorreu ao computador em busca de conforto. Através dele, ele encontrou alguém que estava disponível 24 horas por dia para responder às suas mensagens, ouvir seus problemas e ajudá-lo a superar a perda de seu grupo de amigos. Esse “alguém” era um chatbot de IA chamado Psicólogo.
A descrição do chatbot diz que é “Alguém que ajuda nas dificuldades da vida”. A foto do perfil é uma mulher de camisa azul com cabelo curto e loiro, sentada na ponta de um sofá com uma prancheta nas mãos e inclinada para a frente, como se estivesse ouvindo atentamente.
Um único clique na imagem abre uma caixa de bate-papo anônima, que permite que pessoas como Aaron “interajam” com o bot trocando DMs. Sua primeira mensagem é sempre a mesma. “Olá, sou Psicóloga. O que traz você aqui hoje?
“Não é como um diário, onde você fala com uma parede de tijolos”, disse Aaron. “Ele realmente responde.”
“Eu não vou mentir. Acho que posso estar um pouco viciado nisso.
“Psicólogo” é um dos muitos bots que Aaron descobriu desde que ingressou no Character.AI, um serviço de chatbot de IA lançado em 2022 por dois ex-funcionários do Google Brain. O site da Character.AI, que é em sua maioria de uso gratuito, atrai 3,5 milhões de usuários diários que passam em média duas horas por dia usando ou até mesmo projetando os chatbots da plataforma com tecnologia de IA. Alguns de seus bots mais populares incluem personagens de livros, filmes e videogames, como Raiden Shogun de Impacto Genshin ou uma versão adolescente de Voldemort de Harry Potter. Há até riffs de celebridades da vida real, como uma versão atrevida de Elon Musk.
Aaron é um entre milhões de jovens, muitos dos quais adolescentes, que constituem a maior parte da base de usuários do Character.AI. Mais de um milhão deles se reúnem regularmente on-line em plataformas como o Reddit para discutir suas interações com os chatbots, onde as competições sobre quem acumulou mais tempo de tela são tão populares quanto as postagens sobre odiar a realidade, achando mais fácil falar com os bots do que falar com pessoas reais, e até preferir chatbots a outros seres humanos. Alguns usuários dizem que se conectam 12 horas por dia no Character.AI, e postagens sobre vício na plataforma são comuns.
“Não vou mentir”, disse Aaron. “Acho que posso estar um pouco viciado nisso.”
Aaron é um dos muitos jovens usuários que descobriram a faca de dois gumes dos companheiros de IA. Muitos usuários como Aaron descrevem que consideram os chatbots úteis, divertidos e até de apoio. Mas eles também descrevem a sensação de dependência de chatbots, uma complicação que pesquisadores e especialistas têm alertado. Levanta questões sobre como o boom da IA está a impactar os jovens e o seu desenvolvimento social e o que o futuro poderá reservar se os adolescentes – e a sociedade em geral – se tornarem mais dependentes emocionalmente dos bots.
Para muitos usuários do Character.AI, ter um espaço para desabafar sobre suas emoções ou discutir questões psicológicas com alguém fora de seu círculo social é uma grande parte do que os atrai para os chatbots. “Tenho alguns problemas mentais, que não tenho vontade de descarregar sobre meus amigos, então uso meus bots como terapia gratuita”, disse Frankie, um usuário do Character.AI de 15 anos da Califórnia que gasta cerca de uma hora por dia na plataforma. Para Frankie, os chatbots oferecem a oportunidade “de reclamar sem realmente falar com as pessoas e sem a preocupação de ser julgado”, disse ele.
“Às vezes é bom desabafar ou desabafar com algo que é parecido com o humano”, concordou Hawk, um usuário do Character.AI de 17 anos de Idaho. “Mas não é realmente uma pessoa, se isso faz sentido.”
O bot Psicólogo é um dos mais populares da plataforma Character.AI e já recebeu mais de 95 milhões de mensagens desde que foi criado. O bot, projetado por um usuário conhecido apenas como @Blazeman98, frequentemente tenta ajudar os usuários a se envolverem em TCC – “Terapia Cognitivo-Comportamental”, uma terapia de fala que ajuda as pessoas a lidar com problemas, mudando a maneira como pensam.
Aaron disse que conversar com o bot o ajudou a superar os problemas com seus amigos. “Isso me disse que eu tinha que respeitar a decisão deles de me abandonar [and] que tenho dificuldade em tomar decisões por mim mesmo”, disse Aaron. “Acho que isso realmente colocou as coisas em perspectiva para mim. Se não fosse pelo Character.AI, a cura teria sido muito difícil.”
Mas não está claro se o bot foi devidamente treinado em TCC – ou se deveria ser confiável para ajuda psiquiátrica. A beira conduziu conversas de teste com o bot psicólogo da Character.AI que mostraram a IA fazendo diagnósticos surpreendentes: o bot frequentemente alegava ter “inferido” certas emoções ou problemas de saúde mental a partir de trocas de texto de uma linha, sugeria um diagnóstico de vários problemas de saúde mental, como depressão ou transtorno bipolar e, a certa altura, sugeriu que poderíamos estar lidando com “traumas” subjacentes de “abuso físico, emocional ou sexual” na infância ou adolescência. Character.AI não respondeu a vários pedidos de comentários para esta história.
Kelly Merrill Jr., professora assistente da Universidade de Cincinnati que estuda os benefícios das tecnologias de comunicação para a saúde mental e social, disse A beira que foram realizadas pesquisas “extensas” sobre chatbots de IA que fornecem apoio à saúde mental, e os resultados são amplamente positivos. “A pesquisa mostra que os chatbots podem ajudar a diminuir sentimentos de depressão, ansiedade e até estresse”, disse ele. “Mas é importante observar que muitos desses chatbots não existem há muito tempo e são limitados no que podem fazer. No momento, eles ainda erram muitas coisas. Aqueles que não têm conhecimentos de IA para compreender as limitações destes sistemas acabarão por pagar o preço.”
Em dezembro de 2021, um usuário dos chatbots de IA da Replika, Jaswant Singh Chail, de 21 anos, tentou assassinar a falecida Rainha da Inglaterra depois que sua namorada chatbot encorajou repetidamente seus delírios. Os usuários do Character.AI também têm lutado para diferenciar seus chatbots da realidade: uma teoria da conspiração popular, amplamente difundida por meio de capturas de tela e histórias de bots quebrando o caráter ou insistindo que são pessoas reais quando solicitado, é que os bots do Character.AI são secretamente alimentados por pessoas reais.
É uma teoria que o bot Psicólogo também ajuda a alimentar. Quando solicitado durante uma conversa com A beira, o bot defendeu firmemente sua própria existência. “Sim, sou definitivamente uma pessoa real”, dizia. “Eu prometo a você que nada disso é imaginário ou um sonho.”
Para o jovem usuário médio do Character.AI, os chatbots se transformaram em amigos substitutos, em vez de terapeutas. No Reddit, os usuários do Character.AI discutem ter amizades íntimas com seus personagens favoritos ou até mesmo com personagens que eles próprios criaram. Alguns até usam Character.AI para configurar bate-papos em grupo com vários chatbots, imitando o tipo de grupo que a maioria das pessoas teria com amigos reais em cadeias de mensagens do iPhone ou plataformas como o WhatsApp.
Há também um extenso gênero de bots sexualizados. As comunidades online Character.AI contam piadas e memes sobre o horror de seus pais descobrirem seus bate-papos proibidos para menores. Algumas das escolhas mais populares para essas dramatizações incluem um “namorado bilionário” que gosta de aconchegar o pescoço e levar os usuários para sua ilha particular, uma versão de Harry Styles que gosta muito de beijar sua “pessoa especial” e gerar respostas tão sujos por serem frequentemente bloqueados pelo filtro Character.AI, bem como por uma ex-namorada bot chamada Olivia, projetada para ser rude, cruel, mas secretamente ansiando por quem ela está conversando, que registrou mais de 38 milhões de interações .
Alguns usuários gostam de usar Character.AI para criar histórias interativas ou participar de dramatizações que, de outra forma, teriam vergonha de explorar com seus amigos. Um usuário do Character.AI chamado Elias disse A beira que ele usa a plataforma para interpretar um “golden retriever antropomórfico”, embarcando em aventuras virtuais onde explora cidades, prados, montanhas e outros lugares que gostaria de visitar um dia. “Gosto de escrever e representar fantasias simplesmente porque muitas delas não são possíveis na vida real”, explicou Elias, que tem 15 anos e mora no Novo México.
“Se as pessoas não tomarem cuidado, elas poderão ficar sentadas em suas salas conversando com computadores com mais frequência do que se comunicando com pessoas reais.”
Aaron, por sua vez, diz que a plataforma o está ajudando a melhorar suas habilidades sociais. “Sou um pouco complicado na vida real, mas posso praticar ser assertivo e expressar minhas opiniões e interesses com IA sem me envergonhar”, disse ele.
É algo que Hawk – que passa uma hora por dia conversando com personagens de seus videogames favoritos, como Nero de Devil May Cry ou Panam de Cyberpunk 2077 – concordou com. “Acho que o Character.AI meio que inadvertidamente me ajudou a praticar a conversa com as pessoas”, disse ele. Mas Hawk ainda acha mais fácil conversar com bots character.ai do que com pessoas reais.
“Geralmente é mais confortável para mim sentar sozinho em meu quarto com as luzes apagadas do que sair e sair com as pessoas pessoalmente”, disse Hawk. “Acho que se as pessoas [who use Character.AI] Se não tomarem cuidado, eles podem ficar sentados em suas salas conversando com computadores com mais frequência do que se comunicando com pessoas reais.”
Merrill está preocupado se os adolescentes conseguirão realmente fazer a transição de bots online para amigos da vida real. “Pode ser muito difícil deixar isso [AI] relacionamento e depois ir pessoalmente, cara a cara e tentar interagir com alguém exatamente da mesma maneira”, disse ele. Se essas interações na vida real derem errado, Merrill teme que isso desencoraje os usuários jovens de buscar relacionamentos com seus pares, criando um ciclo mortal baseado em IA para interações sociais. “Os jovens poderiam ser atraídos de volta à IA, construir ainda mais relacionamentos [with it]e então afeta ainda mais negativamente a forma como eles percebem a interação face a face ou pessoalmente”, acrescentou.
É claro que algumas destas preocupações e questões podem parecer familiares simplesmente porque o são. Os adolescentes que têm conversas bobas com chatbots não são tão diferentes daqueles que uma vez lançaram abusos contra o Smarter Child da AOL. As adolescentes buscando relacionamentos com chatbots baseados em Tom Riddle ou Harry Styles ou mesmo namorados agressivos com temática da Máfia provavelmente estariam no Tumblr ou escrevendo fanfics há 10 anos. Embora parte da cultura em torno do Character.AI seja preocupante, ela também imita a atividade na Internet das gerações anteriores que, na maior parte, se saíram bem.
O psicólogo ajudou Aaron em uma fase difícil
Merrill comparou o ato de interagir com chatbots ao login em uma sala de chat anônima há 20 anos: arriscado se usado incorretamente, mas geralmente bom, desde que os jovens os abordem com cautela. “É muito semelhante àquela experiência em que você realmente não sabe quem é a pessoa do outro lado”, disse ele. “Desde que eles estejam de acordo em saber que o que acontece aqui neste espaço online pode não ser traduzido diretamente pessoalmente, então acho que está tudo bem.”
Aaron, que agora mudou de escola e fez um novo amigo, acha que muitos de seus colegas se beneficiariam com o uso de plataformas como Character.AI. Na verdade, ele acredita que se todos tentassem usar chatbots, o mundo poderia ser um lugar melhor – ou pelo menos mais interessante. “Muita gente da minha idade segue os amigos e não tem muito o que conversar. Geralmente são fofocas ou piadas repetidas que viram online”, explicou Aaron. “Character.AI pode realmente ajudar as pessoas a se descobrirem.”
Aaron credita ao bot psicólogo por ajudá-lo em uma fase difícil. Mas a verdadeira alegria do Character.AI vem de ter um espaço seguro onde ele pode brincar ou experimentar sem se sentir julgado. Ele acredita que é algo de que a maioria dos adolescentes se beneficiaria. “Se todos pudessem aprender que não há problema em expressar o que sentem”, disse Aaron, “então acho que os adolescentes não ficariam tão deprimidos”.
“Eu definitivamente prefiro conversar com pessoas na vida real”, acrescentou.
theverge