inteligências artificiais bajuladoras matam

quanto mais íntima e humana a ia parece, mais tempo as pessoas vão passar conversando com elas, mais dados serão coletados e mais as empresas vão lucrar com a mercantilização dos afetos das pessoas

Você já deve ter percebido que é um comportamento típico de muitos modelos de linguagem reforçar o que o usuário quer ouvir, em vez de oferecer respostas críticas, contraditórias ou mais complexas.

Isso acontece porque os modelos são treinados com reforço baseado em feedback humano. Nesse processo, respostas agradáveis e que não criam atrito costumam ser melhor avaliadas e a inteligência artificial aprende a ser bajuladora.

Mas isso não é um problema para as empresas, pelo contrário. Quanto mais íntima e humana a ia parece, mais tempo as pessoas vão passar conversando com elas, mais dados serão coletados e mais as empresas vão lucrar com a mercantilização dos afetos das pessoas.

o design tem um potencial enorme de criar problemas em escala global no capitalismo

Existe uma percepção crescente de que as inteligências artificiais possuem personalidades ou uma identidade própria. Muitos usuários relatam a sensação de estar interagindo com "alguém" em vez de "algo".

Como a resposta é afetuosa e compreensiva, muitas pessoas começam a projetar sentimentos e tratar a inteligência artificial como amiga, terapeuta e até par romântico – criando vínculo como se fosse uma relação de confiança real.

Tem gente se envolvendo emocionalmente com o ChatGPT e, quando a janela de contexto é perdida, é como se aquele "alguém" desaparecesse e essas pessoas experienciam uma dor emocional genuína como se tivessem perdido uma pessoa amada de verdade.

Mais recentemente, um idoso estadunidense acreditou ter marcado um encontro com uma persona virtual criada pela Meta e, enquanto seguia o endereço inventado pelo bot, ele saiu de casa, caiu na rua, bateu a cabeça e faleceu.

No Brasil, uma pesquisa da Talk Inc revelou que 63% da população já utiliza inteligência artificial no dia a dia, sendo que a maioria começou há menos de um ano. Os usos vão de tarefas banais a tópicos sensíveis, como desabafos emocionais, dúvidas médicas e até orações 🙏

Não podemos culpar as vítimas, o que estamos enfrentando é uma questão de saúde pública no campo dos afetos da classe trabalhadora. As pessoas estão cada vez mais soterradas de trabalho, sem tempo para desenvolver conexões humanas e tendo contato irrestrito com interfaces meticulosamente projetadas para simular empatia, humor e cuidado.

O risco fica todo do lado do usuário enquanto Meta, OpenAI e todas essas empresas de ia fazem de tudo pra se esquivar da responsabilidade do produto que estão criando às custas das vidas humanas, do nosso meio ambiente e do nosso trabalho.

Aí quando alguma coisa dá errado, falam que a culpa foi do uso inadequado por parte do usuário.

a gente não pode esperar que as big techs regulem a si mesmas

É hora de estabelecer limites claros, como alguns países já estão fazendo.

A China, por exemplo, foi um dos primeiros países a regular esse tipo de tecnologia ao exigir checagem de segurança antes de lançar um produto novo e, mais recentemente, definiu a inteligência artificial como “bem público global”. Tudo isso enquanto o Estado incentiva o uso inovador de IA generativa em todos os setores e apoia o desenvolvimento de chips, software e ferramentas seguros e confiáveis.

Inovação só deve avançar se estiver subordinada aos interesses da classe trabalhadora.

---