Quando uma ferramenta de IA se parece com uma pessoa

Por Mariana Dessotti

No filme Her, de 2013, escrito e dirigido por Spike Jonze, o protagonista desenvolve uma relação afetiva com um sistema operacional dotado de inteligência artificial. No episódio Be Right Back, da série Black Mirror, uma mulher passa a interagir com um sistema treinado para reproduzir a personalidade de seu companheiro falecido.

As duas obras apresentam cenários fictícios, mas exploram uma característica bastante humana: a facilidade com que projetamos confiança, emoções e expectativas sobre sistemas capazes de conversar de maneira natural.

A ficção antecipou um comportamento que hoje se tornou comum. As pessoas conversam diariamente com ferramentas de IA de maneira semelhante à forma como conversam com outra pessoa, seja para pedir conselhos, compartilhar medos, relatar problemas familiares ou até discutir estratégias empresariais.

Em parte, isso acontece porque os modelos atuais de IA foram desenvolvidos para produzir conversas naturais. Eles compreendem o contexto, mantêm a continuidade do diálogo, adaptam o tom das respostas e conseguem produzir respostas que soam naturais e coerentes com a conversa.

Algumas ferramentas também são deliberadamente projetadas para reforçar essa interação, validando emoções, concordando com determinadas afirmações do usuário ou utilizando expressões de incentivo. Respostas como “você está certo”, “essa é uma ótima pergunta” ou “faz sentido o que você está dizendo” contribuem para uma experiência mais fluida, mas também podem reforçar a percepção de que existe, do outro lado da tela, alguém que compreende, valida e acolhe aquilo que está sendo compartilhado.

A própria dinâmica dessas ferramentas contribui para essa percepção, porque elas estão permanentemente disponíveis, respondem imediatamente, não demonstram impaciência, não interrompem o interlocutor e raramente produzem reações negativas. Isso pode fazer com que as pessoas se sintam mais à vontade para compartilhar informações que talvez não revelassem com a mesma facilidade em outras circunstâncias.

Esse comportamento acompanha a expansão dos usos da IA generativa. A pesquisa How People Are Really Using AI in 2026, publicada pela Harvard Business Review, mostra que as pessoas estão recorrendo à tecnologia para uma variedade cada vez maior de atividades e também identifica uma preocupação crescente com a dependência da IA para suporte emocional.

A consequência é uma mudança na percepção da própria interação: o usuário pode passar a sentir que está conversando com alguém, e não apenas utilizando uma ferramenta. Em um ambiente corporativo, isso ganha outra dimensão. Um funcionário pode inserir em uma ferramenta de IA dados pessoais de clientes, documentos internos ou estratégias comerciais sem perceber que aquele conteúdo está entrando em um fluxo que precisa ser conhecido e governado pela empresa.

Mesmo quando não existe uma regra específica para determinada situação, a empresa precisa estabelecer critérios sobre como suas ferramentas podem ser utilizadas, quais informações podem ser compartilhadas, quais aplicações exigem avaliação prévia e quem é responsável por acompanhar esses usos. Isso envolve também treinamento e orientação dos profissionais, para que saibam quais ferramentas estão autorizadas, que tipos de informação podem ser inseridos e quais cuidados devem ser adotados em cada contexto.

A organização também precisa conhecer os sistemas utilizados, seus fornecedores, os tipos de dados envolvidos e os riscos associados a cada aplicação. Uma ferramenta usada para resumir informações públicas apresenta questões diferentes daquela empregada para analisar dados de clientes, documentos estratégicos ou informações confidenciais. Essa diferenciação permite estabelecer controles proporcionais ao risco e acompanhar como a tecnologia está sendo incorporada às atividades da empresa.

A proteção de dados faz parte desse processo, mas a Governança de IA amplia o olhar para aspectos como informações estratégicas, propriedade intelectual, segurança, fornecedores, responsabilidades e uso adequado das ferramentas. Quanto mais natural se torna a interação com a IA, maior a importância de preparar as pessoas para reconhecer os limites dessa relação e criar regras que orientem seu uso. Governar a IA também significa acompanhar como essas tecnologias são utilizadas e evitar que a confiança depositada pelo usuário resulte em exposição desnecessária de dados ou informações da organização.

Mariana Dessotti é fundadora e CEO da Axis AI & Privacy Governance e advogada especializada em propriedade intelectual e proteção de dados, com mais de 10 anos de experiência assessorando empresas na implementação e operação de programas de governança de privacidade e de IA, conformidade regulatória e gestão de riscos.