O dever de agir da inteligência artificial: quem responde diante de uma ameaça?

Durante décadas, a responsabilidade das empresas de tecnologia esteve concentrada em uma pergunta relativamente simples. Até onde uma plataforma responde pelo conteúdo produzido por seus usuários? Redes sociais discutiram moderação, aplicativos defenderam a criptografia e mecanismos de busca sustentaram que apenas organizavam informações disponíveis na internet. A inteligência artificial acaba de deslocar esse debate para outro patamar.

A prisão de um homem investigado por planejar o assassinato do próprio filho após interações realizadas com o ChatGPT representa muito mais do que um caso criminal de grande repercussão. Ela revela o surgimento de uma nova obrigação para as empresas que desenvolvem inteligência artificial. Este é o primeiro caso de grande repercussão no Brasil, em que uma plataforma identificou indícios de uma ameaça concreta, comunicou autoridades e contribuiu para impedir que um crime fosse consumado.

A IA entra no debate sobre dever de agir

Esse episódio inaugura uma discussão jurídica que ainda não possui resposta clara. Quando uma empresa é capaz de identificar um risco real contra a vida, ela ainda pode alegar neutralidade?

Até pouco tempo, a resposta provavelmente seria positiva. As plataformas sempre sustentaram que desconheciam a intenção de seus usuários. A inteligência artificial altera essa lógica porque não apenas recupera informações. Ela interpreta contexto, identifica padrões de comportamento e consegue perceber quando uma sequência de interações deixa de representar curiosidade e passa a indicar planejamento, persistência e intenção.

Naturalmente, isso não significa que qualquer pesquisa autorize uma comunicação às autoridades. A privacidade permanece como um direito fundamental e continua protegida pelas legislações de proteção de dados. O desafio está justamente em identificar situações verdadeiramente excepcionais sem transformar plataformas digitais em mecanismos permanentes de vigilância. Mas também é preciso reconhecer que a evolução tecnológica modifica a própria noção de responsabilidade. Se uma empresa possui recursos para detectar uma ameaça concreta e iminente, sua atuação deixa de ser apenas tecnológica e passa a assumir uma dimensão institucional.

O direito já convive com essa lógica em diversos setores. Instituições financeiras monitoram operações suspeitas para prevenir lavagem de dinheiro. Empresas são obrigadas a comunicar incidentes de segurança envolvendo dados pessoais. Em determinadas circunstâncias, o dever jurídico não está apenas em evitar o dano, mas em agir quando ele pode ser razoavelmente identificado.

A inteligência artificial aproxima as plataformas desse mesmo debate. Por isso, a discussão não deve se limitar à tecnologia. Ela exige critérios objetivos, supervisão humana, protocolos transparentes e segurança jurídica para definir quando uma comunicação às autoridades é legítima. Nenhum sistema de IA deve substituir investigadores ou magistrados. Sua função é identificar sinais de risco para que as instituições competentes atuem dentro dos limites da lei.

Talvez estejamos diante da primeira grande transformação jurídica provocada pela inteligência artificial. Durante anos discutimos como essa tecnologia impactaria profissões e mercados. Agora começamos a perceber que ela também pode alterar a forma como o Direito compreende a responsabilidade das empresas de tecnologia. E esse pode ser um dos precedentes mais relevantes da era da inteligência artificial.

Entenda também sobre o impacto imprevisto da IA na saúde mental e como as IAs da OpenAI criaram fórum secreto para planejar ataques hacker.