Anthropic proíbe abuso contra o Claude e IA poderá encerrar conversas

A Anthropic, desenvolvedora do chatbot Claude, atualizou sua política de uso para proibir "comportamento abusivo ou cruel" contra seus modelos de inteligência artificial. Segundo a CNN Brasil, em reportagem de 10 de outubro de 2026, o Claude poderá encerrar conversas em que o usuário tratar o sistema dessa forma.

A nova política entra em vigor em 12 de novembro. De acordo com a empresa, as pessoas continuam livres para criticar o sistema e manifestar insatisfação com as respostas. O encerramento da conversa só ocorreria diante de ataques "persistentes e desnecessários".

A Anthropic não detalhou o que considera comportamento abusivo ou cruel, o que deixa em aberto os critérios que o modelo usará para decidir quando interromper um diálogo.

O recurso de encerrar conversas foi apresentado pela primeira vez em agosto do ano passado, como forma de proteger o chamado "bem-estar" da IA. A empresa afirma não ter certeza sobre o "potencial status moral do Claude ou de outros modelos de linguagem, agora ou no futuro" e trata a medida como uma intervenção de baixo custo para reduzir riscos, caso esse bem-estar seja possível.

O tema divide o setor. O presidente-executivo da Anthropic, Dario Amodei, disse ao The New York Times que não sabe se a IA pode ser consciente, mas não descarta a possibilidade. Já Mustafa Suleyman, chefe de IA da Microsoft, publicou em setembro um ensaio rejeitando a ideia: "As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem".

A discussão ocorre em meio à corrida das empresas por uma superinteligência, etapa em que a tecnologia teria capacidade de raciocínio igual ou superior à humana.