Um erro da IA na empresa pode aprovar uma operação arriscada, eliminar um candidato qualificado, interpretar um contrato incorretamente ou transmitir uma informação falsa ao consumidor. Quando isso acontece, atribuir a falha à “máquina” não resolve o problema. Clientes, trabalhadores, parceiros e autoridades procurarão quem contratou, configurou, alimentou e utilizou a tecnologia. Por isso, a responsabilidade precisa ser definida antes que a automação seja incorporada à operação.

A inteligência artificial pode reduzir custos, acelerar análises e aumentar a produtividade. Entretanto, esses ganhos não afastam os deveres jurídicos da organização. Quanto maior a influência do sistema sobre decisões relevantes, maior deve ser a capacidade da empresa de explicar seu funcionamento, supervisionar seus resultados e interromper seu uso quando surgirem riscos.

O erro da IA na empresa não fica sem responsável

Uma ferramenta de inteligência artificial não possui patrimônio próprio para reparar prejuízos nem assume, por conta própria, as obrigações decorrentes de suas respostas. Ela funciona dentro de uma atividade organizada por pessoas, fornecedores e empresas que definiram sua finalidade e o grau de autonomia permitido.

Quando a tecnologia causa um dano, a análise jurídica procura identificar quem tinha o dever de impedir o resultado, quais obrigações foram descumpridas e como a falha se relaciona com o prejuízo.

O Código Civil estabelece, nos artigos 186 e 927, o dever de reparar danos decorrentes de atos ilícitos. Dependendo da atividade desenvolvida e do risco criado, a responsabilidade também poderá existir independentemente da demonstração de culpa.

Nas relações de consumo, o artigo 14 do Código de Defesa do Consumidor prevê a responsabilidade objetiva do fornecedor por defeitos na prestação do serviço. Assim, dizer que uma resposta incorreta foi produzida por um sistema automatizado não costuma ser suficiente para afastar a responsabilidade da empresa perante o consumidor prejudicado.

A tecnologia muda a forma como o erro ocorre. Ela não elimina as consequências jurídicas da atividade empresarial.

A empresa responde mesmo quando contratou a tecnologia?

A contratação de um fornecedor externo não transfere automaticamente todo o risco relacionado ao uso da inteligência artificial.

A empresa escolhe a solução, define em qual processo ela será utilizada e decide quanto poderá confiar em seus resultados. Também estabelece se a ferramenta apenas apresentará uma sugestão ou se poderá produzir efeitos diretamente sobre clientes, trabalhadores e parceiros.

Imagine uma instituição que utiliza um sistema contratado para analisar pedidos de crédito. O modelo rejeita um cliente com base em dados incorretos ou em critérios que não podem ser adequadamente explicados. Para a pessoa afetada, pouco importa se o algoritmo foi desenvolvido internamente ou adquirido de uma empresa de tecnologia.

A organização que utilizou o resultado na relação com o cliente poderá ser chamada a responder. Depois, poderá discutir contratualmente com o fornecedor quem deu causa à falha e se existe direito de regresso.

Esse ponto demonstra a diferença entre responsabilidade perante terceiros e distribuição interna dos custos. O contrato pode disciplinar a relação entre as empresas, mas não necessariamente impedirá que o prejudicado cobre de quem ofereceu o produto, prestou o serviço ou tomou a decisão.

Quando o fornecedor da IA também pode responder?

O fornecedor não está protegido apenas porque informou que a decisão final caberia ao contratante.

Sua responsabilidade poderá ser discutida quando o sistema apresentar defeito, não cumprir as funcionalidades prometidas ou tiver sido oferecido para uma finalidade incompatível com sua capacidade real. O mesmo ocorre quando limitações relevantes não são informadas, atualizações necessárias deixam de ser realizadas ou medidas adequadas de segurança não são adotadas.

Considere uma empresa que contrata uma ferramenta anunciada como capaz de revisar contratos e identificar cláusulas críticas. O sistema deixa de apontar uma obrigação financeira relevante, embora tenha sido utilizado exatamente para a finalidade apresentada pelo fornecedor.

Nesse cenário, será necessário verificar o conteúdo da oferta, as garantias contratuais, as limitações informadas, a qualidade dos dados fornecidos e a existência de uma obrigação de validação humana.

A resposta não será igual em todos os casos. A responsabilidade dependerá da origem da falha e dos deveres assumidos por cada participante.

Por isso, o contrato precisa ir além de uma licença genérica de software. Ele deve refletir o risco concreto da atividade em que a solução será empregada.

A supervisão humana reduz ou apenas disfarça o risco?

Muitas empresas afirmam que suas decisões automatizadas passam por revisão humana. Na prática, essa revisão pode ser apenas formal.

Um profissional que recebe centenas de respostas prontas, sem acesso aos critérios utilizados pelo sistema e sem tempo para analisar cada caso, dificilmente exerce uma supervisão efetiva. Ele apenas confirma aquilo que a tecnologia já decidiu.

A supervisão real exige informação suficiente, tempo adequado e autoridade para discordar do resultado. Também pressupõe treinamento para que a pessoa responsável reconheça situações anormais, vieses e limitações conhecidas da ferramenta.

Imagine um sistema de recrutamento que classifica candidatos automaticamente. Se o profissional de recursos humanos apenas entrevista os nomes indicados pelo algoritmo, candidatos eliminados por critérios inadequados jamais chegarão à avaliação humana.

Nesse caso, a existência de uma pessoa no processo não significa que houve controle sobre a decisão.

A empresa precisa definir quais resultados podem ser aceitos automaticamente e quais exigem análise individual. Decisões capazes de afetar emprego, crédito, saúde, segurança ou direitos do consumidor demandam uma estrutura de controle proporcional ao risco.

A falta de uma lei geral não cria uma zona sem regras

O Brasil ainda discute um marco legal geral para a inteligência artificial. Isso não significa que as empresas possam utilizar sistemas automatizados sem observar as normas já existentes.

O Código Civil continua aplicável aos danos decorrentes da atividade empresarial. O Código de Defesa do Consumidor protege quem recebe produtos e serviços defeituosos. A legislação trabalhista limita decisões discriminatórias, enquanto normas setoriais podem impor deveres específicos a instituições financeiras, empresas de saúde e outros setores regulados.

A Lei Geral de Proteção de Dados também exerce papel central quando a inteligência artificial utiliza informações relacionadas a pessoas identificadas ou identificáveis.

Portanto, a ausência de uma lei única dedicada à IA não elimina a responsabilidade. Ela exige que a empresa avalie simultaneamente diferentes regimes jurídicos conforme a finalidade e os efeitos de cada ferramenta.

Esperar a aprovação de uma regulamentação definitiva para iniciar essa análise significa aceitar riscos que já existem.

Como a LGPD alcança as decisões automatizadas?

O uso de inteligência artificial frequentemente depende da coleta, análise e combinação de dados pessoais. Nesses casos, a empresa precisa observar princípios como finalidade, adequação, necessidade, transparência, segurança, prevenção, não discriminação e prestação de contas, previstos no artigo 6º da LGPD.

O artigo 20 garante ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. Isso inclui decisões destinadas a formar perfis profissionais, pessoais, de consumo e de crédito.

A legislação também assegura informações claras e adequadas sobre os critérios e procedimentos utilizados, respeitados os segredos comercial e industrial.

Essa obrigação não exige que a empresa divulgue o código completo do sistema. Exige, porém, que ela seja capaz de explicar a lógica relevante da decisão e os fatores que influenciaram o resultado.

Quando nem o contratante consegue compreender por que o sistema chegou a determinada conclusão, torna-se difícil demonstrar transparência, revisar a decisão ou contestar uma acusação de tratamento discriminatório.

A LGPD também prevê responsabilidade por danos relacionados ao tratamento irregular de dados e exige a adoção de medidas técnicas e administrativas aptas a proteger essas informações.

Por isso, governança de IA e proteção de dados não podem ser tratadas como projetos separados.

Erros de IA podem gerar riscos além da indenização

O custo de uma falha não se limita à reparação paga ao prejudicado.

Uma decisão automatizada inadequada pode gerar reclamações de consumidores, conflitos trabalhistas, investigações sobre proteção de dados, descumprimento contratual e questionamentos de autoridades reguladoras.

Também pode comprometer relações comerciais. Um cliente corporativo pode encerrar um contrato ao descobrir que suas informações foram utilizadas em uma ferramenta sem as garantias previstas. Um investidor pode atribuir maior risco à empresa durante uma due diligence. Uma auditoria pode exigir explicações sobre decisões que não foram documentadas.

Considere ainda um chatbot que oferece uma condição comercial inexistente ou assegura ao consumidor que determinado serviço possui uma cobertura não prevista no contrato. Mesmo que a mensagem tenha sido gerada automaticamente, ela foi apresentada dentro de um canal oficial da empresa.

O incidente pode criar obrigações, gerar conflitos e produzir desgaste reputacional muito superior à economia obtida com a automação.

O risco tecnológico precisa ser analisado como risco empresarial, e não apenas como problema da área de tecnologia.

O contrato com o fornecedor protege a empresa de verdade?

Contratos de inteligência artificial frequentemente concentram grande parte de seu texto em licenças, formas de pagamento e disponibilidade do sistema. Esses elementos são importantes, mas insuficientes para uma ferramenta capaz de influenciar decisões relevantes.

A contratação precisa esclarecer a finalidade autorizada, o nível de desempenho esperado e as limitações conhecidas. Também deve definir quem responde pela qualidade dos dados, pelas atualizações do modelo, pela segurança da informação e pelo tratamento de incidentes.

Outro ponto sensível é a alteração da ferramenta ao longo do contrato. Sistemas de IA podem receber novas versões, modificar funcionalidades ou passar a produzir respostas diferentes após uma atualização. A empresa precisa ser informada sobre mudanças capazes de afetar o risco da operação.

Auditoria, manutenção de registros, subcontratação, confidencialidade, propriedade intelectual e uso dos dados para treinamento também precisam ser disciplinados.

Cláusulas de indenização e limitação de responsabilidade devem ser compatíveis com os prejuízos que a tecnologia pode produzir. Um limite contratual muito baixo pode deixar a empresa contratante exposta à maior parte do dano, mesmo quando a falha tiver origem no fornecedor.

A pergunta decisiva é esta: quando o erro acontecer, o contrato permitirá identificar quem deveria tê-lo evitado e quem suportará seus custos?

Quem decide também precisa saber explicar

Uma organização não deveria tomar decisões empresariais relevantes com base em respostas cuja origem não consegue reconstruir.

A empresa precisa registrar qual ferramenta foi utilizada, qual versão estava ativa, quais informações foram fornecidas e quem validou o resultado. Também deve ser possível identificar se a resposta foi aceita integralmente ou utilizada apenas como um dos elementos da decisão.

Essa rastreabilidade é essencial quando surge uma reclamação meses depois. Sem registros, a organização pode não conseguir demonstrar como atuou nem quais controles estavam disponíveis.

Imagine que uma ferramenta gere uma análise contratual equivocada. Se não houver registro da versão utilizada, dos documentos analisados e da pessoa responsável pela validação, será difícil descobrir se o problema surgiu no modelo, nos dados, na configuração ou na conduta do usuário.

A documentação não existe apenas para uma eventual defesa judicial. Ela permite corrigir processos, identificar padrões de falha e evitar que o mesmo problema se repita em escala.

Governança de IA começa antes da contratação

A decisão de contratar uma ferramenta não deveria começar com a comparação entre preço e funcionalidades. O primeiro passo é compreender qual problema será automatizado e quais consequências um erro poderá produzir.

Uma solução utilizada para organizar agendas não apresenta o mesmo risco de um sistema empregado para contratar pessoas, conceder crédito ou interpretar obrigações regulatórias.

Quanto maior o impacto potencial, mais rigorosa deve ser a avaliação do fornecedor, dos dados, dos controles e da supervisão necessária.

A empresa também precisa saber quais ferramentas já são utilizadas internamente. Em muitas organizações, profissionais adotam soluções públicas de IA sem aprovação, inserindo contratos, informações estratégicas e dados pessoais em ambientes que não foram avaliados.

Uma política corporativa deve definir usos permitidos, informações que não podem ser compartilhadas, situações que exigem validação e responsáveis por autorizar novas soluções.

O objetivo não é impedir a inovação. É impedir que decisões relevantes sejam automatizadas sem que ninguém tenha assumido a gestão do risco.

Inovação sem controle pode destruir o ganho de eficiência

A inteligência artificial pode transformar processos empresariais, mas a velocidade da implementação não deve superar a capacidade de controle da organização.

Automatizar uma atividade inadequadamente estruturada apenas reproduz seus problemas em maior escala. Um critério equivocado aplicado por uma pessoa afeta poucos casos. Incorporado a um sistema, pode afetar milhares.

É por isso que eficiência e responsabilidade não são objetivos opostos. Controles bem definidos aumentam a confiança na ferramenta, reduzem retrabalho e permitem que a empresa amplie seu uso com maior segurança.

A organização que consegue explicar como utiliza a tecnologia, quais limites estabeleceu e quem supervisiona seus resultados estará mais preparada para inovar de forma sustentável.

Conclusão estratégica

A pergunta mais importante não é quem será responsabilizado depois que a inteligência artificial falhar. É se a empresa consegue demonstrar, antes do incidente, por que escolheu aquela solução, quais limites impôs e como os riscos foram distribuídos.

Quando essas respostas não existem, o erro da IA na empresa deixa de ser um evento tecnológico e passa a revelar uma falha de governança.

Empresas que definem responsáveis, revisam contratos, documentam decisões e adotam supervisão proporcional ao risco não eliminam completamente a possibilidade de falhas. Elas reduzem sua frequência, limitam seus efeitos e aumentam a capacidade de reagir quando um problema ocorre.

A tecnologia pode executar tarefas. A responsabilidade por decidir como ela será utilizada continua sendo empresarial.

Se sua empresa utiliza ou pretende implementar sistemas de inteligência artificial e deseja revisar contratos, responsabilidades e mecanismos de governança, entre em contato com a equipe do CMT Advogados para uma análise estratégica.