A incorporação da inteligência artificial (IA) na saúde representa uma das transformações mais impressionantes da medicina atual, e com isso, tem início uma nova maneira de tomar decisões. O que era estritamente humano em todas as suas etapas, progressivamente o eixo decisório passa para um arranjo híbrido, no qual algoritmos participam de forma crescente na produção de diagnósticos, prognósticos e recomendações terapêuticas. Esse movimento, amplamente documentado na literatura científica recente, traz benefícios potenciais relevantes, como aumento da acurácia diagnóstica, personalização do cuidado e otimização de recursos, mas também inaugura um campo de tensões éticas e jurídicas particularmente complexo, sobretudo no que diz respeito à responsabilidade civil.

Juridicamente, a responsabilidade civil em saúde estrutura-se predominantemente a partir da ideia de culpa profissional, exigindo a demonstração de conduta, dano, nexo causal e culpa. Contudo, a introdução de sistemas de IA desafia esse paradigma ao fragmentar a cadeia decisória e introduzir agentes não humanos, cuja atuação pode ser opaca, probabilística e baseada em aprendizado contínuo. Nesse contexto, diversos estudos apontam que o modelo tradicional de imputação subjetiva revela-se insuficiente para abarcar os danos decorrentes de decisões mediadas por algoritmos, especialmente quando tais sistemas operam como “caixas-pretas”, dificultando a explicação de seus resultados e a identificação precisa do erro.

A opacidade algorítmica constitui, portanto, um dos principais problemas estruturais. Sistemas baseados em aprendizado de máquina frequentemente não permitem reconstruir de forma clara o raciocínio que levou a determinada recomendação clínica, o que compromete tanto a transparência quanto a auditabilidade. Essa limitação tem impacto direto na responsabilidade civil, pois dificulta a prova do nexo causal e a identificação do agente responsável, além de fragilizar a confiança no sistema de saúde. Em termos jurídicos, isso produz uma espécie de “zona cinzenta” de responsabilidade, na qual médico, instituição de saúde e desenvolvedor do sistema podem compartilhar, de maneira difusa, o risco do dano.

Outro elemento importante refere-se à natureza híbrida da decisão clínica mediada por IA. Embora, em regra, os sistemas sejam concebidos como ferramentas de apoio, a crescente autonomia de certos algoritmos, especialmente em diagnósticos por imagem, triagem e sistemas preditivos, tensiona a ideia de que o médico permanece como único decisor final. Parte da literatura sustenta que, enquanto houver supervisão humana, a responsabilidade tende a recair primariamente sobre o profissional de saúde, entretanto, essa premissa torna-se frágil à medida que a confiança no sistema automatizado aumenta e a intervenção humana se reduz ou se torna meramente formal.

Nesse cenário, emergem propostas de reconfiguração da responsabilidade civil. Entre elas, destaca-se a ampliação de modelos de responsabilidade objetiva, especialmente quando se trata de sistemas de alto risco, bem como a aplicação de regimes inspirados na responsabilidade pelo fato do produto, imputando deveres aos desenvolvedores e fornecedores de tecnologia. Além disso, autores têm defendido modelos de responsabilidade compartilhada ou solidária, capazes de distribuir o risco entre os diversos agentes envolvidos na cadeia tecnológica e assistencial.

A literatura também enfatiza que a responsabilidade civil na era da IA não pode ser analisada isoladamente, devendo ser integrada a um quadro mais amplo de governança ética. Diretrizes internacionais, como as da Organização Mundial da Saúde, ressaltam a necessidade de garantir transparência, segurança, supervisão humana e mecanismos de responsabilização, de modo a assegurar que a tecnologia permaneça alinhada aos princípios fundamentais da bioética, autonomia, beneficência, não maleficência e justiça. Esses princípios, longe de perderem relevância, tornam-se ainda mais exigentes em um contexto em que decisões podem ser influenciadas por dados enviesados, modelos estatísticos opacos e interesses econômicos subjacentes.

O problema dos vieses algorítmicos, por sua vez, introduz uma dimensão adicional de responsabilidade. Sistemas treinados com bases de dados incompletas ou não representativas podem reproduzir ou amplificar desigualdades estruturais, afetando de forma desproporcional populações vulneráveis. Nesses casos, a responsabilidade não se limita ao erro individual, mas envolve falhas sistêmicas no desenvolvimento e na validação da tecnologia, o que reforça a necessidade de mecanismos preventivos e regulatórios robustos.

Adicionalmente, a insuficiência regulatória constitui um desafio recorrente apontado por estudos recentes. Apesar de avanços normativos em algumas jurisdições, ainda há lacunas significativas na definição de critérios claros para imputação de responsabilidade em casos envolvendo IA na saúde, o que gera insegurança jurídica tanto para profissionais quanto para pacientes. Essa lacuna tende a ser particularmente problemática em contextos de judicialização da saúde, nos quais decisões urgentes dependem de avaliações técnico-científicas complexas e frequentemente controversas.

Diante desse panorama, a responsabilidade civil na saúde mediada por inteligência artificial deve ser compreendida como um campo em transição, no qual coexistem modelos tradicionais e novas propostas ainda em consolidação. Mais do que identificar culpados, o desafio consiste em construir um sistema de responsabilização capaz de promover segurança, justiça e confiança, sem inibir a inovação tecnológica. Isso implica reconhecer que a IA não é um agente moral autônomo, mas um artefato inserido em redes sociotécnicas complexas, nas quais a responsabilidade deve ser distribuída de maneira proporcional às capacidades de controle, previsibilidade e benefício de cada ator envolvido.

A emergência da inteligência artificial na saúde exige uma reconfiguração profunda da responsabilidade civil, orientada não apenas pela reparação de danos, mas também por sua função preventiva e reguladora. Trata-se de um deslocamento paradigmático que demanda diálogo contínuo entre direito, medicina, bioética e ciência de dados, com o objetivo de assegurar que a inovação tecnológica se desenvolva em consonância com a proteção da dignidade humana e dos direitos fundamentais.