Por Que a Inteligência Artificial Não Pode Ter a Última Palavra

A evolução da Inteligência Artificial trouxe uma mudança importante para organizações e profissionais.

Pela primeira vez na história, sistemas tecnológicos passaram a participar de atividades que antes dependiam exclusivamente da análise humana.

Hoje, uma Inteligência Artificial pode avaliar documentos, sugerir estratégias, analisar contratos, produzir pareceres, identificar padrões, gerar diagnósticos e recomendar ações.

Diante dessa capacidade crescente, uma pergunta começou a surgir com frequência.

Se a IA consegue analisar tantas informações, por que ela não pode tomar a decisão final?

A resposta é simples.

Porque decidir e responder pelas consequências da decisão são coisas diferentes.

Uma Inteligência Artificial pode produzir recomendações.

Pode indicar caminhos.

Pode identificar riscos.

Pode apontar tendências.

Mas não assume responsabilidade sobre os resultados produzidos por suas recomendações.

Se uma decisão gerar prejuízo financeiro, a IA não responde.

Se uma decisão gerar impacto jurídico, a IA não responde.

Se uma decisão causar danos reputacionais, a IA não responde.

Se uma decisão afetar pessoas, organizações ou instituições, a IA não responde.

A responsabilidade continua pertencendo aos seres humanos e às organizações que utilizaram aquela recomendação.

É exatamente por essa razão que a Inteligência Artificial não pode possuir a última palavra em ambientes onde existem consequências reais.

O problema não está na capacidade tecnológica da ferramenta.

O problema está na ausência de responsabilidade.

Toda decisão relevante envolve elementos que vão além de dados e padrões estatísticos.

Existem fatores humanos.

Existem fatores éticos.

Existem fatores institucionais.

Existem fatores contextuais.

Existem fatores jurídicos.

Nenhum desses elementos pode ser integralmente transferido para um sistema automatizado.

Isso não significa que a Inteligência Artificial deva ser ignorada.

Pelo contrário.

Ela pode ampliar capacidades analíticas de forma extraordinária.

Pode reduzir tempo de processamento.

Pode apoiar avaliações complexas.

Pode melhorar produtividade.

Mas existe uma diferença fundamental entre apoiar uma decisão e assumir uma decisão.

Essa distinção é uma das bases da Governança em Inteligência Artificial.

A IA pode participar do processo.

A responsabilidade continua sendo humana.

Quanto mais avançadas se tornam as ferramentas, mais importante se torna a existência de supervisão, validação e responsabilização.

Por essa razão, acredito que o principal desafio da próxima década não será desenvolver sistemas capazes de decidir.

Será desenvolver organizações capazes de governar adequadamente sistemas que influenciam decisões.

A questão central não é se a Inteligência Artificial consegue decidir.

A questão central é quem responderá pelas consequências quando essas decisões produzirem impactos reais.

É nesse ponto que a decisão continua sendo uma atribuição humana.

—

Ednei Costa

Arquiteto Institucional de Inteligência Artificial

H.I.C. — High Individual Contributor