Governança e Desenvolvimento: Entre a Inovação e o compromisso ético na Inteligência Artificial

No contexto da ascensão da inteligência artificial, o debate sobre ética tornou-se central nas discussões que permeiam a sociedade e as organizações brasileiras. Muito além da regulamentação, surge a necessidade de estabelecer limites claros para o avanço tecnológico, garantindo que a inovação esteja a serviço do bem-estar coletivo. Dois conceitos emergem como pivôs dessa proposta: ética by design e ética by consumer.

A ética by design representa o compromisso dos desenvolvedores e organizações em incorporar princípios éticos desde o início da concepção até a implementação e monitoramento de sistemas de IA. Essa abordagem é reforçada por diretrizes como a ISO/IEC 42001, que estrutura padrões internacionais, enfatizando transparência, explicabilidade, segurança, privacidade e responsabilidade. Práticas como a rastreabilidade das decisões automatizadas, avaliações de impacto ético, canais para denúncias, revisão humana de casos sensíveis e políticas de proteção de dados são exemplos de como transformar intenção ética em ações concretas. O envolvimento de equipes multidisciplinares e a participação da sociedade tornam o projeto tecnicamente robusto e socialmente legítimo, evitando a reprodução de vieses ou discriminações que já foram flagrados em diversos sistemas.

No entanto, garantir ética by design não basta para proteger o futuro e uso sustentável da IA. A ética by consumer propõe que a responsabilidade se estenda aos usuários e às organizações que consomem a tecnologia. Um sistema pode ser construído de acordo com as melhores práticas, mas ainda assim estar vulnerável ao mau uso se seus consumidores não estiverem atentos a comportamentos éticos e os utilizarem de forma fraudulenta, discriminatória ou para detratar concorrentes. O engajamento consciente de pessoas físicas e jurídicas passa pela busca por informações claras sobre as ferramentas utilizadas, exigência de condutas responsáveis das empresas fornecedoras, avaliação crítica do impacto da automação e adoção de hábitos de consumo atentos a armadilhas algorítmicas, como venda casada ou manipulação em recomendações.

Para as empresas, o desafio é estruturar códigos de conduta e comitês de ética, além de garantir comunicação transparente quanto ao uso de IA. O resultado é um ambiente de confiança entre stakeholders e maior reputação para organizações que investem em governança ética, minimizando riscos legais e reputacionais.

Dilemas éticos emergem no uso da tecnologia, que apesar de neutra em essência, é moldada por normas sociais e jurídicas. Casos como o de clonagem humana __ tecnicamente possível, mas socialmente rejeitada __ ilustram como limites são impostos pela coletividade. Na IA, questões como uso secundário de dados para fins diferentes do consentido, decisões automatizadas em saúde e plataformas de recrutamento algoritmizado expõem riscos de discriminação ou impactos reputacionais. A mitigação desses dilemas ou desvios exige engajamento ético dos desenvolvedores, implementadores e consumidores.

Novos riscos tecnológicos também se apresentam, como gêmeos digitais maliciosos que simulam identidades para fraudes, deep fakes capazes de manipular áudio e vídeo convincente, além da automação de decisões críticas, cuja previsão aponta para um crescimento acelerado até 2028. Nesses casos, mecanismos rígidos de segurança, supervisão humana constante e políticas educativas tornam-se essenciais.

A construção de um futuro sustentável para a inteligência artificial depende da conjugação simultânea de ética by design e ética by consumer. É necessário um pacto ético entre desenvolvedores, organizações e sociedade para que direitos humanos, justiça, transparência e inclusão sejam respeitados. O caminho passa pela internalização de padrões internacionais e disseminação de cultura ética. A articulação desses valores, unida à exigência de prestação de contas, recusa de práticas discriminatórias e denúncia de irregularidades, transforma consumidores e empresas em agentes protagonistas da tecnologia.

A ética é, portanto, o verdadeiro limite da evolução tecnológica, servindo de baliza para o uso e desenvolvimento responsáveis da IA. Na liderança das organizações, cabe aos gestores e conselhos de administração zelar para que a inovação contribua com dignidade, autonomia e prosperidade social, consolidando não apenas a regulação legal, mas sobretudo a ética compartilhada como princípio fundamental.

Durval Jacintho é Engenheiro Eletrônico e Mestre em Automação Industrial pela Universidade Estadual de Campinas (UNICAMP) e consultor internacional em tecnologia pela DJCon, com 37 anos de experiência C-Level no mercado de tecnologia e telecomunicações. Coordenador da Comissão de Ética e Integridade do IBGC