Especialista em ética tecnológica alerta sobre riscos da IA generativa concentrada em poucas mãos

A especialista em ética tecnológica, Kay Firth-Butterfield, alertou sobre a necessidade de regras claras e responsabilidade compartilhada na inteligência artificial. Durante o evento Interconnected 2025, promovido pela NTT DATA em São Paulo, ela destacou que a IA generativa nos EUA e em outros lugares não deve estar concentrada nas mãos de poucos, enfatizando a importância da diversidade e inclusão para evitar desigualdades e riscos.

Kay Firth-Butterfield e a Governança da IA

Kay Firth-Butterfield, advogada, acadêmica e conselheira internacional, abriu o Interconnected 2025 com uma mensagem clara: a inteligência artificial (IA) necessita de regras bem definidas, diversidade e responsabilidade compartilhada entre empresas e governos.

Ela enfatizou que “A IA responsável não é uma questão opcional, mas sim uma parte essencial do processo de transformação digital. Sem governança, corre-se o risco de alucinações, viés e exclusão social”. A especialista, reconhecida globalmente em ética na IA, abordou como organizações públicas e privadas podem desenvolver e aplicar tecnologias de forma segura, inclusiva e com impacto social positivo.

Kay, que já liderou projetos de inteligência artificial no Fórum Econômico Mundial e fundou a consultoria Good Tech Advisory, defende que a falta de governança clara pode agravar desigualdades e gerar riscos legais, éticos e de reputação para empresas e governos.

A Importância da Integração no Trabalho com IA

Durante sua palestra, Kay Firth-Butterfield compartilhou experiências de trabalhos com governos dos EUA e Reino Unido, além de organismos internacionais. Segundo ela, iniciativas como a ordem executiva de Joe Biden e o framework do NIST auxiliaram empresas a estruturarem políticas de IA responsáveis, mesmo sem regulações globais unificadas. Inclusive, a Microsoft lança NLWeb para facilitar a criação de chatbots, o que pode ser um passo importante para democratizar o acesso à IA.

“As empresas que utilizam bem a IA reúnem desde o início os times de CIO, risco, dados, negócios e tecnologia. Isso não pode ser feito de forma isolada, precisa ser integrado”, comentou Firth-Butterfield, ressaltando a importância da colaboração entre diferentes áreas para garantir o uso ético e responsável da IA.

Ela alertou que muitas empresas tentam apenas “injetar IA” em processos antigos, sem redesenhar fluxos ou refletir sobre os impactos sociais. “É preciso pensar desde o início: quais riscos podem surgir? Quem pode ser afetado negativamente? Que dados estou usando?”, questionou a especialista, destacando a necessidade de uma abordagem proativa e consciente.

Kay também enfatizou a importância da diversidade nas equipes de desenvolvimento, afirmando que soluções inclusivas não podem ser criadas por grupos homogêneos. “Se você quer criar um produto que funcione para uma mulher mais velha como eu, não pode ter só jovens no time. Diversidade é chave para uma IA justa”, concluiu.

O Posicionamento do Brasil na Ética da IA

A visão de Kay Firth-Butterfield se alinha com a de Ricardo Neves, CEO da NTT DATA Brasil, que defendeu o compromisso da empresa com uma inovação centrada no ser humano na abertura do evento. “O Brasil está se posicionando como um dos hubs mais promissores de inovação na América Latina. Para que essa transformação seja sustentável, a IA precisa ser uma ferramenta que reduza desigualdades e amplie o acesso”, afirmou Neves.

A discussão sobre a ética na IA ganha ainda mais relevância no contexto atual, onde se discute se uma lei nos EUA busca isentar carteiras e mineradores de criptomoedas de regras financeiras, mostrando a necessidade de regulamentação em diversas áreas.

Além da participação de Kay Firth-Butterfield, o Interconnected 2025 ofereceu diversos painéis e experiências interativas ao longo do dia, abordando temas como maturidade da IA generativa na América Latina, cibersegurança, infraestrutura digital resiliente e FinOps com IA. Representantes de grandes empresas como AWS, Intel, IBM, Microsoft e Cisco também marcaram presença com painéis e demonstrações práticas.

As experiências interativas do evento incluíram desde personas digitais com IA generativa até um escape room imersivo para tomada de decisões em cenários críticos. Tais iniciativas visam promover uma compreensão mais profunda e prática das aplicações e desafios da inteligência artificial no mundo real.

Este conteúdo foi auxiliado por Inteligência Artificiado, mas escrito e revisado por um humano.

Via Startupi