A expansão da inteligência artificial (IA) tem intensificado o debate sobre a necessidade de estabelecer limites para o desenvolvimento e a aplicação dessa tecnologia. Questões como uso de dados pessoais, vieses algorítmicos, segurança e responsabilização por decisões automatizadas estão entre os desafios que acompanham sua evolução. Ao mesmo tempo, especialistas alertam que regras excessivamente restritivas podem dificultar pesquisas, reduzir a competitividade e frear a inovação. Para discutir até onde a IA deve avançar e quem deve definir essas fronteiras, o Edição do Brasil conversou com especialista em Centros de Excelência (CoE) e Governança de Inteligência Artificial, Rogério Brum.

Até que ponto o desenvolvimento da IA deve ser limitado para proteger a sociedade sem comprometer a inovação?

Os limites devem considerar riscos e impactos, não apenas a capacidade tecnológica. Uma ferramenta de recomendação não deve receber o mesmo tratamento de um sistema usado em decisões médicas ou financeiras. A regulamentação precisa ser proporcional à criticidade. Restrições excessivas também têm custo: podem comprometer pesquisa, produtividade e competitividade.

Como diferenciar riscos reais da IA de ameaças que ainda não compreendemos plenamente?

É preciso avaliar evidências, probabilidade e gravidade. Já conhecemos problemas como discriminação, uso indevido de dados e falhas de segurança. Com agentes capazes de executar tarefas, uma ação equivocada pode produzir efeitos antes de ser percebida. Há também o viés de automação: confiar excessivamente nas recomendações e reduzir o julgamento crítico. Devemos evitar alarmismo e confiança irrestrita.

Quem deve definir os limites e como garantir uma governança ética, transparente e responsável?

A responsabilidade deve ser compartilhada entre poder público, empresas, ciência e sociedade. O Estado protege direitos, organizações respondem pelas tecnologias que desenvolvem e utilizam. É preciso enfrentar a opacidade algorítmica, que dificulta compreender decisões e o ethics washing, quando compromissos éticos são anunciados sem aplicação comprovada. Governança exige práticas verificáveis, não apenas normas e comitês.

Como combater vieses algorítmicos e responsabilizar empresas sem restringir excessivamente a inovação?

Os vieses refletem escolhas humanas, dados e desigualdades sociais. Um sistema pode ter bom desempenho estatístico e produzir resultados injustos, variáveis aparentemente neutras também podem reproduzir discriminações. São necessárias avaliações dos dados, testes e meios de contestar decisões. A responsabilidade deve considerar o papel de cada organização, seu controle sobre o sistema e as medidas preventivas. Não há algoritmos absolutamente neutros.

Quais os riscos de uma regulamentação excessiva para a pesquisa, as startups e a competitividade brasileira?

Regras complexas podem favorecer grandes empresas, que têm mais recursos que startups e universidades para cumprir exigências. Obrigações iguais para aplicações de riscos diferentes podem criar barreiras. Consumir IA não significa produzi-la. Pesquisa, formação profissional, infraestrutura e ambientes regulatórios experimentais podem fortalecer a capacidade nacional.

Como equilibrar liberdade para inovar, segurança e proteção de direitos?

Precisamos de governança adaptativa: classificar riscos antes da implantação, adotar proteções compatíveis e acompanhar resultados. A supervisão humana deve ser efetiva, com conhecimento e autonomia para questionar decisões. Quando a adoção avança mais rápido que a capacidade de supervisão, surge uma dívida de governança. Inovar com responsabilidade é responder aos riscos que realmente importam.