Mesa apresenta reflexões sobre uso da Inteligência Artificial na produção de dados e conhecimento
Na manhã desta quarta-feira, 04, o tema “Inteligência Artificial: o humano e o não humano na produção do conhecimento e do dado”, foi debatido durante a Conferência Nacional dos Agentes Produtores e Usuários de Dados CONFEST/CONFEGE em Salvador, Bahia, na mesa organizada pela Presidência do IBGE.
A mesa teve como palestrantes Fernando Horta, pesquisador; Gustavo Silva Saldanha, pesquisador titular do Instituto Brasileiro de Informação em Ciência e Tecnologia – IBICT; Roberto Araújo de Oliveira Santos Júnior, pesquisador; e como moderador Vicente Aguiar, consultor da Presidência do IBGE.
O pesquisador Fernando Horta trouxe uma reflexão filosófica sobre a questão de que o digital é um novo espaço de vida humana e a importância de debatermos de forma crítica agora o que uma geração que já nasce no digital não terá capacidade de fazer daqui a 20 anos, pois ela já vê essas questões de forma normal. Dentro dessa perspectiva, Fernando cita a Inteligência Artificial como ponto culminante de observação e análise, a partir do momento em que pode transformar a ciência em ferramenta do capitalismo. E estende seu pensamento destacando que “uma ferramenta que deveria ser utilizada com extremo cuidado no mundo em geral, mas mais cuidado ainda em um órgão com tamanha responsabilidade como o IBGE. Nós podemos estar caindo na lógica do bom cliente, do cliente satisfeito, e não na missão efetiva que o IBGE trouxe lá atrás para si, que é retratar o Brasil”. “Com inteligência artificial, talvez a gente não esteja mais retratando o Brasil, a gente esteja retratando algoritmo como ele gostaria de estar retratando o Brasil”, conclui Fernando Horta.
Vicente Aguiar trouxe para o debate a importância do conhecimento das tecnologias que utilizamos. Em sua visão, a Inteligência Artificial é mediadora e não intermediária. Ou seja, a IA não apenas transporta significado; como mediadora, “ela transforma, traduz, distorce, alucina ou modifica elementos que processa”. Vicente apresentou o conceito de “caixas-pretas” tecnológicas, que na era da IA são os softwares proprietários e os modelos de códigos fechados, que ocultam regras, vieses e decisões do ator não-humano. Daí viria a questão de como o IBGE pode garantir o seu metodológico diante de tecnologias que não se tem total certeza de como funcionam e suas consequências? Sob esse ponto de vista, o primeiro passo seria “abrir as ‘caixas-pretas’ para entender seus vieses, suas lógicas de operação e garantir a integridade dos dados oficiais”, explicou o consultor. E finalizou sua fala com a proposta de uma governança sociotécnica para o Plano Geral de Informações Estatísticas e Geográficas (PGIEG). “Precisamos de uma nova constituição para a produção de dados. O PGIEG deve ser o instrumento que regula não apenas as ações humanas, mas também os protocolos dos não-humanos”, concluiu Vicente.
Em seguida, Gustavo Saldanha, na mesma linha filosófica que permeou a mesa, apresentou o conceito de “ignorância artificial” e falou sobre a correlação de Ciência da Informação, Organização do conhecimento e dados governamentais para políticas de estado. Gustavo também fez um alerta de que estamos vivendo “uma ultramaterialidade com a web com a capacidade sem volta da exploração, inclusive do meio ambiente”, já que as ferramentas de IA consomem muitos recursos para dar respostas às consultas dos usuários. Além disso, o palestrante destacou a expansão da nossa vulnerabilidade, numa “servidão voluntária”, quando clicamos sem questionamento nos termos de uso, por exemplo. No campo da educação e letramento digital, o desafio é como de fato como levar crianças a questionar isso desde o primeiro momento, a não aceitar essa servidão voluntária, explicou Gustavo.
Finalizando as exposições, Roberto Araújo Santos também fez reflexões sobre como o capitalismo incentiva e se beneficia dos avanços tecnológicos e as consequências disso: “O sistema entrou numa fase de substituição do trabalho pelos autômatos e, graças à revolução microeletrônica, pela inteligência artificial ... Sistemas destinados a potencializar valores de uso, melhorando a vida (melhor saúde, melhor educação, melhor comunicação), ultrapassam assim determinados limites e se tornam contraproducentes, ignorando as culturas e formas de organização locais., levando à perda de identidade e informação.” Roberto Santos alertou para a questão de que sobre quais valores vamos construir a sociedade dos nossos filhos e netos, para que eles possam enfrentar o que vem por aí, e fez um paralelo sobre a importância do IBGE ao retratar o país, o território, sua população e condições de vida, dando visibilidade às informações.
Organizada pelo IBGE, com apoio do Governo do Estado da Bahia, da Federação das Indústrias do Estado da Bahia (FIEB), do Senai Cimatec, do Programa das Nações Unidas para o Desenvolvimento (PNUD) e da União dos Municípios da Bahia (UPB), a Conferência Nacional dos Agentes Produtores e Usuários de Dados (CONFEST/CONFEGE) tem patrocínio do Serviço Federal de Processamento de Dados (Serpro) e Banco do Nordeste do Brasil S.A. (BNB).
