CEPI realiza encontro para debater vieses em projetos de inteligência artificial

O Centro de Ensino e Pesquisa em Inovação (CEPI) da FGV Direito SP realizou, no dia 20 de fevereiro, o 3º Encontro do Grupo de Estudos Vieses e Algoritmos, reunindo especialistas para aprofundar as discussões sobre ética em inteligência artificial e explorar abordagens de governança e regulamentação.

O grupo se insere no contexto do projeto de pesquisa Governança em Inteligência Artificial (IA): Vieses e Algoritmos do CEPI, que tem como objetivo contribuir para a temática de governança de inteligência artificial ao mapear quais os parâmetros existentes na literatura e na prática para detectar os tipos de vieses durante o desenvolvimento de projetos, produtos e/ou serviços baseados no uso de dados pessoais e de IA e construir uma framework do processo de decisão alinhado às dificuldades práticas da mitigação desses vieses por organizações que desenvolvem e implementam algoritmos de inteligência artificial. A pesquisa tem o apoio das empresas Banco do Brasil, Banco BV, B3 e Mercado Livre e conta com a participação de especialistas nacionais e internacionais como colaboradores.

Durante o encontro, a líder de projetos Enya Costa e as pesquisadoras Luiza Morales e Mitiko Nomura apresentaram The Alan Turing Institute, instituto nacional do Reino Unido fundado em 2015 para ciência de dados e inteligência artificial. O instituto foi apresentado com o objetivo de destacar uma de suas produções, que é a série de publicações sob o nome “AI Ethics and Governance in Practice Programme” – Programa de Ética em IA e Governança em Prática –, composto por oito módulos com workbooks e referência importante para a elaboração da pesquisa atual do CEPI.

Após a exposição, os participantes foram divididos em grupos, para discussão de um caso fictício proposto com base em um dos workbooks do Instituto Alan Turing. O caso considerava que a organização na qual a pessoa participa havia implementado um sistema de IA para detectar linguagem abusiva em um fórum digital popular, visando mitigar danos online. No entanto, a rápida evolução de gírias ofensivas poderia comprometer sua eficácia, tornando essencial a atualização contínua do modelo para garantir a detecção de novas formas de linguagem discriminatória.

Os encontros do grupo se inserem na linha de pesquisa de Governança em IA em Organizações, que busca promover um debate multidisciplinar e multissetorial capaz de produzir e fomentar uma discussão rica e produtiva sobre o tema.
Leia o artigo sobre o encontro publicado pelo CEPI no link Ética em IA e Governança em Prática.