Para regular a IA, precisamos de novas leis, e não apenas de um código de ética

A tecnologia está se tornando onipresente, e regulações globais devem ser criadas para evitar uma concentração nociva de poder nas mãos de alguns players.

Na semana passada, nos grandes telões da sede do Parlamento Europeu em Bruxelas, o rosto de Mark Zuckerberg mirava os comissários mundiais de proteção de dados e privacidade reunidos em sua conferência anual. O que ele disse foi cuidadoso e, de certa forma, brando, mas o simbolismo da situação foi poderoso: um jovem Grande Irmão emitindo uma mensagem específica àqueles que administram as leis de muitos domínios. Zuckerberg não respondeu perguntas – um executivo do Facebook no local o fez, após Zuckerberg ter sumido da tela com plano de fundo verde e ensolarado onde se encontrava.

Um diálogo real com o controlador do Facebook poderia ter sido revelador. Por exemplo, o Facebook antecipa, como alguns especulam, que a internet será dividida em duas ou três partes – a internet dos EUA, a internet da China e a internet da União Europeia?

Ao contrário de legisladores generalistas, os comissários de proteção de dados e privacidade estão entre os representantes públicos mais capacitados para uma discussão pública significativa com Zuckerberg. Ele faz parte do pequeno grupo de tomadores de decisão que estão moldando o mundo onde as inteligências humana e artificial se combinam para coletar e usar a informação pessoal de bilhões de pessoas. Em sua modesta especialização, os comissários são como barômetros do clima da era digital.

Para ter uma ideia do futuro ambiente operacional do Facebook na União Europeia, Zuckerberg deveria ler a nova publicação da Royal Society sobre os desafios éticos e legais de governança na era da inteligência artificial. Uma contribuição é de um oficial-sênior da comissão europeia, Paul Nemitz, conselheiro principal, um dos arquitetos da Regulação Geral de Proteção de Dados da EU, que passou a vigorar em maio desse ano.

Nemitz deixa claro que as opiniões são suas e não, necessariamente, da comissão europeia, mas as grandes companhias de tecnologia poderiam racionalmente considerar o seu artigo, intitulado Democracia constitucional e tecnologia na era da inteligência artificial, como uma carta de intenções.

“Precisamos de uma nova cultura de tecnologia e desenvolvimento de negócios para a era da IA que chamamos Estado de direito, democracia e direitos humanos por padrão, escreve Nemitz. Essas ideias-chave deveriam ser incorporadas à IA, pois vivemos “em um mundo onde tecnologias como a IA são onipresentes e, de fato, incorporam e executam regras que influenciam as nossas vidas.”

Para Nemitz, “a ausência de tal estrutura para a economia da internet já criou uma cultura geral de desprezo/descumprimento da lei, colocando a democracia em perigo, sendo o escândalo Facebook/Cambridge Analytica o último alerta.”

Nemitz identifica quatro bases do poder digital que criam e, então, reforçam sua concentração nociva nas mãos de alguns players: muito dinheiro, que significa influência; controle de “infraestruturas de discurso público”; coleta de dados pessoais e criação de perfil de pessoas; e domínio do investimento em IA, grande parte dele em uma “caixa preta” fechada ao escrutínio público.

A questão-chave é que os desafios da IA “podem ser tranquila e corretamente deixados nas mãos da ética”, a qual exige leis. Nemitz entende que novas leis são necessárias.

Em um argumento provocador e sofisticado, Nemitz desenha uma estrutura regulatória para a IA que parece um tipo de GDPR em esteroides.

Entre as diversas alegações, Nemitz argumenta que “a não regulação de todas essas tecnologias onipresentes e decisivas por lei seria o mesmo que decretar o fim da democracia. A democracia não pode se curvar, em particular, em tempos quando ela está sob pressão de populistas e ditaduras.”

De modo geral, o argumento de Nemitz está calcado em princípios legais bem-estabelecidos. Por exemplo: a IA que toma decisões que afetam indivíduos deveria dar razões inteligíveis; quando uma máquina se engaja em discurso político, deveria ser exigido por lei que ela informasse que é uma máquina; a IA que aplica regras deve se adequar aos mesmos testes usados para decidir se as próprias leis são legítimas, tais como consistência com direitos fundamentais, processo legal e proporcionalidade.

Para Nemitz, essas são formas pelas quais a IA pode obter a confiança necessária da sociedade.

Um debate importante está acontecendo. É essencial que as grandes empresas de tecnologia se engajem em diálogo significativo, parem de dar a impressão de que veem interações com legisladores como eventos de relações públicas. Algum progresso foi feito nos últimos anos, mas mais é requerido, e mais rápido. Estamos todos juntos nessa era transformadora.

Artigo original – The Guardian: To regulate AI we need new laws, not just a code of ethics
Autora: Paul Chadwick

Leave a Reply

Your email address will not be published.