Por que vemos uma determinada propaganda na nossa linha do tempo? De onde vem uma desinformação? Por que essa mensagem foi tirada do ar? Esses são alguns dos segredos guardados na caixa-preta dos algoritmos das gigantes da internet – pelo menos até até agora. A União Europeia tenta mudar esse funcionamento e aprovar uma lei que impõe regras de transparência a empresas como o Facebook, o Twitter e o Google.
A Comissão Europeia deve apresentar no dia 15 de dezembro uma regulamentação sobre plataformas de internet, chamada de Ato para os Serviços Digitais (Digital Services Act). A lei definirá, no nível europeu, conteúdos que são ilegais, como discursos de ódio, terrorismo e pornografia infantil, entre outros aspectos.
LEIA TAMBÉM
França multa Google e Amazon por rastreamento publicitário abusivo
EUA processam o Facebook por abuso de poder e monopólio nas redes sociais
Caso Queiroz: PT pede impeachment de Bolsonaro e prisão de Flávio Bolsonaro
Mário Frias é internado em hospital de Brasília após princípio de infarto
7º caso contra Lula é arquivado pela Justiça; confira lista
O regulamento vai impor novas obrigações a todos os intermediários online, incluindo a de cooperar com os reguladores para remover conteúdo considerado perigoso.
Com a regulamentação, as grandes plataformas “terão de nos dizer como decidem quais informações e produtos recomendam e o que escondem, e nos dar a capacidade de influenciar essas decisões. Terão de nos dizer quem paga pelos anúncios que recebemos, quem decide o que vamos ver e por que somos alvo”, declarou Margrethe Vestager, vice-presidente da Comissão Europeia, no final de outubro.
A legislação também deve enquadrar golpes na internet e vendas de produtos falsificados que infringem os padrões europeus. As plataformas serão obrigadas, segundo o projeto, a “verificar a identidade dos revendedores antes de autorizá-los em sua plataforma”.
Por que regular algoritmos?
Um algoritmo é um sistema informático que permite tomar decisões personalizadas em grande escala. Assim, fazer com que os resultados de uma pesquisa na internet apareçam em uma determinada ordem, organizam o fluxo de publicações em uma rede social, colocam encomendas na bolsa de valores em alta velocidade etc.
As redes sociais dizem que são politicamente neutras, “mas são mesmo? Ninguém pode observar o seu comportamento hoje”, explicou recentemente Benoit Loutrel, líder de um estudo sobre o Facebook, durante a conferência Media in Seine.
“Quando as plataformas dizem ‘estamos diminuindo a visibilidade’ de certo conteúdo ‘controverso’ – como fizeram Facebook e Twitter durante a última campanha eleitoral americana – “não sabemos o quanto eles reduzem essa visibilidade, não sabemos o que isso significa exatamente”, observa Christine Balagué, professora do Institut Mines Telecom.
O argumento do sigilo comercial não caberia na discussão das gigantes de internet, para a deputada francesa Paula Forteza. “Quando 53% da população francesa tem acesso a um local aberto sem restrições para se reunir e discutir, chama-se espaço público e é o interesse geral que prevalece”, sublinha.
Agência de regulação
Especialistas recomendam a criação de um órgão regulador, com a participação de comunidades técnicas, cientistas e jornalistas para avaliar o material.
A ONG Algorithm Watch sugere diferentes níveis, que vão desde o exame dos dados de treinamento do modelo de inteligência artificial até a releitura do código, incluindo um “teste” para comparar os dados de entrada e saída.
“No caso de máquinas muito complexas, mesmo os engenheiros que as desenvolveram não sabem necessariamente o porquê de tal resultado. Então, para determinar se um sistema perpetua vieses, é necessário realizar experimentos”, explica Mackenzie Nelson, que lidera o projeto de governança digital da organização.
“São tantos os parâmetros que só a revisão do código não permite saber o que vai acontecer”, afirma Guillaume Chaslot, um dos primeiros a alertar para o viés do algoritmo de recomendação do Youtube. Segundo Chaslot, os sistemas precisam ser observados “dia a dia” para verificar o que produzem, e “se as plataformas continuarem repetindo os mesmos erros, teremos que adotar sanções”.
Plataformas não querem rigidez nas regras
As principais plataformas concordam em adotar um ciclo de trocas de informações com um órgão regulador, mas “não queremos que alguém nos diga com antecedência para cada inovação o que podemos ou não podemos fazer”, disse à AFP um dirigente de um gigante da web, que pediu para não ser identificado.
O Facebook argumenta, em suas respostas à consulta pública sobre o projeto de regulamentação, que “compartilhar detalhes sobre o funcionamento dos algoritmos (…) poderia permitir que criminosos contornassem os mecanismos de detecção de forma mais eficaz”.
A plataforma diz ainda estar preocupada com o risco de vazamento de dados pessoais. “Acreditamos que é fundamental ter uma estrutura de proteção de qualquer informação compartilhada com as autoridades, definindo claramente as condições de compartilhamento de dados”.
A regra que será apresentada na próxima terça-feira ainda será discutida com as empresas e ONGs, precisará ser aprovada pelos 27 Estados-Membros da União Europeia e passar pelo Parlamento Europeu, o que pode levar cerca de três anos.
Por RFI, com informações da AFP
Jornalista e Advogado. Desde 2009 é autor do Blog do Esmael.