Regulação dos Algoritmos de empresas de aplicação na internet, que bicho é esse?

Regulação dos Algoritmos de empresas de aplicação na internet, que bicho é esse?

A China surpreendeu o mundo no último dia 27 de agosto, a meu ver positivamente, ao abrir audiência pública para discutir as “Normas de gerenciamento de recomendações de algoritmos de serviços de informações da Internet”. O objetivo dos chineses é padronizar as atividades, salvaguardar a segurança nacional e os interesses públicos sociais, proteger os direitos e interesses legítimos dos cidadãos, pessoas jurídicas e outras organizações e promover o desenvolvimento saudável dos serviços de informações da Internet.

O Escritório Estadual de Informações da Internet da China elaborou o projeto de regulação dos algoritmos solicitando a opinião do público até 26 de setembro de 2021.

Na prática, a China vai regular os algoritmos de empresas de aplicação na internet como: YouTube, Facebook, TikTok, Instagram, Twitter, LinkedIn, Google, WhatsApp, Telegram, etc.

Dentre as medidas propostas estão a proibição de contas falsas nas redes sociais e a proibição discriminação de conteúdos por meio de palavras-chaves (tags) pelo provedor de aplicação.

Afinal, que bicho é esse?

O Blog do Esmael buscou o projeto em discussão na China, que, com certeza, terá impacto em todo o mundo, principalmente no Brasil.

(Rascunho da versão chinesa oficial para comentários)

Artigo 1º A fim de padronizar as atividades de recomendação de algoritmos de serviços de informação da Internet, salvaguardar a segurança nacional e os interesses públicos sociais, proteger os direitos e interesses legítimos dos cidadãos, pessoas jurídicas e outras organizações, promover o desenvolvimento saudável dos serviços de informação da Internet e promover os valores fundamentais socialistas , de acordo com a “Rede da República Popular da China”. Esses regulamentos são formulados pela Lei de Segurança, a Lei de Segurança de Dados da República Popular da China, a Lei de Proteção de Informações Pessoais da República Popular da China e o Serviço de Informações da Internet Medidas de gestão.

Artigo 2º A aplicação da tecnologia de recomendação de algoritmos para fornecer serviços de informação da Internet no território da República Popular da China (doravante designada por serviço de recomendação de algoritmos) está sujeita a estes regulamentos. Onde as leis e regulamentos administrativos determinarem o contrário, siga essas disposições.

A tecnologia de recomendação de algoritmo de aplicação mencionada no parágrafo anterior refere-se à aplicação de tecnologias de algoritmo, como síntese de geração, envio personalizado, classificação e seleção, recuperação e filtragem e agendamento e tomada de decisão para fornecer aos usuários conteúdo de informação.

Artigo 3º A Administração Nacional do Ciberespaço é responsável pela supervisão, gestão e aplicação da lei do serviço nacional de recomendação de algoritmos. Os departamentos de cibersegurança e informatização das províncias, regiões autônomas e municípios diretamente sob o Governo Central são responsáveis ​​pela supervisão, gestão e aplicação da lei dos serviços de recomendação de algoritmos em suas respectivas regiões administrativas com base em suas responsabilidades.

Artigo 4º Os prestadores de serviços de recomendação de algoritmo que prestam serviços de recomendação de algoritmo devem cumprir as leis e regulamentos, respeitar a ética e a ética social, respeitar a ética empresarial e a ética profissional e seguir os princípios de justiça, abertura, transparência, racionalidade científica e honestidade.

Artigo 5º Incentivar as organizações relevantes da indústria a fortalecer a autodisciplina da indústria, estabelecer e melhorar os sistemas de autodisciplina e os padrões da indústria, organizar a formulação de padrões da indústria e instar e orientar os provedores de serviços de recomendação de algoritmo para estabelecer e melhorar os padrões de serviço, fornecer serviços em de acordo com a lei, e aceitar a supervisão social.

Artigo 6º O provedor de serviços de recomendação de algoritmos deve aderir à orientação de valor mainstream, otimizar o mecanismo de serviço de recomendação de algoritmos, espalhar ativamente a energia positiva e promover a aplicação de algoritmos para melhor.

Os provedores de serviços de recomendação de algoritmo não devem usar serviços de recomendação de algoritmo para se envolver em atividades proibidas por leis e regulamentos administrativos, como colocar em risco a segurança nacional, perturbar a ordem econômica e social e infringir os direitos e interesses legítimos de terceiros, e não devem usar a recomendação de algoritmo serviços de divulgação de informações proibidas por leis e regulamentos administrativos.

Artigo 7º Os prestadores de serviços de recomendação de algoritmo devem implementar as principais responsabilidades de segurança de algoritmo, estabelecer e melhorar o registro de usuário, revisão de liberação de informação, revisão de mecanismo de algoritmo, monitoramento de avaliação de segurança, resposta de emergência a incidentes de segurança, proteção de segurança de dados e sistemas de gestão de proteção de informação pessoal, e formular Também divulga as regras de serviço relevantes para recomendação de algoritmo e está equipado com profissionais e suporte técnico proporcionais à escala de serviços de recomendação de algoritmo.

Artigo 8º Os prestadores de serviços de recomendação de algoritmo devem regularmente revisar, avaliar e verificar os mecanismos de mecanismo de algoritmo, modelos, dados e resultados de aplicativos, etc., e não devem estabelecer modelos de algoritmo que violem a ordem pública e os bons costumes, tais como induzir os usuários a ceder ou alto consumo.

Artigo 9º Os fornecedores de serviços de recomendação de algoritmos devem reforçar a gestão do conteúdo da informação, estabelecer e melhorar uma base de dados de funcionalidades para identificar informações ilegais e não saudáveis ​​e melhorar os padrões, regras e procedimentos de armazenamento. Se for descoberto que um algoritmo que não fez uma marca distintiva gera informações sintéticas, ele deve fazer uma marca distintiva antes de continuar a transmitir.

Se informações ilegais forem descobertas, a transmissão deve ser interrompida imediatamente e medidas de descarte, como eliminação, devem ser tomadas para evitar a disseminação das informações, manter registros relevantes e relatar ao departamento de informações da rede. Se forem descobertas informações não saudáveis, elas devem ser tratadas de acordo com os regulamentos relevantes sobre a governança ecológica do conteúdo de informações da rede.

Artigo 10 O provedor de serviços de recomendação de algoritmos deve fortalecer a gestão de modelos de usuários e tags de usuários, melhorar as regras para os pontos de interesse registrados no modelo de usuário, e não deve registrar palavras-chave de informações ilegais e indesejáveis ​​em pontos de interesse de usuários ou como tags de usuários e divulgar o conteúdo das informações de acordo. Não defina rótulos de usuário discriminatórios ou prejudiciais.

Artigo 11 O provedor de serviços de recomendação de algoritmo deve fortalecer a gestão ecológica da página de serviço de recomendação de algoritmo, estabelecer uma intervenção manual sólida e um mecanismo de seleção independente do usuário e estar ativo na primeira tela da página inicial, pesquisa quente, seleção, categoria de lista, pop -up window e outros links principais Apresentam conteúdo de informação que está de acordo com a orientação de valor principal.

Artigo 12 O provedor de serviços de recomendação de algoritmo deve usar estratégias abrangentes, como eliminação, fragmentação e intervenção de conteúdo, e otimizar a transparência e interpretabilidade de regras como recuperação, classificação, seleção, envio e exibição, de modo a evitar efeitos adversos sobre usuários e dispara Disputas disputas.

Artigo 13 Os prestadores de serviços de recomendação de algoritmo não devem usar algoritmos para registrar falsamente contas, contas de comércio ilegal, manipular contas de usuário ou falsamente gostar, comentar, encaminhar ou navegar por páginas da web para implementar fraude de tráfego ou sequestro de tráfego; eles não devem usar algoritmos para bloquear informações, recomendação excessiva, manipulação de listas ou classificação de resultados de pesquisa, controle de pesquisa ou seleção quente, etc. interferem na apresentação de informações, implementam tratamento auto-preferencial, concorrência desleal, influenciam a opinião pública online ou evitam supervisão.

Artigo 14 O fornecedor de serviços de recomendação de algoritmos deve informar os utilizadores de forma visível sobre a sua prestação do serviço de recomendação de algoritmos e publicar o princípio básico, a finalidade e o mecanismo de funcionamento do serviço de recomendação de algoritmos de forma adequada.

Artigo 15 Os fornecedores de serviços de recomendação de algoritmos devem fornecer aos utilizadores opções que não sejam específicas às suas características pessoais ou fornecer aos utilizadores opções convenientes para desligar os serviços de recomendação de algoritmos. Se o usuário optar por fechar o serviço de recomendação de algoritmo, o provedor de serviço de recomendação de algoritmo deve parar imediatamente de fornecer os serviços relevantes.

Os provedores de serviços de recomendação de algoritmo devem fornecer aos usuários a função de selecionar, modificar ou excluir tags de usuário para serviços de recomendação de algoritmo.

Se o usuário acreditar que a aplicação de algoritmos pelo provedor de serviços de recomendação de algoritmos tem um impacto significativo sobre seus direitos e interesses, ele tem o direito de solicitar ao provedor de serviços de recomendação de algoritmos que explique e tome as melhorias ou medidas corretivas correspondentes.

Artigo 16 Quando um provedor de serviços de recomendação algorítmica fornece serviços a menores, deve cumprir a obrigação de proteger a rede de menores de acordo com a lei e facilitar o desenvolvimento de um modelo adequado para menores e fornecer serviços adequados às características dos menores. conteúdo de informação que é benéfico para a saúde física e mental.

Os prestadores de serviços de recomendação de algoritmo não devem enviar aos usuários menores informações que possam fazer com que os menores imitem comportamentos inseguros, violar a ética social, induzir os maus hábitos dos menores e outras informações que possam afetar a saúde física e mental dos menores, e não devem usar a recomendação do algoritmo serviços Induzir menores a viciados na Internet.

Artigo 17 Os prestadores de serviços de recomendação de algoritmos que prestam serviços de agendamento de trabalho aos trabalhadores devem estabelecer e melhorar algoritmos relacionados, como distribuição de pedidos de plataforma, composição e pagamento de remuneração, horas de trabalho, recompensas e punições, e cumprir as obrigações de proteger os direitos e interesses dos trabalhadores.

Artigo 18 Quando um provedor de serviços de recomendação de algoritmo vende bens ou fornece serviços aos consumidores, deve proteger os direitos e interesses legítimos dos consumidores, e não deve usar algoritmos para implementar condições comerciais não razoáveis, como preços de transação com base nas preferências do consumidor e hábitos de transação. tratamento e outros atos ilegais.

Artigo 19 O departamento nacional de cibersegurança e informatização estabelece um sistema de gestão classificado e hierárquico, que se baseia nos atributos da opinião pública do serviço de recomendação de algoritmo ou capacidade de mobilização social, categoria de conteúdo, escala de usuário, sensibilidade de dados da tecnologia de recomendação de algoritmo e o grau de intervenção no comportamento do usuário Recomenda-se que os prestadores de serviços implementem uma gestão classificada e hierárquica.

Artigo 20 Os prestadores de serviços de recomendação de algoritmo com atributos de opinião pública ou capacidades de mobilização social devem preencher o nome do prestador de serviço, formulário de serviço, campo de aplicação e algoritmo através do sistema de arquivamento de algoritmo de serviço de informação da Internet no prazo de dez dias úteis a partir da data de prestação do serviço Tipo, relatório de autoavaliação do algoritmo, conteúdo a ser divulgado e outras informações, concluem os procedimentos de arquivamento.

Quando as informações de preenchimento do provedor de serviços de recomendação de algoritmo são alteradas, os procedimentos de alteração devem ser concluídos no prazo de cinco dias úteis a partir da data da alteração.

Se o provedor de serviços de recomendação de algoritmo encerrar o serviço, deverá passar pelas formalidades para o registro de cancelamento 30 dias úteis antes do encerramento do serviço, e tomar as providências cabíveis.

Artigo 21 Após o departamento de informação da rede nacional, provincial, autônoma e municipal receber os materiais de depósito apresentados pelo depositante, se os mesmos estiverem completos, deverão apresentar o depósito no prazo de 30 dias úteis, emitir o número do depósito e efetuar anúncios públicos; os materiais não estão completos Se for encontrado, o depósito não será concedido, devendo o autor do depósito ser notificado no prazo de 30 dias úteis e justificada a justificação.

Artigo 22 O prestador de serviços de recomendação de algoritmo que tenha concluído o depósito deverá marcar o seu número de depósito e fornecer um link para as informações públicas em um local de destaque em seu site ou aplicativo que presta serviços para o mundo exterior.

Artigo 23 Os prestadores de serviços de recomendação de algoritmos com atributos de opinião pública ou capacidades de mobilização social devem realizar avaliações de segurança de acordo com os regulamentos nacionais relevantes.

O provedor de serviços de recomendação de algoritmo deve melhorar o mecanismo de gerenciamento de serviço de recomendação de algoritmo e reter o registro de serviço de recomendação de algoritmo e outras informações por um período não inferior a seis meses, e fornecê-lo quando o departamento de aplicação da lei pertinente fizer investigações de acordo com a lei.

Artigo 24 Os departamentos de informatização e segurança cibernética nacional, provincial, da região autônoma e municipal, juntamente com os departamentos competentes relevantes, realizam avaliação de segurança de algoritmo e supervisão e inspeção de serviços de recomendação de algoritmo, e prontamente apresentam opiniões de retificação sobre problemas encontrados e retificação dentro um limite de tempo.

Os prestadores de serviços de recomendação de algoritmo devem cooperar com a avaliação da segurança e o trabalho de supervisão e inspeção realizado pelas autoridades competentes relevantes de acordo com a lei, e fornecer suporte técnico e de dados e assistência necessários.

Artigo 25 As instituições relevantes e o pessoal envolvido na avaliação de segurança e supervisão e inspeção dos serviços de recomendação de algoritmos devem manter estritamente confidenciais as informações pessoais, privacidade e segredos comerciais que aprenderem no desempenho de suas funções, e não devem divulgá-los, vendê-los ou fornecê-los ilegalmente para outros.

Artigo 26 O fornecedor de serviços de recomendação de algoritmos deve aceitar a supervisão social, criar um portal de reclamações e denúncias conveniente e aceitar e tratar prontamente as denúncias e denúncias do público.

Os provedores de serviços de recomendação de algoritmo devem estabelecer canais e sistemas de apelação do usuário, padronizar o tratamento das apelações do usuário e fornecer feedback oportuno e proteger efetivamente os direitos e interesses legítimos dos usuários.

Artigo 27 O provedor de serviços de recomendação de algoritmo viola o Artigo 7, Artigo 8, Artigo 9, Parágrafo 1, Artigo 10, Artigo 11, Artigo 12, Artigo 13, e Artigo 14 destes regulamentos Artigo, Artigo 15, parágrafo 2, Artigo 22, Artigo 26, os departamentos de cibersegurança e informatização nacionais e provinciais, da região autônoma e municipal devem advertir, notificar críticas e ordenar correções dentro de um prazo de acordo com suas funções; recusa em fazer correções Ou se as circunstâncias forem graves, a atualização de informações deve será suspenso e será aplicada uma multa não inferior a 5.000 yuans, mas não superior a 30.000 yuans. Se for constituída uma violação da gestão da segurança pública, a punição da gestão da segurança pública será imposta de acordo com a lei; se um crime for constituído, a responsabilidade criminal será investigada de acordo com a lei.

Artigo 28 O provedor de serviços de recomendação de algoritmo violar o Artigo 6, Artigo 9, Parágrafo 2, Artigo 15, Parágrafo 1, Artigo 3, Artigo 16, Artigo 17, e o Artigo 18 deste regulamento, Artigo 23 e Artigo 24, parágrafo 2, serão tratadas por departamentos competentes relevantes, como Tecnologia da Informação da Internet, de acordo com suas funções e de acordo com as leis, regulamentos administrativos e regras departamentais pertinentes.

Artigo 29 Os prestadores de serviços de recomendação algorítmica com atributos de opinião pública ou recursos de mobilização social violam as disposições do Artigo 20 destes regulamentos, deixam de arquivar conforme exigido, ocultam informações relevantes, fornecem materiais falsos ou recorrem a fraude ou suborno ao fazer o registro. Se o depósito for obtido por meios indevidos, os departamentos de cibersegurança e informatização nacionais e provinciais, da região autônoma ou municipal, deverão revogar o depósito nos termos da lei, advertir, divulgar críticas e ordenar as correções dentro de um determinado prazo; se as correções forem recusadas ou as circunstâncias forem graves, a atualização da informação será suspensa e será aplicada uma multa de cinco anos, multa não inferior a 1.000 yuans, mas não superior a 30.000 yuans.

Se um provedor de serviços de recomendação algorítmica com atributos de opinião pública ou capacidade de mobilização social encerrar o serviço e deixar de passar pelos procedimentos de cancelamento e arquivamento a tempo conforme necessário, ou estiver sujeito a penalidades administrativas, como revogação da licença do serviço de informações da Internet, o encerramento do sítio da Internet, ou a cessação do serviço em grave violação da lei, o estado e a província devem, as Regiões Autónomas e os Municípios directamente subordinados aos departamentos de cibersegurança e informatização do Governo Central anulam o registo.

Artigo 30 O presente regulamento entra em vigor no dia 2021.

Leia também

Bolsonaro edita MP proibindo remoção “imotivada” de contas e conteúdos por provedores de internet

China sai na frente ao definir novas regras para algoritmos de internet

O PT erra com ADI sobre remoção de conteúdo por empresa privada. Uma nova lei da ficha limpa?