Em meio às discussões acerca do PL 2630/2020, conhecido como PL das Fake News, o editor do Blog do Esmael, Esmael Morais, entrou em contato com o ministro Paulo Pimenta, da SECOM, para sugerir uma regulação da inteligência artificial focada na proteção do consumidor e no apoio à concorrência no ambiente virtual.
A Secretaria de Comunicação Social da Presidência da República (SECOM) poder-se-ia fazer uma interface nessa discussão com o secretário Nacional dos Consumidor, Wadih Damous, órgão vinculado ao Ministério da Justiça e Segurança Pública.
De acordo com Morais, a proposta visa colocar em segundo plano o espírito punitivista do PL das Fake News e garantir que a regulamentação da inteligência artificial seja direcionada para a proteção dos consumidores e a promoção da concorrência saudável no ambiente virtual.
A sugestão apresentada pelo editor do Blog do Esmael é de extrema importância, uma vez que os sistemas de inteligência artificial têm se tornado cada vez mais presentes em nossas vidas, influenciando nossas escolhas e decisões. É fundamental, portanto, que haja uma regulação efetiva desses sistemas, que garanta a proteção dos consumidores e a promoção da concorrência no ambiente virtual.
A sugestão do Blog do Esmael para uma regulação baseada na defesa do consumidor e no apoio da concorrência foi inspirada na experiência do Reino Unido, que nesta quinta-feira (04/05) deu início ao debate – que vai até setembro deste ano – para regular a inteligência virtual na terra do Rei Charles III.
O ministro Paulo Pimenta ainda não respondeu sobre a sugestão, se ela será levada em consideração ou se a SECOM irá estudar a viabilidade de uma regulação focada na proteção do consumidor e no apoio à concorrência no ambiente virtual.
O Blog do Esmael acompanhará de perto o desenrolar desse debate e manterá seus leitores informados sobre as novidades e desdobramentos dessa importante discussão.
Para aquecer o debate, o Blog do Esmael lista abaixo os cinco princípios abrangentes nessa regulação inspirados no debate britânico:
- segurança, proteção e robustez;
- transparência e explicabilidade apropriadas;
- justiça;
- prestação de contas e governança; e
- contestabilidade e reparação.
Princípio da segurança, proteção e robustez
O princípio da segurança, proteção e robustez é um conjunto de diretrizes que visam garantir que os sistemas de inteligência artificial (IA) sejam projetados e desenvolvidos com a segurança em mente, protegendo as pessoas e a sociedade em geral contra possíveis danos causados pela IA. Esses princípios são importantes porque as tecnologias de IA têm o potencial de causar danos significativos se não forem cuidadosamente projetadas e controladas.
O princípio da segurança enfatiza a importância de garantir que os sistemas de IA sejam seguros e confiáveis, minimizando os riscos associados ao seu uso. Isso inclui a identificação e mitigação de possíveis vulnerabilidades e falhas de segurança, bem como a implementação de medidas de segurança adequadas para proteger os sistemas de IA de ataques maliciosos.
O princípio da proteção enfatiza a importância de garantir que os sistemas de IA sejam projetados para proteger a privacidade e a segurança das informações pessoais dos usuários. Isso inclui a implementação de medidas de privacidade e segurança para proteger as informações confidenciais dos usuários e minimizar o risco de violações de privacidade.
O princípio da robustez enfatiza a importância de garantir que os sistemas de IA sejam projetados para serem resilientes e capazes de lidar com situações imprevistas. Isso inclui a implementação de medidas de redundância e contingência para garantir que os sistemas de IA possam continuar a funcionar mesmo em situações de falha ou interrupção.
Ao fim e ao cabo, o princípio da segurança, proteção e robustez é fundamental para garantir que as tecnologias de IA sejam projetadas e desenvolvidas de maneira responsável e ética, protegendo as pessoas e a sociedade em geral contra possíveis danos causados pela IA.
Princípio da transparência e explicabilidade apropriadas
O princípio da transparência e explicabilidade apropriadas é um conjunto de diretrizes que visam garantir que os sistemas de inteligência artificial (IA) sejam transparentes e capazes de explicar suas decisões e comportamentos de maneira compreensível aos usuários e partes interessadas.
A transparência refere-se à capacidade do sistema de IA de fornecer informações claras e compreensíveis sobre como ele opera e como toma suas decisões. Isso inclui a divulgação de informações sobre o algoritmo subjacente, os dados utilizados para treinar o modelo e as suposições e limitações do modelo. A transparência também pode incluir a divulgação de informações sobre como as decisões são tomadas, como os dados são usados e como os resultados são interpretados.
A explicabilidade apropriada refere-se à capacidade do sistema de IA de explicar suas decisões e comportamentos de maneira compreensível aos usuários e partes interessadas. Isso inclui a capacidade de fornecer explicações claras e acessíveis sobre como uma determinada decisão foi tomada, por que um determinado resultado foi gerado e como o sistema chegou a uma determinada conclusão.
A transparência e a explicabilidade apropriadas são importantes porque os sistemas de IA são frequentemente usados em áreas críticas, como saúde, justiça e segurança, e as decisões tomadas por esses sistemas podem ter impactos significativos nas pessoas afetadas por eles. A transparência e a explicabilidade apropriadas ajudam a garantir que essas decisões sejam tomadas de maneira justa e equitativa, e que os usuários e partes interessadas possam entender como as decisões foram tomadas e por que.
Desta forma, o princípio da transparência e explicabilidade apropriadas é fundamental para garantir que os sistemas de IA sejam projetados e desenvolvidos de maneira responsável e ética, permitindo que os usuários e partes interessadas entendam como os sistemas de IA operam e tomam decisões.
Princípio da Justiça
O princípio da justiça é um conjunto de diretrizes que visam garantir que os sistemas de inteligência artificial (IA) sejam projetados e desenvolvidos de maneira justa e equitativa, sem discriminação ou viés. Isso inclui a garantia de que os sistemas de IA sejam projetados para funcionar de maneira justa para todos os usuários e para minimizar o impacto de preconceitos e desigualdades existentes.
A justiça na IA envolve garantir que as decisões tomadas pelos sistemas de IA sejam baseadas em dados precisos e confiáveis, sem discriminação com base em raça, gênero, orientação sexual, idade, religião, deficiência ou qualquer outra característica protegida por lei. Isso pode incluir a revisão e monitoramento contínuos dos algoritmos e dados utilizados pelos sistemas de IA, bem como a identificação e correção de qualquer viés ou desigualdade nas decisões tomadas pelos sistemas de IA.
Além disso, a justiça na IA também envolve garantir que os sistemas de IA sejam projetados para funcionar de maneira justa e equitativa em todas as comunidades e contextos. Isso inclui a consideração das necessidades e perspectivas de grupos historicamente marginalizados e sub-representados, bem como a promoção da diversidade e inclusão na equipe que desenvolve e mantém os sistemas de IA.
O princípio da justiça é importante porque a IA pode ter impactos significativos na vida das pessoas e pode afetar de maneira desproporcional as pessoas em grupos vulneráveis ou historicamente marginalizados. A justiça na IA ajuda a garantir que os sistemas de IA sejam desenvolvidos e usados de maneira justa e equitativa para todas as pessoas, independentemente de sua raça, gênero, idade ou outras características.
Portanto, o princípio da justiça é fundamental para garantir que os sistemas de IA sejam projetados e desenvolvidos de maneira responsável e ética, promovendo a igualdade e a inclusão e minimizando o impacto de preconceitos e desigualdades existentes.
Princípio da prestação de contas e governança
O princípio da prestação de contas e governança na inteligência artificial (IA) se refere ao conjunto de diretrizes que visam garantir que as organizações que desenvolvem, implementam e usam sistemas de IA sejam responsáveis e transparentes em relação ao seu uso e aos impactos desses sistemas.
A prestação de contas na IA envolve a responsabilização pelos sistemas de IA, incluindo a identificação clara de quem é responsável pelos sistemas, seus resultados e consequências. Isso pode incluir a criação de comitês de ética ou de supervisão para monitorar o uso de sistemas de IA, garantindo que as decisões tomadas pelos sistemas sejam justas e equitativas, e que as organizações que os usam sejam responsáveis pelos impactos desses sistemas em todas as partes interessadas.
A governança na IA envolve a criação de políticas e diretrizes claras para o desenvolvimento e uso de sistemas de IA. Isso pode incluir a criação de diretrizes éticas e legais que regem a utilização de sistemas de IA e a promoção de uma cultura de responsabilidade e transparência em relação ao uso desses sistemas. Além disso, a governança na IA também pode incluir a criação de padrões de qualidade para sistemas de IA, incluindo testes e avaliações que garantam a segurança, privacidade e confiabilidade desses sistemas.
O princípio da prestação de contas e governança na IA é importante porque os sistemas de IA podem ter impactos significativos em muitas áreas, como saúde, justiça, segurança e privacidade. A prestação de contas e governança ajudam a garantir que as organizações que desenvolvem e usam sistemas de IA sejam responsáveis e transparentes em relação aos impactos desses sistemas.
Destarte, o princípio da prestação de contas e governança na IA é fundamental para garantir que os sistemas de IA sejam desenvolvidos e usados de maneira responsável e ética, promovendo a transparência, responsabilidade e confiança em relação aos sistemas de IA e seus impactos.
Princípio da contestabilidade e reparação
O princípio da contestabilidade e reparação na inteligência artificial (IA) se refere ao conjunto de diretrizes que visam garantir que as pessoas afetadas pelos sistemas de IA tenham meios para contestar decisões tomadas pelos sistemas e para obter reparação em caso de danos ou prejuízos causados pelos sistemas.
A contestabilidade na IA envolve garantir que as pessoas afetadas pelos sistemas de IA possam contestar as decisões tomadas pelos sistemas. Isso pode incluir a transparência em relação aos dados e algoritmos usados pelos sistemas, bem como a possibilidade de apelar ou contestar decisões tomadas pelos sistemas. A contestabilidade na IA é fundamental para garantir que as decisões tomadas pelos sistemas de IA sejam justas, equitativas e confiáveis, e que as pessoas afetadas pelos sistemas tenham voz e possam influenciar essas decisões.
A reparação na IA envolve garantir que as pessoas afetadas pelos sistemas de IA possam obter reparação em caso de danos ou prejuízos causados pelos sistemas. Isso pode incluir a responsabilização das organizações que desenvolvem e usam os sistemas de IA pelos danos causados pelos sistemas e a criação de mecanismos de compensação para as pessoas afetadas. A reparação na IA é fundamental para garantir que as pessoas afetadas pelos sistemas de IA sejam protegidas e tenham meios para se recuperar caso sejam prejudicadas pelos sistemas.
O princípio da contestabilidade e reparação na IA é importante porque os sistemas de IA podem ter impactos significativos na vida das pessoas e nas comunidades. A contestabilidade e reparação ajudam a garantir que as pessoas afetadas pelos sistemas de IA tenham meios para contestar decisões e obter reparação em caso de danos, promovendo a confiança e transparência em relação aos sistemas de IA.
Para terminar, o princípio da contestabilidade e reparação na IA é fundamental para garantir que os sistemas de IA sejam desenvolvidos e usados de maneira responsável e ética, promovendo a transparência, responsabilidade e confiança em relação aos sistemas de IA e seus impactos.
LEIA TAMBÉM
- A luta pela pluralidade na mídia brasileira: o embate estratégico entre a ABERT e a mídia independente
- Lula pede regulação das redes sociais em fórum da UNESCO; leia a íntegra da carta
- Blog do Esmael propõe encontro da mídia independente para discutir regulação da internet no governo Lula
- União Europeia vai apresentar lei para abrir algoritmos e fiscalizar gigantes da internet
- China sai na frente ao definir novas regras para algoritmos de internet
Jornalista e Advogado. Desde 2009 é autor do Blog do Esmael.