CHINA - Medidas para a gestão de serviços de inteligência artificial generativa

Novas regras sobre dados de treinamento e precisão da mídia gerada circulam para comentários

Na segunda semana de julho de 2023 uma série de sites de notícias divulgou que China obriga IA do país a adotar 'valores socialistas'.

As agências deram destaque à vedação de serviço de IA"que incite a subversão do poder do Estado e a derrubada do sistema socialista, que coloque os interesses e a segurança nacional em perigo, que afete a imagem do país, incite secessão, mine a unidade nacional e a estabilidade social, promova terrorismo, extremismo, ódio nacional e discriminação ética, violência, obscenidade e pornografia".

Intelletica conseguiu acessar a informação direta.

Fazendo uma investigação na rede mundial, descobrimos o projeto DIGICHINA, da Universidade de Stanford.

Destinado a entender os desenvolvimentos da política de tecnologia da China, o Projeto DIGICHINA

"publica traduções de fontes primárias, explicações contextuais e análises sobre o cenário da política de tecnologia da China, abrangendo tópicos como o regime da Lei de Segurança Cibernética, governança de dados, inteligência artificial e o impulso oficial da China por maior independência tecnológica."

Abaixo o texto integral da norma que gerou tanta repercussão.

O comando de maior repercussão está no Artigo 4, i. Intelletica recomenda a leitura do documento inteiro, pois permite em pouco tempo uma boa visão do panorama da regulamentação da IA na China, além de indicar outros

Medidas para a gestão de serviços de inteligência artificial generativa (esboço para comentários)

Artigo 1: A fim de estimular o desenvolvimento saudável e a aplicação padronizada de inteligência artificial generativa (IA), com base na Lei de Cibersegurança da República Popular da China , na Lei de Segurança de Dados da República Popular da China , na Proteção de Informações Pessoais Lei da República Popular da China , e outras leis e regulamentos administrativos semelhantes, estas Medidas são formuladas.

Artigo 2: Estas Medidas se aplicam à pesquisa, desenvolvimento e uso de produtos com funções geradoras de IA e à prestação de serviços ao público no território [continental] da República Popular da China.

A IA generativa, conforme mencionada nestas Medidas, refere-se a tecnologias que geram texto, imagem, áudio, vídeo, código ou outro conteúdo semelhante com base em algoritmos, modelos ou regras.

Artigo 3: O Estado apóia a inovação nativa , ampla aplicação e cooperação internacional em tecnologias fundamentais, como algoritmos e estruturas de IA, e incentiva o uso prioritário de software, ferramentas, computação e recursos de dados seguros e confiáveis.

Artigo 4: O fornecimento de produtos ou serviços de IA generativa deve obedecer aos requisitos de leis e regulamentos, respeitar a virtude social e os bons costumes públicos e atender aos seguintes requisitos:

1. O conteúdo gerado por meio do uso de IA generativa deve refletir os Valores Essenciais Socialistas e não pode conter: subversão do poder do estado; derrubada do sistema socialista; incitação ao separatismo; dano à unidade nacional; propagação de terrorismo ou extremismo; propagação de ódio étnico ou discriminação étnica; informações violentas, obscenas ou sexuais; informação falsa; bem como conteúdo que possa perturbar a ordem econômica ou social.

2. Em processos como design de algoritmos, seleção de dados de treinamento, geração e otimização de modelos, prestação de serviços, etc., adote medidas para prevenir o surgimento de discriminação com base em raça, etnia, crença religiosa, nacionalidade, região, sexo, idade, ou profissão.

3. Respeitar os direitos de propriedade intelectual e a ética comercial; vantagens em algoritmos, dados, plataformas, etc., não podem ser utilizadas para praticar concorrência desleal.

4. O conteúdo gerado por meio do uso de IA generativa deve ser verdadeiro e preciso, e medidas devem ser adotadas para evitar a geração de informações falsas.

5. Respeitar os direitos e interesses legais dos outros; prevenir danos à saúde física e mental de terceiros, violação de seus direitos de imagem, direitos de reputação e privacidade pessoal, bem como violação de direitos de propriedade intelectual. É proibido obter, divulgar ou usar ilegalmente informações pessoais e privadas, bem como segredos comerciais.

Artigo 5: Organizações ou indivíduos que usam IA generativa para fornecer serviços como bate-papo, texto, imagem ou geração de áudio (doravante denominados “provedores”); incluindo o fornecimento de interfaces programáveis ​​[isto é, APIs] e outros meios que permitem que outros gerem textos, imagens, áudio, etc.; assumir a responsabilidade como produtor do conteúdo gerado pelo produto. Onde informações pessoais estão envolvidas, eles têm responsabilidade legal como manipuladores de informações pessoais e devem cumprir as obrigações de proteção de informações pessoais.

Artigo 6: Antes de usar produtos generativos de IA para fornecer serviços ao público, uma avaliação de segurança deve ser submetida ao departamento de ciberespaço e informações do estado [ou seja, a Administração do Ciberespaço da China] de acordo com as Disposições sobre a Avaliação de Segurança dos Serviços de Informações da Internet Com Propriedades de Opinião Pública ou Capacidade de Mobilização Social , e os procedimentos de arquivamento, modificação e cancelamento de arquivamento de algoritmos devem ser realizados de acordo com as Disposições de Gerenciamento de Recomendações Algorítmicas do Serviço de Informações da Internet .

Artigo 7: Os provedores serão responsáveis ​​pela legalidade das fontes de dados de pré-treinamento de produtos de IA generativos e dados de treinamento de otimização.

Os dados usados ​​para pré-treinamento de produtos de IA generativa e treinamento de otimização devem satisfazer os seguintes requisitos:

1. Em conformidade com os requisitos da Lei de Segurança Cibernética da República Popular da China e outras leis e regulamentos;

2. Não conter conteúdo que infrinja os direitos de propriedade intelectual;

3. Quando os dados incluírem informações pessoais, o consentimento do titular das informações pessoais deve ser obtido ou outros procedimentos em conformidade com as disposições das leis e regulamentos administrativos seguidos;

4. Ser capaz de assegurar a veracidade, exatidão, objetividade e diversidade dos dados;

5. Outros requisitos de supervisão do departamento estadual de segurança cibernética e informatização relativos a funções e serviços de IA generativa.

Artigo 8: Quando a anotação humana for usada no desenvolvimento de produtos generativos de IA, os fornecedores devem formular regras de anotação claras, específicas e praticáveis ​​em conformidade com os requisitos destas Medidas; o treinamento necessário do pessoal de anotação deve ser realizado; e a validade do conteúdo da anotação deve ser verificada no local.

Artigo 9: Ao fornecer serviços de IA generativa, os usuários deverão fornecer informações de identidade real de acordo com as disposições da Lei de Cibersegurança da República Popular da China.

Artigo 10: Os provedores devem divulgar explicitamente os grupos de usuários, ocasiões e usos de seus serviços e adotar medidas apropriadas para impedir que os usuários dependam excessivamente ou se viciem no conteúdo gerado.

Artigo 11: No processo de prestação de serviços, os prestadores têm o dever de proteger as informações fornecidas pelos usuários e os registros de uso. Eles não podem preservar ilegalmente as informações de entrada das quais é possível deduzir a identidade dos usuários, não podem realizar perfis com base nas informações fornecidas pelos usuários e seus detalhes de uso e não podem fornecer informações fornecidas pelos usuários a terceiros. Onde as leis ou regulamentos dispuserem o contrário, essas disposições devem ser seguidas.

Artigo 12: Os provedores não podem se envolver na geração de conteúdo que seja discriminatório com base na raça, nacionalidade, sexo, etc. do usuário.

Artigo 13: Os provedores devem estabelecer mecanismos para receber e tratar as reclamações dos usuários e atender prontamente às solicitações individuais relativas à revisão, exclusão ou mascaramento de suas informações pessoais; e quando descobrirem ou souberem que textos, imagens, áudios, vídeos etc. gerados infringem os direitos de imagem, reputação, privacidade pessoal ou segredos comerciais de outras pessoas, ou não se enquadram nas exigências destas Medidas, deverão adotar medidas para cessar a geração e evitar a expansão do dano.

Artigo 14: Os provedores devem, ao longo do ciclo de vida, fornecer serviços seguros, estáveis ​​e sustentados e garantir o uso normal dos usuários.

Artigo 15: Quando o conteúdo gerado que não está em conformidade com os requisitos destas Medidas é descoberto durante as operações ou relatado pelos usuários, além da adoção de filtragem de conteúdo e outras medidas semelhantes, a geração repetida deve ser evitada por meio de métodos como treinamento de otimização dentro de três meses .

Artigo 16: Os provedores devem marcar imagens, vídeos e outros conteúdos gerados de acordo com as Disposições de Gerenciamento de Síntese Profunda do Serviço de Informações da Internet .

Artigo 17: Os provedores devem, de acordo com os requisitos do departamento estadual de segurança cibernética e informatização e departamentos responsáveis ​​relevantes, fornecer as informações necessárias que possam influenciar a confiança ou as escolhas dos usuários, incluindo descrições da fonte, escala, tipo, qualidade, etc., de dados de treinamento pré-treinamento e otimização; regras para anotação humana; a escala e o tipo de dados anotados por humanos; e algoritmos fundamentais e sistemas tecnológicos.

Artigo 18: Os provedores devem orientar os usuários a entender cientificamente e usar racionalmente o conteúdo gerado pela IA generativa; não usar o conteúdo gerado para prejudicar a imagem, reputação ou outros direitos e interesses legais de terceiros; e não se envolver em exageros comerciais ou marketing impróprio.

Quando os usuários descobrem conteúdo gerado que não atende aos requisitos dessas medidas, eles têm o direito de denunciá-lo aos departamentos de cibersegurança e informatização ou aos departamentos responsáveis ​​relevantes.

Artigo 19: Se um provedor descobrir que um usuário usou produtos de IA generativa para violar leis ou regulamentos; violar a ética comercial ou a virtude social, incluindo o envolvimento em publicidade on-line, postagens e comentários maliciosos, criação de spam ou criação de software malicioso; ou se envolver em marketing comercial impróprio; etc.; serviço será suspenso ou encerrado.

Artigo 20: Se um provedor violar as disposições das Medidas, o departamento de cibersegurança e informatização e os departamentos responsáveis ​​relevantes devem impor penalidades de acordo com as disposições da Lei de Cibersegurança da República Popular da China, a Lei de Segurança de Dados da República Popular da China, a Lei de Proteção de Informações Pessoais da República Popular da China e outras leis e regulamentos administrativos.

Nos casos em que não exista disposição legal ou normativa administrativa, o departamento de cibersegurança e informatização e os respetivos departamentos responsáveis ​​devem, de acordo com as suas atribuições, emitir avisos, fazer circular críticas e ordenar correções num prazo determinado. Quando as correções forem recusadas ou as circunstâncias forem graves, eles devem ordenar a suspensão ou rescisão do uso de serviços de provedores de IA generativa, e uma multa de mais de 10.000 yuans e menos de 100.000 yuans deve ser imposta. Sempre que o comportamento constitua uma violação da gestão da segurança pública, as penalidades da gestão da segurança pública devem ser impostas de acordo com a lei. Em caso de constituição de crime, a responsabilidade criminal será apurada nos termos da lei.

Artigo 21: Estas medidas entram em vigor a partir de [dia] [mês] de 2023.

Em 14 de julho de 2023, da equipe Intelletica.