Dos chatbots aos deepfakes: IA europeia tem agora novas obrigações

As empresas que usam IA estão agora sujeitas a novas regras de transparência. O AI Act obriga a identificar conteúdos gerados por IA e as coimas podem ultrapassar os 15 milhões de euros.

Os chatbots estão agora obrigados a informar os utilizadores de que estão a interagir com inteligência artificial (IA) e não com um ser humano. Os deepfakes também passam a ter de ser assinalados e os conteúdos gerados ou alterados por IA terão de incluir marcas que permitam a sua identificação. Estas são algumas das novas regras que entraram em vigor a 2 de agosto, ao abrigo da lei europeia da inteligência artificial (AI Act), numa nova fase da implementação do regulamento.

As novas obrigações de transparência aplicam-se a determinados sistemas de inteligência artificial e pretendem reduzir o risco de manipulação e de engano, permitindo que cidadãos e empresas saibam quando estão perante conteúdos gerados por IA. Simultaneamente, arrancou a fiscalização de várias disposições do AI Act, incluindo as regras aplicáveis aos fornecedores de modelos de inteligência artificial de uso geral, como o ChatGPT, Gemini e Claude.

Segundo a Comissão Europeia, estas medidas pretendem aumentar a confiança na tecnologia, numa altura em que a inteligência artificial está cada vez mais integrada no quotidiano de cidadãos e empresas. Na prática, os chatbots e outros sistemas interativos de IA passam a ser obrigados a informar claramente os utilizadores de que estão a comunicar com uma máquina e não com uma pessoa.

Outra das novidades diz respeito aos deepfakes — imagens, vídeos ou áudios criados ou alterados através de inteligência artificial. Este tipo de conteúdos passa a ter de ser devidamente identificado. Além disso, todo o conteúdo gerado ou manipulado por IA deverá incluir marcas legíveis por máquina, permitindo que seja mais facilmente detetado por plataformas e outras ferramentas tecnológicas.

A Comissão Europeia considera que estas medidas reforçam a transparência e ajudam os cidadãos a tomar decisões mais informadas perante conteúdos produzidos com recurso à inteligência artificial.

A partir de agora, também os fornecedores de modelos de IA de uso geral ficam sujeitos a novas exigências. Estes modelos, capazes de desempenhar diferentes tarefas e servir de base a múltiplas aplicações, passam a ter de disponibilizar documentação técnica às autoridades competentes e às empresas que utilizem os seus modelos para desenvolver novos sistemas.

As empresas terão igualmente de adotar políticas de cumprimento dos direitos de autor e publicar um resumo suficientemente detalhado dos conteúdos utilizados no treino dos modelos de inteligência artificial.

Os modelos considerados de risco sistémico ficam sujeitos a obrigações adicionais. Bruxelas pretende reduzir riscos relacionados com cibersegurança, perda de controlo sobre os sistemas, manipulação, ameaças aos direitos fundamentais e outros cenários de elevado impacto, como incidentes químicos, biológicos, radiológicos ou nucleares.

Começam também a ser aplicadas as disposições relativas às práticas proibidas pelo AI Act. Entre elas encontram-se sistemas de inteligência artificial que manipulem pessoas, explorem vulnerabilidades de forma prejudicial ou classifiquem indivíduos de forma discriminatória, colocando em risco os seus direitos fundamentais.

Para Nuno da Silva Vieira, advogado da Antas da Cunha, a entrada em vigor das novas regras representa, sobretudo, uma mudança na forma como as empresas terão de comunicar a utilização de inteligência artificial. “Uma empresa que usa inteligência artificial tem de avisar os clientes de que está a usar inteligência artificial”, afirma. O advogado alerta ainda que a obrigação de conformidade não termina dentro da própria organização, já que as empresas terão de garantir que os fornecedores tecnológicos com quem trabalham também cumprem o AI Act.

O jurista considera, contudo, que muitas empresas portuguesas ainda não avançaram na preparação para o novo quadro regulatório. “São poucas as empresas em Portugal que já iniciaram o seu processo de adequação ao regulamento”, afirma, defendendo que o principal desafio passa agora pela adaptação das organizações.

O advogado considera ainda que o AI Act não deve ser visto apenas como uma barreira à inovação, mas como uma forma de estabelecer regras para a utilização da tecnologia. “A Europa não quer uma anarquia, nem quer prescindir dos direitos fundamentais dos seus cidadãos”, afirma Nuno da Silva Vieira, defendendo que a entrada em vigor do regulamento acontece no momento certo, apesar de alertar para o atraso de muitas empresas na preparação para as novas exigências.

Bruxelas cria logótipos para distinção de conteúdos com IA
Para ajudar os utilizadores a reconhecerem estes conteúdos, a União Europeia criou um conjunto de ícones de transparência que indicam quando uma imagem, vídeo, áudio ou texto foi produzido ou manipulado por IA. Os símbolos destinam-se a tornar mais claro para os cidadãos que determinado conteúdo não é totalmente autêntico, reduzindo o risco de desinformação e permitindo uma utilização mais informada dos conteúdos digitais.

No total, são três os logótipos de identificação para estes conteúdos. O ícone básico será utilizado sempre que a inteligência artificial tenha sido usada na criação de um deepfake (imagem, áudio ou vídeo) ou de um texto abrangido pelas regras de transparência, podendo ser acompanhado por uma indicação mais específica, como “voz gerada por IA”.

O ícone de conteúdo totalmente gerado por IA aplica-se a conteúdos criados integralmente por inteligência artificial, sem elementos produzidos por humanos ou controlo editorial, como vídeos, música, arte ou resumos de notícias gerados por IA.

Já o ícone de conteúdo parcialmente modificado por IA identifica situações em que existia um conteúdo original criado por humanos, mas este foi alterado através de inteligência artificial, como uma fotografia real em que o rosto de uma pessoa foi substituído ou uma imagem de um espaço que foi digitalmente mobilado.

Em declarações ao ECO, Pedro Lomba, advogado e sócio da PLMJ, sublinha que “cumprir o artigo 50.º, n.º 2 não é só pôr uma marca de água visível”. Para o advogado, nenhuma técnica isolada é suficiente, sendo necessário combinar diferentes mecanismos, como “proveniência assinada, marca de água/fingerprint e rotulagem legível por humanos”.

Outro desafio passa pela definição das responsabilidades ao longo da cadeia. O advogado alerta que pode existir alguma ambiguidade entre o fornecedor de um modelo de IA e a empresa que utiliza essa tecnologia. “As empresas devem começar por clarificar bem a sua posição porque as responsabilidades variam”, afirma.

Pedro Lomba destaca ainda que algumas exceções previstas no regulamento poderão gerar dúvidas na aplicação prática, nomeadamente nos casos de conteúdos artísticos, editoriais, criativos, satíricos ou fictícios, onde as obrigações de transparência são limitadas para não prejudicar a obra. “Não existindo aqui prática consolidada, é normal que haja falta de critérios uniformes que garantam uma aplicação consistente da lei”, acrescenta. “O essencial de 2 de agosto resume-se a rotulagem e transparência — não a um regime pesado de conformidade de alto risco que só chega em 2027 ou 2028″, explica.

Quem vai fiscalizar o cumprimento das regras?
A aplicação do AI Act será repartida entre três entidades. O papel principal cabe ao AI Office, o Gabinete para a inteligência artificial criado pela Comissão Europeia, que passa a supervisionar os sistemas disponibilizados pelos próprios fornecedores de modelos de IA de uso geral, bem como os sistemas integrados nas plataformas em linha e motores de pesquisa de muito grande dimensão abrangidos pelo Regulamento dos Serviços Digitais (Digital Services Act).

Já os restantes sistemas de inteligência artificial serão fiscalizados pelas autoridades nacionais competentes, que cada Estado-membro terá de designar e dotar dos recursos necessários. Por sua vez, a Autoridade Europeia para a Proteção de Dados será responsável por supervisionar os sistemas de IA utilizados pelas instituições, órgãos e organismos da União Europeia.

Para apoiar a fiscalização do AI Act, a Comissão Europeia disponibilizou vários mecanismos de denúncia. Cidadãos e empresas podem apresentar queixas através de uma plataforma criada para comunicar alegadas infrações cometidas por fornecedores de sistemas supervisionados pelo AI Office. Existe ainda uma ferramenta específica para denunciantes e um canal dedicado às empresas que desenvolvem aplicações assentes em modelos de IA de uso geral e que pretendam reportar incumprimentos por parte dos seus fornecedores.

Em caso de violação das regras de transparência, a responsabilidade será repartida entre diferentes intervenientes. O fornecedor será responsável pela marcação técnica dos conteúdos gerados por IA, enquanto o responsável pela implementação do sistema terá de garantir a divulgação pública dessa informação. “As coimas por violação do artigo 50.º podem chegar até 15 milhões de euros ou 3% do volume de negócios mundial anual, prevalecendo o valor mais elevado”, explica Pedro Lomba.

O advogado salienta ainda que recorrer a uma ferramenta externa ou contratar uma agência para desenvolver um sistema de IA não elimina a responsabilidade da empresa perante o regulamento.

A fiscalização será ainda apoiada por um painel científico composto por 60 especialistas independentes em IA. Paralelamente, a Comissão nomeou o professor Alessandro Abate, da Universidade de Oxford, como conselheiro científico principal do AI Office, que terá como missão apoiar a avaliação, os testes e a supervisão dos modelos de IA de uso geral.

A entrada em vigor destas medidas representa mais uma fase da implementação gradual do Regulamento da Inteligência Artificial, o primeiro diploma abrangente dedicado à inteligência artificial.

Depois de, em fevereiro, terem começado a aplicar-se as regras relativas aos sistemas de IA proibidos e aos requisitos de literacia em inteligência artificial, é agora a vez das obrigações de transparência e das regras para os modelos de IA de uso geral entrarem efetivamente em vigor. A aplicação do regulamento continuará a ser faseada até 2027, à medida que forem sendo exigidas novas obrigações a diferentes categorias de sistemas e fornecedores.

Fonte: Eco