RR\1175584PT.docx PE630.525v04-00

PT Unida na diversidade PT

Parlamento Europeu2014-2019

Documento de sessão

A8-0019/2019

30.1.2019

RELATÓRIOsobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica(2018/2088(INI))

Comissão da Indústria, da Investigação e da Energia

Relator: Ashley Fox

Relatores de parecer (*)Dita Charanzová, Comissão do Mercado Interno e da Proteção dos ConsumidoresMady Delvaux, Comissão dos Assuntos JurídicosMichał Boni, Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos

(*) Comissões associadas – Artigo 54.º do Regimento

PE630.525v04-00 2/59 RR\1175584PT.docx

PT

PR_INI

ÍNDICE

Página

PROPOSTA DE RESOLUÇÃO DO PARLAMENTO EUROPEU ..........................................3

PARECER DA COMISSÃO DO MERCADO INTERNO E DA PROTEÇÃO DOS CONSUMIDORES...................................................................................................................33

PARECER DA COMISSÃO DOS ASSUNTOS JURÍDICOS................................................41

PARECER DA COMISSÃO DAS LIBERDADES CÍVICAS, DA JUSTIÇA E DOS ASSUNTOS INTERNOS .........................................................................................................45

PARECER DA COMISSÃO DO AMBIENTE, DA SAÚDE PÚBLICA E DA SEGURANÇA ALIMENTAR...........................................................................................................................52

INFORMAÇÕES SOBRE A APROVAÇÃO NA COMISSÃO COMPETENTE QUANTO À MATÉRIA DE FUNDO ...........................................................................................................58

VOTAÇÃO NOMINAL FINAL NA COMISSÃO COMPETENTE QUANTO À MATÉRIA DE FUNDO ..............................................................................................................................59

RR\1175584PT.docx 3/59 PE630.525v04-00

PT

PROPOSTA DE RESOLUÇÃO DO PARLAMENTO EUROPEU

sobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica((2018/2088(INI))

O Parlamento Europeu,

– Tendo em conta a sua resolução, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre robótica1,

– Tendo em conta a sua resolução, de 1 de junho de 2017, sobre a digitalização da indústria europeia2,

– Tendo em conta a sua resolução, de 12 de setembro de 2018, sobre sistemas de armamento autónomos3,

– Tendo em conta a sua resolução, de 11 de setembro de 2018, sobre a igualdade linguística na era digital4,

– Tendo em conta a proposta da Comissão, de 6 de junho de 2018, que cria o programa Europa Digital para o período de 2021-2027 (COM(2018)0434),

– Tendo em conta o Regulamento (UE) 2018/1488 do Conselho, de 28 de setembro de 2018, que cria a Empresa Comum para a Computação Europeia de Alto Desempenho5,

– Tendo em conta o artigo 52.º do seu Regimento,

– Tendo em conta o relatório da Comissão da Indústria, da Investigação e da Energia e os pareceres da Comissão do Mercado Interno e da Proteção dos Consumidores, da Comissão dos Assuntos Jurídicos, da Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos e da Comissão do Ambiente, da Saúde Pública e da Segurança Alimentar (A8-0019/2019),

A. Considerando que a inteligência artificial (IA) e a robótica transparentes e que integram princípios éticos têm potencial para enriquecer as nossas vidas e reforçar as nossas capacidades enquanto indivíduos e em prol do bem comum;

B. Considerando que a evolução da IA está a avançar a um ritmo acelerado e que a IA já desempenha um papel no nosso quotidiano há vários anos; que a IA e a robótica promovem a inovação, geram novos modelos de negócio e desempenham um papel fundamental na transformação das nossas sociedades e na informatização das nossas economias em muitos setores, como a indústria, os cuidados de saúde, a construção e os

1 JO C 252 de 18.7.2018, p. 239.2 JO C 307 de 30.8.2018, p. 163.3 Textos Aprovados, P8_TA(2018)0341.4 Textos Aprovados, P8_TA(2018)0332.5 OJ L 252 de 8.10.2018, p. 1.

PE630.525v04-00 4/59 RR\1175584PT.docx

PT

transportes;

C. Considerando que a crescente integração da robótica nos sistemas humanos requer uma forte orientação política sobre como maximizar os benefícios e minimizar os riscos para a sociedade e garantir um desenvolvimento seguro e equitativo da inteligência artificial;

D. Considerando que a inteligência artificial é uma das tecnologias estratégicas do século XXI, tanto a nível mundial como a nível europeu, trazendo mudanças positivas para a economia europeia e contribuindo para a inovação, a produtividade, a competitividade e o bem-estar;

E. Considerando que cerca de um quarto de todos os robôs industriais e metade de todos os robôs de serviço profissional de todo o mundo são produzidos por empresas europeias, pelo que a UE já dispõe de ativos importantes em que basear a sua política industrial europeia;

F. Considerando que a IA e a robótica têm potencial para reconfigurar várias indústrias e gerar mais eficiências na produção, bem como tornar a indústria e as PME europeias mais competitivas a nível mundial; que a disponibilidade de conjuntos de dados em grande escala e de instalações de ensaios e experimentação se revestem de importância extrema para o desenvolvimento da inteligência artificial;

G. Considerando que uma abordagem comum facilitará o desenvolvimento de tecnologias de IA em benefício da sociedade, fazendo simultaneamente frente aos desafios apresentados por essas tecnologias, a fim de promover a inovação, melhorar a qualidade dos produtos e dos serviços assentes em IA, melhorar a experiência dos consumidores e a confiança nas tecnologias de IA e na robótica e evitar a fragmentação do mercado interno;

H. Considerando que o desempenho computacional tem de ser mantido a um nível de vanguarda na UE, o que deverá criar oportunidades para que o setor fornecedor da UE aumente a sua eficácia no plano da conversão dos progressos tecnológicos em sistemas orientados para a procura e produtos e serviços no domínio das aplicações, levando assim à sua utilização em grande escala e em domínios de aplicação emergentes, assentes na inteligência artificial;

I. Considerando que é urgente adotar uma abordagem coordenada a nível europeu para que a UE possa competir com os avultados investimentos efetuados por países terceiros, em especial os EUA e a China;

J. Considerando que, em 25 de abril de 20181, a Comissão se comprometeu a propor uma abordagem europeia à inteligência artificial, desenvolvendo um projeto de orientações sobre a IA, em cooperação com as partes interessadas no âmbito da Aliança Europeia para a IA, um grupo de peritos em informação artificial, a fim de impulsionar as aplicações e as empresas assentes na IA na Europa;

K. Considerando que as regras e os processos existentes deverão ser revistos e, se

1 COM(2018)0237.

RR\1175584PT.docx 5/59 PE630.525v04-00

PT

necessário, alterados, a fim de ter em conta a inteligência artificial e a robótica;

L. Considerando que o quadro europeu para a IA deve ser desenvolvido no pleno respeito dos direitos consagrados na Carta dos Direitos Fundamentais e, em particular, dos princípios da proteção de dados, da privacidade e da segurança;

M. Considerando que os desenvolvimentos no domínio da inteligência artificial podem e devem ser concebidos de modo a preservar a dignidade, a autonomia e a autodeterminação do indivíduo;

N. Considerando que, na sua resolução de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre Disposições de Direito Civil sobre Robótica, o Parlamento instou a Comissão a propor um quadro jurídico coerente para o desenvolvimento da robótica, incluindo sistemas autónomos e robôs autónomos inteligentes;

O. Considerando que o desenvolvimento da IA e da robótica deve incluir a sociedade como um todo; que, no entanto, em 2017, as zonas rurais permaneceram em larga medida excluídas dos benefícios da IA, uma vez que 8 % das habitações não estavam cobertas por uma rede fixa e 53 % não estavam cobertas por uma tecnologia de «acesso de nova geração» (VDSL, cabo Docsis 3.0 ou FTTP);

P. Considerando que o desenvolvimento de serviços e produtos baseados em IA exige conectividade, livre circulação de dados e acessibilidade dos dados na UE; que a utilização de técnicas avançadas de prospeção de dados em produtos e serviços pode ajudar a aumentar a qualidade da tomada de decisões e, consequentemente, a escolha dos consumidores, bem como melhorar o desempenho das empresas;

Q. Considerando que os avanços tecnológicos em produtos e serviços inteligentes podem beneficiar a economia do conhecimento, que se baseia na quantidade, qualidade e acessibilidade das informações disponíveis, podendo assim resultar numa melhor adaptação às necessidades dos consumidores;

R. Considerando que a cibersegurança é essencial para garantir que os dados não sejam corrompidos ou utilizados com intenção criminosa para que a IA funcione de forma prejudicial para os cidadãos ou para as empresas, o que prejudicaria a indústria e a confiança dos consumidores na IA; que a evolução da IA aumenta a dependência desses sistemas para a definição de ações e a tomada de decisões, o que, por sua vez, exige padrões elevados de ciber-resiliência na UE, a fim de proteger contra violações e falhas de cibersegurança;

S. Considerando que a tendência para a automatização exige que todos os intervenientes no desenvolvimento e na comercialização de aplicações de inteligência artificial integrem a segurança e a ética desde o início do processo, reconhecendo assim que têm de estar preparados para assumir a responsabilidade jurídica pela qualidade da tecnologia que produzem;

T. Considerando que a criação de um ecossistema fiável para o desenvolvimento da tecnologia de IA deve basear-se na arquitetura da política de dados; que tal implica a criação de programas flexíveis e simplificados de recolha e gestão de dados para fins de

PE630.525v04-00 6/59 RR\1175584PT.docx

PT

investigação educativa que permitam o desenvolvimento da IA em vários domínios: médico, financeiro, biológico, energético, industrial, químico ou do setor público; que um ecossistema de IA baseado em dados poderia incluir uma iniciativa pan-europeia assente em normas abertas e baseada no reconhecimento mútuo de certificados e em regras transparentes em matéria de interoperabilidade;

U. Considerando que a utilização da IA, por si só, não garante a verdade nem a equidade, uma vez que o modo como os dados são recolhidos e o modo como o algoritmo é escrito podem suscitar enviesamentos, que, por sua vez, podem decorrer de enviesamentos presentes na sociedade; que a qualidade dos dados, juntamente com a conceção algorítmica e os processos de reavaliação constante, devem evitar enviesamentos;

V. Considerando que a IA e a robótica devem ser desenvolvidas e implantadas segundo uma abordagem centrada no ser humano, com o objetivo de apoiar os seres humanos no local de trabalho e em casa; que a IA pode também ser utilizada com o objetivo de evitar que as pessoas sejam expostas a profissões perigosas;

W. Considerando que o desenvolvimento mais aprofundado e uma maior utilização de processos decisórios automatizados e algorítmicos têm um impacto inegável nas escolhas que uma pessoa a título individual (como, por exemplo, um homem de negócios ou um utilizador da Internet) e as autoridades administrativas, judiciárias ou outras autoridades públicas fazem para chegar a uma decisão final enquanto consumidores, empresas ou autoridades; que as garantias e a possibilidade de controlo e verificação humanos devem ser integradas nos processos decisórios automatizados e algorítmicos;

X. Considerando que a aprendizagem automática também suscita desafios no que diz respeito à garantia da não discriminação, ao processo equitativo, à transparência e à inteligibilidade dos processos decisórios;

Y. Considerando que a IA constitui uma ferramenta importante para enfrentar os desafios societais globais e que os Estados-Membros, através das suas políticas públicas, devem, por conseguinte, promover o investimento, disponibilizar fundos para I&D e fazer face aos obstáculos que se colocam ao desenvolvimento e à adoção da IA;

Z. Considerando que as plataformas comerciais de inteligência artificial passaram da fase de ensaio para aplicações reais nos domínios da saúde, do ambiente, da energia e dos transportes; que as técnicas de aprendizagem automática constituem o cerne de todas as principais plataformas Web e aplicações de megadados;

AA. Considerando que as empresas e os investigadores europeus estão envolvidos numa ampla variedade de temas relativos às cadeias de blocos, que vão desde as cadeias de abastecimento, os serviços governamentais, as finanças, a Internet das coisas, a saúde, os meios de comunicação, as cidades inteligentes e a energia até aos transportes; que a Europa é um forte interveniente em domínios importantes relacionados com as cadeias de blocos, como a IA; que as cadeias de blocos podem desempenhar um papel importante no reforço da inovação europeia;

AB. Considerando que, no que se refere à cibersegurança, tecnologias como as identidades

RR\1175584PT.docx 7/59 PE630.525v04-00

PT

digitais, a criptografia ou a deteção de intrusões, bem como a sua aplicação em domínios como as finanças, a indústria 4.0, a energia, os transportes, os cuidados de saúde e a administração pública em linha, são essenciais para salvaguardar a segurança e a confiança nas transações e nas atividades em linha, tanto por parte dos cidadãos como das administrações públicas e das empresas;

AC. Considerando que a prospeção de textos e dados serve de base a aplicações de IA e de aprendizagem automática, que são vitais para as PME e as empresas em fase de arranque, uma vez que lhes permitem aceder a grandes quantidades de dados para treinar algoritmos de IA;

AD. Considerando que a IA poderá implicar uma utilização muito intensiva de energia; que, neste contexto, é importante que a utilização da IA realize progressos no que diz respeito à manutenção dos objetivos de eficiência energética e economia circular da UE;

AE. Considerando que a IA deve apoiar plenamente todas as línguas europeias, para que todos os europeus tenham as mesmas oportunidades de beneficiar de desenvolvimentos modernos no domínio da IA na sociedade da informação europeia multilingue;

AF. Considerando que, na indústria e nos serviços relacionados com a alta tecnologia, a IA é fundamental para transformar a Europa num «continente start-up», explorando as tecnologias mais recentes para gerar crescimento na Europa, em particular nos domínios da tecnologia da saúde, dos serviços e programas de cuidados de saúde, da descoberta de medicamentos, da cirurgia robótica e assistida por robôs, do tratamento de doenças crónicas, da imagiologia e dos registos médicos, assim como para garantir um ambiente sustentável e uma produção alimentar segura; que, atualmente, a Europa está muito atrasada em relação à América do Norte e à Ásia em termos de investigação e de patentes no domínio da inteligência artificial;

AG. Considerando que o desenvolvimento das tecnologias da IA pode ajudar a melhorar a vida das pessoas com doenças crónicas e com deficiência e dar resposta a desafios sociais como o envelhecimento da nossa população, tornando as tecnologias da saúde mais precisas e eficazes na prestação de cuidados de saúde;

AH. Considerando que existe um vasto leque de possíveis aplicações da IA e da robótica nos cuidados médicos, como a gestão de registos e dados médicos, a execução de tarefas repetitivas (análise de testes, raios X, tomografias computorizadas, introdução de dados), o planeamento do tratamento, consultas digitais (como consultas médicas baseadas no histórico médico pessoal e no conhecimento médico comum), enfermeiros virtuais, a gestão de medicamentos, a criação de medicamentos, a medicina de precisão (dado que a genética e a genómica procuram mutações e ligações a doenças a partir das informações no ADN), a monitorização da saúde, a análise do sistema de cuidados de saúde, entre outras aplicações;

AI. Considerando que a acessibilidade não significa os mesmos serviços e equipamentos para todos; que a acessibilidade da IA e da robótica se baseia no caráter inclusivo do planeamento e da conceção; que as necessidades, os desejos e as experiências do utilizador devem ser o ponto de partida dessa conceção;

AJ. Considerando que existem fortes preocupações éticas, psicológicas e jurídicas sobre a

PE630.525v04-00 8/59 RR\1175584PT.docx

PT

autonomia dos robôs, a sua manifesta falta de empatia humana e o seu impacto na relação médico-doente, que ainda não foram abordadas de forma adequada a nível da União, em particular no que diz respeito à proteção de dados pessoais dos doentes, à responsabilidade e às novas relações económicas e laborais daí decorrentes; que a «autonomia» enquanto tal só pode ser plenamente atribuída ao ser humano; que existe a necessidade de enquadrar de forma sólida a inteligência artificial a nível legal e ético;

AK. Considerando que a utilização da inteligência artificial, especialmente no setor da saúde, se deve basear sempre no princípio de responsabilidade de que «é o Homem que comanda a máquina»;

1. Uma sociedade apoiada pela inteligência artificial e pela robótica

1.1. O trabalho na era da inteligência artificial e da robótica

1. Salienta que a automatização combinada com a inteligência artificial aumentará a produtividade e, por conseguinte, a produção; observa que, tal como em revoluções tecnológicas anteriores, alguns empregos serão substituídos, mas também serão criados novos postos de trabalho que transformarão vidas e práticas de trabalho; salienta que a crescente utilização da robótica e da IA deve também reduzir a exposição humana a condições nocivas e perigosas e ajudar a criar mais empregos dignos e de qualidade e a melhorar a produtividade;

2. Solicita aos Estados-Membros que se concentrem na reconversão dos trabalhadores nas indústrias mais afetadas pela automatização de tarefas; realça que os novos programas de ensino devem centrar-se no desenvolvimento das competências dos trabalhadores, para que possam aproveitar as oportunidades de emprego no âmbito dos novos postos de trabalho criados pela IA; incentiva o desenvolvimento de programas de literacia digital nas escolas e a definição de prioridades em matéria de estágios e formação profissional, a fim de facilitar a adaptação dos trabalhadores às mudanças tecnológicas;

3. Recomenda aos Estados-Membros que, em colaboração com os intervenientes do setor privado, identifiquem os riscos e elaborem estratégias para garantir o desenvolvimento de programas pertinentes de requalificação e reconversão; sublinha que as próprias empresas têm de investir na formação e na reconversão dos seus trabalhadores, por forma a responder às suas necessidades;

4. Salienta que o desenvolvimento da robótica na UE terá um forte impacto nas relações laborais; considera que tal impacto deve ser abordado de forma equilibrada, a fim de promover a reindustrialização e permitir que os trabalhadores também beneficiem dos ganhos de produtividade;

5. Observa que, no atual panorama laboral, existe um equilíbrio delicado entre proprietários e trabalhadores; considera que os progresso a nível da implementação da IA no domínio laboral devem ser realizados com base numa ampla consulta dos parceiros sociais, uma vez que a potencial alteração do número de pessoas que trabalham no setor requer a adoção de políticas proativas para ajudar os trabalhadores a adaptarem-se às novas exigências e garantir que os ganhos sejam amplamente partilhados; assinala que, para tal, é necessário repensar e reformular as políticas do mercado de trabalho, os regimes de segurança social e a tributação;

RR\1175584PT.docx 9/59 PE630.525v04-00

PT

6. Insta os Estados-Membros a eliminarem os obstáculos à entrada no mercado de trabalho, tais como o excesso de qualificações;

7. Considera que a literacia digital é um dos fatores mais importantes para o futuro desenvolvimento da IA e insta a Comissão Europeia e os Estados-Membros a desenvolverem e a aplicarem estratégias de formação e requalificação no domínio das competências digitais; observa que a literacia digital pode favorecer uma participação ampla e inclusiva nas soluções da economia de dados e facilitar a comunicação e a cooperação com todos os parceiros;

8. Observa que, uma vez que cidadãos de todas as idades serão afetados, importa adaptar os programas curriculares, inclusivamente através da criação de novos modos de aprendizagem e da utilização de novas tecnologias de difusão; salienta que os aspetos da educação devem ser tratados de forma adequada; considera, em especial, que é necessário incluir competências digitais, nomeadamente em codificação, no ensino e na formação, desde os primeiros anos de escolaridade até à aprendizagem ao longo da vida;

1.2. Utilização maliciosa da inteligência artificial e direitos fundamentais

9. Destaca que a utilização mal-intencionada ou negligente da IA pode ameaçar a segurança digital, bem como a segurança física e pública, uma vez que pode ser utilizada para realizar ataques em grande escala, seletivos e extremamente eficientes aos serviços da sociedade da informação e às máquinas conectadas, bem como campanhas de desinformação e, de um modo geral, reduzir o direito dos indivíduos à autodeterminação; salienta que a utilização maliciosa ou negligente da IA pode também constituir um risco para a democracia e os direitos fundamentais;

10. Exorta a Comissão a propor um quadro que penalize as práticas de manipulação da perceção, nomeadamente quando os conteúdos personalizados ou o «feed» de notícias geram sentimentos negativos e distorções da perceção da realidade suscetíveis de ter consequências negativas (por exemplo, nos resultados eleitorais ou em perceções distorcidas de questões sociais como a migração);

11. Salienta a importância de reconhecer, identificar e monitorizar as evoluções nefastas relacionadas com o desenvolvimento da IA; defende que a investigação em IA também se deve concentrar na deteção da IA e da robótica acidentalmente ou propositadamente corrompida;

12. Exorta a Comissão a ter em conta os desafios sociais decorrentes de práticas resultantes da classificação dos cidadãos; salienta que os cidadãos não devem ser objeto de discriminação com base na sua classificação e que devem ter direito a «outra oportunidade»;

13. Manifesta grande preocupação face à utilização de aplicações de IA, incluindo o reconhecimento facial e vocal, em programas de «vigilância emocional», ou seja, a monitorização das condições mentais dos trabalhadores e dos cidadãos com o objetivo de aumentar a produtividade e preservar a estabilidade social, por vezes associada a sistemas de «crédito social», como já se verifica, por exemplo, na China; salienta que esses programas contradizem intrinsecamente os valores e as normas europeias que

PE630.525v04-00 10/59 RR\1175584PT.docx

PT

protegem os direitos e as liberdades individuais;

2. A via tecnológica para a inteligência artificial e a robótica

2.1. Investigação e desenvolvimento

14. Recorda o facto de a Europa ter a melhor comunidade de investigação no domínio da IA a nível mundial, que representa 32 % das instituições de investigação em IA em todo o mundo;

15. Saúda a proposta da Comissão relativa ao programa Europa Digital e o orçamento de 2,5 mil milhões de EUR anunciado para a inteligência artificial, bem como o aumento do financiamento no âmbito do programa Horizonte 2020; compreende a importância do financiamento da UE, que complementa os orçamentos dos Estados-Membros e da indústria para a investigação em IA, e a necessidade de colaboração entre os programas de investigação públicos, privados e da UE;

16. Apoia os objetivos operacionais do Programa Europa Digital, designadamente a criação e o reforço de capacidades de informação artificial essenciais na União, a sua disponibilização a todas as empresas e administrações públicas e o reforço e a ligação em rede das instalações de ensaios e experimentação no domínio da inteligência artificial existentes nos Estados-Membros;

17. Encoraja os Estados-Membros a desenvolverem parcerias multilaterais entre a indústria e os institutos de investigação e a criarem centros conjuntos de excelência no domínio da IA;

18. Sublinha que a investigação no domínio da IA deve investir não só na tecnologia e na inovação, mas também em domínios sociais, éticos e de responsabilidade relacionados com a IA; considera que qualquer modelo de IA utilizado deve integrar a ética desde a conceção;

19. Salienta que, embora incentivando o progresso a bem da sociedade e do ambiente, a investigação no domínio da IA e outras atividades conexas devem ser conduzidas de acordo com o princípio da precaução e os direitos fundamentais; destaca que todas as pessoas envolvidas no desenvolvimento, na implementação, na difusão e na utilização da IA devem ter em conta e respeitar a dignidade humana, a autodeterminação e o bem-estar – tanto físico como psicológico – do indivíduo e da sociedade em geral, antecipar potenciais impactos na segurança e tomar as devidas precauções proporcionais ao nível de proteção, mormente a rápida divulgação de fatores que possam pôr em perigo o público ou o ambiente;

20. Salienta que um ambiente de investigação competitivo também é fundamental para o desenvolvimento da inteligência artificial; sublinha a importância de apoiar a investigação de excelência, incluindo projetos de investigação fundamental e projetos de elevado risco e alta compensação, e de promover um espaço europeu de investigação dotado de condições atrativas em matéria de financiamento, mobilidade e acesso a infraestruturas e tecnologias em toda a União, com base no princípio de abertura a países terceiros e a competências especializadas provenientes do exterior da União, desde que tal não prejudique a cibersegurança na UE;

RR\1175584PT.docx 11/59 PE630.525v04-00

PT

21. Sublinha que os investigadores da UE continuam a ganhar significativamente menos do que os seus homólogos nos EUA e na China, sendo este reconhecido como o principal motivo porque saem da Europa; insta a Comissão e os Estados-Membros a concentrarem-se em atrair talentos de topo para as empresas europeias e os Estados-Membros a criarem condições atrativas;

22. Salienta que a Europa tem de consagrar as novas iniciativas emblemáticas em matéria de TFE1 à inteligência artificial, colocando especial ênfase numa abordagem centrada no ser humano e nas tecnologias linguísticas;

23. Entende que a inteligência artificial, a aprendizagem automática e os saltos exponenciais na disponibilidade de dados e na computação em nuvem impulsionam iniciativas de investigação que se destinam a compreender a biologia a nível molecular e celular, a orientar o desenvolvimento de tratamentos médicos e a analisar fluxos para detetar ameaças para a saúde, a prever surtos de doenças e a prestar aconselhamento aos doentes; assinala que a aplicação de técnicas de pesquisa de dados e de sistemas de dados de navegação pode servir para identificar lacunas na prestação de cuidados, riscos, tendências e padrões;

24. Sublinha que, sempre que surjam riscos enquanto elemento inevitável e integrante da investigação no domínio da IA, devem ser desenvolvidos e cumpridos sólidos protocolos de avaliação e gestão dos riscos, tendo em conta que o risco de danos não pode ser superior ao que ocorre na vida normal (ou seja, as pessoas não devem ser expostas a riscos maiores do que aqueles a que estão expostos nos seus estilos de vida normais, nem a riscos adicionais);

2.2. Investimentos

25. Destaca a importância de mais investimento neste domínio, a fim de manter a competitividade; reconhece que, embora a maior parte do investimento e da inovação neste domínio provenha de empresas do setor privado, os Estados-Membros e a Comissão devem também ser incentivados a continuar a investir na investigação neste setor e a delinear as suas prioridades de desenvolvimento; congratula-se com a proposta InvestEU e com outras parcerias público-privadas que promoverão o financiamento privado; considera que a coordenação dos investimentos do setor privado e do setor público deve ser encorajada, a fim de garantir que o desenvolvimento seja direcionado;

26. Salienta que os investimentos em IA, que podem ser caracterizados por níveis de incerteza significativos, devem ser complementados por financiamento da UE, por exemplo do Banco Europeu de Investimento (BEI) ou do Fundo Europeu de Investimento (FEI), ou através de mecanismos do InvestEU e do Fundo Europeu para Investimentos Estratégicos (FEIE), que podem contribuir para a partilha dos riscos;

27. Exorta a Comissão a não permitir o financiamento da UE para uma IA militarizada; insta a Comissão a excluir do financiamento da UE as empresas que desenvolvam atividades de investigação e desenvolvimento no domínio da consciência artificial;

28. Recomenda à Comissão que vele por que a propriedade intelectual da investigação

1 Tecnologias Futuras e Emergentes

PE630.525v04-00 12/59 RR\1175584PT.docx

PT

realizada com financiamento da UE permaneça na UE e nas universidades europeias;

2.3. Inovação, aceitação pela sociedade e responsabilidade

29. Observa que todos os grandes avanços tecnológicos exigiram um período de transição, durante o qual a maior parte da sociedade teve de adquirir uma melhor compreensão da tecnologia e integrá-la no seu quotidiano;

30. Observa que o futuro desta tecnologia depende da aceitação pela sociedade e que deve ser conferida maior ênfase à comunicação adequada dos seus benefícios, a fim de garantir uma melhor compreensão da tecnologia e das suas aplicações; observa igualmente que, se a sociedade não estiver informada sobre as tecnologias de IA, haverá menos esforços de inovação neste setor;

31. Considera que a aceitação do público depende da forma como este é informado sobre as oportunidades, os desafios e os desenvolvimentos no domínio da inteligência artificial; recomenda aos Estados-Membros e à Comissão que facilitem o acesso a informações credíveis que respondam às principais preocupações em matéria de IA e robótica, como a privacidade, a segurança e a transparência na tomada de decisões;

32. Congratula-se com o recurso a «ambientes para testar a regulamentação» para introduzir, em cooperação com os reguladores, novas ideias inovadoras, permitindo a incorporação de salvaguardas na tecnologia desde o início, facilitando e incentivando, assim, a sua entrada no mercado; salienta a necessidade de introduzir modelos de experimentação regulamentares específicos da IA para testar a utilização segura e eficaz de tecnologias de IA num ambiente real;

33. Observa que, para uma maior aceitação da inteligência artificial pela sociedade, é necessário garantir que os sistemas utilizados sejam seguros e protegidos;

34. Observa que a inteligência artificial e a tecnologia linguística podem proporcionar aplicações importantes para promover a unidade da Europa na sua diversidade: tradução automática, agentes de conversação e assistentes pessoais, interfaces de linguagem falada para robôs e a Internet das coisas, análise inteligente, identificação automatizada de propaganda em linha, notícias falsas, discursos de ódio;

2.4. Condições de apoio: conectividade, acessibilidade dos dados e computação de alto desempenho, e infraestruturas em nuvem

35. Salienta que a integração das tecnologias da robótica e da IA na economia e na sociedade requerem uma infraestrutura digital que proporcione uma conectividade omnipresente;

36. Salienta que a conectividade é uma condição prévia para que a Europa se torne parte da sociedade gigabit e que a IA é um exemplo claro do crescimento exponencial de uma procura de conectividade de alta qualidade, rápida, segura e generalizada; considera que a União e os Estados-Membros devem continuar a promover medidas para estimular o investimento e a adoção de redes de capacidade muito elevada na UE;

37. Sublinha que o desenvolvimento rápido, seguro e protegido da tecnologia 5G é

RR\1175584PT.docx 13/59 PE630.525v04-00

PT

essencial para garantir que a União possa colher todos os benefícios da IA e proteger contra ameaças de cibersegurança, permitindo a renovação e o desenvolvimento de indústrias e serviços, que constituem a espinha dorsal da economia europeia, e para apoiar a emergência de novos serviços, atividades de produção e mercados, que são fundamentais para garantir novos postos de trabalho e um elevado nível de emprego;

38. Recorda que a disponibilidade de dados significativos e de elevada qualidade é essencial para uma verdadeira competitividade no setor da IA e insta as autoridades públicas a garantirem formas de produzir, partilhar e gerir dados, tornando os dados públicos um bem comum, sem deixar de salvaguardar a privacidade e os dados sensíveis;

39. Sublinha a importância da qualidade dos dados utilizados na aprendizagem profunda; assinala que a utilização de dados de baixa qualidade, obsoletos, incompletos ou incorretos pode conduzir a previsões de má qualidade, que podem redundar em situações discriminatórias e tendenciosas;

40. Considera que o novo conjunto de regras que regem o livre fluxo de dados não pessoais na União permite que cada vez mais dados sejam disponibilizados para a inovação baseada em dados, tornando mais fácil para as PME e as empresas em fase de arranque desenvolver serviços inovadores baseados em IA e entrar em novos mercados, permitindo simultaneamente aos cidadãos e às empresas beneficiar de melhores produtos e serviços;

41. Observa que a IA tem potencial para aumentar a eficiência, a comodidade e o bem-estar em muitos setores, se as partes interessadas da indústria estabelecidas cooperarem com os agentes de desenvolvimento de IA; assinala ainda que grandes volumes de dados, que não são de natureza pessoal, estão atualmente na posse de partes interessadas, podendo ser utilizados através de parcerias para aumentar a sua eficiência; considera que, para que tal se concretize, a cooperação entre os utilizadores e os agentes de desenvolvimento de IA é uma condição prévia indispensável;

42. Salienta a importância da interoperabilidade e da exatidão dos dados, a fim de assegurar um elevado nível de fiabilidade e normas de segurança no que respeita às novas tecnologias;

43. Considera que o êxito das aplicações de IA, adaptadas aos utilizadores da UE, requer muitas vezes um amplo conhecimento dos mercados locais, bem como o acesso e a utilização de dados locais adequados para o treino de conjuntos de dados e o ensaio e validação dos sistemas, sobretudo em setores relacionados com o processamento de linguagem natural; solicita aos Estados-Membros que incentivem a disponibilidade de dados de alta qualidade, interoperáveis e abertos, provenientes tanto do setor público como do setor privado;

44. Frisa a necessidade de assegurar a máxima coerência com a política da UE em matéria de megadados;

45. Congratula-se com as medidas que visam facilitar e apoiar o intercâmbio e a partilha de dados entre as fronteiras;

PE630.525v04-00 14/59 RR\1175584PT.docx

PT

46. Observa que, atualmente, a partilha de dados está muito abaixo do seu potencial e que se verifica uma subutilização de grandes quantidades de dados;

47. Reconhece que existe uma certa relutância em partilhar dados e sublinha a necessidade de adotar medidas que incentivem essa partilha; observa que a ausência de normas comuns desempenha também um papel importante na capacidade de partilhar dados;

48. Congratula-se com a adoção de instrumentos regulamentares, como o Regulamento Livre Fluxo de Dados, e regista a importância que tem em domínios como a IA, por forma a permitir processos mais eficazes e eficientes;

49. Reconhece que é necessário criar maiores incentivos baseados no mercado para promover o acesso aos dados e a partilha dos mesmos; assinala, em primeiro lugar, o risco que a abertura dos dados implica para o investimento nos dados;

50. Apela a uma maior clareza sobre as regras de propriedade dos dados e os quadros jurídicos em vigor; assinala que a incerteza regulamentar ocasionou respostas excessivamente prudentes por parte da indústria;

51. Sublinha a importância das iniciativas europeias em matéria de computação em nuvem e computação de alto desempenho, que permitirão reforçar o desenvolvimento de algoritmos de aprendizagem profunda e o tratamento de megadados; manifesta a sua firme convicção de que, para que estas iniciativas sejam eficazes e pertinentes para o desenvolvimento da IA, as infraestruturas devem estar abertas a entidades públicas e privadas sediadas na União e noutras partes do mundo e ser regidas por critérios de acesso menos restritivos;

52. Congratula-se com a criação da Empresa Comum Europeia para a Computação de Alto Desempenho; sublinha que a supercomputação e as infraestruturas de dados são essenciais para assegurar um ecossistema de inovação competitivo em matéria de desenvolvimento de tecnologias e aplicações de IA;

53. Realça que a computação em nuvem é fundamental para a promoção da aceitação da IA; sublinha que o acesso a serviços em nuvem permite que as empresas privadas, as instituições públicas, as instituições académicas e de investigação, assim como os utilizadores, desenvolvam e utilizem a IA de forma eficiente e economicamente viável;

3. Política industrial

54. Recorda que, embora já existam há muito tempo aplicações industriais de IA e de robótica, os avanços neste domínio estão a aumentar e a proporcionar aplicações abrangentes e diversificadas em todas as atividades humanas; entende que qualquer quadro regulamentar deve ser suficientemente flexível para permitir a inovação e o livre desenvolvimento de novas tecnologias e utilizações para a IA;

55. Sublinha que a identificação do âmbito e das aplicações da IA deve resultar de um processo de conceção orientado pelas necessidades e regido por princípios que tenham em conta o resultado pretendido e a melhor via para o alcançar, de um ponto de vista económico e social; considera que a existência de políticas claras em todas as fases do desenvolvimento conduzirá a uma implementação adequada à finalidade e cobrirá os

RR\1175584PT.docx 15/59 PE630.525v04-00

PT

riscos e as desvantagens;

56. Recomenda a utilização e a promoção de parcerias público-privadas para explorar soluções para os principais desafios, como a criação de um ecossistema de dados e a promoção do acesso, a partilha e o fluxo de dados, protegendo, ao mesmo tempo, os direitos de privacidade das pessoas;

57. Salienta que a disparidade na qualidade da tecnologia de produção de software é um desafio importante para o futuro dos sistemas de IA e sublinha, por conseguinte, a grande necessidade de normalização a nível da construção e da utilização de sistemas de IA;

58. Toma nota do trabalho realizado a nível mundial e reconhece a necessidade de trabalhar de forma mais dinâmica com os parceiros, em especial a nível da OCDE e do G20, na definição da orientação desta indústria, a fim de garantir que a UE continue a ser competitiva e salvaguarde a igualdade de acesso entre os países, partilhando o mais amplamente possível os benefícios do desenvolvimento da IA;

59. Observa com preocupação que várias empresas e entidades não europeias de países terceiros utilizam, cada vez mais, modelos preditivos baseados na IA para fornecer serviços e obter valor acrescentado nos mercados da UE, principalmente a nível local, e para monitorizar e eventualmente influenciar o sentimento político, o que coloca ameaças potenciais à soberania tecnológica dos cidadãos da UE;

60. Salienta que o apoio público à IA deve incidir nos setores estratégicos em que a indústria da UE tem maiores possibilidades de desempenhar um papel de liderança a nível mundial e que criem valor acrescentado em prol do interesse público geral;

3.1. Setores prioritários

3.1.1. Setor público

61. Salienta que há uma série de benefícios a retirar da IA e da robótica no setor público e congratula-se com o aumento do investimento na investigação e no desenvolvimento para garantir o seu sucesso;

62. Salienta que os Estados-Membros devem também investir em programas de ensino e formação no domínio da IA para ajudar os funcionários do setor público a familiarizar-se com a IA e a robótica; observa que devem ser igualmente levadas a cabo campanhas de informação dirigidas aos cidadãos que irão utilizar os serviços do setor público fornecidos pelos sistemas de inteligência artificial e robótica, a fim de amenizar os seus receios em relação à perda de controlo sobre os seus dados pessoais e instaurar a confiança;

63. Salienta que as informações do setor público representam uma fonte extraordinária de dados que podem contribuir para o progresso rápido e criar uma nova estratégia de adoção de novas tecnologias digitais, especialmente no domínio da inteligência artificial;

64. Entende que a adoção, por parte do setor público, de inteligência artificial fiável pode

PE630.525v04-00 16/59 RR\1175584PT.docx

PT

constituir uma firme base de apoio à reforma da administração pública na tomada de decisões e melhorar os serviços públicos, bem como impulsionar a sua adoção mais generalizada noutros setores;

65. Reconhece a utilização da automatização dos processos robóticos e o impacto que esta teve na melhoria dos processos do setor público; assinala a sua interoperabilidade com os sistemas antigos;

66. Solicita aos Estados-Membros que liderem esta transformação digital, assumindo-se como principais utilizadores e compradores responsáveis de tecnologias de IA; salienta, neste contexto, que os Estados-Membros têm de adaptar as suas políticas relativas à recolha, à utilização, aos repositórios ou às anotações de dados públicos, entre outros aspetos conexos, a fim de permitir a implantação da IA em todo o setor público;

67. Salienta a necessidade de incluir o público no processo de desenvolvimento da IA; insta, por conseguinte, a Comissão a tornar públicos algoritmos, instrumentos ou tecnologias financiados ou cofinanciados pelo público como fonte aberta;

68. Considera que a IA constituirá um grande ativo em termos da implementação do princípio da declaração única, possibilitando a combinação de bases de dados e informações provenientes de diferentes fontes, facilitando assim a interação dos cidadãos com as administrações públicas;

69. Exorta a Comissão a garantir a proteção dos cidadãos contra quaisquer sistemas de classificação com base na IA nas administrações públicas, semelhantes aos que se prevê utilizar na China;

3.1.2. Saúde

70. Salienta que o contacto humano é um aspeto fundamentais do cuidado humano;

71. Observa que a IA e a robótica têm potenciais benefícios no setor da prestação de cuidados, à medida que a esperança de vida aumenta, ajudando, por exemplo, os médicos e os enfermeiros a disporem de mais tempo para atividades de elevado valor (nomeadamente, a interação com os doentes);

72. Assinala o impacto já conseguido pela IA nos domínios do bem-estar, da prevenção, do diagnóstico e da investigação, bem como o seu grande potencial no que se refere à prestação de cuidados personalizados; considera que tal conduz, em última instância, a um ecossistema de cuidados de saúde mais sustentável, eficiente e baseado nos resultados;

73. Observa que, quando a IA é combinada com o diagnóstico humano, a taxa de erro tende a ser significativamente inferior à do diagnóstico efetuado apenas por médicos humanos1;

74. Salienta que a utilização de dados no setor da saúde deve ser objeto de um controlo cuidadoso e ético, não devendo, de modo algum, impedir o acesso à proteção social ou a

1 OECD Digital Economy Outlook 2017.

RR\1175584PT.docx 17/59 PE630.525v04-00

PT

seguros de saúde;

75. Está convicto de que quando a IA é utilizada em dispositivos médicos implantados, o portador deve ter o direito de inspecionar e modificar o código-fonte utilizado no dispositivo;

76. Considera que deve ser dada especial atenção à utilização de megadados no domínio da saúde, com o objetivo de maximizar as oportunidades que daí podem advir - como a melhoria da saúde dos doentes ou o desempenho dos sistemas de saúde pública dos Estados-Membros - sem reduzir as normas éticas e sem ameaçar a privacidade ou a segurança dos cidadãos;

77. Salienta, porém, que o atual sistema de aprovação de dispositivos médicos pode não ser adequado para as tecnologias da IA; insta a Comissão a acompanhar de perto os progressos realizados no domínio destas tecnologias e a propor alterações ao quadro regulamentar, se necessário, a fim de estabelecer o quadro para determinar a respetiva responsabilidade civil do utilizador (médico/profissional), o produtor da solução tecnológica e o estabelecimento de saúde que oferece o tratamento; sublinha a especial importância de que se reveste, no setor da saúde, a questão da responsabilidade jurídica por danos quando se trata da utilização da IA; salienta, por conseguinte, a necessidade de garantir que o utilizador não seja sempre levado a aceitar o meio de diagnóstico ou o tratamento sugerido por um instrumento tecnológico, por receio de ser objeto de uma ação de indemnização caso o parecer profissional e fundamentado o leve a formular conclusões parcialmente diferentes;

78. Insta os Estados-Membros e a Comissão a reforçarem o financiamento das tecnologias de IA relacionadas com a saúde, tanto no setor público como no setor privado; congratula-se, neste contexto, com a declaração de cooperação assinada por 24 Estados-Membros da UE e a Noruega, a fim de aumentar o impacto dos investimentos na IA a nível europeu; insta os Estados-Membros e a Comissão a analisarem se os programas de formação do pessoal médico e do setor da saúde devem ser atualizados e uniformizados a nível europeu, a fim de garantir elevados níveis de competência e igualdade de condições nos vários Estados-Membros no que se refere ao conhecimento e à utilização dos instrumentos tecnológicos mais avançados em matéria de robótica cirúrgica, biomédica e IA para efeitos de imagiologia;

79. Insta a Comissão a elaborar estratégias e políticas suscetíveis de posicionar a UE como líder mundial no setor em plena expansão das tecnologias dos cuidados de saúde, assegurando ao mesmo tempo que os doentes tenham acesso a cuidados médicos eficazes e contínuos;

80. Reconhece que melhores diagnósticos podem salvar milhões de vidas, uma vez que, segundo a Organização Mundial de Saúde, 89 % das mortes prematuras em toda a Europa são causadas por doenças não transmissíveis;

81. Sublinha o contributo da IA e da robótica para a inovação das práticas e técnicas preventivas, clínicas e reabilitativas no setor da saúde, em particular os seus benefícios para as pessoas com deficiência;

82. Reconhece que o aumento da utilização de sensores no domínio da robótica alargou o

PE630.525v04-00 18/59 RR\1175584PT.docx

PT

âmbito da prestação de cuidados e permite que os doentes disponham de tratamentos e serviços mais personalizados e recebam cuidados à distância nas suas próprias casas, gerando igualmente dados mais significativos;

83. Reconhece que, de acordo com o inquérito Eurobarómetro de maio de 20171, atualmente os cidadãos da UE ainda não se sentem confortáveis com a ideia de utilizar robôs nos cuidados de saúde do quotidiano; solicita à Comissão e aos Estados-Membros que desenvolvam estratégias e campanhas de comunicação com o objetivo de sensibilizar para os benefícios da utilização quotidiana de robôs; assinala, em particular, a ambição da estratégia japonesa para a robótica;

3.1.3. Energia

84. Observa que a IA permite que os fornecedores de energia passem da manutenção preventiva para a manutenção preditiva do equipamento e alcancem uma produção de energia mais eficaz, ao melhorar a sua fiabilidade, nomeadamente no caso das energias renováveis, e ao identificar os locais mais eficientes para novas instalações, assegurando assim uma melhor gestão da resposta à procura;

85. Reconhece que os dados mais precisos produzidos pela IA sobre o potencial de produção de energias renováveis criarão uma maior segurança de investimento para empresas e particulares, acelerando assim a transição energética para fontes de energia renováveis e contribuindo para a estratégia a longo prazo da União para uma economia neutra em termos de clima;

86. Regista que já estão a ser utilizadas soluções que envolvem sensores para gerir a utilização de energia nas habitações e que tal resultou em poupanças energéticas e monetárias consideráveis;

87. Congratula-se com o potencial da IA na modelização, identificação e atenuação do impacto da atividade humana no clima; observa que, embora o aumento da digitalização implique novas necessidades de energia, pode também aumentar a eficiência em setores que fazem uma utilização intensiva de energia e permitir uma melhor compreensão dos processos, conduzindo à sua melhoria;

88. Salienta que, com um setor energético mais digitalizado, as redes de energia tornam-se maiores e mais expostas às ameaças cibernéticas; exorta os Estados-Membros e a Comissão a fazerem acompanhar a transformação digital nos setores da energia de medidas que melhorem a cibersegurança, como a inteligência artificial;

3.1.4. Transportes

89. Congratula-se com a capacidade da IA e da robótica para melhorar consideravelmente os nossos sistemas de transportes através da introdução de comboios e veículos a motor autónomos; apela ao reforço da investigação e do investimento neste domínio, a fim de garantir o seu desenvolvimento seguro e eficaz; realça as imensas oportunidades que se abrem tanto para as grandes empresas tecnológicas como para as PME;

1 Eurobarómetro Especial n.º 460.

RR\1175584PT.docx 19/59 PE630.525v04-00

PT

90. Observa que, ao reduzir o erro humano no setor dos transportes, o sistema pode eventualmente tornar-se mais eficiente, com menos acidentes, graças a avaliações mais claras e à natureza preditiva da tecnologia, à redução dos atrasos, à capacidade de identificar padrões de tráfego e gerir serviços respeitando os horários, bem como a uma maior poupança, com menos erros ligados ao condutor e processos internos racionalizados;

91. Observa que a prevalência de veículos autónomos no futuro apresenta riscos em termos de privacidade dos dados e de ocorrência de falhas técnicas e transferirá a responsabilidade do condutor para o fabricante, exigindo que as companhias de seguros modifiquem a forma como integram o risco na subscrição das suas apólices;

92. Constata que a comunicação por voz é cada vez mais utilizada na interação com os veículos e os sistemas de transportes, mas que esta funcionalidade só está disponível em algumas línguas europeias, pelo que convém garantir que todos os europeus possam utilizar estas possibilidades na sua língua materna;

3.1.5. A agricultura e a cadeia alimentar

93. Observa que a IA tem potencial para catalisar uma transformação disruptiva do atual sistema alimentar no sentido de um modelo mais diversificado, resiliente, adaptado regionalmente e saudável para o futuro;

94. Assinala o papel que a IA pode desempenhar nas ações empreendidas com vista a ajudar a resolver os problemas de segurança alimentar, prever surtos de fome e de doenças de origem alimentar, reduzir a perda e o desperdício de alimentos e ajudar a melhorar a gestão sustentável da terra, da água e de outros recursos ambientais essenciais para a saúde dos ecossistemas;

95. Realça que a IA pode intervir em pontos críticos ao longo da cadeia de valor do sistema alimentar, desde a produção até ao consumo, e melhorar a nossa capacidade de alterar fundamentalmente a maneira como produzimos, transformamos e compramos os alimentos, através de uma melhor informação sobre práticas de planeamento do uso da terra;

96. Assinala que a IA pode melhorar a gestão de recursos e a eficiência dos fatores de produção, ajudar a reduzir os resíduos pós-colheita e influenciar as escolhas de consumo;

97. Observa que a IA aplicada à agricultura de precisão tem potencial para provocar uma transformação disruptiva da produção agrícola, bem como da gestão das terras no seu conjunto, melhorando o planeamento da utilização das terras, prevendo a evolução da utilização das terras e monitorizando a saúde das colheitas, tendo também potencial para transformar a previsão de fenómenos meteorológicos extremos;

98. Observa que a IA pode alterar radicalmente a entrega de insumos, o controlo de pragas e a gestão das explorações agrícolas, influenciar as práticas agrícolas, alterar a forma como os produtos de seguro são distribuídos e ajudar a prever e evitar futuros surtos de fome e de subnutrição aguda grave;

PE630.525v04-00 20/59 RR\1175584PT.docx

PT

99. Observa que a IA pode resultar em melhores decisões sobre a gestão dos sistemas agrícolas e estimular o desenvolvimento de sistemas de apoio à decisão e de recomendação, melhorando a eficiência e a saúde das explorações agrícolas;

3.1.6. Cibersegurança

100. Observa que a segurança cibernética constitui um aspeto importante da IA, especialmente tendo em conta os desafios que a transparência coloca à IA de alto nível; considera que a perspetiva tecnológica, incluindo a auditoria do código-fonte e as exigências em termos de transparência e responsabilização, deve ser complementada por uma abordagem institucional que tenha em conta os desafios da introdução da IA desenvolvida noutros países no mercado único da UE;

101. Apela a uma célere implementação do «Regulamento Cibersegurança»; observa que o desenvolvimento de sistemas de certificação da UE deverá garantir um desenvolvimento e uma implantação mais resilientes de sistemas de IA e robóticos seguros;

102. Considera que a IA pode constituir simultaneamente uma ameaça à cibersegurança e um instrumento de combate aos ciberataques; considera que a Agência da União Europeia para a Segurança das Redes e da Informação (ENISA) deve elaborar um plano de ação sobre cibersegurança no domínio da IA, que deverá avaliar e combater as ameaças e as insuficiências específicas da IA;

103. Sublinha a importância de reforçar a base industrial como componente estratégica do desenvolvimento seguro da IA; frisa que, de modo a garantir um nível ambicioso de cibersegurança, proteção dos dados e serviços de TIC fiáveis, a Europa tem de investir na sua independência tecnológica; salienta a necessidade urgente de a UE desenvolver as suas próprias infraestruturas, centros de dados, sistemas de computação em nuvem e respetivos componentes, como processadores gráficos e circuitos integrados;

104. Observa que, atendendo à evolução da IA e à crescente sofisticação dos piratas informáticos, será imperativo dispor de soluções eficazes em matéria de cibersegurança;

105. Reconhece que a adoção de soluções de IA no domínio da cibersegurança tornará possível prever, prevenir e mitigar ameaças;

106. Salienta que, embora a IA possa oferecer uma maior cobertura para a deteção de ameaças, a interpretação humana dessas ameaças é imperiosa, a fim de determinar se as mesmas são reais ou não;

107. Exorta a Comissão a explorar a utilização de aplicações de cibersegurança baseadas em cadeias de blocos, que melhorem a resiliência, a fiabilidade e a robustez das infraestruturas de IA através de modelos desintermediados de encriptação de dados; insta a Comissão a estudar a possibilidade de recompensar os cidadãos pelos seus dados através de fichas digitais;

108. Exorta a Comissão a reforçar as capacidades da UE em matéria de cibersegurança, conjugando e coordenando esforços em toda a Europa;

RR\1175584PT.docx 21/59 PE630.525v04-00

PT

3.1.7. PME

109. Reconhece a importância das PME para o êxito da IA; congratula-se com a iniciativa da Comissão de criar uma plataforma de IA a pedido, que impulsione a transferência de tecnologias e catalise o crescimento de empresas em fase de arranque e PME; insta a Comissão a promover polos de inovação digital para a IA que não conduzam à criação de níveis administrativos adicionais, mas se centrem na aceleração dos investimentos em projetos que tenham dado provas de eficiência;

110. Observa que os custos do investimento na IA criam significativos obstáculos à entrada das PME; reconhece que a adoção generalizada da IA por parte dos consumidores reduziria os riscos deste investimento para as PME;

111. Salienta a necessidade de promover tanto a adoção da IA pelas PME como a sua utilização pelos consumidores;

112. Salienta a importância de prever medidas específicas para garantir que as PME e as empresas em fase de arranque possam adotar as tecnologias de IA e delas beneficiar; considera que as avaliações de impacto dos efeitos da nova legislação da UE em matéria de desenvolvimento tecnológico da IA devem ser obrigatórias e também ser tidas em conta a nível nacional;

113. Sublinha que a IA pode ser um catalisador para as PME, mas também aumentar a influência dos grandes primeiros aderentes e agentes de desenvolvimento; assinala, por conseguinte, que, do ponto de vista da concorrência, é necessário assegurar que as novas distorções sejam devidamente avaliadas e corrigidas;

4. Quadro jurídico para a inteligência artificial e a robótica

114. Solicita à Comissão que, a fim de promover um quadro regulamentar favorável ao desenvolvimento da IA e em conformidade com o princípio de «legislar melhor», reavalie regularmente a legislação em vigor para garantir a sua adequação aos fins a que se destina, no que diz respeito à IA, respeitando igualmente os valores fundamentais da UE, e procure alterar ou substituir propostas novas sempre que tal não seja o caso;

115. Congratula-se com a criação de plataformas participativas baseadas em IA que permitem que os cidadãos sejam ouvidos com êxito e interajam com os governos, apresentando propostas, nomeadamente através de orçamentos participativos e de outros instrumentos de democracia direta; salienta que os projetos com uma abordagem da base para o topo podem fomentar a participação dos cidadãos e ajudar as pessoas a tomar decisões informadas de uma forma mais eficaz e democrática;

116. Observa que a IA é um conceito que engloba uma ampla gama de produtos e aplicações, desde a automatização, os algoritmos e a inteligência artificial estrita até à inteligência artificial geral; considera que uma legislação ou regulamentação abrangente em matéria de IA deverá ser abordada com prudência, uma vez que a regulamentação setorial pode proporcionar políticas suficientemente gerais, mas aperfeiçoadas ao ponto de serem úteis para o setor industrial;

117. Salienta que o quadro político deve ser concebido de modo a incentivar o

PE630.525v04-00 22/59 RR\1175584PT.docx

PT

desenvolvimento de todos os tipos de IA e não apenas sistemas de aprendizagem profundos, que requerem uma enorme quantidade de dados;

4.1. Um mercado interno da inteligência artificial

118. Sublinha a importância do princípio do reconhecimento mútuo na utilização transfronteiriça de bens inteligentes, incluindo robôs e sistemas robóticos; recorda que, sempre que necessário, os ensaios, a certificação e a segurança dos produtos devem garantir que determinados bens sejam seguros desde a conceção e por defeito; assinala, neste contexto, a importância de trabalhar igualmente os aspetos éticos da IA;

119. Sublinha que a legislação da UE relacionada com a execução da estratégia para um mercado único digital deve eliminar os obstáculos à implantação da IA; insta a Comissão a avaliar em que aspetos é necessário atualizar os quadros políticos e regulamentares para criar um mercado único europeu no domínio da IA;

120. Reconhece que as tecnologias de IA e a robótica são cada vez mais utilizadas em veículos autónomos, como automóveis autónomos e aeronaves telepilotadas civis; observa que alguns Estados-Membros já estão a promulgar ou a estudar a introdução de legislação neste domínio específico, o que pode resultar em entraves ao desenvolvimento de veículos autónomos devido à heterogeneidade das legislações nacionais; solicita, por conseguinte, que seja criado um único conjunto de regras da União que estabeleça o equilíbrio ideal entre os interesses e os riscos potenciais para os utilizadores, as empresas e as restantes partes interessadas, evitando ao mesmo tempo o excesso de regulamentação no domínio da robótica e dos sistemas de IA;

121. Insta os Estados-Membros a modernizarem os seus sistemas de ensino e de formação profissional, a fim de terem em conta o progresso científico e os desenvolvimentos no domínio da IA, em consonância com a diretiva relativa aos testes de proporcionalidade1 e a diretiva relativa ao reconhecimento das qualificações profissionais2, e a tornarem os serviços profissionais da UE competitivos a nível mundial nas próximas décadas;

122. Salienta que a IA se aplica a diversos setores em que a normalização é extremamente importante, como o fabrico inteligente, a robótica, os veículos autónomos, a realidade virtual, os cuidados de saúde e a análise de dados, e considera que a normalização da IA à escala da UE irá promover a inovação e garantir um nível elevado de proteção dos consumidores; reconhece que, embora exista um número significativo de normas sobre questões como a segurança, a fiabilidade, a interoperabilidade e a proteção, é necessário continuar a promover e desenvolver normas comuns para a robótica e a IA e que tal deve ser uma das prioridades da União; insta a Comissão, em cooperação com os organismos de normalização da UE, a continuar a colaborar de forma proativa com os organismos internacionais de normalização, tendo em vista a melhoria das normas neste

1 Diretiva (UE) 2018/958 do Parlamento Europeu e do Conselho, de 28 de junho de 2018, relativa a um teste de proporcionalidade a realizar antes da aprovação de nova regulamentação das profissões, JO L 173 de 9.7.2018, p. 25.2 Diretiva 2013/55/UE do Parlamento Europeu e do Conselho, de 20 de novembro de 2013, que altera a Diretiva 2005/36/CE relativa ao reconhecimento das qualificações profissionais e o Regulamento (UE) n.º 1024/2012 relativo à cooperação administrativa através do Sistema de Informação do Mercado Interno («Regulamento IMI») (JO L 354 de 28.12.2013, p. 132).

RR\1175584PT.docx 23/59 PE630.525v04-00

PT

domínio;

123. Recorda que muitos dos aspetos políticos relevantes para os serviços baseados em IA, incluindo as regras sobre a proteção dos consumidores e a política em matéria de ética e de responsabilidade, são abrangidos pelo atual quadro regulamentar em matéria de serviços, nomeadamente a Diretiva Serviços1, a Diretiva Qualificações Profissionais e a Diretiva Comércio Eletrónico2; sublinha, neste contexto, que os seres humanos devem ser sempre, em última instância, responsáveis pela tomada de decisões, especialmente quando se trata de serviços profissionais nos domínios médico, jurídico e contabilístico; considera que é necessário refletir sobre a necessidade de supervisão por um profissional qualificado, tendo em vista a proteção dos objetivos legítimos de interesse público e a prestação de serviços de elevada qualidade;

124. Reconhece a importância de melhorar os serviços digitais, como os assistentes virtuais, os «chatbots» e os agentes virtuais, proporcionando eficiência operacional sem precedentes, reconhecendo ao mesmo tempo a necessidade de desenvolver uma IA centrada no ser humano e orientada para o mercado, a fim de tomar decisões melhores e mais fiáveis face às limitações da autonomia da IA e da robótica;

4.2. Dados pessoais e privacidade

125. Salienta que deve ser assegurado um elevado nível de proteção, segurança e privacidade dos dados utilizados na comunicação entre pessoas, robôs e inteligência artificial; insta, por conseguinte, a Comissão e os Estados-Membros a integrarem os princípios da segurança e da privacidade desde a conceção nas suas políticas relacionadas com a robótica e a inteligência artificial;

126. Reitera que o direito à proteção da vida privada e o direito à proteção dos dados pessoais – consagrados nos artigos 7.º e 8.º da Carta dos Direitos Fundamentais, bem como no artigo 16.º do Tratado sobre o Funcionamento da União Europeia – aplicam-se a todas as áreas da robótica e da inteligência artificial e que o quadro jurídico da União em matéria de proteção de dados deve ser plenamente respeitado; salienta que os criadores de sistemas de robótica e de inteligência artificial têm a responsabilidade de desenvolver produtos seguros e adequados à sua finalidade, bem como de seguir procedimentos de tratamento de dados que respeitem a legislação em vigor, a confidencialidade, o anonimato, o tratamento justo e o direito a um processo equitativo;

127. Insta a Comissão a assegurar que toda a legislação da União no domínio da inteligência artificial inclua medidas e normas que tenham em conta a rápida evolução tecnológica neste domínio, a fim de assegurar que a legislação da UE acompanhe o desenvolvimento e a implantação das tecnologias; salienta a necessidade de essa legislação cumprir as normas em matéria de privacidade e de proteção de dados; solicita a revisão das normas, dos princípios e dos critérios relativos à utilização de câmaras e sensores em robôs e no domínio da inteligência artificial, em conformidade com o

1 Diretiva 2006/123/CE do Parlamento Europeu e do Conselho, de 12 de dezembro de 2006, relativa aos serviços no mercado interno (JO L 376 de 27.12.2006, p. 36).2 Diretiva 2000/31/CE do Parlamento Europeu e do Conselho, de 8 de junho de 2000, relativa a certos aspetos legais dos serviços da sociedade de informação, em especial do comércio eletrónico, no mercado interno («Diretiva sobre o comércio eletrónico») (JO L 178 de 17.7.2000, p. 1).

PE630.525v04-00 24/59 RR\1175584PT.docx

PT

quadro jurídico da União em matéria de proteção de dados;

128. Insta a Comissão a assegurar que qualquer futuro quadro regulamentar da UE em matéria de IA garanta a privacidade e a confidencialidade das comunicações, a proteção dos dados pessoais, incluindo os princípios da legalidade, equidade e transparência, a proteção de dados desde a conceção e por definição, a limitação da finalidade, a limitação da armazenagem, a exatidão e a minimização de dados, em plena conformidade com a legislação da União em matéria de proteção de dados, bem como a segurança, a proteção pessoal e outros direitos fundamentais, incluindo o direito à liberdade de expressão e de informação;

129. Salienta que o direito à privacidade deve ser sempre respeitado e os indivíduos não podem ser identificáveis pessoalmente; sublinha que um agente de desenvolvimento de IA deve obter sempre um consentimento claro, inequívoco e informado e que os criadores de IA são responsáveis pela conceção e adoção de procedimentos para o consentimento válido, para a confidencialidade, o anonimato, o tratamento justo e o processo equitativo; salienta que os criadores devem satisfazer todos os pedidos de destruição de dados conexos e da sua eliminação do conjuntos de dados;

130. Recorda que o Regulamento (UE) 2018/18071 relativo ao livre fluxo de dados não pessoais estabelece que, se os desenvolvimentos tecnológicos tornarem possível transformar dados anónimos em dados pessoais, esses dados devem ser tratados como dados pessoais, e o Regulamento (UE) 2016/679 deve ser aplicado em conformidade;

4.3. Responsabilidade

131. Congratula-se com a iniciativa da Comissão de criar o grupo de peritos em responsabilidade civil e novas tecnologias encarregado de dotar a UE de conhecimentos especializados sobre a aplicabilidade da Diretiva relativa à responsabilidade decorrente dos produtos2 aos produtos tradicionais, às novas tecnologias e a novos desafios societais (formação sobre a diretiva relativa à responsabilidade pelos produtos) e de ajudar a UE a desenvolver princípios que possam servir de orientação para eventuais adaptações da legislação aplicável a nível nacional e da UE no domínio das novas tecnologias (formação sobre novas tecnologias);

132. Lamenta, contudo, que não tenha sido apresentada nenhuma proposta legislativa durante a presente legislatura, adiando assim a atualização das regras de responsabilidade a nível da UE e pondo em risco a segurança jurídica à escala da UE neste domínio, tanto para os comerciantes como para os consumidores;

133. Observa que os engenheiros no domínio da inteligência artificial ou as empresas que os empregam devem permanecer responsáveis pelos impactos sociais, ambientais e para a saúde humana que os sistemas de IA ou de robótica possam ter nas gerações atuais e futuras;

1 Regulamento (UE) 2018/1807 do Parlamento Europeu e do Conselho, de 14 de novembro de 2018, relativo a um quadro para o livre fluxo de dados não pessoais na União Europeia, JO L 303 de 28.11.2018, p. 59.2 Diretiva 85/374/CEE do Conselho, de 25 de julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos (JO L 210 de 7.8.1985, p. 29).

RR\1175584PT.docx 25/59 PE630.525v04-00

PT

4.4. Proteção dos consumidores e capacitação

134. Sublinha que a confiança dos consumidores é essencial para o desenvolvimento da IA e que os sistemas baseados em IA lidam com cada vez mais dados de consumidores, o que os torna os alvos principais de ciberataques; salienta igualmente que a IA deve funcionar de forma a não prejudicar os cidadãos e os consumidores e considera que a integridade dos dados e dos algoritmos em que assenta deve, por conseguinte, ser assegurada;

135. Considera que as tecnologias de IA desenvolvidas tanto para utilização na indústria como a nível particular devem estar sujeitas a controlos de segurança dos produtos pelas autoridades de fiscalização do mercado e às regras de proteção dos consumidores, garantindo, sempre que necessário, normas mínimas de segurança e fazendo face ao risco de acidente resultante da interação com humanos ou do funcionamento na proximidade destes; considera que as questões éticas e de proteção de dados, incluindo dados de terceiros e dados pessoais, de responsabilidade civil e de cibersegurança devem ser ponderadas em qualquer política em matéria de IA;

4.5. Direitos em matéria de propriedade intelectual

136. Recorda a sua resolução supramencionada de 16 de fevereiro de 2017, na qual refere que não existem disposições legais especificamente aplicáveis à robótica, mas que os regimes e as doutrinas jurídicas existentes podem ser rapidamente aplicados a esse domínio, embora alguns aspetos pareçam requerer uma ponderação específica; reitera o apelo formulado nessa resolução à Comissão para que apoie uma abordagem horizontal e tecnologicamente neutra da propriedade intelectual aplicável aos diversos setores em que a robótica poderá ser empregue;

137. Congratula-se, a este respeito, com a comunicação da Comissão às instituições sobre orientações relativas a determinados aspetos da Diretiva 2004/48/CE do Parlamento Europeu e do Conselho relativa ao respeito dos direitos de propriedade intelectual (COM(2017)0708), mas sublinha a necessidade de verificar a pertinência e a eficiência das regras sobre direitos de propriedade intelectual que regerão o desenvolvimento da IA; sublinha, neste contexto, a importância dos controlos da adequação;

5. Aspetos éticos

138. Considera que as ações e aplicações no domínio da inteligência artificial devem respeitar os princípios éticos e a legislação nacional, europeia e internacional pertinente;

139. Apela à criação de uma carta ética de melhores práticas para a IA e a robótica, a qual deverá ser seguida pelas empresas e por peritos;

140. Solicita à Comissão e aos Estados-Membros que promovam uma colaboração forte e transparente entre os setores público e privado e o meio académico, tendo como objetivo a o reforço da partilha de conhecimentos, que promovam a educação e a formação dos criadores no que se refere às implicações éticas, à segurança e ao respeito dos direitos fundamentais, bem como dos consumidores no que se refere à utilização da robótica e da inteligência artificial, com particular destaque para a segurança e a proteção da privacidade;

PE630.525v04-00 26/59 RR\1175584PT.docx

PT

141. Insta a Comissão a garantir que as aplicações baseadas na IA não utilizem dados recolhidos de várias fontes sem o consentimento prévio explícito do titular dos dados; solicita à Comissão que crie um quadro que assegure que o consentimento dado pelo titular dos dados apenas produza dados para os fins previstos;

142. Insta a Comissão a respeitar o direito dos cidadãos a uma vida fora da Internet e a assegurar que não haja discriminação contra cidadãos relativamente aos quais não existam dados registados;

5.1. Tecnologia centrada no ser humano

143. Salienta que devem existir regras éticas para assegurar o desenvolvimento de uma IA centrada no ser humano, a responsabilização e a transparência dos sistemas de decisão algorítmicos, regras de responsabilidade claras e equidade;

144. Congratula-se com a iniciativa da Comissão de criar o grupo de peritos de alto nível sobre inteligência artificial, bem como a rede de alianças da UE em matéria de inteligência artificial, com o objetivo de fornecer orientações éticas relativas à IA; insta a Comissão a velar por que o setor, os meios académicos e as autoridades públicas adotem, tanto quanto possível, essas orientações éticas; recomenda que os Estados-Membros incorporem as orientações nas suas estratégias nacionais de IA e criem verdadeiras estruturas de responsabilização para as indústrias e os governos aquando da conceção e implantação da IA;

145. Considera essencial o acompanhamento contínuo da implementação das orientações éticas relativas à IA e do seu impacto no desenvolvimento de uma IA centrada no ser humano; insta a Comissão a analisar se as orientações éticas voluntárias são suficientes para garantir que a adoção inclusiva e ética da IA não dê azo a fraturas económicas e sociais nas sociedades da UE, e sugere a adoção de medidas regulamentares e políticas, se for caso disso;

146. Toma nota dos recentes desenvolvimentos em matéria de acompanhamento da análise comportamental e de adaptação à mesma; exorta a Comissão a desenvolver um quadro ético que limite a sua utilização; insta a Comissão a sensibilizar e a lançar uma campanha de informação sobre a IA e a sua utilização na análise comportamental;

5.2. Valores incorporados na tecnologia – ética desde a conceção

147. Assinala que o quadro ético orientador deve basear-se nos princípios da beneficência, da não-maleficência, da autonomia e da justiça, nos princípios e valores consagrados no artigo 2.º do Tratado da União Europeia e na Carta dos Direitos Fundamentais, como a dignidade humana, a igualdade, a justiça e a equidade, a não discriminação, o consentimento esclarecido, o respeito pela vida privada e familiar e a proteção de dados, bem como em outros princípios e valores subjacentes do direito da União, como a não estigmatização, a transparência, a autonomia, a responsabilidade individual e a responsabilidade social, e em práticas e códigos de ética existentes;

148. Considera que a Europa deve assumir a liderança à escala global, implementando apenas uma IA que incorpore princípios éticos; sublinha que, para tal, é necessário assegurar a governação ética da IA a diferentes níveis; recomenda aos

RR\1175584PT.docx 27/59 PE630.525v04-00

PT

Estados-Membros que estabeleçam órgãos de supervisão e fiscalização ética no domínio da IA e incentivem as empresas que desenvolvem IA a criar comités de ética e a formular orientações éticas dirigidas aos seus agentes de desenvolvimento de IA;

149. Salienta que as normas europeias em matéria de IA devem basear-se nos princípios da ética digital, da dignidade humana, do respeito pelos direitos fundamentais, da proteção dos dados e da segurança, contribuindo, assim, para reforçar a confiança dos utilizadores; realça a importância de tirar partido do potencial da UE para criar uma forte infraestrutura para os sistemas de IA alicerçada em normas rigorosas em matéria de dados e de respeito pelos seres humanos; observa que a transparência e a explicabilidade devem ser integradas no desenvolvimento da IA;

150. Assinala que a inteligência artificial aplicada aos sistemas de armas automáticas deve continuar a reger-se por uma abordagem em que o ser humano detém o controlo;

5.3. O processo de decisão – limites à autonomia da inteligência artificial e da robótica

151. Salienta a dificuldade e a complexidade de prever os comportamentos futuros de muitos sistemas complexos de IA e os comportamentos decorrentes da interação entre diferentes sistemas de IA; solicita à Comissão que avalie a necessidade de prever regulamentações específicas relacionadas com a tomada de decisões com recurso à IA;

152. Observa que a inteligência artificial continuará a ser um instrumento útil de colaboração com a ação humana, a fim de melhorar o seu desempenho e reduzir os erros;

153. Solicita que as pessoas tenham o direito de ser informadas, o direito de recurso e o direito de reparação sempre que a IA seja utilizada na tomada de decisões que as afetem, o que pode constituir um risco significativo para os direitos e as liberdades individuais ou ser suscetível de causar danos a essas pessoas;

154. Salienta que os algoritmos não devem ser implementados nos sistemas de tomada de decisões sem uma avaliação prévia do impacto dos mesmos, a menos que seja claro que estes não têm um impacto significativo na vida das pessoas;

155. Considera que a inteligência artificial, especialmente os sistemas com autonomia integrada, incluindo a capacidade de retirar, compilar e partilhar informação sensível com diversas partes interessadas, e a possibilidade de autoaprendizagem e até de auto-modificação evolutiva, devem ser subordinadas a princípios robustos; salienta que os sistemas de IA não devem manter nem divulgar informações confidenciais pessoais sem o consentimento explícito da fonte dessas informações;

5.4. Transparência, enviesamento e explicabilidade dos algoritmos

156. Realça que, embora traga grandes benefícios para a automatização e a tomada de decisões, a IA também comporta um risco inerente quando os algoritmos são estáticos e opacos; salienta, neste contexto, a necessidade de uma maior transparência no que diz respeito aos algoritmos;

157. Solicita à Comissão, aos Estados-Membros e às autoridades responsáveis pela proteção de dados que identifiquem e adotem todas as medidas possíveis para prevenir e

PE630.525v04-00 28/59 RR\1175584PT.docx

PT

minimizar a discriminação e a parcialidade dos algoritmos e que desenvolvam um quadro ético comum sólido para o tratamento transparente de dados pessoais e de decisões automatizadas, que possa servir de orientação para a utilização dos dados e a aplicação do Direito da UE;

158. Sublinha que qualquer sistema de IA tem de ser desenvolvido no respeito dos princípios da transparência e da responsabilização relativamente aos algoritmos, de molde a permitir a compreensão das suas ações pelos seres humanos; observa que, para reforçar a confiança e permitir o progresso da IA, os utilizadores devem estar cientes da forma como os seus dados, bem como outros dados e dados inferidos a partir dos seus dados são utilizados quando comunicam ou interagem com um sistema de IA ou com seres humanos apoiados por um sistema de IA; considera que tal contribuirá para uma melhor compreensão e confiança por parte dos utilizadores; salienta que a inteligibilidade das decisões deve ser uma norma da UE, em conformidade com os artigos 13.º, 14.º e 15.º do Regulamento Geral sobre a Proteção de Dados (RGPD)1; recorda que o RGPD já prevê o direito de ser informado sobre a lógica subjacente ao tratamento de dados; sublinha que, de acordo com o artigo 22.º do RGPD, os titulares dos dados têm direito a uma intervenção humana sempre que uma decisão se baseie num tratamento automatizado que os afete significativamente;

159. Destaca o papel fundamental que a Comissão, o Comité Europeu para a Proteção de Dados, as autoridades nacionais responsáveis pela proteção de dados e outras autoridades de supervisão independentes devem, por isso, desempenhar no futuro, a fim de promover a transparência e o tratamento justo, a segurança jurídica em geral e, mais especificamente, normas concretas de proteção dos direitos fundamentais e garantias associadas à utilização do tratamento e da análise de dados; apela a uma colaboração mais estreita entre as autoridades responsáveis pela supervisão ou pela regulamentação do comportamento no ambiente digital; solicita que essas autoridades sejam dotadas de recursos financeiros e humanos adequados;

160. Reconhece que os algoritmos de aprendizagem automática são treinados para aprenderem por si mesmos, o que é vantajoso em termos de automatização e tomada de decisões; apela à formulação de orientações éticas em matéria de IA, a fim de abordar questões relacionadas com a transparência algorítmica, a explicabilidade, a responsabilidade e a equidade;

161. Salienta a importância da explicabilidade dos resultados, dos processos e dos valores dos sistemas de IA, de modo a que sejam compreensíveis por públicos não técnicos e lhes forneçam informações relevantes, algo que é necessário para avaliar a equidade e conquistar a confiança;

162. Assinala que a falta de transparência relativamente a estas tecnologias e às suas aplicações suscita uma série de questões éticas;

163. Observa que os sistemas de IA devem ser explicáveis aos seres humanos e devem fornecer informações relevantes, a fim de possibilitar o retorno de informações;

1 Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (JO L 119 de 4.5.2016, p. 1).

RR\1175584PT.docx 29/59 PE630.525v04-00

PT

reconhece que a solidez dos modelos de IA depende do retorno de informações e da reavaliação, incentivando por isso este processo;

164. Observa que os cidadãos receiam não saber quando é que a IA está a ser utilizada e que informações serão tratadas; recomenda que os cidadãos sejam informados sempre que a IA seja utilizada; salienta que, a fim de manter a confiança dos consumidores, é importante que os dados transmitidos permaneçam seguros;

165. Considera que a responsabilidade relativa aos algoritmos deve ser regulamentada pelos decisores políticos através de avaliações de impacto baseadas em parâmetros estabelecidos;

166. Observa que a divulgação do código do computador, por si só, não resolverá a questão da transparência da IA, uma vez que não revelaria os enviesamentos inerentes que existem e não explicaria o processo de aprendizagem automática; sublinha que por «transparência» entende-se não só a transparência dos códigos, mas também a transparência dos dados e das decisões automatizadas;

167. Reconhece que a divulgação do código-fonte pode conduzir ao uso indevido e à adulteração de algoritmos;

168. Realça a importância de combater os preconceitos dos agentes de desenvolvimento e, por conseguinte, a necessidade de uma mão de obra diversificada em todos os ramos do setor das TI, bem como de mecanismos de salvaguarda, para evitar a inclusão de preconceitos de género e de idade nos sistemas de IA;

169. Reconhece que a revelação do código ou de segredos comerciais desencorajaria igualmente as empresas de I&D de desenvolver novos códigos, uma vez que a sua propriedade intelectual estaria em risco; observa que o desenvolvimento da IA deve, em vez disso, fomentar a inteligibilidade dos modelos e a sua interação com os dados de entrada e de treino;

170. Reconhece que a transparência e a explicabilidade, embora possam revelar deficiências, não garantem a fiabilidade, a segurança e equidade; entende, por conseguinte, que a responsabilização é fundamental para se alcançar uma inteligência artificial fiável através de diferentes meios, como avaliações de impacto, a auditoria e a certificação;

171. Salienta a necessidade de desenvolver protocolos para a monitorização e deteção contínuas dos enviesamentos algorítmicos;

172. Assinala que os criadores de algoritmos devem garantir o cumprimento de requisitos essenciais como a equidade e a explicabilidade, desde o início da fase de conceção e durante todo o ciclo de desenvolvimento;

173. Constata que são necessárias orientações que descrevam as boas práticas de desenvolvimento;

174. Salienta a importância de revelar a origem, a fim de poder traçar o histórico do modelo de IA; considera que tal melhorará a compreensão dos modelos e ajudará a estabelecer uma relação de confiança com base no seu histórico;

PE630.525v04-00 30/59 RR\1175584PT.docx

PT

175. Salienta que a utilização de sistemas de IA deve ser claramente identificada nas interações com os utilizadores;

176. Salienta que a difusão da inteligência artificial e da robótica deverá decorrer no pleno respeito dos direitos humanos e que não deverá, de forma alguma, perpetuar nas máquinas e nos robôs estereótipos contra as mulheres ou qualquer outra forma de discriminação;

177. Assinala que até dados de treino de elevada qualidade podem perpetuar a discriminação e a injustiça se não forem utilizados de forma cuidadosa e conscienciosa; observa que a utilização de dados de baixa qualidade, desatualizados, incompletos ou incorretos em diferentes fases do tratamento de dados pode conduzir a previsões e avaliações insuficientes e, por seu turno, a preconceitos, o que pode redundar em violações dos direitos fundamentais ou em conclusões puramente incorretas ou resultados falsos; considera, por conseguinte, que, na era dos megadados, é importante assegurar que os algoritmos sejam formados por amostras representativas de dados de elevada qualidade, de forma a alcançar a paridade estatística; realça que, mesmo que sejam utilizados dados exatos de elevada qualidade, uma análise preditiva baseada na IA só pode oferecer uma probabilidade estatística; recorda que, no âmbito do RGPD, o tratamento posterior de dados pessoais para fins estatísticos, inclusive o treino da IA, só pode gerar dados agregados que não podem voltar a ser aplicados a pessoas;

178. Exorta a Comissão a garantir que qualquer pessoa que produza materiais com conteúdo falso, vídeos sintéticos ou quaisquer outros vídeos sintéticos feitos de forma realista indique explicitamente que os mesmos não são verdadeiros;

179. Observa que a IA se baseia intrinsecamente na recolha de grandes quantidades de dados e, muitas vezes, na criação de novas bases de dados que são utilizadas para formular hipóteses sobre pessoas; considera que a tónica deve recair na identificação e na criação de mecanismos de resposta a potenciais ameaças, a fim de assegurara a atenuação dos efeitos negativos;

180. Reitera que os sistemas de IA não devem criar ou reforçar enviesamentos; sublinha que, ao desenvolver e utilizar algoritmos, devem ser incluídas considerações em matéria de enviesamentos e equidade em todas as etapas, desde a conceção até à implementação; sublinha que o conjunto de dados e o algoritmo devem ser avaliados e testados regularmente para assegurar a tomada de decisões corretas;

6. Governação

6.1. Coordenação a nível da União

181. Exorta a Comissão a empenhar-se no desenvolvimento de uma liderança forte da UE, a fim de impedir a duplicação e a fragmentação de esforços e assegurar a uma definição coerente de políticas a nível nacional e o intercâmbio de boas práticas, tendo em vista uma utilização mais ampla da IA;

182. Congratula-se com as diferentes estratégias nacionais desenvolvidas pelos Estados-Membros; acolhe com agrado o Plano Coordenado sobre Inteligência Artificial da Comissão, publicado em 7 de dezembro de 2018; apela a uma melhor cooperação

RR\1175584PT.docx 31/59 PE630.525v04-00

PT

entre os Estados-Membros e a Comissão a este respeito;

183. Observa que alguns Estados-Membros já têm as suas próprias estratégias nacionais em matéria de IA e congratula-se com o facto de, em abril de 2018, todos os Estados-Membros terem assinado uma declaração sobre cooperação em matéria de inteligência artificial; congratula-se igualmente com o futuro plano coordenado sobre IA entre a Comissão e os Estados-Membros, mas exorta todas as partes envolvidas a terem como objetivo o nível de cooperação mais elevado possível;

184. Considera que é necessário reforçar a cooperação entre os Estados-Membros e a Comissão para garantir a aplicação de regras transnacionais coerentes na União, que incentivem a cooperação entre as indústrias europeias e possibilitem a implantação, em toda a União, de uma IA consentânea com os níveis de proteção e de segurança exigidos, bem como com os princípios éticos consagrados no direito da União;

185. Salienta que um quadro político europeu harmonizado, baseado nos riscos e progressivo em matéria de dados aumentaria a confiança e apoiaria a trajetória da IA na Europa, garantindo assim a realização do mercado único digital e o aumento da produtividade das empresas sediadas na Europa;

186. Recomenda que as iniciativas atuais e futuras e os projetos-piloto no domínio da IA levados a cabo pela Comissão sejam estreitamente coordenados, possivelmente sob a orientação do mecanismo de supervisão proposto, de modo a obter efeitos sinergéticos, a criar um verdadeiro valor acrescentado e a evitar uma dispendiosa duplicação de estruturas;

187. Insta a Comissão e os Estados-Membros a ponderarem a criação de uma agência europeia de regulação para a IA e os sistemas de decisão algorítmicos, encarregada de:

Estabelecer uma matriz de avaliação de riscos para classificar tipos de algoritmos e domínios de aplicação em função do seu potencial de impacto negativo significativo para os cidadãos;

Investigar a utilização de sistemas algorítmicos em caso de suspeita de violação dos direitos humanos (sendo as provas fornecidas por um denunciante, por exemplo);

Prestar aconselhamento a outras agências de regulação sobre sistemas algorítmicos que sejam da sua competência;

Aumentar a eficácia do mecanismo de responsabilidade extracontratual como meio para regular a responsabilidade dos sistemas algorítmicos, proporcionando um ponto de contacto para os cidadãos que não estão familiarizados com os procedimentos legais;

Proceder à auditoria das avaliações de impacto algorítmico dos sistemas de impacto de alto nível para aprovar ou rejeitar as utilizações propostas dos sistemas de decisão algorítmicos em domínios de aplicação altamente sensíveis e/ou críticos para a segurança (os cuidados de saúde privados, por exemplo); a avaliação de impacto algorítmico relativa a aplicações do setor privado poderia seguir um processo muito semelhante ao proposto no caso do setor público, com a eventual diferença de as

PE630.525v04-00 32/59 RR\1175584PT.docx

PT

várias etapas da divulgação pública poderem ser tratadas como comunicação confidencial dirigida à agência de regulação (ao abrigo de um acordo de não divulgação), a fim de salvaguardar segredos comerciais vitais;

Investigar suspeitas de violações de direitos por parte de sistemas de decisão algorítmicos, tanto no caso de instâncias de decisão individual (resultados aberrantes singulares, por exemplo) como no caso de modelos de decisão estatística (enviesamento discriminatório, por exemplo); as investigações podem ser desencadeadas após a apresentação de queixas ou com base em provas fornecidas por denunciantes, jornalistas de investigação ou investigadores independentes (incluindo ONG e académicos);

188. Assinala o trabalho em curso sobre IA desenvolvido pela Organização Internacional de Normalização (ISO) e insta os Estados-Membros a coordenarem os seus membros na ISO, a fim de assegurar que os interesses europeus sejam devidamente representados na elaboração de normas neste domínio;

6.2. Governação internacional

189. Congratula-se com a criação do Observatório das Políticas de IA da OCDE e apela a uma maior ambição no desenvolvimento de um roteiro para uma cooperação aprofundada;

190. Chama a atenção para os diferentes modelos que estão a ser desenvolvidos em países terceiros, especificamente nos EUA, na China, na Rússia e em Israel, e destaca a abordagem baseada em valores utilizada na Europa e a necessidade de trabalhar com os parceiros internacionais em contextos bilaterais e multilaterais, tendo em vista o progresso ético e a adoção de IA; reconhece que esta tecnologia não tem fronteiras e exige uma cooperação que vá além da que existe apenas entre os Estados-Membros da UE;

191. Exorta a Comissão a trabalhar a nível internacional para garantir a máxima coerência entre os atores internacionais e para defender os princípios éticos da UE à escala mundial;

192. Sublinha que a IA é uma tecnologia com impacto global, que oferece benefícios partilhados e coloca desafios semelhantes; salienta a necessidade de uma abordagem global, como no caso do sistema económico e especialmente no caso de uma tecnologia com impacto significativo nos mercados; sublinha que é necessário inscrever a IA na agenda das instituições e organizações existentes e apela a uma avaliação da necessidade de fóruns adicionais, que devem ser criados, se for caso disso;

°

° °

193. Encarrega o seu Presidente de transmitir a presente resolução ao Conselho e à Comissão.

RR\1175584PT.docx 33/59 PE630.525v04-00

PT

7.12.2018

PARECER DA COMISSÃO DO MERCADO INTERNO E DA PROTEÇÃO DOS CONSUMIDORES

dirigido à Comissão da Indústria, da Investigação e da Energia

sobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica(2018/2088(INI) – COM(2018)0237))

Relatora de parecer: Dita Charanzová

(*) Comissão associada – artigo 54.º do Regimento

(Processo simplificado –artigo 50.º, n.º 2, do Regimento)

SUGESTÕES

A Comissão do Mercado Interno e da Proteção dos Consumidores insta a Comissão da Indústria, da Investigação e da Energia, competente quanto à matéria de fundo, a incorporar as seguintes sugestões na proposta de resolução que aprovar:

A. Considerando que a evolução da inteligência artificial (IA) está a avançar a um ritmo acelerado e que a IA já desempenha um papel no nosso quotidiano há vários anos; que a IA e a robótica promovem a inovação, geram novos modelos de negócio e desempenham um papel fundamental na transformação das nossas sociedades e na informatização das nossas economias em muitos setores, como a indústria, os cuidados de saúde, a construção e os transportes;

B. Considerando que a China e os Estados Unidos são os países mais avançados no domínio das tecnologias de IA e que a UE regista atualmente um atraso considerável relativamente a esses países; que será impossível a UE recuperar esse atraso sem uma abordagem coordenada a nível europeu; que uma abordagem comum à IA permitiria à UE promover melhor os seus valores em todo o mundo e desempenhar um papel mais importante e mais eficaz a nível mundial;

C. Considerando que cerca de um quarto de todos os robôs industriais e de metade de todos os robôs de serviço profissional de todo o mundo são produzidos por empresas europeias, pelo que a UE já dispõe de ativos importantes em que basear a sua política industrial europeia;

D. Considerando que uma abordagem comum facilitará o desenvolvimento de tecnologias de

PE630.525v04-00 34/59 RR\1175584PT.docx

PT

IA em benefício da sociedade, fazendo simultaneamente frente aos desafios apresentados por essas tecnologias, a fim de promover a inovação, melhorar a qualidade dos produtos e dos serviços assentes em IA, melhorar a experiência dos consumidores e a confiança nas tecnologias de IA e na robótica e evitar a fragmentação do mercado interno;

E. Considerando que o desenvolvimento da IA e da robótica deve incluir a sociedade como um todo; que, no entanto, em 2017, as zonas rurais permaneceram em larga medida excluídas dos benefícios da IA, uma vez que 8 % das habitações não estão cobertas por uma rede fixa e 53 % não estão cobertas por uma tecnologia de «acesso de nova geração» (VDSL, cabo Docsis 3.0 ou FTTP);

F. Considerando que o desenvolvimento de serviços e produtos baseados em IA exige conectividade, a livre circulação de dados e acessibilidade dos dados na UE; que a utilização de técnicas avançadas de prospeção de dados em serviços e produtos pode ajudar a aumentar a qualidade da tomada de decisões e, consequentemente, a escolha dos consumidores, bem como melhorar o desempenho das empresas;

G. Considerando que a cibersegurança é essencial para garantir que os dados não sejam corrompidos ou utilizados com intenção criminosa para que a IA funcione de forma prejudicial para os cidadãos ou para as empresas, o que prejudicaria a indústria e a confiança dos consumidores na IA; que a evolução da IA aumenta a dependência desses sistemas para a definição de ações e a tomada de decisões, o que, por sua vez, exige padrões elevados de ciber-resiliência na UE, a fim de proteger contra violações e falhas de cibersegurança;

H. Considerando que os avanços tecnológicos em produtos e serviços inteligentes podem beneficiar a economia do conhecimento, que se baseia na quantidade, qualidade e acessibilidade das informações disponíveis, podendo assim resultar numa melhor adaptação às necessidades dos consumidores;

I. Considerando que os consumidores devem poder confiar na tecnologia com que interagem e que, por conseguinte, é necessário responder às preocupações éticas relacionadas com o desenvolvimento da IA e da robótica; que a UE deve basear a sua resposta a estas preocupações no respeito pelos valores consagrados no artigo 2.º do Tratado da União Europeia e na Carta dos Direitos Fundamentais da União Europeia; que o Grupo de Peritos de Alto Nível em matéria de Inteligência Artificial, criado pela Comissão, irá elaborar um projeto de orientações sobre ética no domínio da IA até ao final de 2018;

1. Sublinha que a primeira e mais importante condição para a UE recuperar o atraso em matéria de IA é que deve agir num quadro comum;

2. Salienta que as medidas descoordenadas em termos de I&D, as decisões divergentes em termos de regulamentação e as medidas a nível internacional distanciam a UE desse objetivo;

3. Observa que alguns Estados-Membros já têm as suas próprias estratégias nacionais em matéria de IA e congratula-se com o facto de todos os Estados-Membros terem assinado uma declaração sobre a cooperação em matéria de inteligência artificial, em abril de

RR\1175584PT.docx 35/59 PE630.525v04-00

PT

2018, bem como com o futuro plano coordenado sobre IA entre a Comissão e os Estados-Membros, mas exorta todas as partes envolvidas terem como objetivo um nível de cooperação o mais elevado possível;

Uma sociedade apoiada pela inteligência artificial e pela robótica

4. Recorda o facto de a Europa ter a melhor comunidade de investigação no domínio da IA a nível mundial, que representa 32 % das instituições de investigação em IA em todo o mundo;

5. Sublinha que os investigadores da UE continuam a ganhar significativamente menos do que os seus homólogos nos EUA e na China e de este ser reconhecidamente o principal motivo porque saem da Europa; insta a Comissão e os Estados-Membros a concentrarem-se em atrair talentos de topo para as empresas europeias e os Estados-Membros a criarem condições atrativas;

6. Salienta a importância de prever medidas específicas para garantir que as pequenas e médias empresas e as empresas em fase de arranque possam adotar as tecnologias de IA e delas beneficiar; considera que as avaliações de impacto dos efeitos da nova legislação da UE sobre o desenvolvimento tecnológico da IA devem ser obrigatórias e que essas avaliações de impacto também devem ser ponderadas a nível nacional;

7. Solicita à Comissão que, a fim de promover um quadro regulamentar favorável ao desenvolvimento da IA e em conformidade com o princípio «legislar melhor», reavalie regularmente a legislação em vigor para garantir a sua adequação aos fins a que se destina no que diz respeito à IA, respeitando os valores fundamentais da UE, e procure alterar ou substituir propostas novas sempre que tal não seja o caso;

8. Recomenda que se continue a trabalhar para aumentar a conectividade nas áreas negligenciadas, como as zonas rurais e os setores descurados, a fim de se verificar uma transição digital verdadeiramente inclusiva;

9. Salienta o facto de a introdução mais generalizada de tecnologias de IA poder substituir determinadas profissões, em particular as mais suscetíveis de serem automatizadas, e criar outras; recorda que uma percentagem significativa da população da UE, 37 % da mão de obra, não possui competências digitais básicas; sublinha que a Comissão prevê uma grande falta de peritos em TIC, prevendo 750 000 postos de trabalho não preenchidos em 2020;

10. Insta os Estados-Membros a modernizarem os seus sistemas de ensino e de formação profissional, a fim de terem em conta o progresso científico e os desenvolvimentos no domínio da IA, em linha com a diretiva relativa aos testes de proporcionalidade e a diretiva relativa ao reconhecimento das qualificações profissionais, e a tornarem os serviços profissionais da UE competitivos a nível mundial nas próximas décadas;

A via tecnológica para a inteligência artificial e a robótica

11. Considera que o novo conjunto de regras que regem o livre fluxo de dados não pessoais na União permite que cada vez mais dados sejam disponibilizados para a inovação

PE630.525v04-00 36/59 RR\1175584PT.docx

PT

baseada em dados, tornando mais fácil para as PME e as empresas em fase de arranque desenvolver serviços inovadores baseados em IA e entrar em novos mercados, permitindo simultaneamente aos cidadãos e às empresas beneficiar de melhores produtos e serviços;

12. Recorda que o regulamento relativo ao livre fluxo de dados não pessoais estabelece que, se os desenvolvimentos tecnológicos tornarem possível transformar dados anónimos em dados pessoais, esses dados devem ser tratados como dados pessoais, e o Regulamento (UE) 2016/679 deve ser aplicado em conformidade;

13. Reconhece o potencial da partilha de dados, no contexto do futuro desenvolvimento da aprendizagem profunda, em particular no que diz respeito aos conjuntos de dados de elevado valor, tendo em conta os seus benefícios civis ou socioeconómicos significativos e a sua adequação para a criação de serviços e aplicações de valor acrescentado;

14. Sublinha a importância de dados não pessoais abertos provenientes de fontes públicas e privadas e considera que um quadro regulamentar, incluindo a reutilização da informação do setor público, deve apoiar o acesso a dados abertos e a interoperabilidade; insta a Comissão a ponderar a criação de um portal único seguro e voluntário para facilitar o intercâmbio de dados não pessoais a nível da UE, a fim de possibilitar uma recolha de dados simplificada;

15. Sublinha que a confiança dos consumidores é essencial para o desenvolvimento da IA e que os sistemas baseados em IA lidam com cada vez mais dados de consumidores, o que os torna os alvos principais de ciberataques; salienta igualmente que a IA deve funcionar de forma a não prejudicar os cidadãos e os consumidores e considera que a integridade dos dados e dos algoritmos em que assenta devem, por conseguinte, ser assegurada;

16. Salienta a importância de reconhecer, identificar e monitorizar as evoluções nefastas relacionadas com o desenvolvimento da IA; defende que a investigação em IA também se deve concentrar na deteção da IA e da robótica acidentalmente ou propositadamente corrompida;

Política industrial

17. Considera que a União deve estar mais bem equipada contra os ciberataques; defende a conclusão rápida da estratégia para a cibersegurança, que deve assegurar o desenvolvimento e a implantação de sistemas seguros de IA e de robótica resistentes a ciberataques, nomeadamente através do desenvolvimento de regimes de certificação da UE; considera que a ENISA deve elaborar um plano de ação sobre cibersegurança no domínio da IA, que deverá avaliar e combater as ameaças e insuficiências específicas da IA;

18. Sublinha que o desenvolvimento de uma indústria de IA e de robótica sólida e competitiva não pode depender exclusivamente de fundos públicos; realça a importância de mobilizar fundos privados para promover a inovação e criar uma indústria desenvolvida de IA e de robótica na UE;

19. Recorda que, embora já existam há muito tempo aplicações industriais de IA e de robótica, os avanços neste domínio estão a aumentar e a proporcionar aplicações

RR\1175584PT.docx 37/59 PE630.525v04-00

PT

abrangentes e diversificadas em todas as atividades humanas; entende que qualquer quadro regulamentar deve ser suficientemente flexível para permitir a inovação e o livre desenvolvimento de novas tecnologias e utilizações para a IA; sublinha que a regulamentação não deve prejudicar a investigação e o desenvolvimento no setor privado;

20. Insta a Comissão a assegurar que os polos de inovação digital não resultem na criação de burocracia adicional, centrando-se antes em acelerar o investimento em projetos que demonstraram a sua eficiência; exorta a Comissão a centrar-se nas subvenções e na assistência financeira aos projetos privados de I&D; sublinha a necessidade de uma maior utilização das parcerias público-privadas no domínio da IA;

21. Considera que a IA constituirá um grande ativo em termos da implementação do princípio da declaração única, permitindo combinar bases de dados e informação proveniente de diferentes fontes, facilitando assim a interação dos cidadãos com as administrações públicas;

Quadro jurídico para a inteligência artificial e a robótica

Um mercado interno da inteligência artificial

22. Considera que os Estados-Membros devem assegurar a criação de dados baseados no princípio «abertos desde a conceção e por defeito», garantindo simultaneamente um nível de proteção coerente dos objetivos de interesse público, como a segurança pública ou a proteção dos dados pessoais, incluindo no que diz respeito a informações sensíveis relacionadas com infraestruturas críticas;

Desenvolvimento responsável e livre circulação de bens inteligentes

23. Sublinha a importância do princípio do reconhecimento mútuo na utilização transfronteiriça de bens inteligentes, incluindo robôs e sistemas robóticos; recorda que, sempre que necessário, os ensaios, a certificação e a segurança dos produtos devem garantir que determinados bens sejam seguros desde a conceção e por defeito; assinala, neste contexto, a importância de trabalhar igualmente os aspetos éticos da IA;

24. Salienta que a IA se aplica a diversos setores em que a normalização é extremamente importante, como o fabrico inteligente, os robôs, os automóveis autónomos, a realidade virtual, os cuidados de saúde e a análise de dados, e considera que a normalização da IA à escala da UE irá promover a inovação e garantir um nível elevado de proteção dos consumidores; reconhece que, embora exista um número significativo de normas sobre questões como a segurança, a fiabilidade, a interoperabilidade e a proteção, é necessário continuar a promover e desenvolver normas comuns para a robótica e a IA e que tal deve ser uma das prioridades da União; insta a Comissão, em cooperação com os organismos de normalização da UE, a continuar a colaborar de forma proativa com os organismos internacionais de normalização, tendo em vista a melhoria das normas neste domínio;

25. Insta a Comissão e os Estados-Membros a promoverem a realização de ensaios em condições reais, em pequena escala, de produtos e tecnologias inovadoras (a chamada inovação em ambiente de ensaio), antes da colocação desses produtos no mercado;

PE630.525v04-00 38/59 RR\1175584PT.docx

PT

26. Reconhece que as tecnologias de IA e a robótica são cada vez mais utilizadas em veículos autónomos, como automóveis autónomos e aeronaves telepilotadas civis; observa que alguns Estados-Membros já estão a promulgar ou a estudar a introdução de legislação neste domínio específico, o que pode resultar em entraves ao desenvolvimento de veículos autónomos devido à heterogeneidade das legislações nacionais; solicita, por conseguinte, que seja criado um único conjunto de regras da União que estabeleça o equilíbrio ideal entre os interesses e os riscos potenciais para os utilizadores, as empresas e as restantes partes interessadas, evitando ao mesmo tempo o excesso de regulamentação no domínio da robótica e dos sistemas de IA;

Livre prestação de serviços baseados em IA

27. Recorda que existe uma evolução contínua das tecnologias de análise, exploração e tratamento de dados, como a aprendizagem por máquinas, a IA e a Internet das coisas, e que uma evolução tecnológica rápida torna possível criar novos serviços e novas aplicações assentes na utilização, agregação ou combinação de dados;

28. Recorda que muitos dos aspetos políticos relevantes para os serviços baseados em IA, incluindo as regras sobre a proteção dos consumidores e a política em matéria de ética e de responsabilidade, são abrangidos pelo atual quadro regulamentar em matéria de serviços, nomeadamente a Diretiva Serviços, a Diretiva Qualificações Profissionais e a Diretiva Comércio Eletrónico;

29. Sublinha que os seres humanos devem ser sempre, em última instância, responsáveis pela tomada de decisões, em especial no que diz respeito a serviços profissionais como as profissões médicas, jurídicas e contabilísticas; considera que é necessário refletir sobre a necessidade de supervisão por um profissional qualificado, tendo em vista a proteção dos objetivos legítimos de interesse público e a prestação de serviços de elevada qualidade;

30. Reconhece a importância de melhorar os serviços digitais, como os assistentes virtuais, os «chatbots» ou os agentes virtuais, proporcionando eficiência operacional sem precedentes, reconhecendo ao mesmo tempo a necessidade de desenvolver uma IA centrada no ser humano e orientada para o mercado, a fim de produzir decisões melhores e mais fiáveis face às limitações da autonomia da IA e da robótica;

Proteção e capacitação dos consumidores

31. Considera que as tecnologias de IA desenvolvidas tanto para utilização na indústria como a nível particular devem estar sujeitas a controlos de segurança dos produtos pelas autoridades de fiscalização do mercado e às regras de proteção dos consumidores, garantindo, sempre que necessário, normas mínimas de segurança e fazendo face ao risco de acidente resultante da interação com humanos ou do funcionamento na proximidade destes; considera que as questões éticas e de proteção de dados, incluindo dados de terceiros e dados pessoais, de responsabilidade civil e de cibersegurança devem ser ponderadas em qualquer política em matéria de IA;

32. Recorda que os algoritmos estão na base da IA e da robótica; insta os Estados-Membros a assegurarem que apenas sejam utilizados dados de elevada qualidade na IA e, em particular, que esses dados estejam atualizados e sejam precisos e fiáveis, a fim de

RR\1175584PT.docx 39/59 PE630.525v04-00

PT

garantir a confiança e a aceitação por parte dos consumidores; recorda, a este respeito, a importância da explicabilidade dos processos de tomada de decisão das tecnologias de IA e da imparcialidade dos algoritmos, respeitando, ao mesmo tempo, a legislação da UE, em particular no que diz respeito aos segredos comerciais, e de criar estruturas de revisão para corrigir eventuais erros nas decisões tomadas pela IA;

33. Salienta a importância de uma IA de fácil de utilização para promover a confiança dos consumidores; considera que, quando são tomadas decisões definitivas e permanentes pela IA e não por seres humanos, os consumidores devem ser informados dessa situação e poder procurar uma revisão e vias de recurso humanas; sublinha que, na interação com um sistema automatizado, os utilizadores devem ser informados sobre como podem contactar um ser humano e como é possível garantir que as decisões do sistema possam ser verificadas e corrigidas;

34. Toma nota do documento de trabalho dos serviços da Comissão, de 25 de abril de 2018, relativo à responsabilidade pelas tecnologias digitais emergentes (SWD(2018)0137); regista a sua conclusão de que, embora o atual quadro de responsabilidade continue a ser estável e a funcionar, esse quadro deve ser revisto pelo grupo de peritos em matéria de responsabilidade, à luz das novas tecnologias de IA, a fim de assegurar que é adequado ao fim a que se destina e inclui as perspetivas do consumidor, dos inovadores e das empresas que operam na UE;

35. Salienta a necessidade de educar os cidadãos, especialmente os mais jovens, para que compreendam como a IA funciona; solicita a uma maior capacitação dos cidadãos e consumidores europeus, tornando a IA mais acessível aos cidadãos, aos consumidores e à sociedade; considera que este objetivo pode ser alcançado através de formação mais intensa e generalizada para uma melhor compreensão da IA.

PE630.525v04-00 40/59 RR\1175584PT.docx

PT

INFORMAÇÕES SOBRE A APROVAÇÃO NA COMISSÃO ENCARREGADA DE EMITIR PARECER

Processo simplificado – data da decisão 16.5.2018

Data de aprovação 4.12.2018

RR\1175584PT.docx 41/59 PE630.525v04-00

PT

PARECER DA COMISSÃO DOS ASSUNTOS JURÍDICOS

Parlamento Europeu2014-2019

Comissão dos Assuntos JurídicosO Presidente

12.12.2018

Deputado Jerzy BuzekPresidenteComissão da Indústria, da Investigação e da EnergiaBRUXELAS

Assunto: Parecer sobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica (2018/2088(INI))

Senhor Presidente,

No âmbito do processo em epígrafe, a Comissão dos Assuntos Jurídicos, a que tenho a honra de presidir, foi incumbida de submeter um parecer à apreciação da sua comissão. A Deputada Mady Delvaux foi designada relatora de parecer. Na sua reunião de 20 de novembro de 2018, a comissão decidiu proceder ao envio do presente parecer sob a forma de carta.

À luz do acordo alcançado sobre a associação nos termos do artigo 54.º do Regimento, a Comissão dos Assuntos Jurídicos tem competência exclusiva para as questões relativas à responsabilidade e aos direitos de propriedade intelectual e competência partilhada para as questões relacionadas com os valores incorporados na tecnologia («ética incorporada)».

A Comissão dos Assuntos Jurídicos examinou esta questão na sua reunião de 6 de dezembro de 2018 e, na sequência de trocas de opiniões entre os coordenadores através do procedimento escrito, o parecer seguidamente apresentado foi adotado na reunião de 10 de dezembro de 2018. No decurso da referida reunião1, esta comissão decidiu instar a Comissão da Indústria,

1 Encontravam-se presentes no momento da votação final: Pavel Svoboda (presidente), Jean‑Marie Cavada, (vice-presidente), Mady Delvaux (vice-presidente e relatora de parecer), Joëlle Bergeron, Kostas Chrysogonos, Sergio Gaetano Cofferati, Mary Honeyball, Sajjad Karim, Sylvia‑Yvonne Kaufmann, António Marinho e Pinto, Julia Reda, Evelyn Regner, Axel Voss, Tiemo Wölken, Francis Zammit Dimech, Tadeusz Zwiefka, Kosma

PE630.525v04-00 42/59 RR\1175584PT.docx

PT

da Investigação e da Energia, competente quanto à matéria de fundo, a incorporar na proposta de resolução que aprovar as sugestões constantes da presente carta.

Estou convicto de que estas sugestões constituem um contributo útil para o relatório elaborado pela comissão a que V.Exa. preside.

Aproveito a oportunidade para reiterar a V. Ex.ª os protestos da minha elevada consideração.

Pavel Svoboda

Złotowski, Luis de Grandes Pascual.

RR\1175584PT.docx 43/59 PE630.525v04-00

PT

SUGESTÕES

A. Considerando que a sua resolução de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre Disposições de Direito Civil sobre Robótica (2015/2013 (INL)), instava a Comissão a propor um quadro jurídico coerente para o desenvolvimento da robótica, incluindo sistemas autónomos e robôs autónomos inteligentes;

1. Insta a que seja dada grande atenção à segurança dos produtos, de modo a garantir a proteção e a confiança dos consumidores na inteligência artificial (IA) e na robótica;

2. Salienta que, no desenvolvimento da IA, a conceção centrada no ser humano é crucial para garantir a responsabilidade e a responsabilização do processo de tomada de decisão pelas máquinas;

3. Salienta que o quadro político deve ser concebido de modo a incentivar o desenvolvimento de todos os tipos de IA e não apenas sistemas de aprendizagem profundos, que requerem uma enorme quantidade de dados;

4. Salienta a necessidade de um controlo cuidadoso e ético da utilização de dados no setor da saúde que de modo algum impeça o acesso à proteção social ou ao seguro;

5. Está convicto de que quando a IA é utilizada em dispositivos médicos implantados, o portador deve ter o direito de inspecionar e modificar o código-fonte utilizado no dispositivo;

6. Recorda que a disponibilidade de dados de qualidade é essencial para uma verdadeira competitividade no setor da IA e insta as autoridades públicas a garantirem formas de produzir, partilhar e gerir dados, tornando-os um bem comum enquanto dados abertos;

7. Congratula-se com a iniciativa da Comissão de criar o grupo de peritos em responsabilidade civil e novas tecnologias encarregado de dotar a UE de conhecimentos especializados sobre a aplicabilidade da Diretiva relativa à responsabilidade decorrente dos produtos aos produtos tradicionais, às novas tecnologias e a novos desafios societais (diretiva relativa à responsabilidade pelos produtos) e de ajudar a UE a desenvolver princípios que possam servir de orientação para eventuais adaptações da legislação aplicável a nível nacional e da UE em matéria de novas tecnologias (formação em novas tecnologias);

8. Lamenta, contudo, que não tenha sido apresentada nenhuma proposta legislativa durante a presente legislatura, adiando assim a atualização das regras de responsabilidade a nível da UE e pondo em risco a segurança jurídica na UE neste domínio, tanto para os comerciantes como para os consumidores;

9. Regista o trabalho em curso sobre IA desenvolvido pela Organização Internacional de Normalização (ISO) e insta os Estados-Membros a coordenarem os seus membros na ISO, tendo em vista a melhor defesa possível dos valores e interesses europeus no desenvolvimento de normas;

10. Recorda a sua resolução supramencionada de 16 de fevereiro de 2018, na qual refere

PE630.525v04-00 44/59 RR\1175584PT.docx

PT

que não existem disposições legais especificamente aplicáveis à robótica, mas que os regimes e as doutrinas jurídicas existentes podem ser rapidamente aplicados à robótica, embora alguns aspetos pareçam requerer uma ponderação específica; reitera o apelo formulado nessa resolução à Comissão para que apoie uma abordagem horizontal e tecnologicamente neutra da propriedade intelectual aplicável aos diversos setores em que a robótica poderá ser empregue;

11. Congratula-se, a este respeito, com a Comunicação da Comissão às instituições sobre orientações relativas a determinados aspetos da Diretiva 2004/48/CE do Parlamento Europeu e do Conselho relativa ao respeito dos direitos de propriedade intelectual, mas sublinha a necessidade de verificar a pertinência e a eficiência das regras sobre direitos de propriedade intelectual que regerão o desenvolvimento da IA; sublinha, neste contexto, a importância dos controlos da adequação;

12. Felicita-se por a Comissão ter criado o Grupo de Peritos de Alto Nível em Inteligência Artificial, composto por representantes do meio académico, da sociedade civil e da indústria, para elaborar orientações éticas no domínio da IA sobre questões como a equidade, a segurança, a transparência, o futuro do trabalho, a democracia e, de um modo mais geral, o impacto na aplicação da Carta dos Direitos Fundamentais, incluindo a proteção da privacidade e dos dados pessoais, a dignidade, a proteção dos consumidores e a não discriminação;

13. Aguarda com expectativa a reunião conjunta com Estados-Membros, prevista para janeiro de 2019, na sequência da publicação no final de 2018 do projeto de orientações éticas, tal como anunciado na comunicação da Comissão de 25 de abril de 2018;

14. Sublinha o papel que o Parlamento poderia desempenhar através do trabalho desenvolvido pelo STOA de modo a dar voz às preocupações dos cidadãos na elaboração destas orientações;

15. Toma nota do plano de ação coordenado sobre a IA apresentado pelo Vice-Presidente Andrus Ansip, em dezembro de 2018;

16. Salienta que o desenvolvimento da IA e da robótica é atualmente liderado por países fora da UE, salientando, por conseguinte, a importância de dispor de uma abordagem comum europeia para defender o papel da UE nesta matéria;

17. Congratula-se, neste sentido, com a criação da aliança da IA da UE tendo em vista a mobilização plena de um conjunto diversificado de participantes, incluindo empresas, organizações de consumidores, sindicatos e outros representantes de organismos da sociedade civil; observa que o objetivo desta vasta plataforma multilateral consiste em complementar e apoiar o trabalho do Grupo de Peritos de Alto Nível em matéria de IA, em particular na preparação de orientações éticas no domínio da IA e na garantia da competitividade da UE neste setor em expansão.

RR\1175584PT.docx 45/59 PE630.525v04-00

PT

11.12.2018

PARECER DA COMISSÃO DAS LIBERDADES CÍVICAS, DA JUSTIÇA E DOS ASSUNTOS INTERNOS

dirigido à Comissão da Indústria, da Investigação e da Energia

sobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica(2018/2088(INI))

Relator (*): Michał Boni

(*) Comissão associada – Artigo 54.º do Regimento

SUGESTÕES

A Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos insta a Comissão da Indústria, da Investigação e da Energia, competente quanto à matéria de fundo, a incorporar as seguintes sugestões na proposta de resolução que aprovar:

– Tendo em conta a Comunicação da Comissão ao Parlamento Europeu, ao Conselho Europeu, ao Conselho, ao Comité Económico e Social Europeu e ao Comité das Regiões intitulada «Inteligência artificial para a Europa» (COM(2018)0237),

– Tendo em conta a sua resolução, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre robótica1,

A. Considerando que a inteligência artificial (IA) é uma das tecnologias estratégicas para o século XXI, tanto a nível mundial, como europeu, trazendo mudanças positivas para a economia europeia e permitindo a inovação, a produtividade, a competitividade e o bem-estar;

B. Considerando que o quadro europeu para a IA deve ser desenvolvido com base no pleno respeito dos direitos fundamentais consagrados na Carta dos Direitos Fundamentais da União Europeia e, em particular, dos princípios da proteção de dados, da privacidade e da segurança;

C. Considerando que a inteligência artificial e a aprendizagem automática centradas no ser

1 Textos aprovados, P8_TA(2017)0051.

PE630.525v04-00 46/59 RR\1175584PT.docx

PT

humano constituem uma vantagem para a sociedade europeia e podem ajudar a resolver alguns dos desafios societais mais prementes, com benefícios palpáveis para os cidadãos;

1. Insta a Comissão e demais instituições competentes a colaborarem de forma estreita com investigadores de disciplinas diferentes, de molde a identificar, apoiar e estimular os potenciais efeitos positivos das utilizações inovadoras da IA, investigar, prevenir e atenuar os potenciais efeitos nocivos das utilizações mal-intencionadas ou negligentes da IA, bem como a desenvolver ferramentas, políticas e normas adequadas para garantir a governação ética das aplicações da IA; salienta a necessidade de criar programas de intercâmbio de conhecimentos, designadamente programas transfronteiriços, e de facilitar o desenvolvimento de estratégias conjuntas entre as organizações da sociedade civil; observa que devem ser identificadas as melhores práticas em domínios de investigação com métodos mais desenvolvidos para abordar as preocupações em matéria de dupla utilização, como a segurança e a privacidade, e que essas práticas devem ser aplicadas no domínio da IA;

2. Destaca que a utilização mal-intencionada ou negligente da IA pode ameaçar a segurança digital e física, bem como a segurança pública, uma vez que pode ser utilizada para realizar ataques em grande escala, seletivos e extremamente eficientes aos serviços da sociedade da informação e às máquinas conectadas, bem como campanhas de desinformação e, de um modo geral, reduzir o direito dos indivíduos à autodeterminação; salienta que o uso mal-intencionado ou negligente da IA pode também constituir um risco para a democracia e os direitos fundamentais;

3. Salienta que o direito ao respeito pela vida privada e à proteção dos dados pessoais, consagrado nos artigos 7.º e 8.º da Carta dos Direitos Fundamentais e no artigo 16.º do Tratado sobre o Funcionamento da União Europeia (TFUE), é aplicável a todos os domínios da robótica e a todos os outros domínios em que a IA pode ser utilizada, nomeadamente a análise de megadados, a aprendizagem automática e a Internet das Coisas, e que o quadro jurídico da União em matéria de proteção de dados deve ser plenamente respeitado no domínio dos sistemas de IA; reitera o seu apoio ao plano de ação da Comissão para a «Tecnologia Financeira: rumo a um setor financeiro europeu mais competitivo e inovador», que destaca o papel da regulamentação para facilitar a inovação tecnológica e uma melhor compreensão dos modelos empresariais inovadores e da evolução do mercado, permitindo aos reguladores a supervisão das empresas ao abrigo do quadro jurídico da União;

4. Insta a Comissão a assegurar que qualquer futuro quadro regulamentar da UE em matéria de IA garanta a privacidade e a confidencialidade das comunicações, a proteção dos dados pessoais, nomeadamente os princípios da legalidade, equidade e transparência, a proteção de dados desde a conceção e por definição, a limitação da finalidade, a limitação da armazenagem, a exatidão e a minimização de dados, em plena conformidade com a legislação da União em matéria de proteção de dados, bem como a segurança, a proteção pessoal e outros direitos fundamentais, mormente o direito à liberdade de expressão e de informação; considera que qualquer futuro quadro regulamentar deve ser avaliado periodicamente pela Comissão, tendo em conta os novos desenvolvimentos tecnológicos;

RR\1175584PT.docx 47/59 PE630.525v04-00

PT

5. Salienta que as normas europeias em matéria de IA devem basear-se nos princípios da ética digital, da dignidade humana, do respeito pelos direitos fundamentais, da proteção dos dados e da segurança, com o objetivo de integrar estes princípios na conceção, contribuindo, assim, para reforçar a confiança dos utilizadores; realça a importância de tirar partido do potencial da UE para criar uma forte infraestrutura para os sistemas de IA alicerçada em normas rigorosas no que se refere à proteção de dados e no respeito pelos seres humanos; sublinha a necessidade de investir de forma sistemática no desenvolvimento dos futuros conhecimentos especializados necessários, em particular na formação de investigadores e na facilitação da partilha de conhecimentos entre várias disciplinas – inclusive a ética aplicada – especializadas na tecnologia da IA, na robótica e em domínios conexos;

6. Exorta a Comissão a assumir uma posição firme contra o desenvolvimento e a utilização de sistemas de armas autónomos alimentados pela IA em todo e qualquer âmbito da UE;

7. Congratula-se com a iniciativa da Comissão de criar a Aliança Europeia para a IA, incumbida de elaborar orientações e recomendações políticas abrangentes em matéria de IA; salienta a importância de uma participação ativa nas alianças mundiais e nas instâncias de IA, de forma permitir a partilha de conhecimentos e uma compreensão abrangente das preocupações relativas à privacidade dos dados, à transparência e à segurança no desenvolvimento e na implantação de sistemas de IA; regozija-se, neste contexto, com o trabalho do Grupo de Peritos de Alto Nível em matéria de Inteligência Artificial, que funciona como grupo diretor para o trabalho da Aliança para a IA; exorta a Comissão a assegurar a participação das autoridades responsáveis pela proteção de dados neste grupo de alto nível, a concluir o trabalho de forma aberta e transparente e a publicar as orientações; convida, além disso, a Comissão a prosseguir o trabalho visando uma abordagem à escala da UE em matéria de IA, que seja centrada no ser humano e orientada para o ser humano, bem como a promover ativamente elevados padrões da UE no domínio da IA a nível internacional;

8. Sublinha que qualquer sistema de IA tem de ser desenvolvido no respeito dos princípios da transparência e da responsabilização relativamente aos algoritmos, de molde a permitir a compreensão das suas ações pelos seres humanos; observa que, para reforçar a confiança e permitir o progresso da IA, os utilizadores devem estar cientes da forma como os seus dados, bem como outros dados e dados inferidos a partir dos seus dados são utilizados quando comunicam ou interagem com um sistema de IA ou com seres humanos apoiados por um sistema de IA; considera que tal contribuirá para uma melhor compreensão e confiança por parte dos utilizadores; salienta que a inteligibilidade das decisões deve ser uma norma da UE, em conformidade com os artigos 13.º, 14.º e 15.º do RGPD; recorda que o RGPD já prevê o direito a ser informado sobre a lógica subjacente ao tratamento de dados; sublinha que, nos termos do artigo 22.º do RGPD, os titulares dos dados têm o direito a uma intervenção humana sempre que uma decisão se baseie num tratamento automatizado que os afete significativamente;

9. Destaca o papel fundamental que a Comissão, o Comité Europeu para a Proteção de Dados, as autoridades nacionais responsáveis pela proteção de dados e outras autoridades de supervisão independentes devem, por isso, desempenhar no futuro, a fim de promover a transparência e o tratamento justo, a segurança jurídica em geral e, mais especificamente, normas concretas de proteção dos direitos fundamentais e garantias

PE630.525v04-00 48/59 RR\1175584PT.docx

PT

associadas à utilização do tratamento e da análise de dados; apela a uma colaboração mais estreita entre as autoridades responsáveis pela supervisão ou pela regulamentação do comportamento no ambiente digital; solicita que essas autoridades sejam dotadas de recursos financeiros e humanos adequados;

10. Realça a importância de combater os preconceitos dos agentes de desenvolvimento e, por conseguinte, a necessidade de uma mão de obra diversificada em todos os ramos do setor das TI, bem como de mecanismos de salvaguarda para evitar a inclusão de preconceitos de género e de idade nos sistemas de IA;

11. Salienta a importância de definir um quadro regulamentar para controlar os algoritmos e o seu impacto, incluindo, por conseguinte, a possibilidade de contratar auditores independentes para algoritmos (ou até vigilantes de software, ou uma entidade reguladora que possa investigar as decisões automatizadas da IA;

12. Sublinha a importância da qualidade e da precisão, bem como a natureza representativa dos dados utilizados no desenvolvimento e na implantação de algoritmos, uma vez que o seu grau de correção depende dos dados utilizados para os treinar; salienta que até dados de treino de elevada qualidade podem perpetuar a discriminação e a injustiça se não forem utilizados de forma cuidadosa e conscienciosa observa que a utilização de dados de baixa qualidade, desatualizados, incompletos ou incorretos em diferentes fases do tratamento de dados pode conduzir a previsões e avaliações insuficientes e, por seu turno, a preconceitos, o que pode redundar em violações dos direitos fundamentais ou em conclusões puramente incorretas ou resultados falsos; considera, por conseguinte, que, na era dos megadados, é importante assegurar que os algoritmos sejam formados por amostras representativas de dados de elevada qualidade, de forma a alcançar a paridade estatística; realça que, mesmo que sejam utilizados dados exatos de elevada qualidade, uma análise preditiva baseada na IA só pode oferecer uma probabilidade estatística; recorda que, no âmbito do RGPD, o tratamento posterior de dados pessoais para fins estatísticos, inclusive o treino da IA, só pode gerar dados agregados que não podem voltar a ser aplicados a pessoas;

13. Solicita à Comissão, aos Estados-Membros e às autoridades responsáveis pela proteção de dados que identifiquem e adotem todas as medidas possíveis para prevenir e minimizar a discriminação e a parcialidade dos algoritmos e desenvolvam um quadro ético comum sólido para o tratamento transparente de dados pessoais e a tomada automatizada de decisões, que possa orientar a utilização dos dados e a aplicação do Direito da UE;

14. Salienta que, embora incentivando o progresso a bem da sociedade e do ambiente, a investigação no domínio da IA e outras atividades conexas devem ser conduzidas de acordo com o princípio da precaução e os direitos fundamentais; destaca que todas as pessoas envolvidas no desenvolvimento, na implementação, na difusão e na utilização da IA devem ter em conta e respeitar a dignidade humana, bem como a autodeterminação e o bem-estar – tanto físico como psicológico – do indivíduo e da sociedade em geral, antecipar potenciais impactos na segurança e tomar as devidas precauções proporcionais ao nível de proteção, mormente a rápida divulgação de fatores que possam pôr em perigo o público ou o ambiente; sublinha a necessidade de uma abordagem coordenada para garantir a realização frequente de avaliações baseadas no

RR\1175584PT.docx 49/59 PE630.525v04-00

PT

risco para os sistemas de IA e respetivos componentes; salienta a importância de conceber e aplicar um conjunto abrangente de regras e orientações em matéria de auditoria para o desenvolvimento e a implantação de sistemas de IA, bem como de mecanismos de segurança e de sinalização destinados a atenuar os seus riscos de infração;

15. Realça que devem ser aplicados os seguintes princípios às estratégias globais no domínio da IA e da robótica:

a) Os robôs e a inteligência artificial são ferramentas versáteis. Os robôs e a inteligência artificial não devem ser concebidos unicamente, ou principalmente, para matar ou ferir seres humanos. Os direitos individuais e as liberdades fundamentais devem ser garantidos, em especial a integridade humana (física e mental), a dignidade humana e a identidade. Há que destacar a primazia do ser humano sobre o interesse exclusivo da ciência ou da sociedade.

b) Os seres humanos são agentes responsáveis. Os legisladores devem certificar-se de que as tecnologias emergentes respeitam a legislação em vigor e os direitos fundamentais.

c) Os robôs e a inteligência artificial são produtos que devem ser concebidos de forma a serem seguros e adequados ao fim a que se destinam, tal como os demais produtos.

d) Os robôs e a inteligência artificial são artefactos artificiais. Os robôs e a inteligência artificial não devem ser concebidos de forma enganadora para explorar os utilizadores vulneráveis. Pelo contrário, deve ser claro que se tratam de máquinas.

e) Deve ser designada uma pessoa como responsável legal por um robô ou por um sistema de inteligência artificial. Em caso de negligência grosseira em matéria de segurança e proteção, os fabricantes devem ser responsabilizados, mesmo nos casos em que os acordos de utilizador incluam cláusulas de exoneração de responsabilidade;

16. Salienta a necessidade de incluir o público no processo de desenvolvimento da IA; insta, por conseguinte, a Comissão a tornar públicos algoritmos, instrumentos e tecnologias financiados ou cofinanciados pelo público como fonte aberta;

17. Sublinha que, sempre que surjam riscos enquanto elemento inevitável e integrante da investigação no domínio da IA, devem ser desenvolvidos e cumpridos sólidos protocolos de avaliação e gestão dos riscos, tendo em conta que o risco de danos não pode ser superior ao que ocorre na vida normal (ou seja, as pessoas não devem ser expostas a riscos maiores do que aqueles a que estão expostos nos seus estilos de vida normais, nem a riscos adicionais).

PE630.525v04-00 50/59 RR\1175584PT.docx

PT

INFORMAÇÕES SOBRE A APROVAÇÃO NA COMISSÃO ENCARREGADA DE EMITIR PARECER

Data de aprovação 10.12.2018

Resultado da votação final +:–:0:

3001

Deputados presentes no momento da votação final

Martina Anderson, Monika Beňová, Michał Boni, Cornelia Ernst, Romeo Franz, Nathalie Griesbeck, Jussi Halla-aho, Monika Hohlmeier, Sophia in ‘t Veld, Dietmar Köster, Juan Fernando López Aguilar, Roberta Metsola, Claude Moraes, Péter Niedermüller, Ivari Padar, Giancarlo Scottà, Birgit Sippel, Csaba Sógor, Helga Stevens, Bodil Valero, Harald Vilimsky, Josef Weidenholzer

Suplentes presentes no momento da votação final

Marek Jurek, Jean Lambert, Angelika Mlinar, Maite Pagazaurtundúa Ruiz, Barbara Spinelli, Axel Voss

Suplentes (art. 200.º, n.º 2) presentes no momento da votação final

Lucy Anderson, Margrete Auken, Anthea McIntyre

RR\1175584PT.docx 51/59 PE630.525v04-00

PT

VOTAÇÃO NOMINAL FINAL NA COMISSÃO ENCARREGADA DE EMITIR PARECER

30 +

ALDE Nathalie Griesbeck, Sophia in ‘t Veld, Angelika Mlinar, Maite Pagazaurtundúa Ruiz

ECR Jussi Halla-aho, Marek Jurek, Anthea McIntyre, Helga Stevens

ENF Giancarlo Scottà

GUE/NGL Martina Anderson, Cornelia Ernst, Barbara Spinelli

PPE Michał Boni, Monika Hohlmeier, Roberta Metsola, Csaba Sógor, Axel Voss

S&D Lucy Anderson, Monika Beňová, Dietmar Köster, Juan Fernando López Aguilar, Claude Moraes, Péter Niedermüller, Ivari Padar, Birgit Sippel, Josef Weidenholzer

VERTS/ALE Margrete Auken, Romeo Franz, Jean Lambert, Bodil Valero

0 -

1 0

ENF Harald Vilimsky

Legenda dos símbolos utilizados:+ : votos a favor- : votos contra0 : abstenções

PE630.525v04-00 52/59 RR\1175584PT.docx

PT

21.11.2018

PARECER DA COMISSÃO DO AMBIENTE, DA SAÚDE PÚBLICA E DA SEGURANÇA ALIMENTAR

dirigido à Comissão da Indústria, da Investigação e da Energia

sobre uma política industrial europeia completa no domínio da inteligência artificial e da robótica(2018/2088(INI))

Relator: Bolesław G. Piecha

SUGESTÕES

A Comissão do Ambiente, da Saúde Pública e da Segurança Alimentar insta a Comissão da Indústria, da Investigação e da Energia, a competente quanto à matéria de fundo, a incorporar as seguintes sugestões na proposta de resolução que aprovar:

A. Considerando que a inteligência artificial (IA) será uma revolução tecnológica, económica, social e psicológica, com óbvias repercussões éticas, não só na Europa mas também em todo o mundo;

B. Considerando que a crescente integração da robótica nos sistemas humanos requer uma forte orientação política sobre como maximizar os benefícios e minimizar os riscos para a sociedade e garantir um desenvolvimento seguro e equitativo da inteligência artificial;

C. Considerando que a maturidade do mercado da inteligência artificial representa, em termos éticos e morais, a maior revolução desde a máquina a vapor e o computador, o que requer intenso debate social;

D. Considerando que, na indústria e nos serviços relacionados com a alta tecnologia, a IA é fundamental para transformar a Europa num «continente start-up», explorando as tecnologias mais recentes para gerar crescimento na Europa, em particular nos domínios da tecnologia da saúde, dos serviços e programas de cuidados de saúde, da descoberta de medicamentos, da cirurgia robótica e assistida por robôs, do tratamento de doenças crónicas, da imagiologia e dos registos médicos, assim como para garantir um ambiente sustentável e uma produção alimentar segura; que, atualmente, a Europa está muito atrasada em relação à América do Norte e à Ásia em termos de investigação e de patentes no domínio da inteligência artificial;

E. Considerando que o desenvolvimento das tecnologias da IA pode ajudar a melhorar a

RR\1175584PT.docx 53/59 PE630.525v04-00

PT

vida das pessoas com doenças crónicas e com deficiência e dar resposta a desafios sociais como o envelhecimento da nossa população, tornando as tecnologias da saúde mais precisas e eficazes na prestação de cuidados de saúde;

F. Considerando que existe um vasto leque de possíveis aplicações da IA e da robótica nos cuidados médicos, tais como: gestão de registos e dados médicos, execução de tarefas repetitivas (análise de testes, raios X, tomografias computorizadas, introdução de dados), planeamento do tratamento, consulta digital (como consultas médicas baseadas no histórico médico pessoal e no conhecimento médico comum), enfermeiros virtuais, gestão de medicamentos, criação de medicamentos, medicina de precisão (dado que a genética e a genómica procuram mutações e ligações a doenças a partir das informações no ADN), monitorização da saúde, análise do sistema de cuidados de saúde, etc.;

G. Considerando que a acessibilidade não significa os mesmos serviços e equipamentos para todos; que a acessibilidade da IA e da robótica se baseia no caráter inclusivo do planeamento e da conceção; que as necessidades, os desejos e as experiências do utilizador devem ser o ponto de partida dessa conceção;

H. Considerando que existem fortes preocupações éticas, psicológicas e jurídicas sobre a autonomia dos robôs, a sua manifesta falta de empatia humana e o seu impacto na relação médico-doente que ainda não foram adequadamente abordadas a nível da União, em particular no que diz respeito à proteção de dados pessoais dos doentes, à responsabilidade e às novas relações económicas e laborais daí decorrentes; que a «autonomia» enquanto tal só pode ser plenamente atribuída ao ser humano; que existe a necessidade de enquadrar de forma sólida a inteligência artificial a nível legal e ético;

I. Considerando que a utilização da inteligência artificial, especialmente no setor da saúde, se deve basear sempre no princípio de responsabilidade de que «é o Homem que comanda a máquina»;

J. Considerando que os riscos da IA não foram suficientemente estudados;

1. Sublinha que qualquer progresso tecnológico revolucionário, em particular no domínio da IA e da robótica, deve estar ao serviço do bem-estar humano;

2. Salienta que os sistemas de IA e os robôs são meios tecnológicos inovadores que visam melhorar a vida das pessoas, desenvolver a economia e fazer face aos desafios nos domínios da saúde, ambiente, alterações climáticas, segurança alimentar, entre muitos outros aspetos, sendo o agente humano sempre responsável pela sua utilização;

3. Insta a Comissão e os Estados-Membros a elaborarem um plano de ação da UE verdadeiramente abrangente, destinado a criar um «ecossistema de inteligência artificial» europeu, a fim de tirar pleno partido das oportunidades de desenvolvimento socioeconómico e, ao mesmo tempo, abordar exaustivamente as questões de segurança, proteção, prevenção e atenuação dos riscos, responsabilidade moral humana, governação e regulamentação em matéria de IA e de robôs, sustentabilidade ambiental e eliminação dos dispositivos de IA1; salienta que este «ecossistema» deve estar aberto às

1 Ver, em especial, a declaração do Grupo Europeu de Ética para as Ciências e as Novas Tecnologias sobre inteligência artificial, robótica e sistemas «autónomos», de março de 2018.

PE630.525v04-00 54/59 RR\1175584PT.docx

PT

necessidades das microempresas e das pequenas e médias empresas (PME) e ser estabelecido em associação com todas as partes interessadas relevantes, em particular os grupos de doentes, mas tendo também em conta as preocupações de outros grupos, tais como associações de solidariedade, igrejas e faculdades de filosofia;

4. Considera que deve ser dada especial atenção à utilização de «megadados» no domínio da saúde, com o objetivo de maximizar as oportunidades de que pode ser portadora, como a melhoria da saúde dos doentes, assim como do desempenho dos sistemas de saúde pública dos Estados-Membros, sem reduzir as normas éticas e sem ameaçar a privacidade ou a segurança dos cidadãos;

5. Adverte vivamente contra qualquer tentativa de dotar as máquinas de inteligência artificial de uma espécie de «personalidade» e, desse modo, isentar de qualquer responsabilidade os fabricantes, bem como aqueles que as comandam;

6. Salienta, porém, que o atual sistema de aprovação de dispositivos médicos pode não ser adequado para as tecnologias da IA; insta a Comissão a acompanhar de perto os progressos realizados no domínio destas tecnologias e a propor alterações ao quadro regulamentar, se necessário, a fim de estabelecer o quadro para determinar a respetiva responsabilidade civil do utilizador (médico/profissional), o produtor da solução tecnológica e o estabelecimento de saúde que oferece o tratamento; sublinha a especial importância de que se reveste, no setor da saúde, a questão da responsabilidade jurídica por danos quando se trata da utilização da IA; salienta, por conseguinte, a necessidade de garantir que o utilizador não seja sempre levado a aceitar o meio de diagnóstico ou o tratamento sugerido por um instrumento tecnológico, por receio de ser objeto de uma ação de indemnização caso o parecer profissional e fundamentado o leve a formular conclusões parcialmente diferentes;

7. Insta a Comissão e os Estados-Membros a consagrarem mais fundos à investigação no domínio da IA e da robótica e a incentivarem os peritos em IA e as empresas europeias e não europeias a criar postos de trabalho inovadores, reforçando a investigação sobre questões de saúde pública; sublinha simultaneamente a importância de uma estratégia global em matéria de emprego que acompanhe os progressos da IA no contexto profissional da saúde;

8. Insta a Comissão e os Estados-Membros a promoverem a criação de talentos nos setores da inteligência artificial e da robótica, através de medidas concretas (por exemplo, a criação de incubadoras e o apoio às empresas em fase de arranque) que visem o aumento do número de pessoas formadas nesses domínios, prestando especial atenção à presença de mulheres e procurando atrair estudantes de outras disciplinas;

9. Solicita ao Conselho e à Comissão que tomem todas as medidas legais necessárias para proibir métodos de eutanásia e de seleção através do aumento da utilização de interfaces homem-máquina otimizadoras no corpo humano;

10. Insta a Comissão a permitir o acesso a fundos no âmbito dos programas-quadro da União Europeia e a outras formas de financiamento de investigação sobre IA;

11. Insta a Comissão e os Estados-Membros a elaborarem planos de longo alcance, destinados a atrair as partes interessadas e os intervenientes principais nos domínios das

RR\1175584PT.docx 55/59 PE630.525v04-00

PT

TI, da matemática, da física, das tecnologias da informação médica, da psicologia clínica, da bioengenharia e dos medicamentos para abrir centros de investigação biomédica e biónica da IA em toda a Europa; insta, no entanto, a Comissão e os Estados-Membros a levarem a sério os riscos da inteligência artificial (como o seu impacto na relação entre o médico e o doente e a desumanização dos cuidados médicos) e a apoiarem a investigação sobre os riscos e as preocupações éticas relacionadas com a IA, que poderiam ajudar a determinar se e em que condições a utilização de uma determinada solução tecnológica pode ser considerada adequada e conforme com os princípios fundamentais da dignidade humana e da igualdade, podendo, por conseguinte, ser autorizada;

12. Insta os Estados-Membros e a Comissão a reforçarem o financiamento das tecnologias de IA relacionadas com a saúde, tanto no setor público como no setor privado; congratula-se, neste contexto, com a declaração de cooperação assinada por 24 Estados-Membros da UE e a Noruega, com vista a aumentar o impacto dos investimentos na IA a nível europeu; insta os Estados-Membros e a Comissão a analisarem se os programas de formação do pessoal médico e do setor da saúde devem ser atualizados e uniformizados a nível europeu, a fim de garantir elevados níveis de competência e igualdade de condições nos vários Estados-Membros no que se refere ao conhecimento e à utilização dos instrumentos tecnológicos mais avançados em matéria de robótica cirúrgica, biomédica e inteligência artificial para efeitos de imagiologia.

PE630.525v04-00 56/59 RR\1175584PT.docx

PT

INFORMAÇÕES SOBRE A APROVAÇÃO NA COMISSÃO ENCARREGADA DE EMITIR PARECER

Data de aprovação 20.11.2018

Resultado da votação final +:–:0:

4820

Deputados presentes no momento da votação final

Marco Affronte, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Biljana Borzan, Paul Brannen, Nessa Childers, Birgit Collin-Langen, Seb Dance, Mark Demesmaeker, Bas Eickhout, Francesc Gambús, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Benedek Jávor, Karin Kadenbach, Urszula Krupa, Giovanni La Via, Jo Leinen, Peter Liese, Valentinas Mazuronis, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Gilles Pargneaux, Bolesław G. Piecha, John Procter, Julia Reid, Frédérique Ries, Annie Schreijer-Pierik, Adina-Ioana Vălean, Jadwiga Wiśniewska

Suplentes presentes no momento da votação final

Cristian-Silviu Buşoi, Nicola Caputo, Michel Dantin, Martin Häusling, Esther Herranz García, Gesine Meissner, Tilly Metz, Ulrike Müller, Sirpa Pietikäinen, Carlos Zorrinho

Suplentes (art. 200.º, n.º 2) presentes no momento da votação final

Mercedes Bresso, Innocenzo Leontini, Olle Ludvigsson, Ana Miranda

RR\1175584PT.docx 57/59 PE630.525v04-00

PT

VOTAÇÃO NOMINAL FINAL NA COMISSÃO ENCARREGADA DE EMITIR PARECER

48 +

ALDE Catherine Bearder, Gerben Jan Gerbrandy, Valentinas Mazuronis, Gesine Meissner, Ulrike Müller, Frédérique Ries

ECR Mark Demesmaeker, Urszula Krupa, Bolesław G. Piecha, John Procter, Jadwiga Wiśniewska

EFDD Sylvie Goddyn

NI Zoltán Balczó

PPE Pilar Ayuso, Ivo Belet, Cristian-Silviu Buşoi, Birgit Collin-Langen, Michel Dantin, Francesc Gambús, Jens Gieseke, Françoise Grossetête, Esther Herranz García, Giovanni La Via, Innocenzo Leontini, Peter Liese, Miroslav Mikolášik, Sirpa Pietikäinen, Annie Schreijer-Pierik, Adina-Ioana Vălean

S&D Biljana Borzan, Paul Brannen, Mercedes Bresso, Nicola Caputo, Nessa Childers, Seb Dance, Karin Kadenbach, Jo Leinen, Olle Ludvigsson, Susanne Melior, Massimo Paolucci, Gilles Pargneaux, Carlos Zorrinho

VERTS/ALE Marco Affronte, Bas Eickhout, Martin Häusling, Benedek Jávor, Tilly Metz, Ana Miranda

2 -

EFDD Julia Reid

PPE Julie Girling

0 0

Legenda dos símbolos utilizados:+ : votos a favor- : votos contra0 : abstenções

PE630.525v04-00 58/59 RR\1175584PT.docx

PT

INFORMAÇÕES SOBRE A APROVAÇÃO NA COMISSÃO COMPETENTE QUANTO À MATÉRIA DE FUNDO

Data de aprovação 14.1.2019

Resultado da votação final +:–:0:

4914

Deputados presentes no momento da votação final

Bendt Bendtsen, Jonathan Bullock, Cristian-Silviu Buşoi, Jerzy Buzek, Edward Czesak, Jakop Dalunde, Fredrick Federley, Ashley Fox, Igor Gräzin, Theresa Griffin, András Gyürk, Rebecca Harms, Eva Kaili, Barbara Kappel, Seán Kelly, Jeppe Kofod, Jaromír Kohlíček, Peter Kouroumbashev, Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Christelle Lechevalier, Paloma López Bermejo, Edouard Martin, Tilly Metz, Angelika Mlinar, Csaba Molnár, Nadine Morano, Angelika Niebler, Morten Helveg Petersen, Miroslav Poche, Carolina Punset, Julia Reda, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Neoklis Sylikiotis, Patrizia Toia, Evžen Tošenovský, Vladimir Urutchev, Kathleen Van Brempt, Henna Virkkunen, Flavio Zanonato, Carlos Zorrinho

Suplentes presentes no momento da votação final

Pilar Ayuso, Michał Boni, Gunnar Hökmark, Rupert Matthews, Clare Moody, Caroline Nagtegaal, Răzvan Popa, Dennis Radtke, Giancarlo Scottà, Davor Škrlec

RR\1175584PT.docx 59/59 PE630.525v04-00

PT

VOTAÇÃO NOMINAL FINAL NA COMISSÃO COMPETENTE QUANTO À MATÉRIA DE FUNDO

49 +

ALDE Fredrick Federley, Igor Gräzin, Angelika Mlinar, Caroline Nagtegaal, Morten Helveg Petersen, Carolina Punset

ECR Edward Czesak, Ashley Fox, Zdzisław Krasnodębski, Rupert Matthews, Evžen Tošenovský

ENF Barbara Kappel, Christelle Lechevalier, Giancarlo Scottà

PPE Pilar Ayuso, Bendt Bendtsen, Michał Boni, Cristian-Silviu Buşoi, Jerzy Buzek, András Gyürk, Gunnar Hökmark, Seán Kelly, Nadine Morano, Angelika Niebler, Dennis Radtke, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Vladimir Urutchev, Henna Virkkunen

S&D Theresa Griffin, Eva Kaili, Jeppe Kofod, Peter Kouroumbashev, Miapetra Kumpula-Natri, Csaba Molnár, Clare Moody, Miroslav Poche, Răzvan Popa, Patrizia Toia, Kathleen Van Brempt, Flavio Zanonato, Carlos Zorrinho

VERTS/ALE Jakop Dalunde, Rebecca Harms, Tilly Metz, Julia Reda, Davor Škrlec

1 -

EFDD Jonathan Bullock

4 0

GUE/NGL Jaromír Kohlíček, Paloma López Bermejo, Neoklis Sylikiotis

S&D Edouard Martin

Legenda dos símbolos utilizados:+ : votos a favor- : votos contra0 : abstenções