Os programas de IA ensinam as máquinas a analisar dados, a tirarem conclusões e aprenderem com o que estão a analisar. Mas existem riscos em termos da utilização final da informação ou conclusão obtida pelo sistema.
PUBLICIDADEA Inteligência Artificial (IA) está por trás de muitas das tecnologias que usamos, atualmente, e as inovações avançam a grande ritmo. A Comissão Europeia apresenta a primeira proposta legislativa, esta quarta-feira, apesar de já financiar a área há muitos anos.
Um das empresas beneficiárias é a HumanITcare, uma plataforma que recolhe dados médicos, tais como, por exemplo, a pressão arterial ou a frequência cardíaca.
Essa informação, obtida através de dispositivos tecnológicos utilizados pelos pacientes na sua rotina, sobretudo em recuperação de doenças graves, é enviada aos médicos, que poderão detetar irregularidades.
“A IA ajuda-nos com um sistema de alarmes que a plataforma fornece aos médicos, permitindo que obtenham importantes dados sobre as doenças dos pacientes. Os alarmes não desencadeiam de imediato um o com o paciente, mas dão informação ao médico sobre o que se a. O médico pode consultar todo o histórico de valores registados e, assim, tomar decisões com base no que esta disponível nesta plataforma”, explicou Núria Pastor, fundadora e presidente-executiva desta empresa espanhola, em entrevista à euronews.
Quem define os limites?
Os programas de IA ensinam as máquinas a analisar dados, a tirarem conclusões e aprenderem com o que estão a analisar.
Mas existem riscos em termos da utilização final da informação ou conclusão obtida pelo sistema.
Por exemplo, na análise de currículos nas candidaturas de emprego, o programa poderá reproduzir preconceitos ligados ao género ou à raça.
No Parlamento Europeu defende-se que as decisões finais sejam sempre tomadas por seres humanos.
“A IA deve ter sempre uma perspectiva centrada no homem, deve estar sempre ligada ao desenvolvimento do ser humano. E também deve estar orientada para permitir que os benefícios sejam distribuídos o mais equitativamente possível pela sociedade. Por outro lado, tem que respeitar os direitos fundamentais", considera Ibán García del Blanco, eurodeputado espanhol do centro-esquerda.
Uma questão de ética
Mas há quem argumente que excessiva regulamentação poderá atrasar o desenvolvimento desta tecnologia. Os EUA apostam na auto-regulação das empresas, mas talvez a virtude esteja no meio.
"Muitas vezes, quando as pessoas quando falam sobre regulamentação excessiva, estão a pensar, exclusivamente, em termos económicos, no sentido de que impede o crescimento económico. Mas a questão principal é que a prosperidade económica deve ser apenas um objetivo entre outros. Existem outros direitos nos quais devemos pensar. Muitas vezes, para respeitar os direitos, temos de limitar a prosperidade económica que poderíamos alcançar", afirma John Tasioulas, professor de Ética em IA, na Universidade de Oxford.
A Comissão Europeia espera que esta nova legislação seja apreciada positivamente no resto do mundo, como aconteceu com as novas regras sobre a proteção de dados dos cidadãos.