Conferência em Berlim alerta sobre lado sombrio da IA

A revolução da inteligência artificial (IA) tem um lado sombrio. Foi esse o aviso de defensores dos direitos digitais e de ativistas reunidos em Berlim para a última conferência tecnológica re:publica, que terminou nesta quarta-feira (29/05).

"Novos padrões de discriminação estão emergindo da IA e dos algoritmos", afirmou Ferda Ataman, comissária federal independente para o combate à discriminação na Alemanha. Ela advertiu que a inteligência artificial, se não for controlada, pode exacerbar a discriminação, perpetuando os preconceitos existentes.

O recente crescimento da tecnologia de IA conduziu a avanços notáveis, desde formas inovadoras de diagnosticar e tratar o câncer a novos sistemas que permitem a qualquer pessoa, independentemente dos seus conhecimentos técnicos, criar imagens e vídeos a partir do zero.

No entanto, vários especialistas advertiram durante a conferência que as desvantagens da tecnologia são menos visíveis e que as comunidades vulneráveis à margem da sociedade e no Sul Global serão as primeiras a sofrer as consequências.

Vigilância por IA

A forma como a inteligência artificial está a ser utilizada para levar a vigilância a níveis sem precedentes ilustra bem esta situação, segundo Antonella Napolitano, analista de política tecnológica.

Em um relatório publicado no ano passado pela organização de direitos humanos EuroMed Rights, Napolitano argumentou que, como parte de uma tendência mais ampla para "externalizar" o controle das suas fronteiras externas, a União Europeia financia empresas que testam novas ferramentas de vigilância baseadas em IA em migrantes no Norte de África, cuja privacidade não é tão protegida como a dos cidadãos da UE.

"É mais fácil para as empresas testarem diferentes tecnologias nestas pessoas sem enfrentarem quaisquer consequências", disse Napolitano à DW. "Mas as consequências são reais", ressalta, acrescentando que a vigilância por meio da inteligência artificial pode empurrar os migrantes para caminhos migratórios mais perigosos.

"Colonialismo de dados"

Relatórios como este levaram alguns defensores dos direitos digitais a estabelecer paralelos com a história do colonialismo a partir do século 15, quando as potências europeias começaram a explorar grandes partes do mundo.

Outro aspeto deste novo "colonialismo de dados" é o fato de muitas empresas ocidentais terem se dirigido a locais no Sul Global para recolher dados, aponta Mercy Mutemi, uma advogada queniana especializada em direitos digitais. "A história está se repetindo", destacou.

A maioria dos sistemas de IA de ponta de hoje depende de grandes quantidades de dados. Para atender a essa demanda, as empresas ocidentais estão extraindo dados de indivíduos em toda a África em grande escala, muitas vezes sem consentimento e com pouco ou nenhum benefício em troca, disse Mutemi. A advogada está envolvida em cerca de uma dúzia de casos em andamento que desafiam o papel das empresas de tecnologia ocidentais em seu país de origem.

É provável que esse fenômeno se intensifique nos próximos anos, à medida que a procura de dados por parte da tecnologia de IA continua a crescer, acrescentou.

Pegada de carbono

O ritmo alucinante do desenvolvimento da IA também suscita preocupações quanto ao seu impacto ambiental. O treinamento e a execução de modelos complexos de inteligência artificial requerem uma enorme capacidade de processamento nos centros de dados, o que implica em elevado consumo de energia, utilização de água e emissões de gases de efeito estufa.

Atualmente, os centros de dados já são responsáveis por mais de 2% do consumo global de eletricidade, de acordo com estimativas da Agência Internacional de Energia.

O desenvolvimento de ferramentas de IA que exigem muita energia aumentará ainda mais o consumo de energia, segundo o autor canadense e crítico de tecnologia Paris Marx.

Marx alertou para um "boom de centros de dados alimentados por IA" impulsionado pelos interesses comerciais de algumas empresas de tecnologia poderosas. "Tem havido um enorme investimento na construção de centros de dados em todo o mundo", disse Marx na conferência.