ONU lança primeira avaliação científica global independente sobre Inteligência Artificial (IA), reunindo evidências sobre oportunidades, riscos e impactos para orientar decisões de políticas públicas.
Relatório alerta para um momento crítico, em que governos precisam agir mesmo diante de evidências incompletas, enquanto os riscos e capacidades da IA avançam rapidamente.
Base científica para governança global da IA, o relatório lançado nesta quarta (1) em Nova Iorque foi elaborado por 40 especialistas independentes e servirá de referência para debates internacionais e para o Diálogo Global da ONU em Genebra, entre os dias 6 e 7 de julho.
O Painel Científico Internacional Independente sobre Inteligência Artificial da ONU lançou oficialmente nesta quarta-feira (1) seu Relatório Preliminar, apresentando a primeira avaliação científica global e independente sobre as oportunidades, riscos e impactos da IA. Este trabalho inicial do Painel fornece uma base fundamental de evidências para informar as políticas globais antes de seu primeiro relatório abrangente, previsto para 2027.
Este esforço colaborativo para construir uma compreensão compartilhada sobre a IA chega em um ponto de inflexão crítico. Governos estão tomando decisões de grande impacto sobre a IA sob forte incerteza, lidando com fontes de evidência que mudam rapidamente e muitas vezes são conflitantes, além de perspectivas que não necessariamente refletem as realidades locais. À medida que as capacidades da IA continuam a crescer, aumentam também os riscos das decisões que estão sendo tomadas ao redor do mundo. Este é o desafio central que o Painel visa abordar.
O Relatório Preliminar foi elaborado pelo Painel Científico Internacional Independente sobre IA, composto por 40 cientistas e especialistas renomados. Vindos de todas as regiões do mundo, seus membros atuam em capacidade estritamente pessoal, de forma independente de qualquer governo, empresa ou instituição. O Brasil é representado pela professora Teresa Ludermir, da Universidade Federal de Pernambuco (UFPE).
As conclusões do relatório serão apresentadas aos governos no primeiro Diálogo Global da ONU sobre Governança de IA, que será realizado em Genebra nos dias 6 e 7 de julho.
Em seu Relatório Preliminar, o Painel descreve suas conclusões em sete áreas principais:
- Ciência, avanços e trajetórias da IA
- Aplicações sociais: ciência, saúde, educação e agricultura
- Implicações econômicas
- Segurança, sistemas e implicações ambientais
- Direitos humanos, informação e democracia
- Crescimento cultural e individual, autonomia e segurança infantil
- Gestão, governança e confiabilidade
O Painel identifica um desafio crucial de evidências para os tomadores de decisão em todo o mundo: os formuladores de políticas precisam de evidências científicas para governar a IA de forma eficaz, mas, quando as evidências estiverem claras, pode ser tarde demais para agir. O cumprimento equitativo das promessas da IA dependerá das decisões informadas que as nações tomarem juntas e da base científica compartilhada que as guiará – justamente a base de evidências que o trabalho do Painel foi projetado para oferecer.
“As capacidades da IA estão superando tanto o entendimento científico quanto a capacidade de adaptação dos governos. Com evidências crescentes de comportamentos enganosos da IA, a ciência atualmente não pode garantir que, à medida que essas capacidades continuam a aumentar, a IA não causará danos catastróficos, seja por conta própria ou devido a usuários mal-intencionados. Para agir de forma eficaz, os formuladores de políticas globais devem compreender esses sistemas. Este Painel fornece exatamente isso: uma base científica rigorosa e compartilhada para guiar nosso caminho coletivo em frente.” – Yoshua Bengio, co-presidente do Painel Científico Internacional Independente sobre Inteligência Artificial.
“A tecnologia é transformadora, mas se o mundo continuar seguindo esta trajetória, a humanidade não conseguirá colher os benefícios que ela promete. Os riscos – para as sociedades, para a segurança e para a nossa espécie – são altos demais, e as forças que impulsionam a IA para a frente não são as mesmas que trarão seus benefícios.” – Maria Ressa, co-presidente do Painel Científico Internacional Independente sobre Inteligência Artificial.
“O mundo não pode governar o que não consegue compreender. O relatório do Painel fornece dados científicos independentes, provenientes de todas as regiões e à disposição de todos os governos. Sua mensagem é clara: o potencial é imenso, mas os riscos são reais, e o custo da espera está aumentando. Exorto todos os líderes a usarem essas evidências compartilhadas para agirem juntos e sem demora.” – António Guterres, secretário-geral das Nações Unidas
“A IA, por si só, não vai fechar as lacunas. Os benefícios chegam onde já existem instituições, competências e dados. Onde isso não ocorre, a mesma tecnologia pode substituir trabalhadores, aumentar a desigualdade e deixar comunidades dependentes de sistemas criados sem levá-las em consideração. Este relatório traduz isso, pela primeira vez, em uma linguagem científica comum. Essas realidades agora estão registradas, foram verificadas de forma independente e são impossíveis de serem ignoradas.” – Amandeep Singh Gill, subsecretário-geral e enviado especial para Tecnologias Digitais e Emergentes
O Relatório Preliminar do Painel Científico Internacional Independente sobre IA: Avaliação baseada em evidências das oportunidades, riscos e impactos da IA é o primeiro resultado de um órgão científico criado para acompanhar a evolução da tecnologia. O Painel publicará avaliações regulares e resumos temáticos à medida que a IA evoluir, a fim de fornecer aos formuladores de políticas e ao público avaliações atualizadas dos dados científicos.
Fonte: Nações Unidas Brasil.
Foto: © ONU
