O Conselho Científico do Conselho Europeu de Pesquisa (ERC) estabeleceu novas diretrizes para o uso de inteligência artificial (IA) no processo de avaliação de propostas de financiamento. A medida visa garantir a integridade da revisão por pares, permitindo o uso limitado de ferramentas de IA apenas quando não comprometam a responsabilidade ou a confiança no processo.
As novas orientações baseiam-se em dois princípios fundamentais: a não delegação da tarefa de avaliação e a proteção rigorosa da confidencialidade. Isso significa que os revisores permanecem integralmente responsáveis pela análise das propostas e pela redação dos relatórios, sem poder transferir essas funções para sistemas de IA.
Diretrizes claras para o uso de IA na avaliação
As novas regras do ERC são diretas quanto às proibições para o uso de IA. Ferramentas automatizadas não podem ser utilizadas para resumir propostas, avaliar seu mérito científico ou gerar rascunhos de avaliações. Além disso, o envio de propostas, ou partes delas, para sistemas de IA externos é estritamente proibido, pois isso implicaria na divulgação de informações sensíveis a terceiros.
Usos permitidos e limites estabelecidos
Apesar das restrições, o ERC reconhece o potencial benefício da IA em certas tarefas auxiliares. Revisores podem, sob certas condições, utilizar ferramentas de IA para aprimorar a linguagem de seus relatórios ou para realizar buscas de informações gerais. Contudo, essas permissões vêm com salvaguardas importantes:
- Nenhum conteúdo da proposta ou dado pessoal deve ser compartilhado com os sistemas de IA.
- A delegação da responsabilidade pela avaliação científica não é permitida sob nenhuma circunstância.
Essas diretrizes refletem o compromisso do ERC em manter os mais altos padrões de excelência e integridade científica, adaptando-se às novas tecnologias de forma responsável.