Generative AI poses ethical challenges for open science

Abstract

La IA generativa plantea desafíos éticos a la ciencia abierta. La Ciencia Abierta (CA) se basa en la equidad para compartir la investigación científica con todas las personas. En 2021, la UNESCO aprobó una ‘Recomendación sobre Ciencia Abierta’ y la CA tiene actualmente un respaldo político global sin precedentes. Al mismo tiempo, en paralelo, proliferó la inteligencia artificial (IA) generativa. La IA generativa puede causar daño y discriminación. Esto va en contra de los valores de la CA. Sin embargo, la CA provee libremente datos abiertos de alta calidad, uno de los insumos indispensables para producir IA generative. Se nos plantea el dilema : ¿cómo compartir datos abiertos sin que sean usados para IA generativa de manera perjudicial? Aunque están en marcha conversaciones preliminares y existen propuestas aisladas, este dilema no ha sido discutido aún en profundidad ni abordado adecuadamente en las políticas para CA. Se necesitaría elaborar un sistema de gobernanza que proteja el conocimiento como bien común y el derecho a la investigación como un derecho humano. El movimiento de la CA es un lugar idóneo para abordar estos desafíos éticos y encontrar enfoques para hacer que los productos y procesos de investigación estén disponibles para todas las personas de forma responsable.