Los desafíos éticos y editoriales de la Inteligencia Artificial en la producción de conocimiento para los Estudios Urbanos

Rodrigo Firmino, editor asociado de la revista urbe, Curitiba, Paraná, Brasil.

El reciente avance de la Inteligencia Artificial (IA) en la investigación científica, la redacción de manuscritos y los flujos de trabajo editoriales reaviva, con nuevos matices, cuestiones que desde hace tiempo impregnan el campo de los Estudios Urbanos: la mediación tecnológica, las asimetrías de poder, la opacidad de los sistemas y la producción desigual de espacio y conocimiento. En el contexto de la ciencia abierta, este debate debe abordarse no como una simple actualización técnica, sino como un problema epistemológico, ético y político. La declaración de la Red SciELO en apoyo de la ciencia abierta, junto con IDEIA, explicita este horizonte al asociar el impacto, la diversidad, la equidad, la inclusión y la accesibilidad con la necesidad de buenas prácticas éticas a lo largo de todo el ciclo de investigación, en modelos que reconozcan las diferencias entre áreas, instituciones y regiones.

En el ámbito urbano, este debate es particularmente delicado. Las tecnologías nunca operan como instrumentos neutrales: participan en la constitución de territorialidades, distribuyen visibilidades e invisibilidades, redefinen fronteras y naturalizan formas específicas de control. Esta formulación ayuda a reflexionar sobre la IA también en el ámbito de la producción científica: se trata de una infraestructura socio técnica que, al operar de forma opaca y asimétrica, puede reconfigurar silenciosamente los criterios de legibilidad, autoridad y validación del conocimiento.

El primer problema ético, por lo tanto, es el de la opacidad. Los sistemas generativos producen textos, resúmenes, opiniones preliminares, análisis lingüísticos y síntesis bibliográficas con una inteligibilidad reducida sobre cómo llegaron a ese resultado. En los Estudios Urbanos, donde el contexto, la historicidad y la posición de enunciación son decisivos, esta opacidad no es irrelevante. Puede borrar mediaciones, disolver conflictos y transformar desigualdades concretas en descripciones abstractas y semánticamente aceptables. El riesgo reside no solo en «errores» fácticos o referencias inventadas, sino en la fabricación de una apariencia de coherencia que hace menos visibles los procesos de simplificación, exclusión y encuadre que opera el sistema.

El segundo problema es el de la responsabilizarían. Las herramientas de IA no asumen la autoría, no son responsables de las decisiones analíticas y no pueden mantener un compromiso ético con los datos, los interlocutores ni las consecuencias interpretativas. Por ello, las políticas editoriales, en general, convergen en rechazar la IA como autora y exigir transparencia siempre que su uso interfiera sustancialmente con la producción textual, analítica o visual. Asimismo, existe una creciente comprensión de que los revisores no deberían introducir manuscritos en plataformas de IA generativa, precisamente porque esto compromete la confidencialidad de la evaluación, la integridad del proceso editorial y, potencialmente, los derechos de autor de textos aún inéditos. Este punto es fundamental. Si la revisión por pares depende de la confianza, la confidencialidad y la responsabilidad intelectual, su externalización, incluso parcial, a sistemas opacos erosiona la legitimidad misma del proceso.

En el reciente debate editorial, se observa la consolidación de un núcleo normativo mínimo para el uso de la IA en la comunicación científica. Existe una convergencia, por ejemplo, respecto a la imposibilidad de atribuir la autoría a sistemas de IA, la exigencia de transparencia cuando las herramientas generativas interfieren sustancialmente en la redacción o elaboración de materiales, y la prohibición de enviar manuscritos en evaluación a plataformas externas. Esta convergencia es significativa porque demuestra que el problema ya no se limita al uso instrumental de la tecnología, sino que abarca principios estructurales de la producción científica: responsabilidad intelectual, trazabilidad metodológica, confidencialidad editorial y protección de los derechos de autor. Por lo tanto, la preocupación no solo se refiere a la exactitud del contenido generado, sino también a las condiciones institucionales mismas de la legitimidad del conocimiento publicado.

Imagen: Zach M via Unsplash

Al mismo tiempo, persisten importantes áreas de ambigüedad. Si bien el uso de la IA para la revisión lingüística tiende a ser más fácilmente aceptado, su uso para la generación de imágenes, el procesamiento de datos, el apoyo analítico o la elaboración de informes parece estar rodeado de restricciones, reservas y formulaciones aún inestables. Esto demuestra que se trata de un campo regulatorio en formación, en el que ya se han reconocido ciertos límites éticos, pero otros siguen en disputa. Para los Estudios Urbanos, esta falta de definición es especialmente problemática, ya que abre la puerta al uso naturalizado de sistemas que pueden distorsionar la evidencia, simplificar contextos complejos, reforzar sesgos y comprometer la integridad interpretativa de la investigación basada en realidades territoriales profundamente desiguales. De ahí la importancia de políticas editoriales claras, contextualizadas y con justificación pública, capaces de abordar no solo los riesgos técnicos de la IA, sino también sus implicaciones epistemológicas y políticas.

Existe además un tercer eje ético, menos debatido pero decisivo para la ciencia abierta: el de la asimetría geopolítica en la producción de conocimiento. Los modelos generativos se entrenan sobre bases desiguales, con una fuerte concentración lingüística, editorial y geográfica. Como resultado, tienden a favorecer estilos argumentativos, repertorios bibliográficos y sistemas de evidencia más cercanos a los centros hegemónicos de la circulación científica. Para un campo como los Estudios Urbanos, esto puede reforzar una doble marginación: la de los objetos urbanos periféricos y la de las formas no hegemónicas de narrar, interpretar y teorizar la ciudad. En lugar de ampliar la pluralidad epistémica, la IA puede contribuir a la estandarización del lenguaje científico y a la reproducción de jerarquías ya establecidas en la geopolítica del conocimiento.

Es en este punto donde la articulación con IDEA se vuelve más sustantiva. El impacto no debe confundirse con la aceleración productivista; la diversidad no se limita a la multiplicación formal de voces si los sistemas de mediación tienden a homogeneizarlas; la equidad exige reconocer las desigualdades materiales en el acceso a la infraestructura computacional y la alfabetización técnica; la inclusión exige atención a las formas en que ciertas maneras de escribir y conocer se desacreditan silenciosamente; la accesibilidad debe incluir transparencia sobre cómo se produjeron los textos, las opiniones y las decisiones. Pensar en la IA de forma crítica y basándose en estos principios implica trasladar el debate del entusiasmo tecnológico al ámbito de las condiciones concretas de producción, circulación y validación del conocimiento científico.

Por lo tanto, más que admitir o prohibir la IA de forma genérica, las revistas científicas deben formular políticas específicas, públicas y verificables para autores, revisores y equipos editoriales. Las políticas editoriales de la Revista urbe, recientemente actualizadas, orientan a su comunidad editorial para distinguir entre el soporte técnico y la intervención sustantiva; exigen una declaración de uso cuando existe un impacto en la redacción, el análisis o la producción de imágenes; prohíben el envío de manuscritos a sistemas externos durante la evaluación; y reafirman, en todos los casos, la plena responsabilidad humana por el contenido publicado. Esta iniciativa no solo responde a una tendencia tecnológica, sino que también reafirma una postura editorial coherente con la defensa de la ciencia abierta comprometida con la producción de conocimiento urbano en América Latina.

El reto, por consiguiente, no consiste en adoptar o resistir la IA de forma abstracta, sino en construir formas de gobernanza editorial y científica capaces de someter estas herramientas a principios públicos, responsabilidades explícitas y criterios transparentes. Para los Estudios Urbanos, esto significa insistir en que la innovación sin reflexividad profundiza las asimetrías, que la apertura sin regulación puede comprometer los derechos y que la integridad científica hoy también depende de la capacidad de visibilizar los límites, los riesgos y las condiciones de uso de estas tecnologías.

Enlaces externos

urbe. Revista Brasileira de Gestão Urbana – SciELO

urbe. Revista Brasileira de Gestão Urbana –  Redes sociales: Facebook | X | Instagram

Pontifícia Universidade Católica do Paraná (PUCPR) –  Redes sociales: Facebook | X | Instagram