La comunidad científica está adoptando herramientas de inteligencia artificial, especialmente modelos de lenguaje grande (LLM), a una velocidad asombrosa. La redacción asistida por LLM ha aumentado drásticamente en los últimos tres años, y los investigadores han buscado incorporar agentes semiautónomos en sus flujos de trabajo. Sin embargo, la adopción rápida y acrítica de la IA en la ciencia conlleva riesgos significativos.
Problemas evidentes en la investigación con IA
Varios problemas ya son aparentes: los artículos que utilizan herramientas de IA se centran en un conjunto más reducido de preguntas de investigación establecidas y, en algunos casos, han sido evaluados con menor mérito científico que los estudios que no dependen de la IA. Además, a medida que la IA automatiza tareas científicas rutinarias, persisten las preocupaciones sobre la erosión de las oportunidades de capacitación para los investigadores en etapa inicial, que a menudo no se reconocen.
La pérdida del conocimiento tácito
Tradicionalmente, la formación científica combinaba la instrucción formal en hechos y métodos con la adquisición gradual de conocimiento tácito a través del trabajo práctico de nivel inicial. Los estudiosos de la ciencia y la tecnología han demostrado repetidamente que los textos científicos por sí solos no comunican completamente el conocimiento; en cambio, el saber hacer crucial está incrustado en las comunidades de investigación y se transmite a través del aprendizaje y la práctica. Este conocimiento tácito —por ejemplo, qué constituye datos ‘razonables’, los detalles de una técnica difíciles de articular en una sección de métodos, o si un resultado es consistente con la literatura existente— es esencial para que un investigador pueda supervisar eficazmente los flujos de trabajo asistidos por IA en el futuro.
Si los sistemas de IA reemplazan cada vez más el trabajo científico de nivel inicial, los aprendices podrían nunca desarrollar estas habilidades, lo que podría dejar a la próxima generación de científicos mal preparada para supervisar responsablemente la investigación impulsada por IA.
Productividad versus calidad
La industria de la IA ha comercializado agresivamente los productos LLM para científicos como tecnologías para aumentar la productividad. Algunos investigadores han aceptado esta promesa, promocionando la capacidad de estos productos para ‘potenciar’ su escritura académica. Si entendemos la productividad como la producción de artículos científicos, los productos de IA sin duda han cumplido su promesa, con efectos de gran alcance. Repositorios de preimpresiones en línea como SocArXiv y PsyArXiv impusieron moratorias temporales sobre artículos de IA o actualizaron sus políticas de revisión; arXiv cambió su política y ya no acepta artículos de posición en ciencias de la computación, y los Institutos Nacionales de Salud de EE. UU. comenzaron a limitar las propuestas de subvención a seis por año por investigador principal.
Junto con el aumento de la productividad, hay evidencia de que los científicos que usan herramientas de IA en su trabajo reciben más citas y avanzan más rápido a roles de investigador principal que aquellos que no lo hacen, con personas que tienen el inglés como lengua materna beneficiándose de manera desproporcionada. Sin embargo, es notable que los beneficios profesionales de los productos de IA son más evidentes en métricas cuantitativas, como el número de publicaciones y citas. Estas medidas no pueden dar cuenta de si estos beneficios se acumulan debido a una contribución científica o como resultado de conexiones con un campo de moda.
Por lo tanto, sería un error tomar estas métricas como representativas de un triunfo para la ciencia, sin analizar más de cerca la calidad de esta mayor productividad. Más no es necesariamente mejor, y hay evidencia creciente de que los aumentos impulsados por LLM en la productividad científica a menudo tienen un costo.
La ‘basura’ de IA en la literatura
Lo más obvio es la introducción de ‘basura de IA’ en la literatura, incluyendo imágenes generadas sin sentido y citas alucinadas. Múltiples estudios han documentado tendencias preocupantes en artículos que dependen en gran medida de la asistencia de LLM en la escritura. La revista Organization Science auditó todos los 6,957 envíos que recibió de enero de 2021 a enero de 2026, y observó que los artículos asistidos por LLM tenían una calidad científica más pobre. Otro estudio, de 264,125 artículos recopilados de una conferencia de IA de 2024 y envíos publicados en tres servidores de preimpresión en 2023-24, encontró que en los artículos asistidos por LLM, la buena escritura dejó de ser un indicador preciso de la calidad científica.
Los autores concluyen que esto crea ‘un riesgo para la empresa científica, ya que un diluvio de investigaciones superficialmente convincentes pero científicamente insatisfactorias podría saturar la literatura’. Actualmente, no hay soluciones claras para estas contaminaciones de nuestro ecosistema de conocimiento, a pesar de que se reconoce que no deberían estar sucediendo.
Reducción de la diversidad científica
Las herramientas de IA implementadas en todo el proceso de investigación también están limitando la comprensión científica de maneras más sutiles, por ejemplo, reduciendo el conjunto de temas que los investigadores exploran. Un análisis de 41.3 millones de artículos de investigación que abarcan biología, medicina, química, física, ciencia de materiales y geología muestra que la adopción de IA parece ‘inducir a los autores a converger en las mismas soluciones a problemas conocidos en lugar de crear nuevos’. Esta es una advertencia temprana de la probabilidad de que la IA tenga impactos en cascada en el ecosistema del conocimiento.
El mito del ‘científico de IA’ autónomo
Las visiones más ambiciosas de la IA para la ciencia involucran ‘científicos de IA’ semi o totalmente autónomos, y los prototipos recientes de esta visión han recibido gran fanfarria tanto en la ciencia como en la industria. Los desarrolladores de científicos de IA se apresuran a asegurar que su intención ‘no es reemplazar a los científicos humanos, sino aumentar y acelerar su trabajo’. Se supone que estos productos serán supervisados por un científico capacitado que pueda dirigir y verificar responsablemente el resultado de la IA. Cuestionamos si esta visión puede realizarse sin una articulación clara de cómo el científico responsable puede desarrollar la experiencia para distinguir entre resultados buenos y malos de la IA.
Gran parte del entusiasmo por las herramientas de IA en todo el proceso científico proviene de su promesa de delegar trabajo. Pero muchas tareas consideradas de ‘baja calificación’ han sido tradicionalmente puntos de partida importantes para los científicos en formación. Sin ellas, la próxima generación podría carecer de las habilidades necesarias para supervisar la investigación impulsada por IA de manera responsable.
