Lecciones mundiales | Inteligencia artificial generativa

Y los desafíos para la educación emancipadora

Por Rodulfo H. Pérez H.

La irrupción de la inteligencia artificial generativa constituye uno de los acontecimientos tecnológicos de mayor trascendencia para la educación contemporánea. Su capacidad para producir textos, imágenes, códigos, síntesis y otras formas de contenido, mediante el procesamiento de grandes volúmenes de datos, está transformando las condiciones en que se accede a la información, se desarrolla la investigación y se produce el conocimiento. La inteligencia artificial debe ser examinada como una fuerza tecnológica que interviene en las relaciones sociales y en las condiciones históricas de producción, circulación y apropiación del conocimiento.

Su expansión acelerada ha superado, en numerosos contextos, la capacidad de respuesta de las instituciones educativas y de los marcos regulatorios. Frente a esta situación se hace urgente abrir el debate que permita dar a conocer a amplios sectores vinculados a la educación, la pedagogía, la ciencia y la tecnología, así como a la población en general, los desafíos a los que nos enfrentamos como sociedad, y que, derivan de su irrupción. 

Tenemos la convicción de que, este debate, debe hacerse desde una perspectiva centrada en el ser humano crítico y emancipado, que lejos de condicionarnos a la adaptación nos permita comprender y producir respuestas orientadas a proteger tanto nuestros procesos de aprendizaje y los procesos necesarios para mantener la soberanía cognitiva así como los principios más preciados que nos han permitido obtener grandes logros en materia educativa como es el caso de la universalidad de la educación y la inclusión.

Este planteamiento constituye un punto de partida fundamental para una reflexión científica en general y pedagógica en particular; la educación como un derecho humano y un proceso histórico de formación integral desde una perspectiva crítica y emancipadora, nos lleva a profundizar en las condiciones materiales y en las relaciones de poder que determinan el desarrollo, control y usos sociales de la inteligencia artificial. La cuestión fundamentalmente consiste en comprender quiénes controlan sus infraestructuras, quiénes producen los datos que alimentan sus sistemas, qué intereses económicos y políticos orientan su desarrollo y cuáles son las consecuencias de su expansión para la soberanía tanto nacional como cognitiva de los pueblos.

La inteligencia artificial generativa se desarrolla en un contexto de concentración de capacidades científicas, tecnológicas y financieras. El manejo de grandes volúmenes de datos, los centros de procesamiento especializados, los semiconductores, las redes de comunicación e interconexión, la energía y los medios necesarios para sostener estos sistemas, constituyen condiciones materiales para su funcionamiento, estas condiciones requieren de recursos vinculados a procesos de producción, transformación, comercialización y aplicación, diseñados y desarrollados sobre relaciones profundamente desiguales.

Estudios diversos advierten que las capacidades necesarias para crear y controlar los sistemas de inteligencia artificial generativa están fuera del alcance de la mayoría de los países, especialmente de aquellos que integran el Sur Global. Pero el problema es mayor, pues los desarrollos y su control también escapan a los Estados del Norte Global mientras progresivamente se acunan en nichos de interés de las corporaciones privadas, y se inscriben exclusivamente, en los intereses de escasos propietarios cuyo fin último es el lucro y la ganancia. 

En el ámbito educativo, esta circunstancia adquiere una importancia estratégica. Los países del Sur Global están condicionados por los desequilibrios científicos tecnológicos que los desfavorecen. Las corporaciones privadas vinculadas a la producción de la Inteligencia Artificial solo nos ven como yacimientos de minerales que se procesan con raras tecnologías a las que se nos dificulta acceder por las lógicas que impone la División Internacional del Trabajo. Frecuentemente se imponen perspectivas conservadoras, dilemas éticos y políticos fundamentados en el desconocimiento de lo que realmente implica la irrupción de la Inteligencia Artificial. Todo lo anterior y otros elementos terminan justificando que los países del Sur Global se acurruquen en el desconocimiento de la grave circunstancia que implica este fenómeno, condenándose a utilizar plataformas de inteligencia artificial que ponen en duda su soberanía, depender de infraestructuras, modelos, criterios de procesamiento y condiciones de acceso que escapan a su control y sentenciando a su población y, a su propio futuro, a un nuevo escolasticismo anti Inteligencia Artificial.  

La soberanía cognitiva constituye una categoría fundamental para comprender los desafíos educativos de la inteligencia artificial. Esta se refiere a la capacidad de una sociedad para producir, interpretar, preservar, desarrollar y compartir sus propios conocimientos, así como para participar en la creación de las tecnologías que intervienen en su producción y circulación. Supone la permanente adecuación del proyecto histórico a las condiciones que van surgiendo objetivamente, asegurando que sus principios se mantengan por encima de cualquier dificultad, por más estructural, compleja y densa que sea. 

Pensar con cabeza propia, construir nuestra perspectiva sobre este problema es imprecindible, pero sobre la base de la participación del pueblo, sus comunidades, sus academias, escuelas, liceos, universidades, docentes, investigadores y científicos, así como sus estudiantes; es indispensable para la progresiva elaboración de nuestro entendimiento sobre este delicado asunto, así como para nuestra respuesta. No podemos dejar de incorporar las opiniones surgidas en el ámbito internacional, tanto de los productores de estas tecnologías como de los órganos que pretenden su regulación, incluyendo las provenientes de comunidades científicas que hacen resistencia y encuentran alternativas a esta nueva realidad.   

Entonces, sobre la base de reconocer la necesidad de abrir el debate, es importante comenzar por abordar la relación entre inteligencia artificial y conocimiento. Uno de los problemas centrales de la reflexión pedagógica es la capacidad de los sistemas de Inteligencia Artificial para producir respuestas coherentes, organizar información o elaborar síntesis. Pero estos procesos no significan desarrollo de conciencia histórica, comprensión crítica de la realidad o responsabilidad sobre las afirmaciones que se presentan. Los sistemas generativos producen resultados mediante operaciones computacionales sustentadas en patrones aprendidos de los datos con los que han sido entrenados. Sus respuestas pueden resultar útiles para explorar problemas, contrastar formulaciones o identificar líneas de investigación, pero también pueden contener errores, omisiones, sesgos y referencias inexistentes. Por consiguiente, la información generada debe someterse a procedimientos de crítica, confrontación, cuestionamiento, verificación, contextualización e interpretación, primero con el mismo sistema que ha entregado la respuesta y segundo, y muy especialmente, con colectivos humanos de debate y dialogo, en función de favorecer los procesos de asimilación y elaboración de conocimientos, socialmente pertinentes, que aseguren la soberanía cognitiva.  

Esta distinción permite comprender que el conocimiento no se reduce a la acumulación de información ni a la capacidad de reproducir discursos formalmente coherentes. Conocer implica establecer relaciones, comprender procesos, identificar contradicciones, reconocer las condiciones históricas en que se producen y se desarrollan los fenómenos y construir explicaciones fundamentadas. El conocimiento se desarrolla en la práctica social mediada por la actividad humana, la investigación, el diálogo, la confrontación crítica con la realidad y desde la perspectiva del mundo de la cual sea portador el sujeto. La inteligencia artificial puede contribuir a algunas de estas actividades, pero no elimina la necesidad de los procesos de comprensión, no sustituye la asimilación de conceptos, categorías y abstracciones ni la producción del conocimiento .

El problema pedagógico aparece cuando la utilización de estas herramientas desplaza las actividades psicológicas superiores del ser humano que hacen posible la asimilación de la cultura y por tanto del aprendizaje. Si el estudiante delega sistemáticamente la formulación de preguntas, búsqueda de información, lectura, elaboración de argumentos y escritura en un sistema de inteligencia artificial, corre el riesgo de obtener productos formalmente satisfactorios para el algoritmo que rige la tecnología consultada y para la apariencia y el espejismo que, la organización aleatoria de conceptos y palabras, surge desde el algoritmo mismo, mediado por la rapidez y fluidez con que se obtiene una respuesta generada. Este proceso tiene consecuencias catastróficas en el pensamiento verbal y el uso de conceptos y categorías, así como en la asimilación de abstracciones, en el análisis, la complejización del pensamiento, la deducción, la comprensión lógica, la generalización y, particularmente, en la atención voluntaria y no condicionada. En este orden de cosas, los resultados de un aprendizaje sin regulación, sin orientación pedagógica ni didáctica, están condenados al debilitamiento de la capacidad de construir conocimiento poniendo en severo riesgo la soberanía cognitiva.

Ante tales peligros la peor respuesta, es dar la espalda al abordaje fundamentado y crítico del problema. Peor aún, es rechazar la inteligencia artificial y sacarla de los espacios formales de aprendizaje, como la escuela y la universidad, restándonos a debatir las contradicciones que ésta encierra y a descubrir, desde su crítica, sus posibilidades pedagógicas. Es urgente democratizar este debate, solo la comprensión social podrá evitar que se mantenga la hegemonía que sobre ella mantienen los que se orientan por el lucro y la ganancia y solo así se pondrá al servicio de la humanidad. Tenemos como exigencia más bien avanzar, en diferenciar entre los usos que amplían condiciones humanas y aquellos que las sustituyen o reducen. 

Una utilización pedagógica y didáctica pertinente, regulada y orientada puede contribuir a explorar perspectivas, formular preguntas, comparar interpretaciones, organizar materiales, identificar contradicciones y apoyar determinados procesos de investigación, cuando se integra a una actividad intelectual consciente, en la que el estudiante, conserva la responsabilidad de comprender, argumentar, verificar, crear y defender sus ideas y cuando, en vez de obstaculizar los procesos de abstracción, lo favorecen, entonces tendremos una poderosa herramienta que permitirá vivir mejor.

La apropiación crítica de la inteligencia artificial debe evitar convertirla en una dependencia permanente de respuestas elaboradas por sistemas externos. La pregunta pedagógica fundamental no es cuánto trabajo puede realizar una herramienta en lugar del estudiante, sino qué nuevas posibilidades ofrece la misma para que éste comprenda mejor, investigue con mayor profundidad y desarrolle una relación más consciente con el conocimiento. En tal sentido, cuáles procesos pedagógicos y didácticos deben desarrollarse durante el aprendizaje para impedir la sustitución del pensar, la reflexión crítica, la orientación a cuestionar lo que se nos entrega la inteligencia artificial generativa y el favorecer la comprensión de la abstracción. 

Un aspecto de innegable importancia son las condiciones institucionales, económicas y políticas en que se desarrollan y utilizan estas tecnologías y fundamentalmente las fortalezas de los Estados. La utilización de una herramienta resulta limitada cuando las instituciones dependen de plataformas cuyo funcionamiento, criterios de procesamiento y condiciones de acceso no pueden controlar, con los desequilibrios científicos – tecnológicos y cuando se combinan con falsos dilemas éticos con la intención de ocultar con un dedo un problema que tiene una evidente magnitud.

La función del docente adquiere una nueva significación en este contexto. El profesor es un sujeto social que desarrolla una práctica social y es portador de lógicas, conceptos y categorías desde las cuales comprende el mundo, sus contradicciones y su posición en él. Su posición intelectual y su práctica investigativa pedagógica, vinculada a los procesos de producción de conocimiento de su tiempo y del espacio en el cual se inserta, condicionan la dirección del aprendizaje que propicia y contribuye a la formación de la conciencia histórica tanto de si como de sus estudiantes. La incorporación de la inteligencia artificial exige fortalecer su formación política, y su consciencia científica, pedagógica, ética y tecnológica de los docentes , en función de reconocer sus capacidades para decidir cuándo, cómo y con qué propósitos educativos pueden utilizarse estas herramientas.

El docente debe favorecer la formulación de preguntas relevantes, propiciar reflexiones valorativas sobre la pertinencia de las respuestas, contrastar afirmaciones con fuentes diversas provocando además y fundamentalmente el reconocimiento de los límites de los sistemas generativos en comparación con lo hermoso y nutritivo de la reflexión y critica humana. También debe promover experiencias en las que la inteligencia artificial sea objeto de cuestionamiento, confrontación e investigación y no únicamente un recurso para producir tareas. Analizar cómo responde una herramienta ante un mismo problema desde distintas formulaciones, identificar errores, reconocer ausencias y comparar sus resultados con documentos históricos o investigaciones científicas puede convertirse en una actividad de aprendizaje que fortalezca el pensamiento crítico. Confrontar formulaciones no sometidas a la crítica y el cuestionamiento con la fortaleza que se produce del debate crítico puede entonces convertirse en un atractivo proceso para estudiantes en el cual la dirección del proceso pedagógico y didáctico por parte de los docentes resulta decisiva para que la interacción con la tecnología se transforme en una experiencia de conocimiento.

La evaluación de los aprendizajes también requiere una reflexión profunda. Cuando el trabajo académico se valora exclusivamente por el producto escrito, se vuelve más difícil distinguir entre la elaboración intelectual del estudiante y los contenidos generados mediante herramientas automatizadas. La respuesta no consiste solamente en perfeccionar los mecanismos de detección, cuya fiabilidad puede ser limitada, sino en fortalecer formas de evaluación que permitan reconocer los procesos de aprendizaje. La defensa oral de argumentos, la explicación de las decisiones tomadas durante una investigación, la discusión colectiva de fuentes, la elaboración progresiva de textos, la confrontación, y la capacidad de responder preguntas sobre el trabajo realizado contribuyen decididamente a valorar la comprensión y soberanía cognitiva.

Esta transformación debe evitar que la evaluación se convierta en un dispositivo exclusivamente punitivo. El propósito pedagógico se centra en que los estudiantes comprendan las posibilidades y limitaciones de la inteligencia artificial, aprendan a utilizarla con responsabilidad y sean capaces de distinguir entre el apoyo tecnológico y la sustitución de su propia actividad intelectual, pero fundamentalmente es el desarrollo de procesos de actividades prácticas, de asimilación de conceptos y categorías, de abstracciones y de perspectivas, lógicas y críticas a partir la incorporación de relaciones entre diversos niveles de desarrollos entre los y las estudiantes, donde aquellos que presenten mayor desarrollo se comprometan con aquellos quienes aún no han asimilado perspectivas críticas, en dinámicas que evidentemente deben estar centradas en la concurrencia, la colaboración, la cooperación y la solidaridad. 

La transparencia sobre el uso de herramientas de Inteligencia Artificial, la identificación de las fuentes y la responsabilidad por las afirmaciones presentadas forman parte de una ética del proceso pedagógico de aprendizaje y de investigación y constituye un elemento esencial a regular. En la investigación científica, la Inteligencia Artificial Generativa abre posibilidades para apoyar la exploración bibliográfica, la organización de materiales, la traducción, la revisión de textos y la formulación inicial de preguntas. Sin embargo, estas aplicaciones no eliminan las exigencias fundamentales del trabajo científico: rigor en la definición y asimilación de la perspectiva del mundo y la epistemología, las definición conceptual y categorial así como así como las vías metódicas y metodológicas para el conocimiento del objeto de estudio. 

La verificación de fuentes, consistencia argumentativa, reconocimiento de las limitaciones y responsabilidad sobre los resultados. La generación automática de referencias inexistentes, la presentación de afirmaciones no verificadas y la reproducción de sesgos pueden comprometer una investigación si los resultados se incorporan sin revisión crítica. La responsabilidad epistemológica permanece en manos del investigador, debe conocer los procedimientos utilizados y responder por la validez de sus afirmaciones.

Para las autoridades educativas lo abordado en este escrito reviste especial relevancia. Construir políticas institucionales que articulen la innovación tecnológica con los principios del derecho a la educación, universalización de la educación e inclusión son un ejercicio de seriedad, coherencia y responsabilidad política difícil de conseguir, no solo en el sur sino en el norte también. En los países del Sur Global, esta discusión debe vincularse con la construcción de capacidades científicas y tecnológicas propias. No basta con garantizar el acceso a aplicaciones desarrolladas en otros espacios si no se avanza en la formación de investigadores, el fortalecimiento de las universidades públicas, la producción de datos pertinentes, el desarrollo de infraestructuras y la cooperación regional e internacional. La soberanía tecnológica no significa que cada país deba producir de manera aislada todos los componentes de la inteligencia artificial, sino que pueda participar en su desarrollo, establecer acuerdos de cooperación en condiciones de reciprocidad y decidir de manera autónoma sobre sus usos y prioridades.

En Venezuela, este desafío debe abordarse desde las necesidades del sistema educativo nacional, las capacidades de sus instituciones científicas y universitarias y el propósito de garantizar la educación como derecho humano y desde la universalización y la inclusion. La incorporación de la inteligencia artificial debe contribuir a fortalecer la formación docente, la investigación, la producción de conocimientos y la atención a la diversidad de los estudiantes. Al mismo tiempo, exige examinar las condiciones de conectividad, disponibilidad de equipos, acceso a recursos digitales y protección de los datos. La innovación educativa no puede evaluarse únicamente por la cantidad de herramientas incorporadas, sino por su contribución efectiva a la formación integral, la democratización del conocimiento y el fortalecimiento de las capacidades intelectuales de la población y al ejercicio efectivo de la soberanía en nuestras condiciones socio – históricas.

Una perspectiva pedagógica emancipadora de la inteligencia artificial debe articular la apropiación crítica de la tecnología con la investigación, el diálogo, la cooperación y la transformación de la realidad. Desde esta perspectiva, la inteligencia artificial no constituye un sujeto educativo ni un fin en sí mismo, sino una creación humana cuyas posibilidades y consecuencias dependen de las relaciones sociales en las que se desarrolla