La acelerada expansión de los sistemas digitales, la inteligencia artificial y las tecnologías algorítmicas ha transformado de manera profunda los modos en que se organiza la vida social, se toman decisiones colectivas y se produce conocimiento en las sociedades contemporáneas. En este escenario, marcado por la automatización creciente, la opacidad técnica y la delegación de funciones tradicionalmente humanas a sistemas inteligentes, emerge una pregunta ineludible: ¿quién es responsable de los efectos sociales, educativos y políticos que producen estas tecnologías?
Desde esta preocupación compartida surge el capítulo Ética y gobernanza digital compartida: un enfoque desde la responsabilidad institucional, organizacional y del usuario, elaborado por José Londoño-Cardozo (profesor e investigador de la Universidad Santiago de Cali) y Jhulianna Restrepo-Sarmiento (profesora e investigadora de la Corporación Universitaria Minuto de Dios – UNIMINUTO), ambos también investigadores del Grupo de Estudios Neoinstitucionales (GEN) de la Universidad Nacional de Colombia. Los autores desarrollan esta reflexión desde trayectorias académicas complementarias haciendo que esta convergencia institucional y académica articule miradas críticas desde la educación, los estudios organizacionales y la reflexión ética sobre la tecnología.
El capítulo hace parte del libro Sistemas Inteligentes en la Educación: Una reflexión entre Tecnologías de Información y las Educomunicaciones y parte de una premisa central: las tecnologías digitales no son herramientas neutras ni dispositivos aislados del contexto social, sino construcciones sociotécnicas atravesadas por decisiones humanas, intereses institucionales y marcos normativos específicos. En consecuencia, los impactos de la inteligencia artificial, los algoritmos y las plataformas digitales no pueden atribuirse exclusivamente a la técnica ni delegarse de manera unilateral a las organizaciones tecnológicas o a los Estados, sino que deben comprenderse desde una lógica de responsabilidad compartida.
Uno de los aportes conceptuales más relevantes del documento consiste en el análisis de las denominadas tecnologías agenciativas, entendidas como sistemas capaces de aprender, decidir y actuar con niveles crecientes de autonomía. Estas tecnologías, entre las que se encuentran la inteligencia artificial, los algoritmos predictivos, las plataformas digitales y los sistemas de recomendación, no se limitan a optimizar procesos o automatizar tareas, sino que participan activamente en la producción de sentido, en la organización del conocimiento y en la toma de decisiones que afectan tanto a individuos como a colectivos. Esta capacidad de agencia tecnológica tensiona los marcos tradicionales de responsabilidad, históricamente anclados en sujetos humanos claramente identificables.
Desde esta constatación, el capítulo propone analizar la responsabilidad digital a partir de tres niveles interrelacionados: el organizacional, el del usuario y el normativo. Esta estructura analítica permite evidenciar cómo la fragmentación de la responsabilidad ha generado vacíos en la gobernanza digital contemporánea, favoreciendo dinámicas de desresponsabilización en las que cada actor transfiere la carga ética y política a los demás, diluyendo la posibilidad de una rendición de cuentas efectiva.
El documento dialoga con los aportes de los Estudios Críticos de la Administración y de la Gestión Humanista Radical para cuestionar las lógicas de eficiencia, rentabilidad y control que suelen orientar las decisiones tecnológicas en contextos organizacionales. Desde esta mirada crítica, se argumenta que la adopción acrítica de tecnologías inteligentes puede reproducir desigualdades estructurales, intensificar formas de vigilancia y erosionar la agencia humana si no se acompaña de marcos éticos sólidos y de procesos deliberativos que incorporen criterios de justicia social y bienestar colectivo.
El segundo nivel de análisis se centra en el usuario como actor activo del ecosistema digital. A diferencia de enfoques que conciben al usuario únicamente como un sujeto vulnerable que debe ser protegido por la normativa o por el diseño tecnológico, el capítulo destaca su capacidad de agencia. Las prácticas cotidianas de los usuarios —sus decisiones, interacciones y modos de participación— influyen de manera directa en la circulación de información, en la configuración de normas sociales y en la reproducción de estructuras simbólicas en los entornos digitales. Fenómenos como la desinformación, el acoso en línea, la manipulación informativa o la violencia simbólica no pueden explicarse exclusivamente desde fallos técnicos o vacíos regulatorios, sino que requieren considerar la dimensión ética de la acción individual y colectiva en el espacio digital.
A partir de este diagnóstico, el documento plantea la necesidad de una alfabetización digital que supere el enfoque instrumental centrado en el uso de herramientas. La formación digital debe incorporar componentes normativos, axiológicos y deliberativos que permitan a los usuarios comprender las implicaciones sociales, políticas y culturales de sus decisiones en línea. En este sentido, la educación se presenta como un eje estratégico para la construcción de una ciudadanía digital crítica, capaz de ejercer su autonomía en entornos mediados por tecnologías inteligentes y de participar activamente en la configuración del espacio público digital.
El tercer nivel de análisis aborda los marcos normativos y regulatorios desarrollados en distintos contextos internacionales. El capítulo reconoce los avances alcanzados en materia de protección de datos personales, derechos digitales y regulación de plataformas, impulsados por Estados y organismos multilaterales. Sin embargo, también señala sus limitaciones estructurales. La mayoría de estas normativas se han concentrado en regular a las organizaciones tecnológicas, dejando en un segundo plano la dimensión formativa y pedagógica del problema. La ausencia de políticas educativas robustas orientadas a fortalecer la autonomía digital de los ciudadanos debilita la eficacia normativa y reproduce una ciudadanía dependiente, vulnerable frente a sistemas opacos y altamente complejos.
El análisis comparado muestra que los esfuerzos por integrar componentes formativos en la legislación digital siguen siendo excepcionales y, cuando existen, presentan dificultades significativas en su alcance y ejecución. Esta situación refuerza una de las tesis centrales del documento: la gobernanza digital no puede reducirse a un modelo de vigilancia unilateral ni a una regulación reactiva, sino que debe articular de manera coherente regulación, educación y participación ciudadana.
A partir de la articulación de estas tres perspectivas, el capítulo identifica un patrón común: la fragmentación de la responsabilidad. Las organizaciones son tratadas como proveedoras de tecnología, los usuarios como consumidores pasivos y la normativa como un garante externo de la legalidad. Esta separación ha impedido una comprensión sistémica del ecosistema digital y ha favorecido dinámicas de externalización de la responsabilidad ética y política. Frente a este escenario, el texto propone avanzar hacia un modelo de gobernanza digital compartida basado en el principio de corresponsabilidad.
La corresponsabilidad digital se plantea como un enfoque que distribuye de manera diferenciada pero articulada las tareas de regulación, formación, protección y vigilancia entre los distintos actores del ecosistema digital. Las organizaciones deben asumir la transparencia y la rendición de cuentas de sus sistemas tecnológicos; los Estados deben promover marcos normativos integrales acompañados de políticas educativas sólidas; y los usuarios deben reconocerse como agentes activos en la gestión ética de su presencia digital. Esta propuesta se apoya en una visión sistémica de la tecnología como una red de decisiones sociales, técnicas y políticas, en la que ningún actor puede reclamar neutralidad o autonomía absoluta.
El documento incorpora además una reflexión ética de largo alcance inspirada en el principio de precaución, subrayando que el poder transformador de las tecnologías inteligentes exige una responsabilidad proporcional a sus posibles impactos. La evaluación de las decisiones tecnológicas no debe limitarse a sus beneficios inmediatos, sino considerar sus riesgos estructurales, sus efectos intergeneracionales y sus consecuencias sistémicas, especialmente en contextos educativos donde se configuran subjetividades, valores y formas de conocimiento.
Lejos de quedarse en un diagnóstico crítico, el capítulo plantea líneas de acción orientadas a operacionalizar la gobernanza digital corresponsable. Entre ellas se destacan el fortalecimiento de competencias digitales críticas, el desarrollo de protocolos participativos para la gestión de datos, la creación de espacios de observación ciudadana y el fortalecimiento de las capacidades institucionales para regular tecnologías emergentes. De este modo, la gobernanza digital compartida se presenta como un marco operativo para reorganizar las relaciones entre tecnología, sociedad y educación, más que como una abstracción normativa.
Esta reflexión busca aportar al debate contemporáneo sobre inteligencia artificial, ética y educación, invitando a docentes, investigadores, gestores, estudiantes y ciudadanos a repensar su papel en la construcción de entornos digitales más justos, transparentes y socialmente responsables. En un momento histórico en el que la tecnología redefine aceleradamente las condiciones de posibilidad de la vida social, el desafío no consiste únicamente en innovar, sino en hacerlo con criterios de responsabilidad, deliberación y cuidado colectivo.
El capítulo completo puede consultarse en acceso abierto en ResearchGate en el siguiente enlace: https://www.researchgate.net/publication/399776223_Etica_y_gobernanza_digital_compartida_un_enfoque_desde_la_responsabilidad_institucional_organizacional_y_del_usuario
No hay comentarios.:
Publicar un comentario