Todo lo que escribimos o decimos sobre la IA ya es viejo. Carlos A. Scolari, en Hipermediaciones, Tesis No. 1, mayo 2024
Este documento ofrece orientaciones generales para el uso ético y crítico de la Inteligencia Artificial en la Universidad Estatal a Distancia (UNED) de Costa Rica, alineadas con las recomendaciones de la UNESCO.
Las instituciones de educación superior, como la UNED, están llamadas a pronunciarse y a reconocer las profundas repercusiones y dinámicas que pueden tener, en la vida humana y en todo sistema (ecosistemas) las herramientas, aplicaciones o software de Inteligencia Artificial (IA) que se están empleando en la vida cotidiana de las personas y en las sociedades en general2.
La UNESCO (2022) ha destacado la importancia de analizar críticamente el impacto de las tecnologías emergentes en la vida humana y en todo sistema que da soporte a todas las formas de vida. Estas tecnologías pueden influir en el pensamiento y las interacciones humanas y plantear riesgos relacionados con la delegación inapropiada de decisiones a la inteligencia artificial (IA). Los resultados, productos y procesos propuestos por la IA si no se evalúan adecuadamente, pueden afectar derechos humanos, libertades fundamentales, la igualdad de género, la democracia, los procesos socioeconómicos y culturales, así como las prácticas científicas y de ingeniería. Además, la falta de comprensión sobre el funcionamiento de los algoritmos y los datos utilizados en el entrenamiento de la IA podría tener repercusiones negativas en la vida en general del planeta.
La UNED, comprometida con el acceso a una educación universitaria de calidad, implementa un modelo educativo inclusivo y a distancia. Este modelo promueve el aprendizaje continuo, además de ofrecer programas educativos socialmente relevantes, mantiene una rigurosa ética académica, y utiliza intensivamente herramientas y tecnologías en su proceso de educación formal y no formal. En este contexto, la UNED, como institución educativa y cultural, y tomando como base la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, tiene la responsabilidad de manifestar su posición sobre el uso ético y crítico de la IA. Esto es fundamental para asegurar que la IA contribuya de manera significativa y positiva al desarrollo y aprendizaje humano.
Adicionalmente, el tema abierto con la IA, más allá del uso de las tecnologías de la información y de la comunicación, la necesidad mayor de alfabetización mediática e informacional y de lo que puede implicar una economía digital (en términos de los desafíos sociales, económicos y ambientales), tiene que ver con el desarrollo mismo de la inteligencia humana, cómo se aprende y de cómo acelerar tal aprendizaje de forma crítica, ética, igualitaria, equitativa y responsable.
Ante estas nuevas circunstancias mundiales, la UNED declara las siguientes orientaciones para el uso crítico y ético de la Inteligencia Artificial:
- Promover el aprendizaje a lo largo de la vida con el uso de la Inteligencia Artificial de manera transparente, ética y con igualdad de género.
Mediante la sensibilización y capacitación a toda la Comunidad Universitaria sobre uso responsable y ético de la IA. Esto incluye orientar sobre el valor de los datos e información en cuanto a su recopilación, selección, seguridad y protección, así como su accesibilidad y diversidad. Además, es importante fomentar la formación en competencias digitales y codificación, y proporcionar capacitación ética sobre su empleo. La alfabetización mediática e informacional, junto con la participación cívica formada en derechos humanos y libertades fundamentales son esenciales, para que toda persona pueda tomar decisiones, bajo el consentimiento informado del uso de datos desde el empleo de la IA.
2. Impulsar el uso de la Inteligencia Artificial en cualquiera de los procesos y acciones de las áreas sustantivas (docencia, investigación, extensión, vida estudiantil y gestión administrativa de la Universidad).
Al establecer claramente las responsabilidades de las personas usuarias de la IA, de acuerdo con los objetivos y marcos reguladores que sean pertinentes al contexto y al resultado esperado. Es esencial que las personas estén informadas del uso de algoritmos de IA en la toma de decisiones, o cuando un producto o servicio se ofrezca con la asistencia de estos sistemas. Esta transparencia debe extenderse a todas las actividades relacionadas con la docencia, el aprendizaje, la investigación evaluativa o científica, la extensión universitaria, y la gestión de procesos organizacionales y administrativos, socio-productivos, comerciales, informativos, políticos y culturales.
3. Respetar los aspectos pluriculturales, los derechos humanos y las libertades fundamentales cuando se utilice la Inteligencia Artificial. Adoptando posiciones críticas para enfrentar los desafíos que presentan las tecnologías de IA en contextos culturales, incluyendo la valoración del patrimonio cultural, tanto material como inmaterial. Adherirse al principio de
proporcionalidad y cumplir con los derechos humanos y libertades fundamentales, sin perturbar las normas o valores locales, territoriales o regionales. Se requiere de un diálogo social cuidadoso, deliberación colectiva, evaluación de impacto entre todas las partes involucradas en el uso de la IA.
4. Desarrollar investigaciones estratégicas en el uso académico, comercial, político y cultural de la Inteligencia Artificial.
Mediante el diseño, implementación, divulgación y validación de los procesos estratégicos continuos de investigación científica sólida multidisciplinaria, multicultural, pluralista, inclusiva, multisectorial y en la eventual construcción de redes profesionales especializadas sobre los aportes de la IA en los procesos sustantivos de la UNED, el análisis de los riesgos de seguridad y la protección de los datos, en la transparencia y explicación del empleo, el impacto ético de sus resultados o productos y las buenas prácticas en su uso.
5. Utilizar siempre la Inteligencia Artificial bajo la supervisión humana. Reconociendo la importancia de mantener una supervisión y toma de decisiones humanas éticas y rigurosas en el uso de la Inteligencia Artificial (IA), en cada una de las etapas del ciclo de vida de los sistemas, componentes o procesos y, en la totalidad de la intervención cuando se aplica3. La IA debe ser una herramienta que amplifique y complemente las capacidades humanas, no que las reemplace, asegurando que su implementación en los procesos educativos y administrativos mejore efectivamente la experiencia laboral y el aprendizaje de toda la comunidad universitaria, respetando siempre los derechos humanos y libertades fundamentales.
6. Gestionar un presupuesto ordinario para la investigación tanto de la Inteligencia Artificial, su aplicación ética y responsable, como en los procesos cognitivos humanos.
Reuniendo el talento humano y los recursos económicos y materiales para desarrollar investigaciones y aplicaciones sobre la inteligencia humana y la inteligencia artificial que garanticen el funcionamiento de los sistemas empleados en la UNED. Asimismo, colaborar con los diferentes sectores (económicos, judiciales, sociales, políticos y culturales), para tomar consciencia del impacto ambiental que genera el uso de la IA, el cual puede influir en la huella de carbono, el consumo proporcional de energía eficiente y la extracción de materias primas para su desarrollo o mantenimiento activo.
7. Participar en la construcción de un marco normativo amplio, crítico y responsable del uso de la Inteligencia Artificial.
Colaborando en la construcción y mejora continua del marco normativo base sobre uso de la IA en la UNED, que integre el respeto, la protección y la promoción de los derechos humanos y libertades fundamentales, así como el cumplimiento de valores y principios éticos globalmente aceptados, el cuido de datos e información, preservación del ambiente, y de todo sistema que da soporte a todas las formas de vida. La UNED colaborará con expertos legales, académicos y tecnológicos para desarrollar un marco normativo que regule el uso de IA, asegurando la protección de datos y la transparencia en la toma de decisiones.
8. Evaluar y monitorear el uso de la Inteligencia Artificial.
Conformando un comité de evaluación de la implementación de IA que pueda generar recomendaciones a la hora de aplicar, desarrollar o crear herramientas de IA en cualquiera de los procesos y acciones de las áreas sustantivas institucionales.
Referencias
Scolari, C. (2023). Hipermediaciones. Retrieved from https://hipermediaciones.com/2023/05/14/10-tesis-sobre-la-ia/ UNESCO. (2019a).
UNESCO – Organización de las Naciones Unidades para la Educación, la Ciencia y la Cultura (2022). Recomendación sobre la Ética de la Inteligencia Artificial. Paris: Impresión UNESCO. Recuperado en https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa.
[/responsivevoice]
