Actualmente Gabriela trabaja en el desarrollo de una metodología sociológica para identificar sesgos en el desarrollo de modelos de IA, la creación de una guía de trabajo ético para los proyectos de transferencia tecnológica en CENIA, el uso de IA generativa en educación a través de chatbots y modelos de lenguaje, y un diagnóstico con perspectiva de género de aplicaciones de IA en salud en Chile. Además la académica e investigadora, participa en consultas expertas por parte de UNESCO para el desarrollo de directrices éticas para las neurotecnologías, y como experta en las mesas de discusión de la Comisión de Futuro del Senado Chileno, para la promulgación de la primera ley sobre IA en el país. Uno de sus hitos más importantes de lo que va este 2024, es la publicación de su primer libro titulado “Los sesgos del algoritmo: la importancia de diseñar una inteligencia artificial ética e inclusiva”, desmitifica lo que significa hablar de sesgos en IA desde una perspectiva sociotécnica, y cómo podemos desde el feminismo de la ciencia y de los datos, adoptar una metodología que nos permita avanzar en la verdadera inclusión en un futuro de coevolución con la IA. ¿Por qué es importante que haya un curso de Ética aplicada en el programa? “Yo creo que es importante porque existe una brecha, donde muchas de las personas que ya son profesionales y que llevan años en la industria, tienen experiencia. Ese es un aspecto valorable e importante, porque tienen que llevar a cabo procesos, en donde no hubo formación de ética robusta en su pregrado”. Gabriela enfatiza en que hay que entender esas dificultades, hacernos cargo de esa brecha y este curso, de alguna manera, busca apoyar y contribuir a reducir esa falta de conocimiento formal, que puedan tener y complementar la experiencia y los casos a los que ellos enfrentan en su trabajo en el día a día para ofrecerles herramientas que les permitan tomar mejores decisiones y que se alineen con los intereses de las empresas en las que trabajan. El curso de ética aplicada en IA impartida por la investigadora de Cenia, propone crear un vínculo entre las directrices que está teniendo la adopción de la inteligencia artificial a nivel país con la política de inteligencia artificial, la cual está pensada en una integración más ética, más inclusiva, más reflexiva y crítica, enfocada y alineada a las discusiones que se están desarrollando en Chile. En cuanto al nivel global hay un trabajo de enseñar sobre regulación y la importancia de poder tener estas herramientas integradas. Con respecto a la dinámica de enseñanza, la académica propone trabajar cuestiones éticas. Estos problemas están basados en principios, donde los y las estudiantes tienen que leer textos filosóficos y técnicos sobre temas de ética e Inteligencia Artificial. Gabriela Arriagada, destaca además la profundización que tiene el curso, donde se aborda qué significa un argumento moral, una teoría y cómo esto permite generar lógicamente y de forma robusta, justificaciones acerca de decisiones y acciones, en donde para lograr eso, es necesario crear un diálogo, aprender a realizar argumentos que tomen posiciones reflexivas, dado que al trabajar con tecnologías es imprescindible que los profesionales que egresen del programa sean capaces de integrar y explicar cómo utilizan estas tecnologías y con qué propósito. Metodologías y evaluaciones del curso Gabriela utiliza un particular formato de evaluación que tiene que ver con la dinámica y la metodología activa de la enseñanza, y así también son las evaluaciones. Evaluaciones grupales e individuales. Se trabaja con tres categorías de evaluación, pero la base son las actividades por puntos de experiencia, entonces ellos y ellas van recibiendo retroalimentación de actividades concretas y luego rinden una evaluación final, que es la combinación de todas las actividades del bimestre, donde hay un resultado de la acumulación de conocimiento práctico y reflexivo, que demuestra que son capaces de aplicar, por ejemplo: informes sociotécnicos, checklist éticos, etc. Básicamente son argumentos para poder explicar a otros y/o usuarios, colegas o incluso directivos, cuáles son las razones que tenemos para poder seguir en la implementación o el desarrollo de una tecnología de inteligencia artificial. La académica cree firmemente que no sólo se debería impartir un curso de ética, sino un segundo curso complementarioDesde las palabras de Gabriela: “Este curso es introductorio, se ven principios generales, aplicaciones específicas, maneras de entender un problema, ciertas estrategias metodológicas de argumentación ética. Sin embargo, hay muchas otras cosas concretas que se pueden estudiar. Se podría implementar talleres de programación relacionados con métricas o mitigación de sesgos, privacidad de seguridad, entre otros. Lo importante es ir profundizando en temáticas para que cuando estén generando sus proyectos de grado, puedan tener acceso a ciertos colectivos, puedan enfocarse en ideas que tengan un alto impacto social, de esta forma acceden a tener algún seminario electivo o un trabajo específico con ética para que puedan incluir eso en sus proyectos”. Maximiliano Cruz Quiroga, estudiante del programa, se refiere al curso Ética aplicada en IA:“Un curso entretenido, útil y que presenta tanto casos reales como herramientas para enfrentar de manera consciente y robusta los desafíos que presentan áreas como la Ciencia de Datos e Inteligencia Artificial. Desde el comienzo se propone una visión práctica y teórica, sin abusar de términos o conceptos complejos. Se invita a reflexionar para luego proponer soluciones aplicadas, dejando claro que estos desafíos no son exclusivos de la Inteligencia Artificial, sino que han estado presentes a lo largo de la historia de la humanidad. Este curso proporciona mecanismos para ser un profesional consciente y responsable en la toma de decisiones que presenta el mundo de manera continua. Permite tener una visión y argumentación completa de cómo actuar de manera responsable y consciente, lo cual es y será cada vez más relevante al desarrollarse profesionalmente en estos ámbitos. Creo que es crucial contar con este tipo de cursos dentro del magíster, ya que aborda temas cada vez más relevantes para quienes desean ser un aporte a la sociedad desde cualquier ámbito”.
