OlivIA es una herramienta de Chat GPT que identifica sesgos y errores basados en estereotipos de género. Creada por la abogada y comunicadora feminista argentina Ana Correa, tiene como objetivo identificar desigualdades simbólicas o estructurales y oportunidades para promover una mayor equidad. En pocas palabras, “se le puede hacer cualquier pregunta que se le haría al Chat GPT general, pero sabiendo que va a tener cuidado de no tener una mirada sesgada”, describe su creadora.
“Hay un problema con la IA generativa, no sólo con Chat GPT, de que al basarse en los datos disponibles, incurre en lo que algunos llaman ‘bucles de retroalimentación’», dice Correa. Y explica: “Con la brecha digital de género existente, sumado a una menor participación de las mujeres en los últimos tiempos en debates en las redes sociales y sin un claro entendimiento de los procesos que hay detrás de cada dato que muestra internet, los resultados salen sesgados”.
En este marco, OlivIA podría ser un oasis al poder detectar si una política pública tiene enfoque de género, analizar imágenes, campañas y discursos con mirada crítica, visibilizar desigualdades en la representación de mujeres y disidencias o aportar argumentos desde los derechos humanos para la revisión de textos jurídicos.
De todas maneras, “para que quede claro que ninguna respuesta es la verdad revelada, además de darte elementos”, OlivIA propone preguntas como “¿No estarás dejando afuera a una parte de la audiencia? ¿Chequeaste que los síntomas de determinada enfermedad son diferentes para mujeres que para hombres? ¿No te parece que falta una opinión aquí? ¿Querés que te ayude a buscarla?”.
Lejos de dar una respuesta final, OlivIA ayuda a los usuarios a cuestionar sus trabajos, sus hábitos, la información y las fuentes de información de donde son obtenidas las respuestas que da Chat GPT en general.
Entrenar una IA
Para entrenar esta inteligencia artificial creada dentro del ecosistema de Chat GPT, Correa le acercó estudios e instrumentos para que realice un ejercicio de autoevaluación y cuestionamiento que proporcionó la jurista Katharine T. Bartlett, en su artículo “Feminist Legal Methods”.
“Allí planteó una metodología clave para el análisis jurídico desde una perspectiva feminista. Una de sus principales herramientas es lo que ella denomina ‘la pregunta por las mujeres’ o también conocida como ‘preguntarse por la mujer’, la cual busca develar cómo las leyes, políticas o prácticas afectan de manera particular a las mujeres y reproducen desigualdades. Esto lo podemos aplicar a todo”, desarrolla Correa.
De todas maneras, aunque está entrenada con información, investigaciones y datos, OlivIA no esta exenta de cometer errores. En palabras de su creadora, nada reemplaza el análisis de las personas humanas especializadas en el tema.
“Me encantaría que OlivIA abra más el debate sobre el problema de los sesgos en la IA. Es algo que se discute mucho entre especialistas, pero los usuarios no lo tienen tan presente”, manifiesta la comunicadora. Y agrega: “Sobre todo en un momento en el que está tan sesgado el discurso público en relación a desvirtuar la importancia de mirar el mundo con perspectiva de género, ¿qué mejor que haya un espacio para chequear algunas de las barbaridades que se afirman en un lugar que es muy usado actualmente?”.
Fuente: Agencia de Noticias UNQ
ADEMÁS EN NEA HOY:
REFSA anunció cortes de luz en Formosa: qué zonas serán afectadas este lunes 19 de mayo
El Gobierno eliminó 13 programas para prevenir la violencia de género
