El valor (The value)

Video, 2023

El valor is a dialogue with different AI applications and platforms about faces, heredity, genetics, and family archive. The responses, both image design and text development, have highlighted the racist and classist logics of AI.

El proyecto empezó como un juego de reconocimiento facial entre imágenes de archivo de mi madre y mías, nos parecemos mucho. Le pedí a ChatGPT que me explicase como “leer y descifrar el rostro” y me respondió diciendo: “la distancia entre las cejas, la anchura de la nariz o la altura de los pómulos pueden ser indicadores de la personalidad y el comportamiento” esto me causó sorpresa y espanto. El estudio de los rasgos faciales para definir un carácter es una de las bases del racismo científico, la Eugenesia. La selección artificial de individuos, basada en esta teoría de Francis Galton de 1865, fue la utilizada en el darwinismo social de finales del s. XIX y en las políticas de genocidio y de esterilización forzada del programa AKTION T4, la eugenesia nazi, que esterilizó o asesinó a 275.000 personas con discapacidad, enfermedad mental u homosexuales. 

Cuando le pedí sobre la definición de Eugenesia a ChatGPT después de definir lo que ya había descrito anteriormente, apuntó que “actualmente se considera inaceptable debida a su asociación histórica con el racismo y la discriminación”, aun así minutos antes había dado esa definición por buena.

Al Bot de Midjourney le pedí que crease la imagen de “una mujer de 70 de Mallorca”, para recrear con AI la imagen actual de mi madre, en cambio, el resultado fueron mujeres rubias, de rasgos nórdicos y de poder adquisitivo muy alto, indignada le respondí al Bot: “/imagine: can you please be not racist, not clasist” entonces bloqueó mi frase contestando que la palabra “racist” era vetada por la plataforma, aun habiendo demostrado que sus resultados -y por extensión base de datos- lo eran evidentemente.

Accedí a otras plataformas gratuitas de AI con las que para envejecer o rejuvenecer nuestros rostros, al filtro belleza le acompañaba un estiramiento o borrado de arrugas y expresiones faciales, un blanqueamiento de nuestra piel y aclarado del tono de nuestros ojos, también al filtro envejecimiento le acompañaba esta supuesta “dulcificación aria”.

También a Midjourney le pedí que crease modelos de IA familiares de otras procedencias y continentes: Asia, África, América, etc. ante esas demandas me demostró que sí tenía otros referentes, en cuanto a color de piel o rasgos, en cambio, los predominantes eran los blancos.  

Al igual que las bases de datos no son neurales, mucho menos lo es el algoritmo que las organiza.

El sesgo de edad, color y clase se hizo patente en este juego, que realicé a partir de imágenes de archivo familiar, con el que quiero poner en valor la herencia genética y biológica, y en cuestión la manipulada o suplantada, que está claramente ideologizada. 

El algoritmo de las plataformas de AI gratuitas (con las que he trabajado para la realización del vídeo) crea una tabla de valores, que se rigen por una lógica y una estética, que corresponde y visibiliza como opera el poder, el de estas empresas y el de la Red, de donde toma sus datos.