“Frenología” suena anticuado. Parece que pertenece a un libro de historia, archivado en algún lugar entre las sangrías y los velocípedos. Nos gustaría pensar que juzgar la valía de las personas en función del tamaño y la forma de su cráneo es una práctica que ha quedado atrás. Sin embargo, la frenología vuelve a asomar su grumosa cabeza.
En los últimos años, los algoritmos de aprendizaje automático han prometido a gobiernos y empresas privadas el poder de extraer todo tipo de información del aspecto de las personas. Varias empresas emergentes afirman ahora que son capaces de utilizar la inteligencia artificial (IA) para ayudar a los empresarios a detectar los rasgos de personalidad de los candidatos a un empleo basándose en sus expresiones faciales. En China, el gobierno ha sido pionero en el uso de cámaras de vigilancia que identifican y rastrean a las minorías étnicas. Por otra parte, se ha sabido de escuelas que han instalado sistemas de cámaras que sancionan automáticamente a los niños que no prestan atención, basándose en movimientos faciales y microexpresiones, como el movimiento de las cejas.
Quizás lo más notorio sea que, hace unos años, los investigadores en IA Xiaolin Wu y Xi Zhang afirmaron haber entrenado un algoritmo para identificar a delincuentes basándose en la forma de sus caras, con una precisión del 89,5%. No llegaron a refrendar algunas de las ideas sobre la fisonomía y el carácter que circularon en el siglo XIX, sobre todo a partir de la obra del criminólogo italiano Cesare Lombroso: que los delincuentes son bestias subhumanas poco evolucionadas, reconocibles por su frente inclinada y su nariz de halcón. Sin embargo, el intento aparentemente tecnológico del reciente estudio de identificar los rasgos faciales asociados a la delincuencia toma prestado directamente del “método de composición fotográfica” desarrollado por el multidisciplinar victoriano Francis Galton, que consistía en superponer los rostros de varias personas de una determinada categoría para encontrar los rasgos indicativos de cualidades como la salud, la enfermedad, la belleza y la delincuencia.
Los comentaristas tecnológicos han tachado estas tecnologías de reconocimiento facial de “frenología literal”; también las han relacionado con la eugenesia, la pseudociencia que pretende mejorar la raza humana animando a reproducirse a las personas consideradas más aptas. (El propio Galton acuñó el término “eugenesia”, describiéndolo en 1883 como “todas las influencias que tienden, en cualquier grado remoto, a dar a las razas o cepas de sangre más aptas una mayor oportunidad de prevalecer rápidamente sobre las menos aptas de la que habrían tenido de otro modo”).
En algunos casos, el objetivo explícito de estas tecnologías es negar oportunidades a los considerados no aptos; en otros, puede que no sea el objetivo, pero es un resultado previsible. Sin embargo, cuando descartamos los algoritmos tachándolos de frenología, ¿cuál es exactamente el problema que intentamos señalar? ¿Estamos diciendo que estos métodos son científicamente defectuosos y que realmente no funcionan, o que es moralmente incorrecto utilizarlos a pesar de todo?
Texiste una larga y enmarañada historia sobre la forma en que se ha utilizado “frenología” como un insulto fulminante. Las críticas filosóficas y científicas a este empeño siempre han estado entrelazadas, aunque su imbricación ha cambiado con el tiempo. En el siglo XIX, los detractores de la frenología se opusieron al hecho de que ésta intentara determinar la ubicación de las distintas funciones mentales en diferentes partes del cerebro, algo que se consideraba herético, pues ponía en tela de juicio las ideas cristianas sobre la unidad del alma. Curiosamente, sin embargo, tratar de descubrir el carácter y el intelecto de una persona basándose en el tamaño y la forma de su cabeza no se percibía como una cuestión moral grave. Hoy, en cambio, la idea de localizar las funciones mentales es bastante incontrovertible. Puede que los científicos ya no piensen que la destructividad se asienta sobre la oreja derecha, pero la idea de que las funciones cognitivas pueden localizarse en determinados circuitos cerebrales es un supuesto habitual en la corriente principal de la neurociencia.
La frenología tuvo su origen en la ciencia y la psicología.
La frenología también recibió críticas empíricas en el siglo XIX. Se debatió sobre qué funciones residían dónde y si las mediciones del cráneo eran una forma fiable de determinar lo que ocurría en el cerebro. Sin embargo, la crítica empírica más influyente a la antigua frenología provino de los estudios del médico francés Jean Pierre Flourens, basados en dañar los cerebros de conejos y palomas, de los que concluyó que las funciones mentales están distribuidas, no localizadas. (El hecho de que la frenología fuera rechazada por razones que la mayoría de los observadores contemporáneos ya no aceptarían, hace que sea más difícil averiguar a qué nos referimos cuando utilizamos “frenología” como calificativo hoy en día.
Tanto la “vieja” como la “nueva” frenología han sido criticadas por sus métodos chapuceros. En el reciente estudio de la IA sobre la delincuencia, los datos procedían de dos fuentes muy distintas: fotos de condenados y fotos de sitios web de trabajo de no condenados. Este hecho por sí solo podría explicar la capacidad del algoritmo para detectar una diferencia entre los grupos. En un nuevo prólogo del artículo, los investigadores también admiten que considerar las condenas judiciales como sinónimo de criminalidad fue un “grave descuido”. Sin embargo, los autores consideran que equiparar las condenas a la delincuencia es sobre todo un error empírico: utilizar las fotos de los delincuentes condenados, pero no las de los que escaparon, introduce un sesgo estadístico. Dijeron que estaban “profundamente desconcertados” por la indignación pública ante un artículo que estaba destinado “a debates puramente académicos”.
Notablemente, los investigadores no comentan el hecho de que la propia condena depende de las impresiones que la policía, los jueces y los jurados se forman del sospechoso, lo que convierte la apariencia “criminal” de una persona en una variable de confusión. Tampoco mencionan cómo la intensa vigilancia policial de determinadas comunidades y la desigualdad en el acceso a la representación legal sesgan el conjunto de datos. En su respuesta a las críticas, los autores no se retractan de la suposición de que “ser delincuente requiere una serie de rasgos personales anormales (atípicos)”. De hecho, su planteamiento sugiere que la delincuencia es una característica innata, más que una respuesta a condiciones sociales como la pobreza o los malos tratos. En parte, lo que hace que su conjunto de datos sea cuestionable desde el punto de vista empírico es que quién recibe la etiqueta de “delincuente” difícilmente tiene un valor neutro.
Una de las objeciones morales más fuertes al uso del reconocimiento facial para detectar la delincuencia es que estigmatiza a las personas que ya están sometidas a una vigilancia policial excesiva. Los autores afirman que su herramienta no debe utilizarse para hacer cumplir la ley, pero sólo citan argumentos estadísticos sobre por qué no debe desplegarse. Señalan que la tasa de falsos positivos (50%) sería muy alta, pero no tienen en cuenta lo que eso significa en términos humanos. Esos falsos positivos serían individuos cuyos rostros se parecen a los de personas que han sido condenadas en el pasado. Dados los prejuicios raciales y de otro tipo que existen en el sistema de justicia penal, estos algoritmos acabarían sobrestimando la criminalidad entre las comunidades marginadas.
El problema más controvertido es que los algoritmos no son capaces de detectar a los delincuentes.
La cuestión más controvertida parece ser si reinventar la fisonomía es un juego limpio a efectos de “pura discusión académica”. Se podría objetar por motivos empíricos: los eugenistas del pasado, como Galton y Lombroso, no lograron encontrar rasgos faciales que predispongan a una persona a la delincuencia. Eso se debe a que no se encuentran tales conexiones. Del mismo modo, los psicólogos que estudiaban la heredabilidad de la inteligencia, como Cyril Burt y Philippe Rushton, tuvieron que jugar rápido con sus datos para fabricar correlaciones entre el tamaño del cráneo, la raza y el CI. Si hubiera algo que descubrir, es de suponer que las muchas personas que lo han intentado a lo largo de los años no se habrían quedado en blanco.
El problema de reinventar la inteligencia es que no hay nada que descubrir.
El problema de reinventar la fisiognomía no es simplemente que ya se haya intentado antes sin éxito. Los investigadores que persisten en buscar la fusión fría después de que el consenso científico haya pasado página también se enfrentan a críticas por perseguir unicornios, pero la desaprobación de la fusión fría dista mucho de ser oprobio. En el peor de los casos, se les considera una pérdida de tiempo. La diferencia es que los daños potenciales de la investigación de la fusión fría son mucho más limitados. En cambio, algunos comentaristas argumentan que el reconocimiento facial debería regularse tan estrictamente como el plutonio, porque tiene muy pocos usos no perjudiciales. Cuando el proyecto sin futuro que quieres resucitar se inventó con el fin de apuntalar las estructuras coloniales y de clase -y cuando lo único que es capaz de medir es el racismo inherente a esas estructuras-, es difícil justificar que se intente una vez más, sólo por curiosidad.
Sin embargo, llamar reconocimiento facial a un proyecto sin futuro no es más que una forma de medir el racismo inherente a esas estructuras.
Sin embargo, llamar “frenología” a la investigación sobre el reconocimiento facial sin explicar lo que está en juego probablemente no sea la estrategia más eficaz para transmitir la fuerza de la denuncia. Para que los científicos se tomen en serio sus responsabilidades morales, deben ser conscientes de los daños que pueden derivarse de sus investigaciones. Es de esperar que explicar con mayor claridad lo que está mal en el trabajo etiquetado como “frenología” tenga más repercusión que limitarse a lanzar el nombre como un insulto.
”
•••
Es becaria postdoctoral en Filosofía y Ética de la Inteligencia Artificial en el Centro de Ciencia y Pensamiento de la Universidad de Bonn (Alemania), y en el Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge.
Catherine Stinson
