En otra demostración de que la IA puede ver cosas que los humanos inherentemente no pueden, los investigadores han descubierto que la IA puede identificar razas a partir de imágenes de rayos X, a pesar de que no hay una diferencia clara para los expertos humanos. Basándose solo en imágenes de rayos X y tomografía computarizada, la IA pudo identificar la raza con una precisión de alrededor del 90 por ciento y los científicos no pueden entender cómo puede hacerlo.
Los resultados sugieren que se debe tener extrema precaución al implementar IA en tecnologías médicas, ya que incluso cuando se proporcionan imágenes que se consideran anónimas, borrosas o corruptas, la IA aún puede caracterizarlas.
La investigación fue publicada en Lancet Digital Health.
“Cuando mis estudiantes de posgrado me mostraron algunos de los resultados que estaban en este artículo, en realidad pensé que debía ser un error”, dijo Marzyeh Ghassemi, profesora asistente de ingeniería eléctrica e informática del MIT, y coautora del artículo, en un comunicado al Boston Globe.
“Honestamente, pensé que mis alumnos estaban locos cuando me lo dijeron”.
Para probar la capacidad de la IA para identificar imágenes, primero se alimentó un modelo de aprendizaje profundo con imágenes de tomografía computarizada y rayos X de muchas áreas diferentes del cuerpo en varios grupos de personas, con cada imagen etiquetada con la raza de la persona. Luego, se eliminaron las etiquetas, junto con cualquier posible característica de identificación, como el color de la piel y el color del cabello. Para cada imagen, se le pidió a la IA que identificara la raza del individuo.
 |
| Los científicos no tienen claro cómo hace la IA para tener tales aciertos. |
Para todas las áreas del cuerpo, la IA pudo identificar la raza con una precisión de alrededor del 90 por ciento, incluso sin ninguna característica de identificación.
Cubriendo todas las bases, los investigadores se preguntaron si la IA estaba siendo astuta y usaba estadísticas para hacer conjeturas basadas en covariables, como el índice de masa corporal (IMC) o la densidad mamaria, lo que podría sugerir una carrera sobre otra. Los investigadores eliminaron las posibles covariables y solo mostraron los conjuntos de datos de IA de personas con IMC y tipos de cuerpo similares, pero aun así la IA pudo identificar la raza.
¿Cómo puede hacerlo? Francamente, los investigadores no están seguros.
Esta no es la primera vez que la IA sorprende a los científicos al identificar razas en condiciones casi imposibles: estudios anteriores han demostrado que puede hacerlo cuando la imagen está muy dañada o alterada. Sin embargo, la eliminación de las covariables hace que los resultados sean desconcertantes. Los investigadores plantean la hipótesis de que la IA puede identificar variaciones de melanina entre la piel de personas negras y blancas, que pueden aparecer en tomografías computarizadas y rayos X y los humanos nunca lo han notado. Sin embargo, esa es solo una idea, y el verdadero trabajo ahora comienza a comprender los resultados.
De todos modos, la información debería generar una seria preocupación sobre el uso de la IA en los hospitales y cómo pueden reaccionar de manera diferente a las diferentes razas, algo que se ha visto muchas veces en el despliegue de la IA.
“Necesitamos hacer una pausa”, dijo Leo Anthony Celi, coautor y profesor asociado de la Escuela de Medicina de Harvard, al Boston Globe.
“No podemos apresurarnos a llevar los algoritmos a hospitales y clínicas hasta que estemos seguros de que no están tomando decisiones racistas o sexistas”.
Fuente: https://www.iflscience.com/technology/ai-can-identify-race-from-just-xrays-and-scientists-have-no-idea-how/