“Contra los sesgos en inteligencia artificial buscamos talento de diferentes continentes, géneros y orientaciones sexuales”

África Periáñez (Madrid, 1980), es la fundadora y CEO de benshi.ai, una organización sin ánimo de lucro recién creada, que tiene su sede en Barcelona y está 100 % financiada por la Fundación Bill y Melinda Gates. La poderosa institución ha aportado casi nueve millones de dólares (unos 7,5 millones de euros) para los próximos dos años con objeto de que ella y su equipo desarrollen una plataforma de aprendizaje automático y de predicción de comportamiento que mejore las aplicaciones móviles de salud usadas en países con menos recursos. Por ejemplo, apps destinadas a matronas, telemedicina y manejo de enfermedades epidemiológicas, como sida malaria y covid-19, entre otras.

Esta científica de datos y emprendedora ha pasado gran parte de su carrera profesional en Japón, trabajando en el ámbito de los videojuegos. Allí fundó la compañía Yokozuna Data, dedicada a predecir el comportamiento de los gamers con algoritmos de machine learning. Regresó a España a finales de 2019 para trabajar como directora de análisis de Inditex, donde dirigió la investigación, la aplicación y el desarrollo de la ciencia de datos en toda la organización. Pero, pese a interesarle mucho el proyecto, permaneció poco tiempo en el puesto. “Recibí una llamada con un propuesta difícil de rechazar”, dice con una gran sonrisa.

La Fundación Bill y Melinda Gates nos ha propuesto mejorar las ‘apps’ de salud, por ejemplo, las de aprendizaje de las matronas, con nuestra plataforma de ‘machine learning’, que cuenta con sistemas de recomendación, predicción individualizada de comportamiento y experimentación

¿Cómo se siente una cuando le llaman de la Fundación Bill y Melinda Gates con una propuesta así?

Era una oportunidad tan bonita que no tuve que pensármelo. Esta fundación nos ha fichado para introducir mejoras en las apps de salud utilizando la inteligencia artificial [IA]. Entre otras cosas, vamos a trabajar en incentivar el refuerzo positivo y el mejorar comportamientos de los usuarios de estas aplicaciones. Nuestra misión es traer los algoritmos más avanzados de aprendizaje automático de personalización, que utilizan las aplicaciones de grandes compañías tecnológicas, al campo de salud de los países con menos recursos.

Para ello, hemos creado benshi.ai, una organización sin ánimo de lucro que está financiada al 100 % por la Fundación de Bill y Melinda Gates y opera como un brazo suyo. Nuestra sede está en Barcelona y ya tenemos presupuesto: cerca de nueve millones de dólares para los próximos dos años [7,5 millones de euros]. Estamos muy contentos y motivados.

¿En qué está trabajando ahora benshi.ai?

Hemos registrado nuestra fundación y estamos desarrollando una plataforma de aprendizaje automático que va a tener diferentes productos, como sistemas de recomendación, predicción individualizada sobre el comportamiento de los usuarios de las apps sanitarias y un sistema de experimentación.

¿Estáis usando ya la plataforma en algo concreto?

Sí, la plataforma la seguimos mejorando en los aspectos que mencionaba —predicción, experimentación y recomendación—, pero ya estamos trabajando con otra organización sin ánimo de lucro, llamada Maternity Fundation, [también financiada por la organización de Gates], que hace aplicaciones de online learning para matronas. Ellos ya llevan trabajando bastante tiempo y están en casi toda África, en India y en muchos países del este asiático. Su app se llama Safe Delivery y está pensada para formar a las matronas en la ayuda al parto en estos países.

Cada día 800 mujeres mueren por complicaciones relacionadas con embarazos y partos, por eso una mejora de la formación de las matronas y de los recursos que pueden utilizar es crucial

Hay muchas organizaciones que invierten en matronas porque son mujeres que ayudan a otras mujeres. Están muy abandonadas por las instituciones en estos países, donde cada día 800 mujeres y 14.000 bebés mueren por complicaciones relacionadas con embarazos y partos. Por eso una mejora del conocimiento y de los recursos que pueden utilizar es crucial.

África Periañez during a moment of the interview / Álvaro Muñoz Guzmán / SINC

¿Y qué mejoras vais a introducir en la ‘app’ Safe Delivery?

Primero, estamos desarrollando modelos predictivos que nos ayuden a determinar cómo usan la aplicación en sus móviles las matronas. Por ejemplo, cuándo se van a conectar la próxima vez y qué módulos consultarán. Para todo eso usamos algoritmos que unen la modelización autorregresiva y de aprendizaje profundo como DeepAR. 

Una vez qué sabemos más sobre qué harán y cómo van a usar la app, podemos empezar a crear incentivos basándonos en los datos de su comportamiento. Esto lo hacíamos también en videojuegos para motivar a los gamers. En las aplicaciones de salud también se puede usar esta tecnología para cambiar comportamientos.

En la aplicación Safe Delivery incluimos modelos predictivos para determinar cómo usan la ‘app’ en sus móviles las matronas. Por ejemplo, cuándo se van a conectar la próxima vez y qué módulos consultarán, y así elegir el mejor momento para enviar las notificaciones

¿Qué incentivos se le pueden dar a una matrona de estos países?

Para investigar esto, estamos utilizando una herramienta que hemos desarrollado y a la que hemos llamado XP Engine. Este sistema nos permite hacer experimentación para probar distintas aproximaciones a la hora, por ejemplo, de decidir qué incentivo va a funcionar mejor: económicos, alimentos, material de trabajo… Estos ‘premios’ pueden animar a las matronas de estos países a que consulten más la app siempre que recomendamos los módulos concretos que van a necesitar y mejorar su formación y su práctica en el momento del parto. Se trata de enviar el incentivo más adecuado a cada matrona. También utilizamos modelos de aprendizaje por refuerzo para mejorar su formación.

¿Cómo ayudan estos modelos?

Los modelos de aprendizaje por refuerzo son agentes de IA que automáticamente aprenden cómo reacciona cada matrona frente a las diferentes intervenciones que enviamos. De este modo, podemos optimizar cada notificación que reciba en su móvil con el contenido adecuado y a la mejor hora para que pueda asimilar la información y aplicarla. Por ejemplo, ¿es mejor enviarle la recomendación justo en el momento en que está asistiendo a un parto? ¿O la noche antes para que no se le olvide cierto material y lo tenga más fresco?

Tenemos en cuenta muchos componentes. Es necesario saber cuál es el mejor momento para hacer estos envíos. Por eso recurrimos a los científicos del comportamiento que nos dan consejos del tipo: “Tened cuidado porque si queréis mandar una recomendación por la noche en algunos países africanos es común que las mujeres no los miren durante esas horas”. Hay muchas cosas que no podemos ver con los datos y que intentamos complementar con los conocimientos de estos expertos.

Con el módulo de experimentación probamos qué incentivo va a funcionar mejor y, además, tenemos en cuenta las recomendaciones de los científicos del comportamiento para completar la información que no nos dan los datos

¿En qué países estáis trabajando y en qué otras áreas?

Actualmente, trabajamos en Etiopía y la India en los proyectos con matronas, y estamos ya recibiendo datos de casi todos los países del África subsahariana.

También hemos comenzando a trabajar para mejorar apps de diagnóstico general en otros países africanos como Nigeria, Kenya y Ghana. Y con aplicaciones en el ámbito de farmacia con el fin de asegurar el correcto uso de los medicamentos, incentivar el seguimiento de los tratamientos y realizar los test necesarios para garantizar el control de enfermedades como el sida, la malaria o la covid-19.

Vamos a investigar qué incentivos se pueden dar con el fin de que estas personas cambien sus hábitos para que, por ejemplo, pacientes que no se toman la medicación lo hagan o recojan los resultados de los análisis y pruebas que les han hecho.

Interview with África Periáñez. / Álvaro Muñoz Guzmán / SINC

¿Tenéis colaboraciones con instituciones de investigación?

Sí, estamos colaborando con universidades para transformar los resultados de la investigación en sistemas en producción en nuestra plataforma. Actualmente, cooperamos con el grupo de Statistical Reinforcement Learning de la Universidad de Harvard. También con la Universidad de California en el área de desarrollo de encuestas personalizadas con las matronas para mejorar el análisis del impacto que estas recomendaciones e incentivos personalizados tienen en ellas, más allá de analizar los datos que generan en las apps.

Uno de los principales problemas en el tema de sesgos de la IA es que la mayoría de los científicos de datos son hombres blancos heterosexuales de países ricos. Al final uno mismo no es consciente de los sesgos que tiene

Los algoritmos de la IA tienen muy mala fama por los sesgos de todo tipo que introducen. ¿Cómo se puede mitigar este problema?

Uno de los principales problemas en el tema de sesgos de la IA es que la mayoría de los científicos de datos son hombres blancos heterosexuales de países ricos. Al final uno mismo no es consciente de los sesgos que tiene.

Creo que para mejorar esto es importante tener equipos diversos. Nosotros es algo en lo que estamos esforzándonos muchísimo. Para ello, estamos intentando atraer talento de África y de otros lugares. También queremos abrir una oficina en Zambia y Nigeria y nuestro personal está formado por gente de diferentes continentes, religiones, género —somos más mujeres que hombres— y orientación sexual.

Además, tenemos una colaboración estrecha con científicos del comportamiento que están en los países donde estamos trabajando porque, como decía antes, muchas veces solo con los datos no es suficiente.