Hacia una Inteligencia Artificial por y para la sociedad

Nuria Oliver, Ingeniera de Telecomunicaciones. Doctora Honoris Causa UMH. Primera directora de investigación en Data Science en Vodafone, Ltd.

La Inteligencia Artificial (IA) se encuentra en el corazón de la cuarta revolución industrial en la que estamos inmersos. La IA es la disciplina dentro de la informática o la ingeniería cuyo objetivo es el desarrollo de sistemas computacionales (no biológicos) inteligentes, tomando como referencia la inteligencia humana. Del mismo modo que la inteligencia humana es diversa, compleja y múltiple, la Inteligencia Artificial tiene muchas áreas de investigación.

Tiene un gran poder transformacional ya que es transversal (es decir, se puede aplicar a cualquier ámbito social y del conocimiento, incluyendo áreas tan importantes como la medicina, la educación, la banca, la industria, el transporte, el comercio, los servicios digitales, la ciencia, etc..), invisible (es decir, es software), escalable y compleja (permitiéndonos además manejar e interpretar la complejidad), actualizable (al ser software) y con capacidad para no solo explicar el pasado o interpretar el presente, sino realizar predicciones futuras. Al mismo tiempo, la IA tiene otras características que no son tan positivas: en primer lugar, genera situaciones de asimetría (respecto al acceso a los datos necesarios para entrenar los algoritmos de IA y respecto a la disponibilidad de las capacidades y los medios necesarios para poder aprovechar la IA); en segundo lugar, no es invulnerable al ser software y puede ser hackeada; finalmente, con técnicas de IA podemos generar contenido sintético (texto, video, imágenes o audio) totalmente indistinguible del contenido veraz.

Dada la importancia de la IA y los retos que presenta, mas de 25 países del mundo han elaborado sus estrategias nacionales de IA, para asegurarse por una parte que el país no queda descolgado de esta revolución y, por otra parte, para optimizar y maximizar el impacto positivo de la IA en la sociedad. En este contexto, dos comunidades autónomas (Cataluña y la Comunidad Valenciana) también han publicado sus estrategias de IA. Destaca la estrategia de la Comunidad Valenciana por sus tres pilares que marcan la hoja de ruta de inversión y desarrollo de la IA: la competitividad, la inclusividad y el foco en el bienestar de las personas y el planeta. No podemos olvidar que hay inmensas oportunidades de aplicación de la IA en el sector público, para ayudarnos a tomar mejores decisiones –basadas en la evidencia—que impactan en la vida de millones de personas.

Europa, desgraciadamente, se está quedando relegada frente a EEUU y China en el desarrollo de la IA. Por ello, los investigadores europeos nos hemos movilizado y hemos creado ELLIS, the European Laboratory of Learning and Intelligent Systems. Nuestro objetivo es conseguir atraer, retener y cultivar el talento excelente en Inteligencia Artificial en Europa. Hace unas semanas ELLIS anunció el establecimiento de 17 nodos ELLIS de investigación en Europa, incluyendo un nodo en Alicante, que estoy en proceso de crear.

Estará enfocado en la investigación en Inteligencia Artificial centrada en las personas, con tres áreas de investigación: el modelado computacional del comportamiento humano utilizando técnicas de inteligencia artificial; el desarrollo de sistemas inteligentes e interactivos y la resolución de las limitaciones de los sistemas actuales de Inteligencia Artificial, incluyendo la discriminación algorítmica, la falta de transparencia, la opacidad con respecto a la atribución de responsabilidad, la manipulación subliminal del comportamiento humano, la generación de contenidos no veraces (deep fakes).

Esta última área de investigación está muy alineada con el marco ético para el desarrollo de la Inteligencia Artificial que propongo y que queda captado en el acrónimo FATEN (en inglés):

–F de fairness o justicia, es decir, sin discriminar.

–A de autonomía, es decir, garantizando que cada persona tiene libertad de pensamiento y acción sin ser manipulada por algoritmos de IA; A de accountability, es decir, con clara atribución de la responsabilidad de las consecuencias del uso de sistemas de IA; y A de aumento de la inteligencia humana en lugar de sustitución de la misma.

–T de trust, confianza y T de transparencia.

–E de educación, invirtiendo en una transformación de la educación en todos los niveles, desde la educación obligatoria a la educación a los profesionales y a la ciudadanía; E de equality o igualdad, asegurándonos que el desarrollo de la IA contribuye a conseguir más igualdad en el mundo; y E de eficiencia, es decir, maximizando el impacto positivo, con veracidad, sostenibilidad y diversidad.

–N de no-maleficiencia, es decir, minimizando el impacto negativo, con garantías de reproducibilidad, seguridad, fiabilidad y preservando siempre la privacidad de las personas.

Será solamente cuando respetemos estos requisitos que seremos capaces de avanzar y conseguir uno de mis sueños: un modelo de gobernanza democrática basado en los datos y la Inteligencia Artificial, por y para las personas.