Gobierno y empresas tecnológicas coinciden en que el desarrollo de la inteligencia artificial ha de basarse en normas éticas y en la colaboración público-privada

27 de abril de 2022

Carme Artigas, Secretaria de Estado de Inteligencia Artificial, en la jornada impulsada por OGA con APD en Málaga Tech Park: “Tenemos que conseguir liderar la industria de la IA en español”.

El Gobierno estima que la introducción de la IA en las pymes, tanto en su gestión como en la cadena de valor, les aporta un incremento del 20% al 40% de sus ganancias competitivas

Juan Carlos Rubio, director de OGA: “Hay que huir de la tecnolujuria, el camino correcto es enfocar la tecnología a un propósito, y establecer la trazabilidad y aplicabilidad de los algoritmos”.

OGA fomenta la ética como eje de sus soluciones basadas en datos para mejorar los procesos esenciales de empresas y organizaciones.

Ética es una palabra de enorme significado, hay que aterrizarla en el uso concreto de la tecnología para ejemplos en concreto. Considero fundamental evitar la contraposición entre tecnología y personas, y entre tecnología y normativas. Hay que establecer la trazabilidad y aplicabilidad de los algoritmos, y hay que huir de la tecnolujuria, el camino correcto es enfocar la tecnología a un propósito. Para ello, se necesitan marcos normativos claros donde siempre nos sentiremos cómodos quienes tenemos la conciencia de querer siempre trabajar de modo correcto”. Son algunas de las claves expuestas por el director de la empresa OGA, Juan Carlos Rubio Sánchez, en la jornada ‘La Ética de la Inteligencia Artificial’, celebrada en la sede institucional de Málaga Tech Park y organizada con la Asociación para el Progreso de la Dirección (APD).

La jornada reunió a personas de referencia en este tema crucial para el presente y el futuro de nuestra sociedad, tanto desde el ámbito de las políticas públicas como de la prestación pública de servicios, la investigación académica, o el desarrollo de proyectos y de creación de innovación desde empresas privadas. El fomento de la ética es uno de los valores corporativos esenciales de OGA para ser, desde Andalucía, una compañía de referencia europea en el ámbito de la inteligencia del negocio basada en datos, creando soluciones que transformen positivamente los procesos críticos de todo tipo de organizaciones.

El director de OGA presentó a la principal ponente de la jornada, Carme Artigas, secretaria de Estado de Digitalización e Inteligencia Artificial del Gobierno de España, que protagonizó la sesión inaugural hablando sobre ‘Desarrollo saludable y sostenible de la Inteligencia Artificial’.  Artigas destacó la creciente capacidad de Andalucía como polo de atracción de talento, para la inversión y para la innovación.

Inauguración de la jornada La Ética de la Inteligencia Artificial
De izquierda a derecha, Juan Carlos Rubio Sánchez, director de OGA; Carme Artigas, Secretaria de Estado de Digitalización e Inteligencia Artificial; Felipe Romera, director general de Málaga Tech Park, y Felipe Medina, director de APD en el sur de España, en la inauguración de la jornada 'La Ética de la Inteligencia Artificial'.

Claves expuestas por Carme Artigas para el desarrollo saludable y sostenible de la IA

Estas son las principales claves expuestas por la Secretaria de Estado al frente de la Estrategia Nacional de Inteligencia Artificial (ENIA):

  • O la inteligencia artificial es ética, o no será desarrollo para el conjunto de la sociedad.
  • Los dos grandes desafíos que no podemos posponer para endosárselo a las siguientes generaciones son el cambio climático y el marco ético del desarrollo tecnológico. O lo hacemos ahora, o no habrá segunda oportunidad, porque en el futuro no podría revertirse el efecto negativo asentado.
  • La aceleración de la transformación digital de la economía española ha propiciado que en un solo año, 2021, la economía digital haya crecido del 19% al 22% en su contribución al PIB de España. Si fuera un vertical, ya solo está por detrás del sector Construcción y ha superado al sector Turismo. El objetivo es que en el año 2030 el 40% del PIB español sea economía digital, en línea con la estrategia económica de la Unión Europea, y con la Estrategia Digital España 2020-2025 para cambiar el modelo productivo y potenciar la transformación social.
  • Ya no existen empresas solo de producto o solo de servicio, sino empresas cuyo negocio y cuya actividad se basan en datos y en inteligencia aplicada. Tenemos que ayudar a las pymes a integrar tecnologías exponenciales como la inteligencia artificial en la cadena de valor y en su modelo de funcionamiento. Pueden tener ganancias competitivas entre el 20 y el 40 % si incorporan la IA. Estamos agradablemente sorprendidos por la gran cantidad de pymes que han concurrido a la convocatoria Misiones de I+D en Inteligencia Artificial. De 1.700 empresas presentadas, el 70% son pymes.
  • Se están afrontando los 4 principales retos identificados para el desarrollo saludable y sostenible de la inteligencia artificial:
    • El reto tecnológico, para que la IA sea robusta, segura, auditable y explicable.
    • El reto ético, en sintonía con lo que defiende Europa de acuerdo a sus principios y valores, en el debate sobre de quién son los datos. Lo tenemos claro: los datos son de las personas. A diferencia del modelo norteamericano (los datos son propiedad de las grandes plataformas que se convierten en monopolios) y a diferencia del modelo chino (el gobierno lo controla todo).
    • El reto normativo: conseguir que haya un marco legal que ampare la actividad con IA en una sociedad de derechos y libertades, teniendo en cuenta la Carta de Derechos Digitales, el Reglamento Europeo de Protección de Datos, el Digital Market Act, el Digital Service Act.
    • El reto social, por el impacto que tiene la gobernanza de los algoritmos.
  • Al igual que en épocas pasadas se liberalizaron otros monopolios, y se normalizó que hubiera más de un operador dando servicio con la misma infraestructura ferroviaria, y más de un operador de telefonía y telecomunicaciones a través de la misma infraestructura de cable, hemos de conseguir que se liberalice el monopolio en la captación y gestión de los datos, que ahora está concentrado en muy pocas plataformas.
  • Los planes del Gobierno incluyen que España sea el primer país en implementar las bases del Reglamento Europeo de la Inteligencia Artificial, que no entrará en vigor hasta dentro de dos años. Para ello, se contará con la colaboración técnica de empresas, y se creará la Agencia Estatal de Supervisión de la Inteligencia Artificial.
  • El único Proyecto Estratégico para la Recuperación y Transformación Económica (Perte) de carácter horizontal y transversal, de los 18 Perte que ya ha puesto en marcha el Gobierno, es ‘Nueva Economía de la Lengua’. Con 1.110 millones de euros de inversión, para conseguir que la IA piense en español. Queremos que España lidera la industria de la IA en español. Hay un campo enorme de oportunidades con la lengua y el habla. Por ejemplo, en la teleasistencia.
  • La sostenibilidad también tiene que ser una dimensión inherente al desarrollo tecnológico. Por eso articulamos el Programa Nacional de Algoritmos Verdes. Tanto en la colaboración público-privada en el diseño del software mediante buenas prácticas, como en la mitigación del impacto medioambiental de la actividad tecnológica, que no puede basarse en un descomunal consumo de energía eléctrica.
Juan Carlos Rubio Sánchez director de OGA y Carme Artigas Secretaria de Estado de Digitalización e Inteligencia Artificial
Juan Carlos Rubio Sánchez, director de OGA, expuso el compromiso de la empresa para aportar soluciones tecnológicas en el análisis de datos basados en principios éticos, y Carme Artigas, secretaria de Estado de Digitalización e Inteligencia Artificial, explicó los planes del Gobierno para articular la Agencia Estatal de Supervisión de la Inteligencia Artificial.

La necesidad de potenciar las oportunidades y minimizar los riesgos

Felipe Romera, director general de Málaga Tech Park, dejó claro en la inauguración de la jornada que “en los últimos cinco años ha sido enorme el cambio en la actividad de la mayoría de las empresas tecnológicas para incorporar tanto la inteligencia artificial como los nuevos desarrollos de las telecomunicaciones”.

Por su parte, Felipe Medina, director de la APD en el Sur de España, subrayó que “la sociedad está a la vez deslumbrada y temerosa por el impacto de la inteligencia artificial. Atisba grandes oportunidades y grandes riesgos. La tentación de un control que imponga uniformidad o la capacidad de sacar de cada persona sus mejores potencialidades. Por eso no podemos dejar que se utilice a la población de todo el planeta como banco de pruebas sin que se marquen estándares globales mediante un tratado universal”. Felipe Medina agradeció a OGA su implicación para acompañar a empresas e instituciones en ese camino de innovación basada en conciencia ética.

El papel de las organizaciones públicas y de las empresas privadas

El director de OGA, Juan Carlos Rubio Sánchez, también moderó la sesión dedicada a ‘El papel de las organizaciones en este camino digital’. Estas son las principales claves expuestas por los tres ponentes:

  • A juicio de Pablo Tapia, fundador y director tecnológico de la empresa Tupl, “es muy importante que la inteligencia artificial no esté solo configurada por los ingenieros que están detrás de sus negocios. Hay que ponerla en manos de expertos que la verifiquen desde sus respectivos sectores. Por ejemplo, los médicos o los arquitectos. Para lograr ese objetivo, es básico que desde el comienzo se utilicen modelos explicables, en lugar de deep learning”. También comentó el peligro contrario: “No nos carguemos la innovación impidiendo que los datos lleguen a las empresas, porque en ese caso no podrán avanzar. No tengamos miedo, aún se pocan pocos algoritmos de gran complejidad”.
  • Juan Ramiro, director de Innovación en el Diseño y Optimización de Redes de Ericsson España, explicó que “la evolución en el uso de inteligencia artificial llevó desde la automatización basada en reglas explicables con machine learning, a modelos de deep learning que funcionan como caja negra y eso genera problemas si no se entiende bien. Por eso estamos desarrollando herramientas de tecnología confiable, siguiendo los criterios de la Comisión Europea para seguridad, justicia, responsabilidad y privacidad, con el fin de intentar conseguir la trazabilidad”. También considera “importante tener en cuenta la gestión del ciclo de vida de estas soluciones basadas en datos porque son parte de una realidad siempre cambiante”.
  • Para Juan Carlos Rubio Pineda, jefe del Servicio Informático del Servicio Andaluz de Salud, de la Junta de Andalucía, un área muy bien valorada y galardonada dentro y fuera de España por su capacidad de innovación aplicada a la gestión sanitaria de más de ocho millones de personas, “podríamos avanzar mucho más en la calidad de los análisis predictivos para prevenir la afección de enfermedades conocidas, y tomar medidas de anticipación, si estuviera regulado el uso anonimizado de los datos de millones de pacientes para investigaciones y sin incurrir en problemas éticos. El gran reto para nosotros es el normativo. Hoy en día, no podemos plantear licitaciones en las que se utilicen herramientas tecnológicas de empresas cuyos países no tienen el mismo criterio de protección de datos que la Comisión Europea. Por ejemplo, China. La falta de normativa clara complica la elaboración de las licitaciones. Si la normativa se adecuara a lo que hacemos y necesitamos, la industria de la inteligencia artificial podría hacer muchas más cosas con nosotros”.
Juan Ramiro (en la imagen, a la izquierda), director de Innovación en el Diseño y Optimización de Redes en Ericsson España, y Juan Carlos Rubio Pineda, jefe del Servicio de Informática del Servicio Andaluz de Salud, intervinieron en la mesa redonda sobre el papel de las organizaciones en el camino hacia la fundamentación ética de la inteligencia artificial.

En la jornada también intervinieron como ponentes Gemma G. Clavell, fundadora y CEO de Éticas; Antonio de la Prieta, Director del Centro Tecnológico Avanzado de Accenture, y Patrici Calvo, Profesor de Ética en la Universitat Jaume I de Castellón.

Entrevista de Canal Sur Radio a Juan Carlos Rubio, director de OGA, durante la celebración de la jornada 'La Ética de la Inteligencia Artificial'.

22 de abril de 2022