Nuevas realidades tecnológicas, disruptivas y sociales.

Borrador del texto de conclusiones presentado por PP en: PONENCIA DE ESTUDIOS SOBRE LA ADOPCIÓN DE UNA REGULACIÓN DE LAS NUEVAS REALIDADES TECNOLÓGICAS, DISRUPTIVAS Y SOCIALES.

COMISIÓN DE ASUNTOS ECONÓMICOS Y TRANSFORMACIÓN DIGITAL

Propuesta de conclusiones del GPP Senado.

1. La transformación digital así como la inteligencia artificial (en adelante, IA) debe entenderse como un complemento al ser humano. Algo que ayuda a mejorar la vida y resolver retos urgentes de la humanidad. El ser humano debe estar en el proceso de digitalización y éste ser una ayuda.

2. Se debe adaptar la política a los cambios tecnológicos. Se debe reflexionar sobre una nueva forma de hacer política más acorde con este siglo. Nuevas estructuras políticas adaptadas a esta situación.

3. La transformación digital en general y la IA en particular tienen como función primordial mejorar al ser humano y la vida en general, mediante la tecnología.

4. La importancia del sesgo: Los algoritmos deben desarrollarse siguiendo un código ético y una Lingüista computacional en su proceso de entrenamiento. Han de llevarse a cabo auditorías de los propios algoritmos y evaluaciones no sólo a posteriori, sino también en fases previas, en el momento del diseño de los datos a introducir. Ha de darse competencias, en este sentido, a la Agencia Española de Protección de Datos y/o crear una autoridad común en la Unión Europea.

5. Fomentar la presencia femenina en la IA, en todos los aspectos. Si bien existe un debate abierto sobre si la eliminación de discriminación negativa de sesgo hacia la mujer debe sustituirse o no por una discriminación positiva. Un tema siempre conflictivo que supera el ámbito de la digitalización o la IA.

6. Se debe dar prioridad a la ética en el uso de la transformación digital y la IA frente a la competitividad; si bien la competitividad no puede perderse de vista de cara a desarrollar soluciones eficientes y facilitadoras que hagan la vida más útil y sencilla a todos.

7. La pandemia ha demostrado que las empresas más y mejor digitalizadas son las que mejor han resistido al impacto de la crisis económica que ha provocado. Es necesario agilizar aún más la digitalización en la post pandemia. El reto de la digitalización en nuestro país es vital para poder remontar la crisis.

8. Avanzar en la digitalización y la IA industrial que permiten la simulación y la predicción. Necesaria la innovación.

9. El trabajo y la IA. No reemplazar al ser humano con la máquina, sino fomentar la colaboración máquina-trabajador. El ser humano tiene que, necesariamente, formarse y reciclarse en sus habilidades tecnológicas. Remodelar el empleo.

10. El uso de la digitalización y la IA. Puede beneficiar enormemente a la humanidad, pero también destruirla.

11. El problema de la transformación digital y la IA y la concentración de poder. Oligopolios de grandes empresas. Estos están construyendo un mundo a su interés, ante la ausencia de códigos éticos y normas que los regulen. La digitalización en todas sus formas se presenta como un auténtico poder geopolítico, económico, social, cultural y ético.

12. Retos que debe afrontar la sociedad ante el avance de la IA:

a. Equilibrio entre máquina y humanos. La IA debe trabajar en beneficio de la humanidad.

b. Ética e identidad

c. Identidad privada y privacidad

d. IA contra la criminalidad

e. Establecer la responsabilidad de la IA

f. Transparencia

g. Control de los Datos

13. Política de Datos. Los retos serían:

a. Privacidad. Las reglas tradicionales ya no son eficaces. Es necesario un cambio.

b. Eficacia. Datos de calidad y correctamente unificados y utilizados.

c. Utilizar la IA para hacer un buen uso de los datos

d. Los gobiernos tal vez deberían ser los que controlasen los datos, o la UE, haciendo un uso adecuado de los mismos.

e. Datos globales frente a datos particulares.

f. Mecanismos de transparencia. No existe actualmente rendición de cuentas.

g. Falta de legislación en cuanto a la transmisión de datos intercontinentales.

14. Digitalización y capacitación. Cambio de modelo educativo. Es necesario que el Estado apuesten por la capacitación o dependerá de potencias y empresas ajenas.

15. Desarrollar capacidades o soft skills. Estas son las únicas que diferencian al ser humano de las máquinas. Estas capacidades serán las más reclamadas. Son habilidades que complementan a las máquinas y a los procesos de automatización.

16. Pensamiento computacional a edades tempranas. Impartirlo en educación primaria y necesidad de formación a profesores en pensamiento computacional.

17. Desarrollo también del pensamiento analítico y crítico.

18. Para evitar la brecha digital es fundamental no abandonar las humanidades, sino todo lo contrario, reforzarlas en el sistema educativo.

19. Necesidad de equipos de investigación estables en las Universidades.

20. Existe en España una falta de talento y sesgo en el talento superior.

21. También hay una falta de innovación.

22. La formación en habilidades tecnológicas no se limita a las aulas. Debe ampliarse a la sociedad en su conjunto para que se genere confianza en la nueva tecnología.

23. El saber de la digitalización y la IA no significa      saber de técnica, es entender qué es, para qué sirve, qué nos puede ofrecer y cuáles son los derechos de cada uno.

24. El problema de la sostenibilidad y las nuevas tecnologías. Uso de la propia digitalización y la IA para solucionarlo. Mejorar organización de las sociedades a través de la digitalización para reducir el consumo, englobando todos los sectores. Acelerar la digitalización a la vez que reforzar el uso de las energías renovables. Smart mobility.

25. El mayor de todos los problemas que el desarrollo y el uso de esta tecnología plantea es que goza de escasa regulación y que se basa en la autorregulación de cada empresa que por propia definición se constituye para lograr la consecución de un beneficio económico, consecuencia de ello han surgido códigos éticos propios. Hay que ser cautos con esto, ya que en numerosas ocasiones los códigos éticos, de carácter meramente programático, son la disculpa de grandes organizaciones para la ausencia de regulación legal. Debe complementarse dichos códigos con una regulación normativa.

26. Establecer a nivel regulativo, no solo la protección del individuo, sino también la protección del interés público o el bien común, y no sustituyéndolo, sino buscando un equilibrio entre ambos. Para ello se puede emplear como base la Estrategia Territorial Europea, que ha dado lugar a que se hayan desarrollado principios sociales como la cohesión económica y social, la preservación de los recursos naturales y del patrimonio cultural. Complementar los derechos individuales con los derechos colectivos.

27. La digitalización y la IA deben contemplar el respeto a los derechos humanos y una total transparencia, con una inteligencia artificial auditable, comprensible, inteligible para las personas y explicadas en el proceso de toma de decisiones.

28. Existe un consenso en que los principios éticos que deben regir la toma de decisiones de la máquina son la justicia, la responsabilidad y la asimetría, la transparencia, la ética y el espíritu crítico, y en consonancia con la anterior, la educación y la diversidad a todos los niveles.

29. Principios:

a. El principio de conciencia y conocimiento de lo que las big tech saben de cada uno.

b. El principio de la neutralidad del aprendizaje de los algoritmos evitando los sesgos raciales, étnicos, de diversidad lingüística, de diversidad religiosa, de cualquier tipo de diversidad

c. Derecho al olvido de lo que sabe un algoritmo.

d. Principio de veracidad del dato. A nivel del continente europeo sólo existe el Oxford Institute of Internet como instituto que garantiza la veracidad.

e. La huella digital.

f. La huella laboral que se produce en el etiquetado de datos tanto de las grandes empresas como de empresas pequeñas, como las españolas en países como India, Bangladesh o Vietnam, sin respeto a los derechos laborales, ni a los derechos humanos.

g. Soberanía de los datos y soberanía algorítmica.

h. Desigualdad tecnológica que se produce entre las empresas que adoptan la tecnología en su proceso productivo, las empresas que automatizan y las que no y los riesgos que ello conlleva.

i. Privacidad desde el diseño, es decir, que en el momento de diseño de un algoritmo se respeten unos derechos de privacidad y se audite, como sucede en otros sectores como en la industria farmacéutica. En este sector todavía se produce la situación inversa, se crea el algoritmo y posteriormente surge toda la problemática.

j. Derecho a la desconexión, especialmente en los menores, con menor influencia tecnológica en las escuelas ya que se considera que esta reduce y limita los procesos de memorización y aprendizaje.

k. Confianza necesaria.

30. La regulación de la digitalización y la IA no deben basarse nunca en motivos exclusivamente económicos.

31. Europa debe busca impulsar transformación digital y la inteligencia artificial aumentando la confianza de los consumidores, la excelencia, el talento, para que este no migre a otros países, y la inversión desde un punto de vista responsable.

32. España debe colaborar con Europa para que consiga asumir en el nuevo mapa geopolítico que se está configurando en el campo de la digitalización y la IA, el importante papel que le corresponde. Si Europa se quiere digitalizar, tiene que ser una Europa digital, con empresas digitales que ayuden a todos los sectores productivos a digitalizarse. El desarrollo de la Investigación e innovación es vital en toda Europa en este campo.

33. España se encuentra por detrás de la media europea en innovación, concretamente, está en torno al 1,25 de inversión del PIB en innovación; mientras que Alemania está alrededor del 3,1; y el resto de Europa se encuentra por encima del 2, por lo que el déficit es importante. Sin innovación no hay propuestas de valor distintas, y lo único que queda para competir es el precio, con la consiguiente pérdida de empleos de calidad.

34. En España existe falta de talento y sesgo en el talento superior en cuanto a la transformación digital y la IA. El capital humano es el punto más débil de España, de los 28 países ocupa la posición número 16, estando así por debajo de la media europea, cuando es clave para avanzar en la integración de la tecnología digital en las empresas, ya que sin él difícilmente se puede dar un salto en la digitalización, fundamentalmente en la pyme, que son la base del sector económico del país. Donde hay un mayor déficit es en los grados medios técnicos especialistas digitales o ICT specialist, y sin ellos las pymes no pueden avanzar. Es por ello fundamental el fomento de la formación profesional.

35. Actualmente la formación que se da en España en ingenierías es incompleta, si se equipara con el resto de Europa. Ineludible reformar el sistema educativo.

36. La digitalización de la llamada España vaciada no debe queda atrás frente al resto del país. Fomento de la digitalización y de la IA en las zonas rurales con más baja densidad de población.

37. La presión fiscal en el sector en España es muy superior a la existente en el resto de Europa, llegando a duplicarse respecto a Alemania y Reino Unido. Por ello sería recomendable, buscar una fiscalidad simplificada y armonizada en toda Europa que no reste competitividad a ningún país, en la que además contribuyan todos los intervinientes del    sector, para que la inversión no se vea afectada y por lo tanto la calidad de las infraestructuras y la posibilidad de progreso.

38. Necesidad de flexibilización y simplificación de los trámites administrativos, así como la colaboración entre administraciones.

39. Fomento de un adecuado desarrollo tecnológico, mediante una mejor regulación para la colaboración público-privada en forma de consorcios, la relación entre el sector productivo y la universidad y los centros de investigación, impulsadas por las administraciones para que se produzca la correspondiente transferencia tecnológica.

40. La regulación para la creación de clusters y hubs empresariales.

41. Impulso de sandboxes para la IA y otras tecnologías (sanidad, blockchain, ciberseguridad).

42. Mayores incentivos fiscales al i+D+i, incluyendo en ellos la contratación de profesionales cualificados que a veces están lejos del alcance de pequeñas empresas.

43. Implantar los mecanismos de financiación del Programa Marco de la Unión Europea que permitan sustituir para las pymes los habituales créditos por subvenciones.

44. Preocupan los diferentes ritmos de digitalización de la Administración pública, ya que mientras que el Ministerio de Hacienda está liderando la Administración pública digital, no lo es tanto en el resto de los ministerios, ni en la Administración general del Estado, ni tampoco a nivel autonómico, regional y local (aunque hay grandes diferencias en el nivel de digitalización entre CCAA, destacando Cataluña y Castilla y León), lo que puede desacompasar el ritmo de la digitalización en todo el territorio.

45. Avanzar en el desarrollo del Territorio inteligente pleno. Se conseguirá a base de lograr la conectividad de edificios y ciudades, lo que además es esencial para lograr un uso eficiente y sostenible de los mismos.

46. Crear una Administración Inteligente, compartiendo datos entre todas las administraciones. Asegurando la compatibilidad e interoperabilidad entre los sistemas de las Comunidades Autónomas, crear un ecosistema de trabajo en red entre las administraciones. Un ejemplo es el padrón municipal, pues actualmente cada ayuntamiento tiene su propio código, con aplicaciones distintas por cada municipio. Sería conveniente aunar datos a través de agencias que instrumentalicen dicho proceso y que a partir de ahí se cristalicen estas aplicaciones ya que esto ayudaría no solamente a la Administración a impulsar su crecimiento digital, sino a crear riqueza en el sector de la inteligencia artificial y el digital.

47. Necesidad de invertir de manera continua en ciberseguridad. Es necesario asumir que el coste de la lucha contra la ciberdelincuencia es menor que los perjuicios derivados de cualquier ciberataque y para ello, debe procederse de manera prioritaria en estos campos:

a. Actualización de sistemas

b. Configuración de plantillas de seguridad

c. Mayor concienciación sobre la existencia y los efectos de la ciberdelincuencia

d. Defensa activa

e. Extensión de la ciberseguridad al perímetro de las corporaciones, como, por ejemplo, los enormes riesgos derivados de la generalización del teletrabajo con equipos propios/familiares conectados a redes inseguras.

48. Formación e información continuada dirigida a los ciudadanos, a la Administración Pública y al sector empresarial para incrementar la prevención y la autoprotección en el uso del ciberespacio.

49. Invertir de forma continuada en educación, para paliar la falta de profesionales cualificados en materia de ciberseguridad, incluyendo en los currículos escolares la ciberseguridad, así como las consecuencias del uso de datos personales en línea, además de fomentar las vocaciones STEM, con especial atención a las niñas y las adolescentes, con el objetivo de reducir la brecha digital de género

50. Fomentar el desarrollo de proyectos de carácter público-privada, que apoyen la innovación y la creación de capacidades en la industria de ciberseguridad.

51. Establecer una política de prevención de posibles ciberataques a nuestro país y nuestras instituciones y organismo, creando una estrategia unificada a nivel nacional y en colaboración con las Comunidades Autónomas y Entidades Locales, que permita una ciberseguridad férrea, firme y actualizada en España.