Retorno a página principal

Carátula

COMISIÓN DE FUTUROS

(Reunión del día miércoles 3 de noviembre de 2021)

SEÑOR PRESIDENTE (Rodrigo Goñi Reyes).- Habiendo número, está abierta la reunión.

                (Es la hora 15 y 10)

——Buenas tardes a todos.

                En primer lugar, quiero agradecer enormemente a nuestro invitado especial: el profesor José María Lassalle.

                También le doy las gracias a la Universidad Católica, que nos ha permitido tener a José María hoy aquí, con nosotros.

                Damos la bienvenida al doctor Facundo Ponce De León, director del Departamento de Humanidades y Comunicación de la UCU; a la doctora Ana Fascioli, directora del Instituto de Filosofía, y al licenciado Miguel Pastorino ‑quien ya es habitué en nuestras comisiones‑, también integrante del equipo de la Universidad Católica.

                Estaba dentro de nuestras pretensiones poder contar con la presencia del profesor José María Lassalle en esta Comisión de Futuros y también en la Especial de Innovación, Ciencia y Tecnología. La Universidad Católica se nos adelantó y nos permite tener esta instancia. Así que nos ha hecho un gran favor

                A fin de que nuestro invitado conozca a quienes estamos en sala, le comento que aquí también hay senadores de todos los partidos, que se han hecho un lugar para estar presentes en este encuentro. Hoy, es un día de sesiones normal; es uno de los más intensos.

                También hay algunos expertos que nos están acompañando en este proceso de la Comisión de Futuros.

                Esta instancia va a durar una hora por reloj, así que tenemos que ajustarnos a ese tiempo. No voy a hablar mucho más porque, si no, le resto tiempo a José María.

                Voy a hacer una presentación muy breve.

                José María Lassalle es doctor en Derecho de la Universidad de Cantabria, desde 1999. Obtuvo la calificación de sobresaliente en su graduación.

                Inició su trayectoria profesional como investigador y profesor de la Universidad de Cantabria.

                Desde 2001 hasta 2003, fue profesor en la Universidad Carlos III, de Madrid.

                Entre 2002 y 2003, fue coordinador científico en el Centro de Estudios Hispánicos e Iberoamericanos de la Fundación Carolina, del Ministerio de Asuntos Exteriores.

                De 2004 a 2008, continuó su actividad académica como profesor de Sistemas Políticos Comparados, en la Universidad de San Pablo, en Madrid, España.

                Posteriormente, fue profesor en la Universidad Rey Juan Carlos, de Madrid.

                Desde 2019, es profesor de Teoría del Derecho y Filosofía del Derecho en la Universidad Pontificia Comillas. También es profesor del programa DBA in Management and Technology y del posgrado en Derecho y Data Analytics de la Business School en la misma Universidad.

                Fuera del ámbito académico, colabora en diversos medios de comunicación. En 2002, estuvo en ABC; luego, en El País y ahora, está en La Vaguardia y en programas de televisión y de radio del sistema nacional de España.

                Actualmente, es miembro de la Junta Directiva del Cercle d'Economia, de Barcelona, donde lo hemos seguido.

                Fue miembro de la comisión de expertos que asesoró al gobierno de España en la elaboración de la Estrategia Nacional sobre Inteligencia Artificial.

                También ha escrito varios libros. Voy a nombrar los últimos dos, que me han seducido: Ciberleviatán.- El colapso de la democracia liberal frente a la revolución digital ‑sobre el que nos gustaría charlar a continuación‑ y El liberalismo herido. Reivindicación de la libertad frente a la nostalgia del autoritarismo, que tiene que ver con todos estos temas que nos interesan. No sé cómo va hacer José María para iluminarnos en un ratito.

                Como ustedes saben, el Parlamento tiene diversas comisiones que están abordando las transformaciones digitales. Esta área presenta oportunidades extraordinarias, pero también amenazas para el ser humano, con lo que significa su papel y su propia ontología y ni qué hablar, su rol en la sociedad, su forma de relacionarse y también su impacto en la democracia tal cual la conocemos.

                Hemos conversado mucho sobre la posibilidad de un Ciberleviatán. Precisamente, su libro nos llamó la atención. Siempre hay dos formas de visualizar estas situaciones. Una es con desdén y diciendo: "¡Esto está muy lejos! ¡Nunca nos va a pasar! La otra es adoptando las precauciones necesarias y tomando conciencia. Yo siempre prefiero ser dramático. Los que estamos vivos, hemos preferido ser dramáticos y no estar dormidos.

                Indudablemente, José María, en estos libros y también en su prédica, fundamenta de muy buena forma todos los riesgos y las amenazas que están presentes en la era tecnológico-digital para la democracia tal cual la conocemos.

                Así que, José María, nos gustaría poder conversar contigo sobre estos aspectos y que nos ayudes a entender la sociedad en que vivimos y, sobre todo, los riesgos. No es que estemos atemorizados, pero cuando uno se prepara para resistir cierto riesgo, tiene la posibilidad, después, de aprovechar las oportunidades; si no lo hace, esas oportunidades serán para otros.

                Nuevamente les agradezco a todos por venir.  

SEÑOR LASSALLE (José María).- Muchísimas gracias, presidente, por la amable presentación que ha hecho.

                Agradezco también a los senadores, a las senadoras, a los diputados y a las diputadas que participan de esta Comisión, así como a los expertos que están presentes.

                Les doy las gracias por la amable invitación que me han hecho.

                Para mí, estar aquí es como volver a mi casa porque durante siete u ocho años he sido ‑ha omitido decirlo el presidente‑ diputado en el Congreso.  He sido portador de cultura, conozco el funcionamiento parlamentario porque he sido diputado nacional en el Congreso español y luego he sido siete años secretario de Estado de Cultura y de Agenda Digital por lo que conozco el otro lado del poder, no solo del Poder Legislativo, sino también del Poder Ejecutivo. Por tanto, me siento en casa, en la parte donde uno vuelve a un espacio como este, que es el espacio de la deliberación pública, institucionalizada. Para mí siempre es un honor poder comparecer.

                No sé muy bien cuál es la dinámica. He visto que hay un cuestionario y no sé si seguimos con eso. El presidente prácticamente ha venido a decir lo que a mí me gustaría reflexionar. Voy a tratar de ser breve y después plantearíamos un diálogo, una interlocución.

                Creo que uno de los retos que están pesando sobre la democracia liberal en todos los países occidentales es precisamente la existencia de un déficit democrático alrededor del proceso de la transformación digital. Hemos estado viviendo durante unos años, probablemente, desde los inicios de la revolución digital, materializada en un momento muy concreto, a través de la aparición del smartphone y todo lo que ha representado la incorporación de la tecnología de una manera hipercotidiana a la vivencia que como seres humanos proyectamos cotidianamente nuestra manera de relacionarnos con los otros, ha habido un proceso de transición, de transformación, de revolución digital que ha sido desarrollado sin la presencia de un control democrático, sin una capacidad de regulación legislativa, sin una identificación de los riesgos y de los problemas a los que nos podía llevar un desarrollo que progresivamente ha ido enfocándose hacia planteamientos más distópicos que utópicos en los procesos de transformación digital. Eso es consecuencia de que la revolución digital al ser humano lo ha tratado como consumidor de contenidos y como usuario de aplicaciones. Y modelizándolo dentro de estructuras de economías de plataformas que han basado un concepto de prosperidad en la generación de datos y en la utilización, a través de modelos de negocios, de algoritmos que han buscado maximizar la obtención de rentabilidades y externalidades económicas, localizadas en la generación de una prosperidad que, lejos de contribuir a un reparto equitativo de la misma, ha ido generando brechas de desigualdad mucho más profundas de las que originalmente existían en ese proceso de transición que está experimentando el capitalismo posindustrial, propio de una modernidad tardía como la que se vivió hasta los años 90 y principios del siglo XXI, y una posmodernidad acelerada con un capitalismo cognitivo de plataformas que es el que en estos momentos caracteriza la generación de prosperidad y de desarrollo económico en la inmensa mayoría de los países de todo el planeta, no solo de las democracias liberales. Lo que pasa es que en las democracias liberales esa transformación del modelo económico y la incidencia social que está teniendo esa transformación del modelo económico están alterando los ejes de normatividad y los estabilizadores políticos, que sustentan las democracias liberales, entre otros motivos, porque el cambio del concepto de trabajo, tal como se identifica este desde la economía fordiana con el pacto capital y trabajo, que sustentó las dinámicas del Estado social y democrático de derecho y, por tanto, la construcción del Estado de bienestar, se está modificando de una manera muy radical y contribuyendo a la emergencia de una nueva configuración del trabajo, un trabajo automatizado que tiende progresivamente a marginalizar al ser humano, a limitar el valor agregado que el trabajo humano proporciona al desarrollo de una economía automatizada.

                Dentro de ese esquema de transformación, se está produciendo un fenómeno de erosión, del peso económico que el trabajo tiene en el PIB de las economías desarrolladas ‑cada vez pesa menos el trabajo en el PIB de todas las economías desarrolladas‑, y es consecuencia de una progresiva automatización a través de la inteligencia artificial, de los modelos de robótica y de maquinización que a todos los niveles están desarrollándose y haciendo que el valor humano del trabajo se reduzca e incidiendo, fundamentalmente, en los ámbitos de especialización profesional. Eso está deteriorando el peso que las clases medias tienen dentro de las democracias liberales y una democracia liberal no puede entenderse sin clases medias; son los grandes estabilizadores sociales y los que sustentan, precisamente, las políticas igualitarias y las estructuras de equidad de una sociedad democrática. Esa dislocación que está sufriendo la clase media a nivel global, que está generando una progresiva atomización de las estructuras sociales, es lo que está favoreciendo los fenómenos populistas, la emergencia de los populismos de extrema derecha, de extrema izquierda y la erosión progresiva de los estabilizadores alternativos de centroderecha, de centroizquierda, que han modelizado la estabilidad política de las democracias liberales en Europa, en Estados Unidos o en América Latina.

                Esa es la realidad que más inmediatamente estamos sufriendo las democracias liberales y que es, básicamente, la consecuencia de una transformación digital sin control democrático, es decir, sin una cultura de legalidad jurídica, de derechos y sin tener en cuenta que todos estos procesos de cambio social acelerado nos acercan extraordinariamente a los fenómenos que acompañaron a otra revolución que previamente se produjo hace mucho tiempo, que fue la revolución industrial. Estamos en un período de transición crítica muy parecido al que vivió la revolución industrial de los años 20, 30, 40 del siglo XIX y que forzó a los Estados democráticos en Europa a llevar a cabo toda una serie de procesos de socialización del bienestar, de universalización de la educación, del derecho de voto, de la construcción de lo que luego ha sido la democracia tal y como la entendemos. Y fue la consecuencia de tratar de someter, democratizar, lo que fue la revolución industrial, que generó un capitalismo industrial con las descripciones que no solamente plantea Marx en el capital, sino también Dickens en sus novelas, que reflejan claramente una serie de dislocaciones, de desigualdades enormes que afectaron, evidentemente, a las sociedades europeas durante toda la primera mitad y una parte muy importante de la segunda mitad del siglo XIX.

                Como digo, todo esto es consecuencia de un modelo de cambio social propiciado por la tecnología que carece de gobernanza. Un modelo, como decía hace un momento, que trata al ser humano como consumidor de contenidos, usuario de aplicaciones. ¿Y dónde queda la persona? ¿Dónde queda la ciudadanía? Es decir, estamos afrontando transformaciones digitales que no contribuyen a profundizar a la persona humana, a darle contenido, coherencia, salvarle de los procesos de alienación que la tecnología y, precisamente, la arquitectura que acompaña el desarrollo de la tecnología, y que está en todos los instrumentos que diseña la transformación digital, no percibe en su dimensión cívica o en su dimensión personal. Cuando nosotros nos colocamos delante de una pantalla, nos atrapa la pantalla de una manera inconsciente; se rompe el concepto de mayoría de edad kantiana que ha fundamentado desde la ilustración la modernidad política. Se busca no la mayoría de edad de quien opera en contacto con la pantalla, sino la infantilización del ser humano. Y es una manera consciente y deliberada que está detrás de la arquitectura tecnológica que acompaña el diseño no solamente de los contenidos y de las aplicaciones y de la arquitectura tecnológica, sino que es una realidad que está generando unas tensiones que afectan incluso ontológicamente al ser humano. Al mismo tiempo, está produciendo enormes avances, cambios extraordinarios que han hecho, entre otras cosas, que la vivencia de la pandemia fuera menos dramática de lo que por sí ha sido. Y todo esto está sucediendo sin una gobernanza y la cuestión es: ¿aceptaremos que esta realidad se siga produciendo? ¿Tenemos que seguir aceptando que vivamos un proceso de transformación digital sin control democrático? ¿Por qué la experiencia republicana de la democracia no opera en el ámbito de Internet? Ese es el gran debate, pero es un debate que, desgraciadamente, no está en la mayoría de las agendas legislativas ni de las agendas de los gobiernos. En ese sentido, Uruguay durante mucho tiempo ha desarrollado una agenda específica que ha trabajado modelos de gobernanza aplicados a la tecnología, ha sido capaz de diseñar un proceso de transición digital con lógicas equitativas, ha incidido especialmente en el ámbito de la educación, el desarrollo de estructuras igualitarias en las infraestructuras tecnológicas. En mi opinión, Uruguay, ha sido y puede seguir siendo un modelo en el que reconocer, por lo menos, la potencialidad de que estas ideas que estoy poniendo aquí sobre la mesa se incorporen a la agenda legislativa y a la agenda política e institucional. Europa sí tiene claro esto. La Unión Europea, a través de la comisión, tanto en la época de la presidencia de Juncker como ahora bajo la presidencia de Von Der Leyen, está insistiendo en que Europa debe desempeñar el papel de un actor global frente a Estados Unidos y China, en lo que representa la generación de una gobernanza democrática de la tecnología, que se basa no solamente en el desarrollo de un reglamento de datos, sino de un reglamento de inteligencia artificial, de una dignificación del dato, de una función social de los algoritmos y de unas dinámicas que lo que buscan es, fundamentalmente, la socialización equitativa de la tecnología; generar prosperidad, pero para todos, y sin que ello lleve anexa la deshumanización del ser humano y, por supuesto, dejarnos detrás la posibilidad de articular una mejora de la propia democracia como una ciberdemocracia. Yo creo que esas dinámicas forman parte de una frontera que marca un vector que orienta una estrategia respecto del futuro. Si no incorporamos multilateralmente esta reflexión no solamente a la agenda 2050 de Naciones Unidas, no solamente a todas las estructuras multilaterales que articulan las relaciones dentro de las democracias liberales nos expondremos a un diseño distópico de la transformación digital. Un diseño distópico en el que, por un lado, Estados Unidos está ensayando un modelo; un modelo siliconizado, donde hay una clara corporización mercantilizada de la transformación digital, con un diseño en el que la equidad ni la gobernanza son concebidas como una parte de la reflexión política, a pesar de que la Administración Biden ahora está intentando, por todos los medios, llevar a cabo un creciente control democrático sobre las grandes corporaciones tecnológicas. Se acaba de abrir una causa contra Google, tratando de aplicar la legislación antitrust, por lo menos en el ámbito de la comercialización de sus productos; eso ya es un primer identificador de una posible política que condicione democráticamente el incremento de poder que tienen las corporaciones tecnológicas en Estados Unidos. Pero el diseño busca, fundamentalmente, la neutralidad política en la acción de la tecnología.

                Por otro lado, está China, con un diseño claramente de capitalismo de vigilancia, de jerarquización y verticalización del poder mediante una inteligencia artificial que esté al servicio de un partido en el poder, de una elite que organiza autoritariamente la forma de construcción de su diseño tecnológico, con una clara orientación hacia la hegemonía global.

                Y el resto somos los que tenemos que ser capaces de diseñar una construcción multilateral que permita, como digo, una reflexión democrática que apueste claramente por la socialización del valor que tiene la tecnología, que contribuya a una interacción equitativa entre los sujetos que operamos en la infoesfera.

                Esa es un poco la reflexión que está detrás del humanismo tecnológico, que acompaña el proceso de aplicación de los fondos de la Next Generation, con los que Europa está queriendo llevar a cabo su transformación económica, la construcción de un mercado con una economía circular verde, basada en un mercado que reestablezca los patrones del ordoliberalismo que acompañó la construcción del mercado común tras el fin de la segunda guerra mundial y que está en la filosofía de Walter Eucken y de los otros teóricos del liberalismo europeo, que construyó ‑insisto‑ el ordoliberalismo del mercado común. Pero, al mismo tiempo, insisto, esta reflexión que acompaña todo este proceso se ha incorporado a la agenda legislativa, a la agenda política y trata de configurar a Europa como un actor global que lo que busca, fundamentalmente, a través de una diplomacia tecnológica, es trenzar alianzas estratégicas con otros actores globales potenciales. Y América Latina, por su cultura democrática liberal, por su asentamiento dentro de las dinámicas de lo que es una cultura compleja, en el sentido democrático del término, parlamentaria, republicana, presenta afinidades electivas en la defensa de los derechos humanos, en los valores de la cultura democrática, con Europa, y podría, al mismo tiempo, trenzar alianzas estratégicas con un área muy importante en estos momentos desde un punto de vista geopolítico, como es África y, particularmente, el mundo mediterráneo, con toda una proyección sobre el mundo árabe, donde creo que existe una ventana de oportunidades para ‑insisto‑ generar una gobernanza multilateral que reconduzca el escenario que les he descrito muy rápidamente.

                Ya me callo, le doy a ustedes la palabra y mantenemos el diálogo, que creo va a ser mucho más interesante que la conversación monopolizada por mí en estos momentos.

                Gracias.

                (Aplausos)

SEÑOR PRESIDENTE.- Mientras esperamos las preguntas, me gustaría saber, con referencia al final, a esa distopía, por qué usted visualiza que de no hacer nada la transformación digital puede propiciar una pérdida de espíritu crítico que, a su vez, podría favorecer el reclamo de una organización totalitaria, que hoy las corporaciones digitales tendrían la posibilidad fácil de concretar. ¿Por qué visualiza esa posibilidad, profesor? ¿O es para provocarnos con el libro?

SEÑOR LASSALLE (José María).- Realmente se está produciendo una serie de alteraciones ‑he identificado algunas durante mi exposición‑ vinculadas directamente con la creciente polarización populista que experimentan las clases medias y que tienen muy directamente que ver con lo que les he descrito. Básicamente, se está produciendo una transformación ontológica del ser humano, es decir, el ser humano está alterando sus hábitos conductuales en relación con la tecnología. Vivimos bajo procesos de libertad asistida, en un sentido en el que se va reduciendo la capacidad, que está en el origen de la ilustración y de la modernidad política, de desarrollar modelos de concienciación responsable crítica del ejercicio de la libertad. No podemos entender la democracia si no hay detrás un ciudadano con una capacidad de conciencia crítica que le permite ejercer su libertad responsablemente. En esa desresponsabilización que está experimentando un ser humano en contacto con la tecnología y que experimenta cotidianamente, mediante el uso de aplicaciones o el acceso a contenidos, los algoritmos que están haciéndonos más eficientemente lo que ya somos. Por ejemplo, cuando entramos en una plataforma y el algoritmo nos coloca delante los contenidos en función de la huella digital que estamos dejando tras de nosotros, buscando que no salgamos de esa huella, sino que sigamos profundizando en lo que ya somos, hay, evidentemente, una limitación de nuestra predisposición natural, dentro de una epistemología moderna, al fallo, al error, a la fragilidad, a todo lo que, como Popper plantea en su dinámica epistemológica, explica que aprendemos a partir del ensayo y el error. Si descartamos el error y descartamos la fragilidad humana, estamos generando estructuras sociales cada vez más robotizadas; estamos generando modelos de libertad no responsables, modelos de libertad asistida.

                Si, al mismo tiempo, una parte muy importante de los ámbitos conductuales se han modificado ‑lo plantea un filósofo de gran seguimiento en estos momentos en Europa, como es Byung‑Chul Han, filósofo coreano, pero formado en Alemania, que hace una lectura del pensamiento de Heidegger en contacto con la tradición oriental y está generando debates críticos muy importantes en Europa alrededor de estas cuestiones‑, si vivimos atrapados en la pantalla, estamos rompiendo las estructuras de sociabilidad que hemos acostumbrado y que tenemos en nuestra memoria social, que está en nuestras familias, que está en la forma de convivencia democrática, que está en la manera de organizarnos empresarialmente, en cómo se desarrolla el trabajo; atrapados en la pantalla desarrollamos mecanismos de narcisismo hiperindividualizado, donde el otro no existe, donde el otro existe como un ser que actúa más como un avatar con el que no tenemos contacto. ¿Y eso qué facilita? Facilita y es una de las razones que explican, por ejemplo, la polarización en las redes sociales. Si no tenemos a un otro al que confrontarnos físicamente y lo disolvemos como un avatar que se esconde detrás de una identidad que actúa en las redes sociales y las redes sociales tienen diseños de algoritmos conversacionales que lo que buscan es generar más tráfico de datos ‑y el odio contribuye al tráfico de datos más que la amistad; eso está constatado desde un punto de vista empírico, porque la polarización es en gran medida un resultado de diseño con sesgos algorítmicos que contribuyen a generar conversaciones mórbidas que provocan más generación de datos porque hay un modelo de negocio detrás que comercializa esos datos y los explota con independencia de qué está sucediendo en la red, entre otras cosas, habitualizándonos al odio, a considerar al otro como alguien que podamos perfectamente despreciar sin que eso implique absolutamente nada‑, se están produciendo elementos conductuales, por no hablar de la pérdida de nuestra capacidad de atención, de nuestra capacidad para fijar mejor nuestros sentimientos como, casi me atrevería a decir, mamíferos, a la hora de interactuar con otros. Todo eso es consecuencia de las estructuras conductuales que incorpora la tecnología aplicada a las pantallas y a los diseños tecnológicos.

                ¿Por qué es todo esto así? Porque no hay una reglamentación jurídica que ampare. Por ejemplo, para beber una botella con agua hay una normativa, desde un código que garantiza la trazabilidad y que esto favorece a la salud humana, o no la daña, pero nada acompaña al uso de este smartphone una serie de cláusulas normativas que nos protejan frente a los daños que emocionalmente está produciendo, por ejemplo, a través del mobbing en los institutos, a través del desarrollo de las redes sociales sin ningún control.

                Esa realidad de exigir una reglamentación, una legislación que proteja a la infancia, que proteja a la vejez, que introduzca sesgos que acaben con la brecha de género, que eviten sesgos que contribuyan a la racialización, que desaparezcan sesgos que contribuyan a la desigualdad, uno se pone a googlear y verá situaciones donde los sesgos algorítmicos están reproduciendo situaciones que contribuyen a la desigualdad, por no hablar como hay una brecha de género muy marcada en el ámbito, por ejemplo, de las carreras ingenieriles, donde cada vez hay menos mujeres que entran en la universidad para desempeñar grados en ingeniería. El número de mujeres que están en puestos de CEO en el ámbito tecnológico es infinitamente menor que en cualquier otro sector.

                En fin, hay una serie de escenarios que pone de manifiesto que hay un mundo que está contribuyendo cada vez más, por un lado, a limitar nuestra capacidad para decidir crítica y responsablemente en las decisiones que tomamos y, al mismo tiempo, un mundo más desigual, porque para poder manejar esto de una manera útil en términos personales y cívicos hay que tener capacidades cognitivas, formativas y una capacidad, sobre todo, de empoderamiento crítico que muy poca gente tiene. Esto lo podemos utilizar nosotros para enriquecernos intelectualmente o facilitar nuestras vidas, pero nosotros no somos el común de los mortales.

                La desigualdad está acompañando la diferencia en las capacidades cognitivas a las que está contribuyendo el desarrollo de la arquitectura tecnológica, que acompaña a estos procesos. Y si ya hay brechas en la educación, va a haber muchas más brechas en las capacidades para actuar en relación con la tecnología. Si no educamos en considerar que el ser humano tiene que seguir siendo la medida de todas las cosas también aquí, esto nos acabará marginando. Nos está marginando en el trabajo porque nuestros currículos profesionales están siendo progresivamente postergados, no solamente en el valor económico por el trabajo que aportamos, sino mañana porque la máquina nos va a hacer sustituibles y, probablemente, el único recurso ‑y sería lamentable que ese fuera el único recurso de la democracia para salvar su sostenibilidad‑ sea la renta básica universal. No creo que ese tenga que ser el horizonte con el que salvemos la democracia frente a las tensiones autoritarias, verticalizadas de control social al que nos lleva el desarrollo tecnológico sin control democrático.

SEÑOR PRESIDENTE DE LA CÁMARA DE REPRESENTANTES (Alfredo Fratti).- Desde mi punto de vista, todo lo que dice el profesor es como una especie de esclavitud moderna. Así lo siento yo, estamos esclavizados; no podemos ni ir al baño sin este aparato.

                Usted decía que Europa tiene esto claro; estaría bueno saber por dónde está yendo Europa en este sentido, por dónde usted cree que está yendo, porque esto es incipiente.

                Creo que sí que tenemos que pensar. Esto nos está cambiando: en algunos casos para bien y en otras, con dificultad.

                A su vez, quiero conocer su opinión de la renta básica, porque claramente da la impresión de que en el mediano plazo si no hay algo de eso, algo se cae, porque al robot le echan aceite y sigue funcionando. Gracias.

SEÑOR LASSALLE (José María).- La comisión tiene como elemento definidor de un vector que acompaña a todo el desarrollo del nuevo modelo económico europeo lo que se denomina una transición digital humanística, que significa, en primer lugar, llevar a cabo procesos de regulación legislativa que garanticen la equidad y la función social de la transformación digital, evitando el agravamiento de las brechas de desigualdad que ya existen. En segundo lugar, fijar un modelo de gobernanza que institucionalice una carta de derechos digitales, es decir, que reconozca una nueva generación de derechos fundamentales.

                De igual manera que la construcción de la democracia liberal y del estado social y democrático de derecho, basado en capas progresivas de derechos universales humanos ‑una capa de libertad, una capa de igualdad, una capa cooperativa‑, ha surgido ‑y está surgiendo en el imaginario‑ la urgencia y la necesidad de articular una nueva carta de derechos digitales, que permita la configuración de derechos de libertad, de derechos de igualdad, de derechos de relación del ciudadano con la administración, en fin, toda una serie de elementos que forman parte de la cultura democrática de occidente y es no hay progreso sin derechos. La instrumentalización del progreso se transforma en derechos individuales y en derechos colectivos.

                En tercer lugar, junto a ese elemento de gobernanza en la regulación legislativa, reconocimiento de derechos, generación de una transformación del modelo educativo, fundamentalmente buscando que la educación en el siglo XXI y en relación con la tecnología sea una educación que sobre todo busque generar habilidades críticas que hagan insustituible al ser humano en su colaboración con la máquina. Es decir, hace falta ‑y esta es una parte muy importante del planteamiento que estamos haciendo‑ reflexionar sobre cómo nos vamos a relacionar con las máquinas y que las máquinas no obstaculicen la pervivencia del trabajo humano y la creatividad humana.

                Por eso, los modelos educativos deben orientarse a aprovechar lo que la máquina y la inteligencia artificial pueden hacer. Por ejemplo, en Japón hay un enorme esfuerzo por orientar toda una estrategia legislativa sobre el papel que el robot va a tener ‑ya tiene, pero tendrá más en el futuro‑ en los cuidados de la población anciana. Hoy en día, debido al decrecimiento demográfico de Japón, hay un problema a la hora de abordar cómo se desarrolla la estructura de cuidados de los ancianos; Japón tiene una enorme longevidad, están aproximándose cada vez más a una media de edad cercana a los cien años. Además, las unidades familiares son singulares, con lo cual no hay capacidad para que la familia ampare y proteja a los ancianos, y son los robots los que empiezan a desarrollar la función de los cuidados.

                ¿Cuál será el diseño que tendrán los robots a la hora de desarrollar los cuidadnos con los que tratarán a los ancianos? Es decir, cómo generamos mecanismos de empatía en el robot para que la inteligencia artificial y la autonomía que tienen en las decisiones haga que el anciano se sienta protegido y tutelado en los cuidados. Esas dinámicas no pueden nacer de modelos de negocios; evidentemente, deben desarrollarse los robots dentro de un mercado competitivo, que fije reglas de juego que garanticen la competencia leal entre empresas, pero necesitamos que los datos que van a manejar los robots, que los algoritmos que van a gestionar la autonomía con los que los robots accionen, tengan un marco ético que proteja al ser humano y no que los someta a la dominación. El robot va a tener que identificar perfectamente que el anciano es un ser que a pesar de que tenga limitada su capacidad de autonomía ‑por las razones que sea‑ tiene una autenticidad en los fundamentos de su dignidad que tienen que estar amparados legalmente. No podemos permitir que el diseño algorítmico de la inteligencia que dará autonomía al robot lo fije un modelo basado en el modelo de negocio que fabrica el robot. Con ello no quiero decir que quitemos a las empresas la capacidad para poder desarrollar los robots, que son modelo de negocio, pero sí reglarlo en el mercado que permita salvaguardar un ordoliberal que haga que esa realidad no deshumanice el resultado que se está buscando y que no sea solo la utilidad y la eficiencia económica del diseño lo que acompañe el proceso, sino que los cuidados sean interpretados bajo claves sensibles, interpretables desde lo que es la autenticidad del ser humano. Para eso se necesita al legislador. Para eso se necesita a los gobiernos, a la maquinaria administrativa para velar porque efectivamente el robot tenga unas normas de higiene, salud y cuidados que piense en proteger la dignidad del ser humano, no solamente tratarlo desde una eficiencia económica que haga viable al robot y a la creatividad que alimenta al diseño de los robots.

SEÑOR SENADOR SÁNCHEZ (Alejandro).- Me surgen dos cuestiones. En el tema de la revolución tecnológica tan disruptiva que estamos viviendo y de la inteligencia artificial, hay dos cuestiones. Usted, en una primera etapa, se centró en las redes sociales y en los algoritmos, y creo que allí ya hay un debate instalado a nivel internacional en cuanto a si la regulación de las empresas tecnológicas debe ser autónoma o tiene que haber legislación. De hecho, el debate que se suscitó cuando Twitter decidió bajar una publicación de Donald Trump generó este debate. ¿Quién regula los contenidos que están allí? Esto se mezcla con la libertad de expresión. Hay un debate bien interesante en caracterizar primero las plataformas en el sentido de saber qué características tienen para ver después qué tipo de legislación hay que abordar. Ahí hay un tema bien interesante.

                A pesar de que esto es muy relevante ‑usted hacía referencia a la cuestión de los robots‑, creo que hay un debate que casi llega a las cuestiones éticas y morales. Es probable que en el corto plazo tengamos vehículos autónomos. Ya existen muchísimos, y va a avanzar. Cuando se programa ese vehículo autónomo, hay definiciones de valor ético. Es decir, si yo voy manejando por una ruta nacional y se atraviesa una persona, tengo un accidente porque no tuve los reflejos suficientes como para evitarla. Ahora, cuando quien esté manejando ese auto sea un robot, en realidad, la programación de ese auto debe establecer qué es lo que valora más. ¿Valora la protección del vehículo frente al ser humano que se atraviesa en la calle? ¿Valora más la protección del usuario frente al que se le atravesó? Ahí hay una valoración en términos de qué ser humano vale más. Si esa máquina está programada para proteger al usuario ‑si voy a comprar un auto autónomo quiero que me asegure que no voy a morir en un accidente; ahí no hay legislación‑, si ese es el eje central del vehículo autónomo, quiere decir que si se atraviesa otro ser humano, esa vida deja de ser importante.

                Entonces, me parece que acá hay un debate puesto en un vehículo autónomo, colocado en los cuidados o colocado en cualquier otra área en la que actúe la inteligencia artificial. Hay un debate de fondo, esencial, filosófico. Como bien me acota el diputado Valdomir, hay un debate ontológico en términos de lo que estamos construyendo. Por lo tanto, no sé si usted, en su elaboración ‑y en el trabajo que están haciendo en la comisión de la Comunidad Europea‑, ha avanzado en eso. En definitiva, ¿hay algunas recomendaciones en términos de avances normativos, de lecturas o de debates que se estén generando y que puedan ser de interés para empezar a tener elementos en este sentido?

                Muchas gracias.

SEÑOR REPRESENTANTE VALDOMIR (Sebastián).- Damos las gracias al profesor por estar hoy en el Parlamento y a quienes hicieron posible que pudiera estar acompañándonos en el día de hoy.

                Creo que hay un elemento saludable para destacar desde el inicio mismo de su ponencia, que es esta saludable tendencia que cada vez se está haciendo más presente en un debate necesario. Me refiero a que liberales de pura cepa ‑que se autodefinen liberales‑ están preocupados por regulaciones y por colocar regulaciones para morigerar o moderar las libres fuerzas de los mercados y de los actores económicos. En este caso, lamentablemente, estamos hablando de actores trasnacionales privados con mucho más poder que los Estados nacionales y que son fruto ‑justamente‑ de ese dejar hacer y dejar pasar que dio origen a la creación de estos gigantes económicos globales que, de alguna manera, están en el origen del problema que usted desarrolló.

                El principal problema en este punto ‑que yo ya no lo coloco en el terreno de la ética y la moral, sino en el de las relaciones económicas entre actores públicos y privados‑ está en la cuestión de la transferencia tecnológica. Si bien la Unión Europea está ‑como usted bien dijo‑ al frente de colocar nuevos marcos regulatorios y nuevos marcos de uso para este tipo de problemáticas, sistemáticamente, los actores globales han rechazado colocar disposiciones para la transferencia de tecnologías hacia los países más pobres, ya sea en el terreno agrícola, en el terreno climático, en el terreno energético, y todas esas tecnologías están sujetas a patentamiento. Ya las patentes no son solo sobre mecanismos, sino también sobre procesos intelectuales, algoritmos, etcétera. Entonces, encontrar una solución a esto va a ser bien difícil y es posible que además, como todas las cosas globales, primero se desarrollen en un lugar que en otro, lo que va a generar un problema de segunda generación con relación a cómo los países más empobrecidos o con menos capacidad para enfrentar a estos actores trasnacionales pueden incorporar a sus países marcos regulatorios que, de alguna manera, protejan al ciudadano y a la democracia.

                El último elemento, profesor, es el siguiente. Usted mencionó mucho las diferencias de género, pero en esta sala todos nacimos en la galaxia Gutenberg, y este es un problema de la galaxia Bezos, por decirlo de alguna forma. Los nativos digitales no sé si pensarán exactamente lo mismo con relación a esta problemática. Además, ahí tenemos un problema que ya no es de género, sino de generaciones. Los chicos, nuestros hijos, que nacieron desde 2002 en adelante, que han sido socializados y educados dentro de esta galaxia digital, no sé si comparten exactamente las mismas preocupaciones y los criterios que nosotros colocamos en la discusión del día de hoy. Particularmente, nuestra preocupación central como seres políticos es con relación a los Estados, las democracias y los sistemas republicanos.

                Muchas gracias.

SEÑOR SENADOR RUBIO (Enrique).- Me resulta muy compartible su punto de vista. Usted argumentó algunas ideas sobre cómo podrían desarrollarse políticas públicas en relación con el modelo educativo para tratar de contrarrestar esto. De todos modos, me gustaría que explicara un poco más lo que ha significado este desarrollo digital tanto en los modelos que aplica China ‑por una punta‑ como los que aplica de forma predominante Estados Unidos -en la otra‑ aunque, paradójicamente, terminan en lugares similares, en cuanto a la intrusión en la privacidad y en la intimidad de los sujetos. Me parece que ese es un tema muy relevante.

                En realidad, comparto gran parte de las apreciaciones de Han y de los desarrollos que se han hecho sobre esta cuestión. Me parece que aquí hay uno de los nudos que no percibimos en la medida en que somos modelados por este tipo de diseños, ya sea de un extremo o del otro, pero modelados al fin.

                Gracias.

SEÑOR SENADOR DOMENECH MARTÍNEZ (Guillermo).- Creo que estamos en una etapa de desarrollo del capitalismo, a la que yo denominaría supercapitalismo, que se ha tragado a la democracia, porque cuando las empresas privadas son las que marcan las normas a los gobiernos, como hemos visto que sucede, se acabó aquella famosa definición de la democracia que daba Abraham Lincoln del gobierno del pueblo, por el pueblo y para el pueblo. Estamos frente a un gobierno mundial de grandes poderes económicos. Entonces, yo no veo cómo los gobiernos pueden poner un límite a estas empresas; me gustaría verlo, porque estoy interesado en defender a la democracia. Creo que la democracia no es liberal, sino democracia a secas, porque es mucho más antigua que el liberalismo; los grandes conductores políticos, por lo menos de nuestro país ‑y creo que de la hispanidad en general‑, no necesitaron calificaciones filosóficas para la democracia. Nuestro general Artigas ‑todos nosotros lo sabemos perfectamente bien‑ dijo: "Mi autoridad emana de vosotros, y ella cesa ante vuestra presencia soberana", y no necesitó introducir ningún elemento de carácter filosófico.

                Lo cierto es que el capitalismo nos ha llevado a este desarrollo material en el que las empresas son más poderosas que los gobiernos y no veo, por el momento, que los gobiernos ‑los que pueden hacerlo, porque el gobierno del Uruguay es muy débil en el concierto internacional para hacer una cosa de esas‑ puedan ponerle, como dice el paisano, el cascabel al gato y marcarles normas a esas grandes empresas tecnológicas. Me gustaría ver, desde una persona que evidentemente ha estudiado mucho del tema y tiene mucho conocimiento de la problemática, una propuesta concreta sobre cómo los gobiernos pueden reasumir el poder, porque esta es una disputa por el poder. Sin duda que hay problemas de orden ético, etcétera, etcétera, pero en el fondo es una disputa por el poder. ¿Quién manda: estas superempresas o los gobiernos? Eso es lo que me gustaría escuchar; algo más concreto sobre este punto.

SEÑOR PRESIDENTE.- Primero tiene la palabra el señor diputado Ope Pasquet y luego la señora diputada Alexandra Inzaurralde. Luego, vamos a dejar hablar al profesor, que no sé si dije que fue ministro de Estado español, precisamente en la Secretaría de Sociedad de la Información y la Agenda Digital hasta el 2018.

SEÑOR REPRESENTANTE PASQUET (Ope).- Ante todo, buenas tardes profesor, y muchas gracias por su exposición. Una pregunta: ¿nos podría señalar algún caso de regulación exitosa en esta materia? Quedó clarísimo que es mucho más lo que falta por hacer que lo que ya se haya hecho, pero quiero saber de algún caso que pueda servir si no como modelo, por lo menos como punto de referencia para comenzar en el estudio de estos temas.

                Era eso, gracias.

SEÑORA REPRESENTANTE INZAURRALDE (Alexandra).- Buenas tardes. Muy amable; la verdad, es más que oportuna la charla por la preocupación que están señalando los compañeros en el sentido de que realmente nos vemos prescindibles, ya que existe esa sensación, que pasa a ser compartida por la ciudadanía, de que las decisiones no pasan por el sistema político. El sistema político no tiene capacidad de poder entender si no conoce lo que se está regulando; hay que ver de qué manera lo podemos regular. Es decir, cuál es el comienzo y cuál es la punta de la madeja, y cómo podemos confiar y dar legitimidad a esas regulaciones si no las comprendemos. Creo firmemente que el hecho de informarnos ya es un buen comienzo. Esa sensación de ser irrelevantes es la mayor violencia que se puede llegar a sentir; antes eran las armas, y el día de mañana la dificultad va a pasar por sentirnos insignificantes y ver que se nos escapan las decisiones. Creo que muchos fenómenos políticos de último momento nos están marcando esa desconfianza de la gente frente a que las soluciones no pasan por el sistema político.

                El otro aspecto que usted mencionaba, aparte de la información y el poder que da para regular los procesos, que a la vez se tiene que manejar, es el hecho de trabajar en la espiritualidad, porque es lo que nos diferencia como seres humanos. ¿Pasa todo por la regulación o también pasa por estos procesos como la espiritualidad que, en definitiva, nos dignifican como seres humanos? Como señalaba el senador, las máquinas un día van a estar programadas para medir el proceso físico de las emociones y poder así, de alguna forma, predecir las conductas. Hoy eso lo hacemos en forma natural, casi intuitiva, pero lo va a poder determinar una máquina.

                Muchas gracias, muy amable, y felicitaciones.

SEÑOR REPRESENTANTE ANDÚJAR (Sebastián).- Bienvenido, muchas gracias por compartir sus conocimientos con nosotros.

                Es muy interesante lo que planteaba el señor senador Sánchez sobre los debates que se debe la humanidad con respecto a algunos temas que se vienen. Nos interesaría conocer su opinión sobre cuánto afecta todo esto a la libertad de la gente, cuánto repercute en la libertad de los seres humanos el avance tecnológico.

                Por otra parte, los tiempos legislativos son lentos; en base a las discusiones y los debates, son bastante lentos con relación al vértigo de la tecnología, y quizás una legislación nunca esté agiornada al ritmo de cómo se mueve la tecnología en el mundo. ¿Qué opinión tiene sobre cómo legislar y poder acompañar los tiempos tecnológicos?

                Muchas gracias.

SEÑOR PRESIDENTE.- Prorrogamos el inicio de la sesión para tener esta instancia muy valiosa con usted, pero sabemos que tiene una agenda bastante ajustada. Le pedimos que haga un cierre; luego podremos trasladar las preguntas que queden.

SEÑOR LASSALLE (José María).- Muchas gracias, y gracias a todas las intervenciones de los parlamentarios aquí presentes que he resumido en ocho y voy a tratar de afrontar ahora. Plantearon una primera cuestión sobre quién debe regular; ese era uno de los temas que estaba sobre la mesa. Debe regular el Estado democrático y debe hacerlo buscando establecer cauces multilaterales a nivel global, insertos en la gobernanza global que también tenemos a través de Naciones Unidas. Por tanto, el esfuerzo ha de ser doble: estatal y regional en la parte en que están articulados los diseños de gobernanza regionales. En Europa esto es paradigmático, pero en América Latina, el Mercosur también puede abordar determinados esfuerzos normativos en ese campo. Es verdad que Europa ha llevado a cabo un proceso de integración supranacional que ha desconfigurado los relatos más territorializados y locales que han venido acompañando su construcción en los últimos siglos, y esa es una ventaja competitiva que tiene respecto de otras áreas geográficas. Pero en cualquier caso, el modelo de gobernanza debe ser estatal, sobre todo porque aquí de lo que estamos hablando ‑esto me permite referirme a la reflexión que planteaba el señor diputado sobre el poder‑ es de que hay dos poderes en contradicción. Eso se vio el 6 de enero de 2021 con el asalto al Congreso de los Estados Unidos, cuando se decidió por parte de varias corporaciones tecnológicas clausurar las cuentas en Twitter y Facebook de Donald Trump. Lo hicieron no porque el legislador estableciera que tenía que hacer, sino porque de motu proprio se alinearon con la democracia. ¿Y eso qué puso de manifiesto? Puso de manifiesto, como decía Carl Schmitt, que el soberano es quien decide en los momentos de excepción. Y en un momento de excepcionalidad democrática, como vivió Estados Unidos el 6 de enero de 2021, no fue la democracia la que venció al intento de golpe de Estado que vivió ese país, sino que la decisión de vencer fue consecuencia del ejercicio de un poder aristocrático, no democrático, en manos de unas corporaciones tecnológicas.

                Jack Dorsey, CEO de Twitter, explicó en varios tuits que lamentaba tener que hacer esto, pero que primaba el daño reputacional que podía tener la marca sobre lo que había sido una insistencia suya constante: salvaguardar la libertad de expresión del presidente Trump para decir lo que todos sabíamos que estaba diciendo desde hacia meses, que las elecciones iban a ser un fraude.

                Ese poder tecnológico es un poder aristocrático, en términos clásicos del republicanismo: Salustio, Tito Livio. Es un poder aristocrático que está en manos de unos pocos y no está sometido al gobierno de todos. Por tanto, la regulación tiene que afrontarla un gobierno democrático con todo lo que representa.

                Esto tiene una especial implicación, como bien señalaba el diputado, sobre el vehículo autónomo, pero, en general, todos los procesos que tienen que ver con la inteligencia artificial. En la medida en que, evidentemente, debemos fijar los patrones, los parámetros éticos que permitan la autonomía maquínica; las máquinas deben tener capacidad para poder decidir, pero esa capacidad para poder decidir tiene que ajustarse a criterios éticos. El ejemplo que ha puesto es así. Un vehículo autónomo cuando se enfrente al escenario de decidir a quién tiene que llevarse por delante porque se produce uno de esos momentos fatídicos donde un bebé, un anciano, un joven pueden ser llevados por delante por el coche, ¿a quién protege? ¿Serían los mismos criterios que han acompañado la administración de las vacunas durante la pandemia? ¿Cuáles serían entonces los criterios? ¿Debemos dejar eso en manos de las empresas que fabrican el vehículo autónomo? ¿O todos los que estamos aquí aceptaremos y admitiremos que dependerá, evidentemente, del legislador? Y el legislador tendrá que nutrirse de la ética pública sobre la que se constitucionaliza la convivencia de una sociedad democrática. Evidentemente, hay una ética constitucional, hay unos principios. Y esto me permite ir enlazando con lo que planteaba la diputada sobre si ya existía alguna reflexión sobre esto. La reflexión que plantea el Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial del año 2018 de la Comisión Europea señala que para afrontar las regulaciones éticas de las que estamos hablando, la base de la democracia ‑en Europa dicen de la democracia liberal‑ es esperanzadora para afrontar un horizonte ético que regule los procesos que estamos aquí describiendo, siendo los derechos fundamentales la base ética y normativa de ese escenario. Por tanto, ¿quién ha de ser: el Estado o la empresa quien lo defina? Es evidente, como decíamos: el Estado.

                Yendo a la reflexión que planteaba el diputado sobre los liberales, quiero decir que yo pertenezco a esa extraña familia liberal demócrata que ha leído muy profundamente a Adam Smith, pero el Adam Smith de La riqueza de las naciones, de la Teoría de los sentimientos morales, que entronca con una teoría iusnaturalista, que ha interpretado que antes de los derechos están los deberes, que pertenece a una tradición humanista que arranca de Erasmo y que ha construido toda la cultura de la modernidad política, sin la cual no podríamos entender el pensamiento de la democracia liberal, en mi opinión.

                Adam Smith decía, entre otras muchas cosas, que siempre que dos o más empresarios se reúnen, lo hacen para conspirar contra el mercado. Esto lo decía Adam Smith. ¿De acuerdo?

                John Kenneth Galbraith decía que hay tres libros sobre los que todo el mundo habla y nadie ha leído: la Biblia, La riqueza de las naciones y El Capital. Pues, aquí se cita a Adam Smith sin haber leído a Adam Smith. Y algunos se autoproclaman liberales, sin saber muy bien lo que es el liberalismo. ¿De acuerdo?

                Por tanto, para los liberales, la regulación es básica. Otra cosa es el alcance de la regulación, y ahí podemos encontrarnos a John Rawls o a Hayek; probablemente el Hayek más liberal y menos neoliberal, pero veremos cuál es el alcance de la regulación. Un liberal no puede entender la realidad sin regulación. Lo decía Montesquieu en otro libro básicamente liberal, como es el Espíritu de las leyes: "Para que exista libertad, tiene que existir ley; si no es licencia". Por tanto, ese es un constructo que acompaña la reflexión que aquí estamos planteando, y que Europa incorpora porque, entre otras cosas, asume que la ilustración en su protoconstitución fallida y en el relato de cuáles son los principios basilares sobre los que se configura esta reflexión que aquí estamos planteando de una transición digital humanística se asienta sobre la ilustración y, por tanto, estos son los parámetros regulatorios en los que cree como esencia de sus fundamentos. Eso hace que al hablar de la transferencia tecnológica ‑estoy de acuerdo‑ es una transferencia que, en algún momento, tendrá que plantear… como sucede curiosamente con la propiedad intelectual, que en el ámbito de la autoría está sujeta a una temporalidad; hay un derecho moral de autor que no termina nunca, es eterno y que sucede a su propia vida, que es su reconocimiento como autor y los valores morales que acompañan la autoría. Pero la explotación económica de una obra creativa está limitada en el tiempo. ¿Por qué? Porque se reconoce que hay una función social que acompaña a la obra creativa. El creador solo ha podido hacer su obra en contacto con una sociedad; por tanto, tiene un monopolio de explotación durante un tiempo, pero ese tiempo está limitado. Y, a partir de ahí, entra en un espacio público de explotación. Eso nace de una idea que surge en la República de Weimar en el debate constitucional sobre la propiedad privada, donde se incorpora a la propiedad privada un modelo de función social. Es decir, la propiedad privada se transforma durante el período entreguerras y desaparece como una propiedad napoleónica, en el sentido más fisiocrático del término, que la consideraba como un derecho absoluto, para pasar a ser un derecho con una función social, y genera propiedades especiales. Y seguimos                dentro de una lógica iusprivatista de la propiedad, por tanto, no estamos entrando en una socialización marxista de la propiedad. ¿De acuerdo? Por tanto, ese debate se puede trasvasar perfectamente al ámbito de la propiedad industrial, como también sucede que acompaña al diseño de los algoritmos. Y tendrá que ser así. En algún momento, Google no podrá seguir ejerciendo un monopolio sobre su algoritmo indexador. ¿De acuerdo? Por tanto, eso está detrás del planteamiento, luego veremos cómo; pero, en fin. Pero eso está en la filosofía que debe acompañar lo que aquí estamos describiendo.

SEÑOR SENADOR DOMENECH MARTÍNEZ (Guillermo).- Perdón, ¿me permite?

                Durante la República de Weimar, León XIII ya hablaba de la función social de la propiedad. Y Juan Pablo II, en la Centesimus annus, habla también de que el derecho de propiedad tiene dos dimensiones: una individual y otra social. Yo lo digo porque me parece que en el campo del debate de las ideas es bueno tener presente también la doctrina social de la Iglesia.

SEÑOR LASSALLE (José María).- Estoy totalmente de acuerdo; pero, desde un punto de vista jurídico, no.

                Además, iba a tocar mi tema, que es la propiedad. Hice mi tesis doctoral sobre John Locke y la Teoría de la propiedad. Es un tema que conozco bastante a fondo.

                De todas maneras, hay un debate muy interesante entre dominicos y franciscanos en el siglo XIII, en el que se plantea una reflexión sobre quién es propietario de los bienes que tiene la congregación franciscana, es decir, si la iglesia o los propios franciscanos, y podríamos eternizarnos en eso. Ahí es donde se debate entre propiedad y posesión.

                Yendo al tema que nos ocupa, comparten esto los nativos que han nacido a partir de 2002 o 2003, es decir, la Generación Z, que en estos momentos se está moviendo alrededor de la veintena, que todavía no es absolutamente nativa en el sentido de que sus padres no son nativos digitales y, por lo tanto, en la parte de educación que reciben, especialmente en las familias en las que en la vida doméstica habitan los libros, son también deudores de la galaxia Gutenberg. Por lo tanto, no están desapoderados de la sombra del libro, sino que el libro todavía es operativo en la mentalidad de esos jóvenes.

                Acabo de participar en un proyecto muy interesante que se titula El Futuro es Ahora, que es un proyecto que ha conseguido articular más de quince mil encuestas de jóvenes de esta generación, en las que se les ha planteado una reflexión tratando de identificar dónde está lo que piensan, lo que sienten y lo que aspiran, y es curiosa la profunda conexión que tienen con muchos de los valores que aquí estamos señalando. Es decir que no me preocupan los jóvenes, sino la reacción de los que no somos tan jóvenes ante el fenómeno que estamos describiendo. Además, estos jóvenes, y particularmente mis hijas o los hijos de algunos de los que estamos aquí, que tienen ocho años, probablemente van a vivir proyectos educativos en los que las habilidades críticas contribuyan a una emancipación respecto de la relación que mantengan con la tecnología.

                ¿Será socializable? Yo creo que a través de pautas educativas. Hace falta reconstruir una nueva paideia para la regulación educativa que plantee la introducción de habilidades críticas y capacidades emancipatorias. Esto se conecta con la reflexión sobre la privacidad y la intimidad, que planteaba el senador. Estoy completamente de acuerdo con que evolucionamos a partir de los autores que ha citado. Ha sido un escenario en el que nos aproximamos más de lo que pensamos a un panóptico. Me refiero al panóptico de Bentham, que identificó y analizó muy bien los años veinte del siglo XIX, que de alguna manera es el modelo de un capitalismo que efectivamente, a través de su diseño de plataformas, está utilizando nuestros datos de una manera extractiva, que a pesar de la protección que los datos tienen a través de reglamentos y legislación como ya existe ‑este es un primer paso‑, sin embargo, permitir que los datos por agregación, que están asociados a nuestra huella, no nos protegen plenamente en nuestra privacidad. Al introducir pequeñas variables en los datos se sabe perfectamente quién está detrás de una IP, a pesar de la aplicación del reglamento que está, a través de la libre protección de datos, amparándonos y protegiéndonos en nuestra intimidad y privacidad. Por lo tanto, necesitamos ir más allá en el modelo de gobernanza y generar estructuras de ciberseguridad en la propia gobernanza que protege nuestros datos. Esto me lleva a la reflexión que planteaba sobre el capitalismo.

                Ya termino, presidente, porque estoy abusando de la paciencia de sus señorías, como se dice en España. Claro, el capitalismo se ha tragado al capitalismo, decía el señor diputado, y, por lo tanto, cómo ponemos el cascabel al gato. El capitalismo se ha tragado al capitalismo en el sentido de que estamos ante un capitalismo cognitivo, que insisto que nos trata estrictamente como consumidores y generadores de datos y, por lo tanto, ha modelizado un nuevo diseño. El capitalismo original se basaba en una acción responsable a la hora de la fijación que regula los precios, porque se suponía, siguiendo a Adam Smith, que la espontaneidad del mercado que fijaba los precios, en un marco de competencia leal, equiparaba nuestros deseos con nuestras necesidades y nuestras capacidades económicas en un ejercicio racional de la decisión. Ese diseño no forma parte del planteamiento que está detrás de lo que nos mueve a descargarnos una determinada aplicación. No es un elemento racional el ejercicio de la acción que fija la decisión económica en un mercado analógico, sino que aquí la racionalidad no opera, porque esto va evolucionando cada vez más hacia el ámbito más simbólico y mágico que hacia el ámbito racional.

                ¿Cómo ponemos el cascabel al gato? Tratando de alinear los activos que los poderes públicos tienen a la hora de diseñar una agenda legislativa. Hay que identificar cuáles son los activos que tienen los Estados. Por ejemplo, Francia lo ha hecho con su plan estratégico sobre inteligencia artificial y Europa lo va a hacer ahora con el reglamento de inteligencia artificial y ha identificado cuáles son sus capacidades. Francia identificó muy tempranamente que tenía una gran capacidad para poder desarrollar algoritmos muy complejos, que van a gestionar los datos en el ámbito del internet de las cosas. ¿Por qué? Porque las bases matriciales de esos algoritmos requieren matemáticos teóricos y Francia es un país extraordinariamente posicionado en el ámbito de la matemática teórica. Por lo tanto, tiene capacidad para poder hacerlo alineando esos recursos, y ha generado una agencia que organiza el trabajo en red de todos los matemáticos y los ha asociado con los matemáticos alemanes. ¿Para qué? Para desarrollar un modelo de inteligencia artificial al servicio de unos intereses estratégicos de Francia, que buscan que salvaguarde su competitividad estratégica en sectores como la industria de armamentos, la cultura y la protección del patrimonio, la industria agroalimentaria y vitivinícola ‑en este momento tienen un diseño de smart farming envidiable a nivel global‑ y la industria automovilística alrededor del vehículo autónomo. Es decir que ha comprendido e identificado sus activos y los ha alineado en una estrategia de país basada en un principio de responsabilidad. Ese modelo de gobernanza hace viable introducir mecanismos de control que pueden poner el cascabel al gato.

                El motivo no solamente es de tamaño. Uruguay tiene un nivel de infraestructuras tecnológicas envidiable y muy deseable. ¿Por qué? Porque tiene un ámbito de experimentación envidiable para el diseño, a partir del tráfico de datos, que es capaz de gestionar, para proyectos pilotos de todo tipo, por ejemplo en el ámbito del 5G. El 5G es fundamental y hacen falta laboratorios experimentales, y Uruguay tiene capacidad para convertirse en un laboratorio experimental, porque tiene unas infraestructuras tecnológicas únicas en América Latina. España las tiene en Europa. Nosotros tenemos más fibra desplegada que Alemania, Italia, Francia y Reino Unido juntos. Tan solo nos supera Finlandia.

                Por lo tanto, hay que identificar los distintos alineamientos y activos. ¿Por qué, por ejemplo, Uruguay puede tener también una ventaja competitiva en la gestión de sus datos? Porque la complejidad de los datos que aporta Uruguay lo aproxima mucho a Europa, por sus niveles de renta, por sus niveles formativos, por sus niveles de reparto de riqueza y de gestión de complejidad sin polaridades. Es decir que los datos que aportan las redes en Uruguay tienen un valor mayor ‑no quiero establecer comparación‑ que otros países vecinos o países de la región. Eso, unido a ser un ámbito en el que hay un despliegue de infraestructuras tecnológicas y una experiencia institucional de gobernanza, le posiciona como una nación digital, con capacidades que otros no tienen, y que le hace atractivo. No es casual que este país tenga un unicornio y probablemente tenga otro más, para el tamaño que tiene, dentro de los veintidós unicornios que tiene América Latina.

                Esas son las posibilidades de que una estrategia de inteligencia artificial podría perfectamente identificar los activos y alinearlos. Ahí es donde hay regulaciones exitosas. Por ejemplo, como señalaba con el caso francés.

                Termino, agradeciendo la oportunidad de hablar hoy delante de todos ustedes.

                Muchas gracias.

                (Aplausos)

SEÑOR PRESIDENTE.- Muchas gracias, José María.

                Un agradecimiento especial a la Universidad Católica, a Facundo, a Ana Fascioli y a Miguel Pastorino, y a todos ustedes por participar.

                Aprovecho la oportunidad para decir que en la Comisión de Futuros estamos trabajando integrantes de todos los partidos ‑no me dejan mentir porque varios de ellos están presentes‑ en proponer para la Ley N° 20.000, que falta muy poquitito, una comisión legal de expertos ‑hay antecedentes en el Parlamento‑, para procurar una carta de derechos digitales en un plazo que se verá en el Parlamento, que puede ser de seis meses. La idea es usar la Ley N° 20.000, que es un número simbólico, para algo que realmente nos proyecte al futuro.

                Así que hemos estado conversando en estos últimos días con la senadora Nane, con el Partido Colorado y con Cabildo Abierto, para que en las próximas semanas ‑faltan tres leyes para la N° 20.000‑, tanto en Cámara de Diputados como en la de Senadores, podamos crear una comisión de expertos a efectos de que en un plazo de seis meses se nos proponga una carta de derechos digitales, a fin de no quedar atrás en esto que hoy quedó claro que es más necesario que nunca, y por lo menos podamos debatirla.

                Gracias, profesor. Lo tendremos nuevamente si Dios quiere.

                Gracias a la Universidad Católica y a todos por participar.

                (Aplausos)

——Se levanta la reunión.

                (Es la hora 16 y 33)

Linea del pie de página
Montevideo, Uruguay. Poder Legislativo.