Por Nicolás de Cárdenas
Madrid, España, Ene 17, 2025 / 07:00 am
El fraile franciscano Paolo Benanti, experto en inteligencia artificial (IA), advirtió de sus riesgos éticos durante un coloquio organizado por la Fundación Pablo VI en Madrid, señalando que "quien controla este tipo de tecnología controla la realidad."
El sacerdote italiano, presidente de la Comisión para la Inteligencia Artificial del Gobierno italiano, subrayó que "la realidad a la que nos enfrentamos es distinta a la de hace 10 o 15 años y es una realidad definida por el software"
"Este punto de partida repercute en el modo en que ejercemos los tres derechos clásicos relacionados con la propiedad de una cosa: el uso, el abuso y el usufructo", explicó. (El Cambridge Dictionary define el usufructo como "el derecho legal a utilizar temporalmente la propiedad de otra persona y a quedarse con cualquier beneficio que se obtenga de ella")
Esto es especialmente cierto en lo que respecta al usufructo, porque "los valores que produces con el uso de estos dispositivos no son tuyos, sino que van a la nube", señaló Benanti.
"Entonces, ¿quiénes son los que no tienen el usufructo de las cosas? Los esclavos", explicó.
Por ello, animó a reflexionar sobre lo que significa vivir en una realidad definida por el software. "Tenemos que tener una aproximación ética a las tecnologías" y en particular a las vinculadas a la inteligencia artificial, dijo, "porque son las que configuran la realidad de nuestro mundo, y las personas que controlan este tipo de tecnologías controlan la realidad"
"Tenemos que reconocer que vivimos en una realidad diferente. El software no es secundario sino que cuestiona lo que es la realidad, lo que es la propiedad, cuáles son los derechos que tenemos", dijo el franciscano.
En segundo lugar, el franciscano explicó cómo el desarrollo de la tecnología informática después de la Segunda Guerra Mundial ha producido diferentes procesos relacionados con el poder, la democracia y la privacidad.
En los años 70 se produjeron procesos descentralizadores en Estados Unidos y Europa que llevaron a la creación años después de los ordenadores personales que "permitieron que todo el mundo tuviera acceso a cosas muy sencillas"
En los 90, tras la caída del Muro de Berlín, se pensó que un mercado más liberalizado "llevaría a un mayor bienestar y promovería el modelo de democracia liberal en países con otros modelos". Sin embargo, esta política "hizo a China más rica, pero no más democrática", continuó el experto en IA.
Así, los valores democráticos occidentales entraron en crisis cuando se comprobó que "se puede ser rico y tener bienestar sin ser democrático", observó.
En la llamada Primavera Árabe de 2011, el uso de los teléfonos móviles mostró "el poder de los ordenadores personales". Pero poco después, este poder comenzó a sospecharse: "Los teléfonos móviles dejaron de ser los aliados de la democracia para convertirse en el peor aliado de las fake news, la polarización, la posverdad y todo ese tipo de cosas", señaló Benanti.
Con la llegada de la pandemia del COVID-19 y los bloqueos, "fuimos capaces de adaptar nuestras vidas gracias al poder de nuestros ordenadores personales" mediante el uso de videollamadas o el desarrollo de aplicaciones para pagos bancarios entre otras herramientas útiles para sustituir hacer las cosas en persona.
"Nos dimos cuenta de que, silenciosamente, desde 2012 hasta 2020, el smartphone había subsumido la realidad y ahora las cosas que pasaban en la realidad pasaban directamente en el teléfono", recordó.
(La historia continúa debajo)
Durante la segunda década del siglo XXI, "tenemos inteligencia artificial dentro del smartphone" y, según Benanti, la democracia liberal clásica se está convirtiendo en "una democracia basada en la informática"."
En ella, "estamos usando la inteligencia artificial para quitarle a una persona la capacidad de usar el ordenador por sí misma y llevarlo a un lugar centralizado que llamamos centro de datos" de tal forma que aparece un nuevo desafío ético: "Ahora todos los procesos vuelven a estar centralizados en la nube"
El experto destacó que estas "nubes" o centros de datos "pertenecen a cinco empresas" que son dueñas de "todos los datos", lo que representa no sólo un reto personal sino también un desafío "para los procesos democráticos"
Respecto a estos desafíos, el sacerdote explicó cómo la inteligencia artificial también puede suponer una amenaza para la libertad de las personas por su capacidad de hacer predicciones sobre el comportamiento.
"La sugerencia que te puede interesar no sólo predice lo que puedes comprar, sino que también produce las cosas que vas a comprar", resumió.
Esta posibilidad plantea "un verdadero problema" porque la existencia de este tipo de sistemas en nuestros bolsillos "es capaz de forzar y moldear la libertad de los espacios públicos".
Este tipo de cuestiones sobre las debilidades, oportunidades, fortalezas y amenazas de la inteligencia artificial constituyen la razón por la que "deberíamos tener gobernanza sobre este tipo de innovaciones."
Respecto al futuro, Benanti predijo que la inteligencia artificial tendrá un gran impacto en el acceso a la información, la medicina y el mercado laboral. Respecto a este último, señaló: "
Si no regulamos el impacto que la inteligencia artificial puede tener en el mercado laboral, podríamos destruir la sociedad tal y como la conocemos ahora
Esta historia fue publicada por primera vez por ACI Prensa, socio de noticias en español de CNA. Ha sido traducida y adaptada por CNA.
