Friday 1 de March de 2024
Perfil

Éric Sadin: "Tenemos la sensación que la industria digital no nos vende nada, solo nos revela cosas"

PODCASTS | Por Jorge Fontevecchia | 23 de June 14:00

El filósofo y ensayista francés es una de las voces más renombradas de la actualidad entre quienes investigan la denominada “subjetividad digital”. Ha trazado un diagnóstico de la sociedad contemporánea y de sus prácticas, en función del impacto de la tecnología. Se explaya sobre sus principales conceptos y hace un llamado a comprometernos y defender las facultades fundamentales que nos constituyen como seres humanos.

En su libro “La humanidad aumentada”, marca la invención del smartphone como el fin de la revolución digital y el inicio de la transformación digital del mundo. ¿A qué se refiere con “aumentada”?
Hoy creo que no utilizaría el término “aumentada”. Hablaría, más bien, de una humanidad orientada, que es exactamente lo que sucedió desde el inicio de la década de 2010, con la llegada del iPhone y de las aplicaciones integradas, diseñadas para señalarnos continuamente las acciones correctas que debemos realizar. Por ejemplo, con Waze, tomar tal camino, reunirse con tal persona, ir a tal restaurante, tomar tal suplemento dietario. Eso fue el comienzo de lo que llamé la orientación algorítmica, o el acompañamiento algorítmico de la vida. Y esto es un movimiento que no ha dejado de crecer, favorecido por los avances de la inteligencia artificial. Así, nuestros gestos, nuestras conductas están cada vez más guiados por sistemas, con el fin de liberarnos de una serie de esfuerzos y señalarnos continuamente la vía de la verdad, por decirlo de algún modo: “Haz esto, haz aquello”. Esta medida se inició con lo que he llamado el advenimiento de un tecnoliberalismo, que ya no quería mantener una separación entre los individuos y los productos vendidos, sino interpretar continuamente los comportamientos, con miras a sugerir permanentemente bienes y servicios que se supone que son adecuados para cada uno de nosotros. Esa es una de las dimensiones más sobresalientes que permite la inteligencia artificial, la interpretación cada vez más en tiempo real de los comportamientos y, a su vez, la posibilidad de dirigirlos.

Esta conversión digital del mundo dice usted que “redefine las relaciones históricas con el espacio-tiempo que estructuran la base de nuestra experiencia”. ¿De qué manera altera la transformación digital nuestra percepción de la realidad?
Estas tecnologías nos ofrecen algo así como una percepción omnisciente de lo real. Porque desde principios de la década de 2010, estamos asistiendo a un cambio de estatuto de las tecnologías digitales. Ese es el gran tema que hay que entender. Me parece que en relación con muchos fenómenos tecnológicos, tendemos a sumirnos en la confusión. Seguimos las cosas, adoptamos los dispositivos, sin entender realmente lo que está en juego. Quizás el papel de una filosofía contemporánea, de una filosofía que quiera analizar los fenómenos de cerca, consistiría en tratar de describir lo que está en juego. Y lo que se está jugando desde hace una década y constituye un fenómeno significativo es que hay un cambio en las tecnologías digitales. La idea es que ya no solo permiten la recopilación, el almacenamiento, la indexación y la fácil manipulación de los datos, a los más diversos fines de información. Lo que está en marcha hoy y desde hace una década –en realidad, son unos quince años–, desde la llegada del iPhone y con el desarrollo de una nueva era de la inteligencia artificial a principios de la década de 2010, es el surgimiento de una nueva rama de las tecnologías digitales. Estamos frente a sistemas que evalúan situaciones en tiempo real. Doy un ejemplo muy simple: la aplicación Waze, que casi todos usamos, adquirida por Google a una startup israelí en 2005. ¿Qué hace esta aplicación? Es como muchos otros sistemas, otras aplicaciones, otros dispositivos tecnológicos, que evalúan el estado del tránsito en tiempo real, a velocidades infinitamente superiores a nuestras capacidades cognitivas, y que revelan hechos que nuestra conciencia ignora por completo. Nadie sabe que hay tal cantidad de vehículos, tal volumen de tránsito. Waze evalúa eso, pero también sugiere tomar tal itinerario en lugar de otro. Esto cambia la relación con la experiencia, cambia la relación con lo real, con los otros, con el espacio, en la medida en que cada vez más los distintos sistemas nos revelan hechos, diagnósticos y evaluaciones en tiempo real del estado de cosas, además de indicar las acciones que deben realizar los individuos: “Compra tal zapato, ve a tal lugar, conoce a tal persona”. En síntesis, es este acompañamiento de la vida lo que permite una nueva era del comercio, que casi podría radiografiar nuestras almas, nuestras mentes, para interpretar continuamente lo que se supone que nos conviene y decirnos, casi como por arte de magia: “Esto es lo que necesitas”. Por lo tanto, la primera consecuencia del desarrollo de la inteligencia artificial en los últimos quince años es lo que he llamado la mercantilización integral de la vida. O sea, sistemas que nos sugieren continuamente tales acciones y no otras, generalmente con el objeto de efectuar transacciones comerciales. La segunda gran consecuencia es lo que he llamado una hiperracionalización de la sociedad, es decir, que los sistemas encuadran la acción humana. Le doy un ejemplo, en los almacenes logísticos de Amazon hay sensores, sistemas de inteligencia artificial que interpretan la ubicación de los operarios en tiempo real. Mediante señales de audio o tabletas, les van dando órdenes, al tiempo que los reducen a robots de carne y hueso. Los mandan a buscar tal artículo de tal armario para volver a colocarlo a determinado ritmo en tal palé. También esto se ve propulsado por la inteligencia artificial, dotada de ese poder de recomendación. Digamos que cada vez más esto encuadra los gestos y, por ende, impone normas. Normas de producción, de conducta, y una organización cada vez más enmarcada del curso de los asuntos humanos comunes.

¿Cuáles son los hechos cruciales que marcan la condición antrobológica, este juego de palabras entre antropo, robot y logos, que tendrían como fin último modificar la intelección entre el ser humano, la meta que tenemos de razonar y conocer el mundo?
Desarrollé la noción de antrobología hace algunos años, con La humanidad aumentada. Esto designaba el hecho de que había cada vez más robots, sistemas, fantasmas, voces. Era el momento en que los sistemas nos señalaban qué acciones hacer en nombre del estudio de una verdad de los hechos, de un diagnóstico objetivo de las cosas. Los sistemas se ponían a hablarnos. En los últimos años, la tecnología, el techno logos, ya no es un mero discurso sobre la técnica, sino que son sistemas dotados de la capacidad del habla, la facultad de hablar. Esto es lo que vemos con el ChatGPT, que es un gran problema. La capacidad que le hemos otorgado al sistema tecnológico para hablarnos. Esto surgió en 2016 con los parlantes inteligentes, que también nos hablan. Se dirigen a nosotros. No como tú, yo o cualquiera, para decir cualquier cosa, sino que siempre tienen una idea en mente: interpretar nuestro comportamiento para poder decirnos continuamente qué hacer. “Estás en la bañadera, escucha tal música”. Dado el conocimiento de nuestro comportamiento, nos pueden decir: “Te recomiendo tal producto alimenticio, tal vacación en la montaña”. Las tecnologías comienzan a hablarnos con voces agradables, con tono humano, lo cual crea una relación de intimidad, de proximidad, de familiaridad con la técnica, que ya estaba en marcha con los smartphones. La dimensión táctil, la caricia táctil. La relación que tenemos con nuestras tecnologías es cada vez más íntima, y estas forman parte, cada vez más, de nuestro ambiente, haciendo difícil mantener nuestra distancia con los sistemas. Hay algo así como un confort que nos sostiene, hay que reconocerlo. Nos cuesta mantener una relación crítica con los sistemas, con una economía y una industria cada vez más poderosas, hegemónicas hoy, que se proponen mercantilizar todos los campos de la vida y hacer valer únicamente sus modos de racionalidad, fundados en la interpretación de los comportamientos, en la mayor eficiencia posible y en el hecho de no dejarnos respirar un segundo, por decirlo de algún modo. Esto nos acompaña continuamente.

¿Qué sucede con ese sujeto moderno que habría surgido de la tradición humanista, singular y libre, plenamente consciente y responsable de sus actos, que queda absorto y absorbido por esta transformación digital, incapaz de ver las redes que lo atan y subsumido en estas proyecciones del algoritmo?
Es un hecho que los sistemas nos encuadran cada vez más. ¿Qué significa esto? ¿Qué significa que lo hacen con fines comerciales y organizativos? Significa que se nos imponen normas. Las ambiciones externas, los intereses externos ejercen una presión cada vez mayor sobre nuestras existencias. Hay algo así como la autonomía histórica del sujeto, que tú mencionas y que data de la Ilustración, la cual tiende a ser relegada en favor de un cerebro algorítmico que nos marca el camino de la verdad. Esto genera que la extrema tecnologización de nuestra existencia ponga a distancia nuestra capacidad de pronunciarnos en primera persona. Con esto me refiero al ChatGPT, por ejemplo. Las tecnologías digitales, con la inteligencia artificial desde hace unos diez años, eran y son tecnologías cognitivas destinadas a organizar mejor los asuntos humanos desde un punto de vista individual y colectivo. Ya lo hemos dicho: hacer tal o cual acción, organizar el funcionamiento de las empresas, propiciar las mejores condiciones de management, disponer las condiciones para la contratación mediante sistemas que entrevistan a los candidatos a un cargo. Me parece que no estamos dimensionando en su justa medida que estas tecnologías cognitivas, que diagnostican situaciones y a cambio recomiendan, tienen un poder político, un poder prescriptivo. Hablo de las tecnologías digitales actuales, o sea, de la inteligencia artificial. Desde hace ya varios meses, vivimos un momento muy perturbador que, en mi opinión, es un huracán civilizatorio. Que no nos vendan esto como un nuevo y eterno progreso. No. Creo que se trata de un enorme peligro civilizatorio y cultural que nos atañe. Estamos viviendo la era de las tecnologías generativas, es decir, que fabrican lenguaje, representación. Y después de habernos despojado de nuestra facultad para decidir por nosotros mismos el simple curso de nuestras vidas cotidianas, desde un punto de vista individual y colectivo, esa presión no ha dejado de intensificarse. Entonces, después de haber vivido ese momento que se acelera sin cesar, ahora estamos viviendo el momento en que los sistemas se hacen cargo de nuestras facultades más fundamentales, el habla, la escritura, el poder expresarse en primera persona, el poder mantener una relación activa con el lenguaje. Asimismo, las tecnologías de la inteligencia artificial generativa logran producir un régimen simbólico: imágenes, videos. Esto no solo nos despojará cada vez más de la facultad creadora que nos constituye y de la capacidad del lenguaje. Todo lo que atañe a nuestras facultades humanas más básicas está siendo delegado. Estoy muy sorprendido, muy molesto, muy enojado también, porque estos fenómenos ya existen. Han producido un shock hace unos meses, pero son casi una nueva etapa en el desarrollo de las tecnologías digitales. Me parece que hay un cruce de umbral que no debemos aceptar. Esto no debe ser objeto de una moratoria ni de un simple marco normativo que no alterará en nada el hecho de que se nos estén arrebatando nuestras facultades. Por mi parte, creo que son sistemas que vulneran nuestra condición, nuestra dignidad, nuestra creatividad humana. En nombre de esto, me uno a lo que decía Albert Camus en El hombre rebelde: “Más allá de este límite, no irás, no pasarás”. Creo que se ha traspasado un umbral y que eso no nos está movilizando lo suficiente. En mi opinión, esto debería ser objeto de una prohibición por parte de los Estados. Sé que es muy complicado, pero me parece fundamental. De lo contrario, vamos a tener niños y adultos que ya no escribirán, que solo darán instrucciones, como una especie de capricho. “Escríbeme un texto, un mail”. Como si nos convirtiéramos en vegetales de la sociedad. Además, aparece así un momento muy peligroso, muy amenazador, que es el de la indistinción de la fuente, es decir, quién habla. Frente a un texto: ¿el autor son los sistemas? ¿Quién está hablando? Hay algo así como una base común que se está perdiendo. Porque para hacer una sociedad debemos saber de dónde vienen los discursos, quién habla, qué medidas debemos obedecer, a quién respondemos. Luego tenemos la problemática de la imagen: el hecho de que cualquier imagen pueda hacerse valer e imponerse en el debate público, sin que se sepa si corresponde a hechos exactos. Ergo, hay muchos peligros por delante. ¿Qué provoca esto? Algún que otro debate, discusión, programa de radio o televisión. Pero hay algo fundamentalmente humano que está siendo vulnerado. Para terminar, voy a decir algo que me parece muy importante. Estamos tan confundidos y la cosa va tan rápido. Hay una desincronización entre los desarrollos tecnológicos y la forma en que la sociedad puede percibirlos. Y esto plantea un problema político. Es difícil seguir esos fenómenos en el momento en que aparecen, comprenderlos y poder pronunciarse al respecto, lo cual es lo propio de lo político. Decir si queremos o no tal cosa. Pero también hay otro problema. Se fabrica una doxa, condiciones, discursos. No viene de un único lugar, en absoluto. Es una tendencia que está en marcha. Discursos que provienen principalmente de la industria digital o de los ingenieros, que nos dicen que no nos preocupemos por más que pueda haber ciertos riesgos. Sam Altman, el responsable de OpenIA, dijo que esto va a ser genial para la humanidad. No sabemos desde qué posición lo dice. Hay unas cuantas frases así que se repiten en todos los periódicos. Creo que escuchamos demasiado a los ingenieros. Hoy, cuando queremos saber qué hacer con estos sistemas, pedimos opinión a los ingenieros. Creo que más bien habría que escuchar a los médicos, a los profesores, a la sociedad. No preguntar solo a los que fabrican y venden, que son juez y parte, qué piensan ellos de los sistemas que producen, y tomar luego sus palabras como si fueran verdaderas. Me refiero, por ejemplo, a una persona como Yann LeCun en Francia, ingeniero jefe de Meta Facebook en París. En una entrevista con Le Monde el pasado fin de semana, dijo que la inteligencia artificial permitirá un renacimiento de la humanidad, una nueva era de la Ilustración. ¡Pero un ingeniero diciendo eso! ¿Cómo podemos tomarlo en serio y no ver que esta gente que trabaja en Facebook responde a sus propios intereses y a una visión del mundo? Una visión hipertecnologizada. Sería hora de oponer un contradiscurso a esos tecnodiscursos. Creo que no lo hacemos lo suficiente. A mi modesta medida, con las armas de la filosofía, con el escalpelo, con instrumentos quirúrgicos, intento analizar, diagnosticar las cosas, como decía Foucault. Lo hago al margen de los discursos que conllevan intereses y visiones del mundo, generalmente cientificistas, pronunciados por los partidarios de la industria digital o los ingenieros. Corresponde a la sociedad pronunciarse, participar, saber hasta qué punto queremos o no usar ciertos sistemas, en particular aquellos que nos arrebatan nuestra capacidad de habla. Me alegró, por ejemplo, enterarme de que en París, en la facultad de Ciencias Políticas, hace dos meses, los equipos pedagógicos dijeron que no utilizarían esas tecnologías. “Estos sistemas no van a decidir cómo se estructura la educación. Somos nosotros los que decidiremos por sí o por no”. Y optaron por no usarlos. Pienso que esa es la posición crítica, rechazar que las innovaciones sean las que deciden unilateralmente el rumbo de las cosas. Buscar que la sociedad pueda decidir, pueda crear un juego con las cosas, pueda mantener una relación crítica y afirmar una pluralidad de voces. Creo que escuchamos demasiado a Elon Musk y a todos esos ingenieros. A esas personas que están encerradas en sus laboratorios y muchas veces padecen Asperger y solo piensan en amasar miles de millones de dólares. Los escuchamos demasiado. Hoy es hora de escuchar a todas las fuerzas vitales, a todas las fuerzas vivas de la sociedad.

Escuchá la entrevista completa en Radio Perfil.

por Jorge Fontevecchia

Galería de imágenes

En esta Nota

Comentarios

Espacio Publicitario

Espacio Publicitario