Eric Sadin y la trampa de la Inteligencia Artificial
«Las tecnologías digitales se han convertido en órganos de toma de decisiones. En cierto modo, seremos menos llamados a dar instrucciones a las máquinas que a recibirlas de ellas», sostiene el filósofo francés Eric Sadin, autor de libros como «La vida algorítmica», «La siliconización del mundo» y «La inteligencia artificial o el desafío del siglo». En este último libro, su mirada crítica sobre la tecnología no recae en objeciones habituales como el saqueo de datos o la amenaza a las libertades individuales, sino en la caracterización de la llamada fase más revolucionaria de la tecnología que provoca distorsiones en la percepción del mundo y ha desatado un antihumanismo radical que pone en peligro la continuidad de la especie humana.
Eric Sadin identifica los peligros antes que los beneficios en lo que refiere a la inteligencia artificial (IA). Sostiene que detrás de la capacidad de gestionar, dirigir o colaborar con las distintas operaciones humanas se esconde un proceso de anulación de la conciencia que tarde o temprano llevará al exterminio de la autonomía y a la desaparición de la realidad. Para el filósofo, los modos en que tecnoliberalismo actúa la intersección entre tecnología y sociedad, horadan el juicio crítico, convirtiendo las elecciones subjetivas en una práctica automatizada inducida por algoritmos que identifican patrones de consumo y nos alientan a participar continuamente en transacciones de mercado.
El término inteligencia artificial deber ser cuestionado, porque trata de un tipo de racionalidad cuyo objetivo es optimizar cualquier situación y satisfacer una serie de intereses privados: «De ninguna manera estamos lidiando con una réplica de nuestra inteligencia, incluso parcial, sino con el abuso del lenguaje que sugiere el reemplazo de nuestra inteligencia para asegurar una mejor conducta de nuestro negocio», explica el filósofo.
El registro dramático que escoge Sadin en «La inteligencia artificial o el desafío del siglo» para advertir sobre los efectos de la digitalización del mundo no es novedoso y ya había sido enunciado incluso por uno de los artífices de la inteligencia artificial (IA), Marvin Lee Minsky, que en 1970 llegó a vaticinar que cuando las computadoras tomaran el control, sería muy difícil volver a recuperarlo: «Sobreviviremos mientras ellas nos toleren. Si tenemos suerte, quizá decidan tenernos como sus mascotas», sostuvo por entonces. Sin embargo, se las ingenia para no incurrir en las profecías más transitadas como la amenaza de robots depredadores o la vigilancia estatal y siembra su propio alerta apocalíptico: la idea de que la IA está impulsando un cambio antihumanista y antidemocrático, una alteración de la percepción del mundo que se produce a partir de aplicaciones presentes en la vida cotidiana —como diagnósticos médicos formulados por bots o programas de selección de personal que prescinden de la entrevista laboral— que enuncian conclusiones a partir de la habilidad para analizar y vincular a velocidad una cantidad de datos imposibles de ser procesados por el cerebro humano.
Sugiere que la embestida de la tecnología sobre la subjetividad, responde a un movimiento vigente desde hace quince años que se sustenta en una visión del mundo que prevalece en los Estados Unidos, principalmente en California, según la cual Dios no completó la creación. «El mundo está lleno de fallas, y el principal vector de estas imperfecciones son los humanos. Pero hoy tendría lugar un ‘milagro’: el advenimiento de las llamadas tecnologías «exponenciales» que se supone corrigen, a largo plazo, toda la escoria del mundo, y esto a una velocidad exponencial. Esto dio lugar al movimiento transhumanista, donde lo característico de la vida, es decir, la corrupción y el declive, puede erradicarse».
«Es entonces la singularidad de los seres y la pluralidad humana que se neutralizan gradualmente mediante modos automatizados de organización que persiguen el conflicto, la deliberación y la concertación, todos los principios que condicionan la vida política y democrática. Al esforzarnos continuamente por gobernarnos a nosotros mismos, estos sistemas establecen una relación estrictamente utilitaria con la existencia, suponiendo que toda acción debe apuntar a un fin, ya sea una supuesta comodidad o la optimización de secuencias de nuestras vidas», añade.
Ante la indefensión que plantea la velocidad del discurso tecnológico, Eric Sadin plantea la vuelta a los testimonios que emanan de la realidad en el terreno, donde operan estos sistemas, en el lugar de trabajo, en las escuelas, los hospitales… «Deberíamos mostrar nuestro rechazo hacia los dispositivos que burlan nuestra integridad y nuestra dignidad.Todavía depende de nosotros promover otros modos de existencia que los basados en el deseo de optimizar todo y comercializar todo. Celebremos la pluralidad humana, que condiciona la política, según Anna Harendt. Contra este asalto antihumanista, prevalezcamos una ecuación simple pero intangible: cuanto más tengamos la intención de renunciar a nuestro poder para actuar, más será necesario estar activos».
En su libro plantea que se generó un cambio de estatuto de las tecnologías digitales, que pasaron de almacenar datos a enunciar verdades a partir de la interpretación automatizada de situaciones. ¿Cuáles serán los órdenes de la vida más afectados por este nuevo rol de la IA?
Lo que caracteriza la inteligencia artificial es que es un poder de experiencia que mejora constantemente. Los sistemas ahora pueden analizar situaciones cada vez más diversas y revelarnos hechos, algunos de los cuales son ignorados en nuestra conciencia. Y lo hacen a velocidades que van más allá de nuestra capacidad cognitiva.
Estamos experimentando un cambio en el estado de las tecnologías digitales, que ya no solo están destinadas a permitirnos manipular la información para diversos fines, sino para revelarnos la realidad de los fenómenos más allá de las apariencias.
La IA ha representado, desde principios de la década de 2010, la cuestión económica considerada la más decisiva en la que es necesario invertir de forma masiva. Además de las empresas, también son los Estados los que movilizan todos los medios necesarios para estar a la vanguardia; ahora cada uno hace de este objetivo una gran causa nacional. A la vanguardia en ese sentido se encuentran Estados Unidos y China.
Según su hipótesis, el propósito de este liberalismo digital es ir reemplazando a las personas y «robotizar» al ser humano. ¿Seremos sujetos pasivos frente a esa deshumanización y perderemos toda capacidad de resistencia o las sociedades se sublevarán como lo hacen hoy frente al rebrote racial tras la muerte de George Floyd?
Este es un fenómeno único en la historia de la humanidad, que ve técnicas que nos ordenan actuar de tal o cual manera. Las tecnologías digitales, a partir de herramientas de apoyo a la toma de decisiones, se han convertido en órganos de toma de decisiones. En cierto modo, seremos menos llamados a dar instrucciones a las máquinas que a recibirlas de ellas. Esto puede variar desde un nivel moderado e inofensivo, por ejemplo a partir de una aplicación de entrenamiento deportivo que nos sugiera la utilización de un suplemento dietético, hasta un nivel prescriptivo en el caso del sector de reclutamiento laboral que ahora usa sistemas digitales para seleccionar a los candidatos a una tarea.
El ejercicio libre de nuestra facultad de juicio es reemplazado por protocolos destinados a guiar y enmarcar nuestras acciones. ¿Somos capaces de ver la ruptura político-legal que está teniendo lugar?
¿Cómo impacta esto en el mundo del trabajo?
Los diferentes sectores de las grandes compañías ahora están infiltrados con sensores que hacen posible una disposición dual: primero, el mapeo en tiempo real de las «medidas de desempeño», luego la implementación de sistemas destinados a promover gestos «buenos» a realizar. Estos procesos son ampliamente utilizados en los almacenes de Amazon, por ejemplo, pero se extienden a todo el mundo industrial. Los cuerpos se ven privados de su subjetividad y su capacidad de iniciativa, y se reducen continuamente a la ejecución de órdenes que emanan de programas que la mayoría de las veces son establecidos por empresas tercerizadas. Es hora de que los sindicatos aborden estas cuestiones de organización de conducta impersonal y altamente optimizada, que burlan la legislación laboral tanto como la dignidad humana.
¿Estamos una vez más frente a la reactualización de aquel concepto de Hobbes acerca del «hombre como lobo para el hombre» dado que es la especie humana la que dictamina los usos y abusos de la tecnología?
Estamos presenciando la marginación de la evaluación humana. En medicina, un campo que se supone que aprovecha los avances en inteligencia artificial, el diagnóstico del médico está obligado a ser progresivamente marginado por los sistemas. Porque la industria digital tiene la intención de tomar el control del campo de la salud.
En términos más generales, estamos ante la prohibición del ser humano como un ser activo, capaz de evaluar las cosas, a favor de sistemas que tracen el mejor marco supuesto del curso de nuestra existencia. La ciudad inteligente, por ejemplo, margina cualquier proyecto concertado en beneficio de los mecanismos que enmarcan nuestra vida cotidiana en los espacios urbanos. Estas son las señales lógicas destinadas a establecer una mercantilización integral de la vida, tanto como una visión higiénica de la sociedad.
Toda nuestra tradición humanista está en peligro en la medida en que estamos presenciando el destierro progresivo de los humanos como seres activos. Porque la inteligencia artificial margina el ejercicio de nuestra facultad de juicio e infringe nuestro derecho a determinarnos libremente y en conciencia.
Foto/Fuente:Télam