|
Getting your Trinity Audio player ready...
|
Por Pablo Sanguinetti, IE University
La inteligencia artificial (IA) se compone de datos, chips o código, pero también de los relatos y las metáforas que empleamos para representarla. Las historias importan. El imaginario en torno a una tecnología determina el modo en que el público la entiende y, por lo tanto, guía su uso, su diseño y su impacto social.
Por eso preocupa que, según la mayoría de estudios, la representación dominante de la IA tenga poco que ver con su realidad. Las omnipresentes imágenes de robots humanoides y la narrativa antropomórfica de chatbots como “asistentes” y cerebros artificiales resultan atractivas a nivel comercial o periodístico, pero se basan en mitos que distorsionan la esencia, las capacidades y las limitaciones de los modelos de IA actuales.
Si el modo en que representamos la IA es engañoso, ¿cómo entenderemos de verdad esta tecnología? Y si no la entendemos, ¿cómo podremos usarla, regularla o alinearla con nuestros intereses?
El mito de la tecnología autónoma
La representación distorsionada de la IA se enmarca en una confusión extendida que el teórico Langdon Winner bautizó ya en 1977 como “tecnología autónoma”: la idea de que las máquinas han cobrado una suerte de vida propia y actúan por su cuenta sobre la sociedad de forma determinista y frecuentemente destructiva.
La IA ofrece ahora la encarnación perfecta de esa visión, porque coquetea con el mito de la creación de un ser inteligente y autónomo… y el castigo derivado por arrogarse esa función divina. Un patrón narrativo ancestral que va de Frankenstein a Terminator, de Prometeo a Ex Machina.
El mito de la tecnología autónoma se intuye ya en la ambiciosa denominación de “inteligencia artificial”, acuñada por el informático John McCarthy en 1955. El término resultó ser un éxito a pesar de que provoca numerosos malentendidos, o tal vez gracias a eso.
Como señala Kate Crawford en su libro Atlas de IA: “La IA no es artificial ni inteligente. Más bien existe de forma corpórea como algo material, hecho de recursos naturales, combustible, mano de obra, infraestructuras, logística, historias y clasificaciones”.
La mayoría de problemas con el relato dominante de la IA pueden atribuirse a esa tendencia a representarla como un ente independiente, casi alienígena, incomprensible y ya ajeno a nuestro control o nuestras decisiones.
Metáforas que nos confunden
El lenguaje usado por muchos medios, instituciones e, incluso, expertos para hablar sobre IA está plagado de antropomorfismo y animismo, imágenes de robots y cerebros, historias siempre falsas sobre máquinas rebelándose o actuando de forma inexplicable y debates sobre su supuesta conciencia, por no hablar de una sensación de urgencia e inevitabilidad.
Esa visión culmina en el relato que ha impulsado el desarrollo de la IA desde sus inicios: la promesa de la IA general (IAG), una supuesta inteligencia de nivel humano o sobrehumano que cambiará el mundo o incluso la especie. Empresas como Microsoft u Open AI y líderes tecnológicos como Elon Musk vienen pronosticando la IAG como un hito siempre inminente.
Sin embargo, lo cierto es que el camino a esa tecnología no está claro y ni siquiera hay consenso sobre si será posible desarrollarla alguna vez.
Relato, poder y burbuja
El problema no es solo teórico. La visión determinista y animista de la IA construye un futuro determinado. El mito de la tecnología autónoma sirve para inflar las expectativas sobre la IA y desviar la atención de los desafíos reales que plantea, obstaculizando así un debate público más informado y plural sobre la tecnología. En un informe de referencia, el Instituto AI Now se refiere por eso a la promesa de la IAG como “el argumento para acabar con todos los argumentos”, una forma de evitar cualquier cuestionamiento a la tecnología.
Además de una mezcla de expectativas y temores exagerados, estas narrativas son también responsables de haber inflado la posible burbuja económica de la IA sobre la que alertan diversos informes y líderes tecnológicos. Si existe esa burbuja y termina por estallar, interesará recordar que se alimentó no solo de logros técnicos, sino también de una representación tan impactante como engañosa.
Un cambio narrativo
Arreglar el relato roto de la IA requiere poner en primer plano su dimensión cultural, social y política. Es decir, dejar atrás el mito dualista de la tecnología autónoma y adoptar una perspectiva relacional que entienda la IA como fruto de un encuentro entre la tecnología y las personas.
En la práctica, este cambio narrativo consiste en desplazar el foco de la representación de varias maneras: de la tecnología a los humanos que la guían, del futuro tecnoutópico a un presente en construcción, de las visiones apocalípticas a los riesgos presentes, de la IA presentada como única e inevitable al énfasis en la autonomía, la capacidad de elección y la diversidad de las personas.
Diversas estrategias pueden impulsar esos desplazamientos. En mi libro Tecnohumanismo. Por un diseño narrativo y estético de la inteligencia artificial, propongo una serie de recomendaciones de estilo para escapar del relato de la IA autónoma. Por ejemplo, evitar su uso como sujeto de la oración, cuando le corresponde el rol de herramienta, o no atribuirle verbos antropomórficos.
Jugar con el término “IA” ayuda también a ver hasta qué punto las palabras pueden cambiar nuestra percepción de la tecnología. ¿Qué ocurre cuando lo reemplazamos en una frase, por ejemplo, por “procesamiento de tareas complejas”, uno de los nombres menos ambiciosos pero más precisos que se barajaron para designar la disciplina en sus orígenes?
Los debates clave sobre la IA, desde su regulación a su impacto en la educación o el empleo, seguirán apoyándose en terreno pantanoso mientras no se corrija el modo en que la representamos. Diseñar un relato que visibilice la realidad sociotécnica de la IA es un reto ético urgente que beneficiará tanto a la tecnología como a la sociedad.
Pablo Sanguinetti, Profesor de IA y Pensamiento Crítico, IE University
Este artículo fue publicado en The Conversation. Lea el original.
