Inteligencia artificial, qué gran error haber pensado que se trataba de producir por medios artificiales los “efectos de inteligencia” de un pensador natural, de una inteligencia humana -en toda su decepción-. Hay un desafío mucho más alto e interesante, y es el que está aquí en juego -y es el que siempre ha animado la investigación en autómatas, en teatros de la memoria, en inteligencias artificiales-: poner en operación mecanismos y dinámicas capaces de producir, para sí, efectos de comprensión en el espacio tensional de una red de conexiones abiertas, una máquina social, un enjambramiento multitudinario de enlaces reenviados que conforma el puro momento holístico, la ecuación vectorial, de un sistema de fuerzas constelando.
Jose Luis BREA, Las tres eras de la imagen
Esta propuesta se basa en la reproducción de una metáfora sobre la muerte de las redes neuronales artificiales. Esto se logró a través del modelamiento de una inteligencia artificial (IA), entrenada para olvidar (eliminar) información aprendida a través de su proceso de procesamiento de datos e información. Se plantea que esta máquina, pueda desgastar sus valores estadísticos de conformación de una imagen para ser llevados a un estado de mínima información, generando así como resultado que la imagen se degrade en su forma y desaparezca.
Como consecuencia del resultado a veces insospechado que entrega la imagen producida por IA, se puede notar una cierta relación de degradado y muerte al eliminar datos (olvidar), similar a la muerte humana, dejando como rastro en la imagen el deterioro que tiene un rostro al momento de morir. Se trata de una propuesta interactiva, en donde los espectadores – usuarios ingresan a una sala de exposición, allí se encuentran una retícula de rostros ya olvidados por la IA, y un marco en donde la imagen de este espectador es capturada a través de herramientas para el reconocimiento facial. Esta imagen del rostro es procesada en tiempo real por la IA y mostrada a través de una video proyección. Una vez la imagen ya ha sido olvidada por la IA, esta pasa a ser parte de la lista de rostros en la retícula.
La intención de esta propuesta es plantear una reflexión sobre los datos y la información administrada por la IA, además de poner en cuestionamiento, las formas como están entrenando las máquinas y como son pensadas en su mayoría, las cuales, por lo general, están ligadas a las condiciones del capitalismo de vigilancia por las grandes compañías que controlan esta tecnología y se basan en la acumulación de datos e información, lo cual a mi modo de entender, no está dando lugar al olvido (eliminar). Algo tan esencial para nuestra cotidianidad humana.
Los procesos de experimentación en ciencia e ingeniería que buscan resolver la sospecha sobre las posibilidades creativas de una máquina, hacen eco en las prácticas artísticas, siendo la imagen de lo humano —su forma de pensar, la analogía entre el cerebro humano y el procesador de una computadora, las redes neuronales de aprendizaje, los procesos de entrenamiento de máquinas con las lógicas de aprendizaje por refuerzo y aprendizaje autónomo, entre otros conceptos que la neurociencia y la pedagogía han acuñado a los modos de adquirir el conocimiento—, la referencia a las acciones y procesos de automatización que la máquina procesa, ejecuta y adapta para producir libretos de películas, composiciones musicales, diseños de productos, planos arquitectónicos, instalaciones, pinturas, entre otras realizaciones que denotan características del pensamiento creativo. se refleja en la forma en que se desarrollan y utilizan estas tecnologías, ya que están diseñadas y utilizadas con el objetivo de satisfacer las necesidades y deseos humanos. Además, los datos y el entrenamiento de los modelos de IA se basan en la recopilación y análisis de datos generados por seres humanos, lo que puede sesgar el funcionamiento y resultados de la misma. Las prácticas artísticas pueden desafiar la idea de que la IA es un instrumento neutral y objetivo, destacando cómo la IA se construye a través de decisiones y prejuicios humanos.
Si se revisa la noción antropocéntrica de progreso técnico y se establece un diálogo con la tecnología, —desligándose de la condición imitativa y de control sobre la cual se han centrado la mayoría de sus desarrollos tecnológicos— se pueden evidenciar posibles caminos de tránsito y diálogo que permitan una revisión de las prácticas artísticas y la misma tecnología. Prestando mayor atención a la cooperación entre humano y máquina, la cual no requiere un poder computacional puro, sino que se ve facilitada por la intuición, las normas culturales, las emociones, las señales y las disposiciones pre evolucionadas que surgen de este encuentro. Permitiendo pensar en la posibilidad de que una maquina desaprenda y no se constituya bajo la base de evolución y superación tecnologica.
Adicionalmente, para el proceso de producción de proyectos con IA, es necesario usar códigos fuentes y bases de entrenamiento de IA, construidas en ciertos contextos sociales, culturales y políticos ya establecidos. Esto ha evidenciado que las máquinas a través de su código inicial, pueden recopilar una serie de datos casi que infinitos y luego generar patrones dentro de los resultados. Las imágenes producidas con IA son imágenes que comienzan a salir de nuestro control, como es el caso de nuestro rostro y la huella digital que generamos a través de él. Adicionalmente, estas imágenes luego de ser almacenadas como dato para el entrenamiento de las máquinas, ya no se pueden ver, se convierten en imágenes invisibles pero que siguen allí, dado que en muchas ocasiones no se ven los algoritmos y los sistemas con los cuales operan estas máquinas y en muchas ocasiones, no son transparentes, están sesgados y son hegemónicos. Ya hemos visto que la desposesión de la experiencia humana es el pecado original del capitalismo de la vigilancia, pero esa desposesión no es una mera abstracción. La rendición-conversión es un paso que engloba las prácticas operacionales concretas mediante las que se lleva a cabo la desposesión: es decir, mediante las que se reclama la experiencia humana como materia prima para proceder a su datificación y a todo lo que está datificación permite, desde la fabricación hasta la venta de unos productos. Centrarnos en esas prácticas intermedias sirve para ilustrar mejor el hecho de que el aparato de la ubicuidad no es un espejo unidireccional pasivo, sino que crea activamente sus propios almacenes de conocimiento gracias, precisamente, a esa rendición y conversión.
Ahora el objetivo es la intervención, el accionamiento y el control ubicuos. En estos momentos, el verdadero poder estriba en que se pueden modificar las acciones en el mundo real y en tiempo real. Los sensores inteligentes conectados pueden registrar y analizar toda clase de conducta y, al momento, averiguar el modo de cambiarla. El análisis en tiempo real se traduce en acción en tiempo real». Los científicos y los ingenieros llaman accionamiento a esta nueva capacidad y la consideran un punto de inflexión tan crucial como apenas analizado en la evolución del aparato de la ubicuidad. Es por esto que se vuelve importante poder pedir ser olvidados, dejar sueltas nuestras huellas digitales para poder ser borradas y administradas por nosotros mismos.
Julio – Diciembre 2023