Miedo a lo desconocido

Casi 3 000 líderes de la tecnología han firmado una petición para que se detengan los avances de la inteligencia artificial durante al menos 6 meses. Se busca desarrollar en paralelo un control de esta que permita que sea más precisa, segura, interpretable, transparente, robusta, alineada, confiable y leal. Les ha dado miedo la capacidad de estas herramientas de barrer miles de empleos, al igualar en capacidad a perfiles de medio y alto nivel de todo tipo. Además, en una de las notas de la petición, comparan las repercusiones que puede tener este avance con otras tecnologías con efectos potencialmente catastróficos para la sociedad: clonación humana, modificación del genoma humano, investigación de ganancia de función (alterar los genes para producir individuos mejores) y eugenesia.

…y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que podrían a largo plazo superarnos en número, ser más inteligentes, hacernos obsoletos y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?

Petición para detener los avances de la IA.

Y es que realmente los nuevos avances de ChatGPT All y de MidJourney v5 barren un montón de tareas aparentemente complejas y que nos parecía que solo podían desarrollar perfiles especializados. Ethan Mollick, profesor de la universidad de Wharton, publicaba recientemente la capacidad de ChatGPT de crear una simulación de una negociación, calificarla y proporcionar comentarios según las respuestas (feedback). El propio Mollick advierte que no hay «prompts» (las preguntas en texto a las inteligencias artificiales) mágicos y que cada vez que volvemos a preguntar obtenemos resultados distintos. Recordemos también que muchas veces obtenemos información «inventada». De manera que hay que tener en cuenta:

1) Cualquier prompt que encaje en un tuit es, en el mejor de los casos, un punto de partida. 2) La aleatoriedad es parte de los LLM (modelos de aprendizaje del lenguaje), por lo que obtendrá respuestas diferentes cada vez. 3) Ningún prompt eliminará las alucinaciones. Experimente y verifique los hechos.

Los puestos en peligro

Según publicaba Xataka el 21 de marzo (2023) haciéndose eco de un estudio de OpenAI (los creadores de ChatGPT), «los trabajos mejor pagados y cualificados son los más afectados, así como los empleos relacionados con la programación y la redacción». Así, se mide el nivel de exposición de los trabajos, es decir, en qué grado puede ese trabajo ser sustituido por una inteligencia GPT. Con el 100% aparecen puestos como analista financiero, escritor, periodista, auditor, contable, diseñador de interfaces digitales y web…

También se recogen puestos no afectados por la inteligencia artificial, a los que me remitía hace unos pocos post cuando hablábamos de robots bailando flamenco:

Estos son trabajos manuales de la industria y la ganadería, también deportistas, camareros… Se han dejado fuera muchos trabajos: enfermería o auxiliares, personas que atienden a la tercera edad, o profesorado y educadores infantiles, entre otros.

Hay que tener en cuenta que este estudio de OpenAI tiene varias limitaciones que están muy bien recogidas en el propio estudio. Aun así, nos sirve de orientación para comprender el miedo de los líderes tecnológicos.

Intervención de los gobiernos

La petición firmada por los líderes tecnológicos también pide la intervención de los gobiernos para frenar el avance de la IA. Se pide la creación de autoridades reguladoras nuevas y capaces dedicadas a la IA. La idea es que exista una supervisión de lo que generan las inteligencias artificiales. Expertos como David Mattin ya han apuntado anteriormente a la necesidad de que otra IA supervise la generación de contenidos de la IA. En la petición, también se señala la necesidad de marcar de alguna manera el contenido generado para que siempre se distinga entre contenido creado por personas y por IA, procesos de auditoría e identificación de la responsabilidad por información falsa. Así solicitan la creación de

…instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA.

Petición para detener los experimentos de IA.

Ya el gobierno de Italia ha bloqueado el acceso a ChatGPT por la violación de la ley de protección de datos y por difundir información falsa. Recordemos que esta herramienta no es un buscador como Google, es un generador de contenido nuevo, y ese contenido puede ser «inventado», no consecuente con la realidad. Además, ChatGPT no puede discernir si la persona que pregunta es menor de edad, en consecuencia, los menores estarían desprotegidos contra las respuestas de todo tipo que pueda generar.

El avance de la vida

Mi opinión es que no se puede parar esto. Me da la sensación de que no es comparable a las técnicas de clonación o de alteración del genoma, que atentan directamente contra lo que es humano. Pienso que, habiéndose extendido como la pólvora y estando el conocimiento en manos de miles de personas, los avances seguirán y se escaparán al control de las autoridades. Quizá el hecho de que estas inteligencias puedan barrer puestos especializados sea el origen de trabajos distintos que puedan realizar esas personas. Quizá provoque la revalorización de trabajos artesanos, hechos a mano, y, como comentaba hace unas semanas, una mejora de los trabajos basados en la ayuda.

Los robots no bailan flamenco

Nos estamos ocupando en identificar aquellos trabajos que puede muy pronto (ya) hacer la inteligencia artificial. Con el reciente lanzamiento de ChatGPT 4, llega incluso más lejos. Me parece más importante identificar aquellos trabajos que nunca vamos a querer que haga una IA o un robot. Ya se apuntaba a esto en la segunda parte del vídeo «Mi empleo, mi futuro» que os compartí y reproduzco aquí:

#MiEmpleoMiFuturo 2, un documental de COTEC.

El resumen es: todo aquello que se puede sistematizar de alguna manera lo puede hacer un robot. Y añado: será aquello en lo que no nos importa demasiado ver a un robot o dejar de ver a una persona.

Cantiñas

Hace poco tuve la suerte de asistir a una conferencia de cante, una especie de clase magistral sobre las cantiñas, un palo del flamenco, en la escuela de flamenco de Amelia Vega. Cantaor: Israel Paz. Guitarra: José Arenas. Percusión: Antonio Maya. Bailaora: Amelia Vega. La idea era estudiar en profundidad qué son las cantiñas, cuáles son sus tipos y melodías y cómo distinguir una cantiña de una alegría y otros palos.

Resulta que el flamenco se origina con los cantes sin guitarra. La guitarra se añade después y solo más adelante se le añade el baile. Así, si en un principio la guitarra se adapta a la voz y la acompaña, hoy día el baile toma protagonismo y determina cómo son la guitarra y la voz, obligando al cantaor a adaptar su voz cortándola donde conviene.

¿Dónde viene escrito qué es la cantiña y cómo se distingue? ¿En qué partitura puede un guitarrista inspirarse para tocar como José Arenas o emular a su padre Antonio Arenas? La respuesta es: no existe ese material. No hay ninguna fuente, ni por escrito ni grabada, de la que un guitarrista pueda beber. Las fuentes de transmisión del flamenco son eminentemente orales y por imitación: José Arenas preguntaba a su padre por qué esto o lo otro, su padre decía, simplemente:

El flamenco es así.

Posible frase de Antonio Arenas.

Si se quisieran anotar en una partitura las variaciones y formas de «hacer cantar a la guitarra», la partitura quedaría ilegible. Es más, no hay un lenguaje con el que reflejar estas variaciones. De manera que, si llega una melodía a un guitarrista de academia, de conservatorio, tocará la guitarra como… un robot. Será correcto, dará las notas, pero no tendrá los matices que se han destilado de un aprendizaje oral, experiencial y por imitación. Ya os digo que no suena ni parecido.

En el post anterior os decía que nadie pagaría por ver actuar a robots. Quizá, como dice un asiduo lector de este blog, la gente muy joven ahora lo vea como algo normal y sí le den valor. Un robot podría ejecutar una partitura a la perfección. Yo particularmente le daría valor cero. ¿Un robot podría aprender escuchando horas y horas tocar a José Arenas, para luego desviarse de la partitura aquí y allá cuando «la situación lo pidiera»? ¿Puede un robot improvisar?

Vaya cuadro hemos pintado aquí DALL.E y yo con esta petición: «Un androide bailando flamenco, otro androide sentado tocando la guitarra y un tercero cantando.»

Desautomatización

Hay un resquicio de esperanza entonces en especializarse en lo que no se puede automatizar: todo lo que puede hacer un robot lo acabará haciendo mejor que un humano. Por supuesto, es mucho más eficiente automatizar tareas. Cada día, llegamos al trabajo y existen una serie de rutinas, pasos, procedimientos. Se trata de llevarlos a cabo en el mismo orden. Es algo que podrá hacerse pronto sin intervención humana, o mucho menor.

Así que veo un camino en desautomatizar nuestras tareas. Hace tiempo, cuando hablaba de la improvisación y el clown, comenté que una persona puede llegar a acomodarse a hacer el ridículo más espantoso. El profesor le dice: «haz que eres una cabra en celo». Y esta situación vergonzante la representa de una manera durante un minuto o dos y a partir de ahí empieza a repetir. Ya se ha acomodado.

Lo contrario de acomodarse es incomodarse, crear en el acto conforme se realiza una actividad. No siempre es posible, quizá solo en esos pequeños matices que damos a nuestras tareas, esos momentos súbitos de improvisación, de tener una idea feliz y cambiar el orden, añadir un rasgo, enriquecer un paso. Quiero pensar que esto no nos lo pueden arrebatar las inteligencias artificiales.

Humanidad

Como vengo apuntando, el otro campo en el que no vamos a querer robots es en los cuidados a una persona. ¿O sí? Hay una serie de tareas que sí están muy sistematizadas, pero en las que nos gusta el trato humano, la calidez. Se trata de la atención al paciente y al cliente.

Cuando nos sale el robot en la enésima llamada a un operador de telefonía, cuando nos toca volver a repetir los mismos pasos que sabemos que no sirven para nada porque luego nos vuelven a preguntar todo, ahí querríamos de verdad que una persona estuviera al otro lado, con su capacidad para la empatía.

Cuando nos ingresan en un hospital y una persona nos pone una vía, estoy convencida de que además nos está aportando tranquilidad. La mirada a los ojos, las neuronas espejo que se activan, una serie de elementos de comunicación no verbal que entran en juego… todo esto no podría ser así con un robot, o sería una situación altamente inquietante.

Cuando necesitamos hablar con una persona experta en la ayuda a otras, como pueda ser un psicólogo, necesitamos no solo de su experiencia sistematizada, no solo de sus conocimientos de las neurosis y las psicosis. Necesitamos de la persona en sí, del humano que se da cuenta de algo en el transcurso de la conversación y propone una vía de solución. ¿Qué vías de solución podría proponer una IA?


Los robots (aún) no bailan flamenco ni se les espera. Busca todo aquello que no se puede sistematizar, que requiere de tus rasgos más humanos y más animales. Aquello será la especialización que la inteligencia artificial y la robótica no te podrán quitar.

Buscando amargarte la vida

barco
Esta entrada va dedicada a Marisa, Javier y Maite. A Marisa, porque descubrió que era una buscadora y se sintió identificada con el anterior post sobre el tema. A Javier, porque me habló de El arte de amargarse la vida y esto me ha ayudado a avanzar sobre el tema buscar-encontrar. A Maite, porque reivindicó lo bonito de ser cometas en lugar de estrellas. Gracias a los tres.

Pero que esté dedicada a ellos no significa que no te valga a ti. Al contrario, si te ha atraído el tema, estás en el sitio correcto, a ver si podemos dar algunas respuestas.

Cuidado con la llegada

Esto es lo que nos dice Watzlawick en el libro que he mencionado antes. Algunos estamos en viaje permanente, y ponemos mucho cuidado en no llegar nunca. No llegar nunca es nuestro arte para amargarnos la vida. Y es que, cuando no hemos alcanzado esa meta lejana, admirable, y propia de los héroes de novela, se nos presenta como algo mucho más romántico, atractivo y seductor. Cuando ya se ha alcanzado, deja de ser apetecible, y pasa a ser cotidiana. Lo cotidiano, rutinario y conocido es, esencialmente, mucho más aburrido. Por tanto, llegar es destruir el sueño.

Si me tocara la lotería…

Es un juego al que jugamos con los demás y con nosotros mismos. Conozco a muchas personas que trabajan en oficinas a quienes les encanta fantasear con lo que pasaría si les tocara la lotería. Todo es idílico. Lo primero que harían, claro, es dejar de trabajar. Y después se suelen mencionar destinos paradisíacos, playas, hamacas, cambios de casa, cambios de todo tipo… Es curioso que haya datos que nos muestran cómo personas a las que les tocó la lotería han caído en un estado de pobreza peor una vez gastado el dinero. Desde luego, eso no es lo que soñaron que harían con esa tremenda suerte en su mano.

Cuando te cansas de no llegar nunca

Volviendo al juego de «nunca llegar», a mí lo que me ha pasado es que me he cansado de no llegar nunca. Como juego está gracioso, cuando ya se comprueba que es una forma de amargarse la vida, deja de tener tanta gracia. De nuevo, no afirmo que todos los que son buscadores estén complicándose su existencia. Quizá los buscadores puros han encontrado su forma de ser felices. Esto distingue entonces a los buscadores puros de todos los demás, que no acertamos a vislumbrar el puerto donde queremos amarrar el barco, quizá porque no existe, quizá porque se trata de una forma de vivir tan contraria a la que hemos llevado hasta ahora, que ni siquiera sabemos en qué consiste. Utopía significa «en ninguna parte».

Destruir el destino para empezar de cero

Otra forma de buscador no puro es aquel que se pasa años construyendo una vida para luego destruirla a los pocos meses, con el fin de construir otra con un gran esfuerzo, sin utilizar ninguna de las piezas de la anterior, y con el mismo destino futuro. Yo lo visualizo como construir un castillo, pieza a pieza, y cuando se está a punto de poner la bandera en lo alto, o la última almena, o el detalle del puente levadizo, entonces se decide que este castillo hay que pisotearlo y destruirlo ya porque ni remotamente responde al plano que nos habíamos creado en la mente. Entonces se le arrancan piezas y se le destruye muy rápido, no sea que permanezca ahí. Por si fuera poco, salimos corriendo y lo dejamos atrás, no sea que descubramos que hay algunas piezas (o muchas, o todas) que se podrían reutilizar para lo siguiente, para lo que venga, para seguir viviendo.

El buscador puro no habría construido ningún castillo, sino que lo habría alquilado para pasar el fin de semana.

¿Mejor no comprobar cuál es la realidad?

Por supuesto, hay otras formas igualmente interesantes de amargarse la vida, y casi todas ellas coinciden en no comprobar cuál es la realidad en cada momento, sino aferrarse a unas ideas únicas, inamovibles, y muy personales que hacen del mundo propio una auténtica pesadilla. Hace tiempo reflexioné que cada uno se construye su propio infierno, y luego vive en él quejándose de lo horrible que es. Un infierno de creencias como «no soy capaz», «el mundo es hostil», «el pasado fue mejor», «el pasado ha hecho que nunca más pueda ser feliz», etc. Algunos son tan convincentes en su descripción de estas pesadillas que arrastran a otros a la misma visión del mundo, o por lo menos les hacen ver lo que están sufriendo ellos y les someten a ser eternos cuidadores de la pobre víctima.