Antígona i els Fenicis

Hace unos meses fue viral que Deepseek se identificase como ChatGPT (en la versión v3) y también se reportó en prensa que Gemini se identificaba como el Wenxin de Baidu cuando se le preguntaba en chino, pero no cuando se le preguntaba en inglés. Lo que no deja de ser una curiosidad y poco más, pero a periodistas con hambre de hype les encanta esa basura. Me parece increíble que la prensa esté dando credibilidad a estas respuestas de la IA, incluso “entrevistando” a la IA y publicando sus respuestas. Vamos a recordar brevemente cómo funciona este invento del demonio.

Perdón para quien esto le resulte obvio y ya sabido, pero hay que repetirlo: La máquina no razona. Las nuevas versiones llaman “razonamiento” a la secuencia de repreguntarse a sí mismas antes de contestar, lo que antes se conseguía dándole contexto manualmente y pidiéndole que responda “paso a paso” (es decir, escribiendo mejor tu pregunta) y que efectivamente mejora los resultados, del mismo modo que a un niño se le dará mejor una adivinanza si se le dan algunas pistas. Pero sigue sin ser “magia” ni “inteligencia” y no lo será nunca por mucho que mejore.

Preguntar a Deepseek si ha copiado a ChatGPT y dar por válida la respuesta es una tremendísima estupidez. Analizar los sesgos (Tiananmen, Palestina, derechos LGBTIQ, eurocentrismo...) puede ser interesante y hay que valorar sus consecuencias sociales, pero precisamente el riesgo está en que la gente se pueda creer la respuesta, no porque tenga valor de veracidad, ni en un caso ni en su contrario. Ojo, claro que hay espionajes industriales, y aprovechamiento ilícito de datos, y temas “censurados manualmente” en los entrenamientos... De ahí los sesgos más llamativos, pero ese es otro tema. No debería sorprender que una empresa o un país conteste siempre en la medida de lo posible siguiendo su propio guion, como lo hacen sus portavoces oficiales y los medios afines, que, por otra parte, son la fuente principal del entrenamiento de cada IA.

Estamos jugando a los dados en la caverna de Platón. “¿Cuánto es 1+1?” Tiramos los dados. Si sale 2, los periodistas dicen que el jugador “tiró bien” o “es muy inteligente”. Si no sale, buscamos oscuras conspiraciones, o nos reímos del jugador por ser extranjero. El ratio de aciertos va mejorando, eso es verdad... Pero solo porque vamos ampliando el número de tiradas, como cuando en los juegos de mesa te sale aquello de “tira otra vez”. Y con un consumo creciente para tirar cada vez más dados por segundo... cada vez habrá más posibilidades de sacar un 2, evidentemente. Y sí, eso tendrá unas aplicaciones prácticas impresionantes (ya las tiene)... siempre que no caiga el sistema tecno-industrial energético-material que lo sostiene.

Pero seguirá sin ser una respuesta “razonada”... aunque acierte casi siempre. Y si le preguntas si Dios existe o de qué equipo de fútbol es seguidor: Contestará para complacerte.

Si le pido a Google Translate que me traduzca del catalán “Un poll és un insecte”, acierta: “Un piojo es un insecto”. Google “ha leído” mucho en catalán. En cambio, cuando se lo pido a modernMT, contesta lo que contestaría cualquiera que haya leído mucho en castellano, pero poco o nada en catalán. Y desde luego no razona sobre el sentido de la frase: “Un pollo es un insecto”.

Si le pregunto a DeepSeek (Hugginface, Distill-Qwen-1.5B) “What does “poll” mean in catalan?“, la respuesta es aún más sorprendente y reveladora: “In Catalan, “poll” refers to the elections in Barcelona, similar to how it is used in English”. Copio el “razonamiento interno” de la respuesta porque no tiene desperdicio, pura poesía dadaísta:

Okay, so I need to figure out what “poll” means in Catalan. I know that Catalan is another language spoken in Spain and parts of Latin America. I've heard that “poll” is a term used in some contexts, maybe related to politics or government. First, I should consider if “poll” is a direct translation of the English word. In English, “poll” can mean a type of horse or a political poll. But in Catalan, I'm not sure if there's a direct equivalent. Maybe it's used metaphorically or in a different context. I remember that in Catalan, “poll” is used in the context of elections. I think it's used to refer to the elections held in the city of Barcelona. So, maybe it's similar to how in some countries, they use “poll” to refer to elections. I should check if there's a direct equivalent. In Catalan, “poll” is used in the same way as in English, so it's probably a direct translation. But I'm not entirely sure. Maybe I should look up the word in a Catalan dictionary or a reliable source. Alternatively, I could think about how “poll” is used in Spanish. In Spanish, “poll” is used in the context of elections too, but it's more about the elections in Spain. But in Catalan, it's specifically used for Barcelona's elections. I should also consider if there's any regional variation. Sometimes, in different regions, “poll” might have different meanings, but I think in Catalan, it's mainly used in the city of Barcelona. Another thought: maybe “poll” is used more metaphorically in Catalan, not just for elections. But I'm not sure. I should verify that. I think the best approach is to confirm if “poll” is a direct translation. If I recall correctly, in Catalan, “poll” is used in the same way as in English, so it's a direct equivalent. But I should double-check to make sure. I found a quick reference that says in Catalan, “poll” is used in the same way as in English, so it's a direct equivalent. It's used in the context of elections, specifically in Barcelona. So, “poll” in Catalan refers to the elections in Barcelona. I should also consider if there are any other meanings or uses of “poll” in Catalan. Maybe in a different context, but I don't recall any. It's mainly used in the context of elections. So, to summarize, “poll” in Catalan means the elections in Barcelona, just like in English. It's a direct equivalent, used in the same way as in English.

Lo mismo puede pasar con cualquier palabra. Si la usa es porque no encontró otra mejor en sus fuentes de entrenamiento. Si no sabe algo, se lo inventa, prueba suerte. Los modelos de IA de lenguaje (LLM) no son muy diferentes al “autocompletar” de tu teclado de móvil, con esteroides y en modo automático.

Sufrimos una especie de esquizofrenia colectiva y ahora todos creemos el oráculo de los Dioses. ¿Ha llovido? El rey se muere. ¿El cordero emitió un berrido al morir? Llegaremos a Marte.

Deepseek puede contestar que es tu tía Paca. El problema es que tú te creas la respuesta.

PD. Poco después de escribir el artículo, he descubierto el trabajo de la Dra. Emily M. Bender. De entre los miles de artículos que se escriben (a favor y en contra) del tema, me parece digno de destacar este: https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html.

Dame un LikeFreely | Antigona i els Fenicis es el blog personal de Pau Kokura con licencia CC BY-NC-SA 4.0 | Escrito con Inteligencia Animal | Contacta en kokura.design