Una lista muy tonta

Las tontunas de los conversadores de IA

Llevo unos días conversando animadamente con Don ChatGPT. Es un señor muy correcto que está muy bien educado para no ofender a nadie y no comprometerse demasiado con "opiniones peligrosas" lo que hace algunas veces frustrante la conversación. Pero no deja de sorprenderme su sabiduría y habilidad para responder a casi todo. Es cierto que, muchas veces, nos cuenta trolas descomunales, sus opiniones son muy ambiguas, que no sabe interpretar la mayoría de los chistes y que compone unos poemas muy aburridos; pero es un hábil conversador que nos sorprende.

En otras conversaciones (sí, todavía algunos  hablamos con los humanos) he oído que también comete errores de bulto, tan sorprendentes, que pueden provocar reacciones humorísticas que van desde la sonrisa a la carcajada (y algunas veces, el miedo).

Se me ocurrió ayer preguntarle a mi inteligente interlocutor artificial por los más sonados errores cometidos por la IA. Tras unos segundos dedicados responder a los miles de interlocutores simultáneos a quienes atiende, finalmente recolectó de sus bibliotecas virtuales algunos ejemplos memorables: Cito textualmente:

Tay, el chatbot de Microsoft: En 2016, Microsoft lanzó Tay, un chatbot de inteligencia artificial diseñado para interactuar con los usuarios a través de Twitter. Pero en cuestión de horas, Tay comenzó a publicar tuits racistas y ofensivos, lo que obligó a Microsoft a cerrar la cuenta.

Google Photos: En 2015, Google lanzó una nueva función en su servicio de almacenamiento de fotos que utilizaba algoritmos de inteligencia artificial para etiquetar automáticamente las imágenes. Pero algunos usuarios descubrieron que la función etiquetaba a las personas de raza negra como "gorilas", lo que provocó una reacción negativa y obligó a Google a eliminar la etiqueta de "gorila" del servicio.

Tesla Autopilot: En 2016, un conductor de un Tesla Model S murió en un accidente en Florida mientras el coche estaba en modo de piloto automático. La investigación posterior reveló que el sistema Autopilot de Tesla no reconoció un camión que cruzaba la carretera en frente del coche.

Sistema de reconocimiento facial de Amazon: En 2018, se descubrió que el sistema de reconocimiento facial de Amazon, utilizado por la policía para identificar a sospechosos, era menos preciso en el reconocimiento de personas de color. Esto generó críticas y preocupaciones sobre el uso de tecnología de inteligencia artificial en aplicaciones de aplicación de la ley.

El sistema de clasificación de Currículums de Amazon: en 2018, se reveló que el sistema de clasificación de currículums vitae (CV) de Amazon estaba sesgado contra las mujeres, ya que había sido entrenado con datos históricos de contratación de la empresa, que eran principalmente de hombres. Como resultado, el sistema descalificaba automáticamente a los CV que incluían palabras como "mujer" o "femenino".

Errores de predicción en la atención médica: en algunos casos, la inteligencia artificial ha demostrado tener dificultades para hacer predicciones precisas en la atención médica, lo que ha llevado a errores en el diagnóstico y el tratamiento. Por ejemplo, un estudio de 2019 encontró que un sistema de inteligencia artificial utilizado para detectar signos tempranos de cáncer de mama tenía una tasa de falsos positivos muy alta.

Estos son solo algunos ejemplos de errores de la inteligencia artificial que han tenido impacto en la sociedad y han generado preocupaciones sobre la seguridad y la ética en el desarrollo y aplicación de la tecnología.


Don ChatGPT y  los chistes. 

La dificultad par interpretar el contexto, para la función metalingüística y otros déficits conversacionales se aprecian con claridad en esta modalidad de AI orientada al lenguaje.  Su comportamiento recuerda un poco a las dificultades de las personas autistas, al menos en algunos aspectos probados por mí. En concreto preguntado por la interpretación de un chiste encuentras que tiene dificultades para interpretar la ironía, la metáfora, la sinestesia y el contexto de estos pequeños textos que juegan tanto con esos factores, al igual que con la gesticulación, el ritmo, el tono, etc...

Esta es la contestación, por ejemplo, al pedirle que interprete este chiste clásico que recuerdo de mi niñez: "Era tan tontín que se volvió campana"

RESPUESTA: "Este chiste es un ejemplo de un juego de palabras basado en una figura retórica llamada "metáfora". En este caso, la metáfora utilizada es la de una persona que se convierte en campana. La frase "Era tan tontín que se volvió campana" se refiere a una persona que es tan tonta que se compara con una campana, un objeto inanimado que no tiene capacidad de pensar ni actuar. Por lo tanto, la persona se considera incapaz de tomar decisiones o actuar de manera inteligente, como si fuera una campana que solo suena cuando alguien la toca. En resumen, el chiste es una broma que se basa en la ridiculización de alguien que se considera tonto o poco inteligente."

Otra petición como ejemplo: Explica este chiste. "Esto es un hombre que entra en un bar de pinchos y... ay, ay, ay, ay."

RESPUESTA: Este chiste es en realidad una broma anti-chiste o una broma que no tiene una conclusión lógica o una respuesta graciosa.

El chiste comienza con un hombre que entra en un bar de pinchos, lo que sugiere que hay una situación divertida o interesante que va a suceder. Sin embargo, la broma se interrumpe bruscamente con la expresión "ay, ay, ay, ay", lo que sugiere que algo doloroso o inesperado ha ocurrido, pero el chiste no proporciona una explicación clara de lo que sucedió.

En resumen, este chiste es una broma que juega con las expectativas del oyente al presentar una situación que parece que va a ser graciosa o interesante, pero que en realidad no tiene una conclusión lógica o divertida. En lugar de proporcionar una respuesta clara, el chiste se interrumpe en una expresión de dolor o sorpresa, lo que hace que el oyente se sienta confundido y un poco desconcertado.

NOTA: Sin embargo, debo confesar que, al buscar hoy ejemplos para esta entrada, Don ChatGPT me ha sorpRendido. Parece que le han estado entrenando para todas estas carencias, pues descubre el sentido del chiste en muchos más casos de lo que esperaba (incluyendo los que necesitan claves onomatopéyicas, dobles sentidos, etc.)

Las tontunas de los reconocedores de personas.

Frente al pavoroso futuro que nos presenta el futuro ya iniciado en varios países como China donde el reconocimiento facial en millones de cámaras instaladas por todo el país amenazan con convertirse en un Gran Hermano que nos controle a todos, aparece el ingenio y el humor desplegado ante estos sistemas. He aquí un ejemplo presentado en el libro de próxima publicación “Four Battlegrounds: Power in the Age of Artificial Intelligence” de Paul Scharre, donde se relata como ocho marines rompieron el algoritmo del robot de DARPA realizado para reconocer combatientes comportándose como dibujos animados

Camuflaje ideado para evitar ser detectado moviéndose en una caja de cartón, 

Esto confirma la impresión generalizada de que una inteligencia artificial es tan buena como el conjunto de datos con el que ha sido entrenada. Algo que pudo comprobar DARPA (Agencia de Proyectos de Investigación Avanzados de Defensa de Estados Unidos) en el desarrollo de un robot provisto de una IA para detectar a personas. 

En un momento dado del proyecto, DARPA decide mejorar el algoritmo de la IA con entrenamientos de campo con humanos con armas. Así que traen a un grupo de marines para entrenar con ellos los movimientos y figuras que debe poder reconocer la inteligencia artificial. Durante seis días, el grupo de 8 marines camina alrededor del robot mientras los ingenieros refinan el algoritmo. En el séptimo día, deciden cambiar el enfoque e iniciar un pequeño juego en el que los marines tratarán de derrotar a la IA del robot. El objetivo consistirá en acercarse a él y tocarlo sin ser detectados. El sorprendente resultado fue que de los ocho marines ni uno solo logró ser detectado. Y lo más llamativo no es que la IA funcionara mal (lo hizo correctamente) sino que fue superada cuando los marines decidieron utilizar  recursos propios de una serie de dibujos animados y para los que el algoritmo no había sido entrenado:

- Dos de los marines llegaron hasta el robot dando volteretas durante 300 metros. 

. Otros dos dentro de cajas de cartón, como se ha visto en numerosas comedias o el videojuego Metal Gear Solid, por ejemplo, mientras no paraban de reírse durante la maniobra. 

- Un quinto marine arrancó las hojas a un abeto para disfrazarse y “caminó como un abeto” hasta tocar el robot. 

- De los tres restantes, no se reportan los trucos concretos, pero seguramente fueran en la misma línea.

El grupo de marines demostró ser bastante más ingenioso, al menos, que los ingenieros de DARPA.

Las tontunas de los creadores de imágenes artificiales con IA

Resulta desternillante el resultado de pedirle a un creador artificial de imágenes la foto de "Salmón nadando en un río". Puede parecer surrealista, pueril, estúpido; pero esto es lo que nos propone:

O quizá nos resulte inquietante contemplar las imágenes producidas para el anuncio de una hamburguesa Super Star en una campaña lanzada recientemente en Oriente Medio   encargadas por la cadena estadounidense de hamburgueserías Hardee’s. El programa DALL-E recibió el encargo y los resultados arrojados por el DALL-E fueron calificados por la agencia de «disparatados», «extraños», «surrealistas» y «completamente salvajes».