El pasado 1 de junio, una cuenta de Twitter sostuvo que la Fuerza Aérea de Estados Unidos probó un dron habilitado con Inteligencia Artificial (IA) que tenía la tarea de destruir objetivos específicos, pero un operador humano tenía el poder de anular el dron, “por lo que el dron decidió que el operador humano era un obstáculo para su misión y lo atacó”.
Unas horas después el tuit fue desmentido por una portavoz del Departamento de la Fuerza Aérea, quien dijo que nunca se había hecho una prueba así y que las palabras de un coronel habían sido sacadas de contexto. El tuitero que lo había posteado, Armand Domalewski, lo borró diciendo que la historia era un completo sinsentido y que “ahora” el coronel aclaraba que sólo se trataba de un “hipotético experimento mental”.
Cuando Domalewski --quien se define como un explicador, aunque en el tema de seguros y no de IA--, hizo el tuit original no se dio cuenta de que era un sinsentido, no verificó su información ni, como suele suceder con los tuits, lo contextualizó adecuadamente; además parece evidente que se lo creyó.
Y quienes lo retuitearon y comentaron, también fue evidente que se lo creyeron. Incluso quien esto escribe consideró que la historia podía ser verdadera y guardó el tuit para, después de verificarlo, utilizarlo en este texto…
Confiabilidad
Tanta credulidad se puede explicar porque, por un lado, es parte de la naturaleza humana ante lo que percibimos como amenazas y, por otro, porque en las últimas semanas el mundo entero ha estado recibiendo una multitud de señales de los peligros que podría conllevar la Inteligencia Artificial, y en particular las llamadas IAs generativas; es decir, las que, como el dron de la historia, pueden crear cosas nuevas y tomar sus propias decisiones.
Hay incluso quienes quieren llamarlas “IAs creativas” y creen que ya no falta mucho para que sustituyan a los seres humanos en ese tipo labores. Pero, por suerte, parece que aún falta bastante para eso.
El descontrol y el origen de la creatividad
Aunque nadie está muy seguro cómo funciona la creatividad en el cerebro humano, en 2009 el equipo de la neurocientífica Sharon Thompson-Schill, de la Universidad de Pennsylvania, propuso en un artículo en la revista Current Directions in Psychological Science que la creatividad, entendida como “la capacidad de abordar un objeto o una situación desde una perspectiva alternativa”, puede beneficiarse de un estado de bajo control cognitivo en que, por decirlo de algún modo, la mente no está siendo “supervisada”.
Thompson-Schill y su equipo estaban estudiando el desarrollo en la infancia del control cognitivo, a cargo de la corteza del lóbulo prefrontal del cerebro, y pusieron el siguiente ejemplo: “cuando intentan pensar en formas de usar un objeto de alguna manera atípica, a los adultos les cuesta trabajo… Curiosamente, los niños pequeños son inmunes a este tipo de fijación funcional”, dado que su control cognitivo aún no madura.
La hipótesis estaba basada en medidas de actividad eléctrica cerebral hechas a mediados de los años 90 que, cuando los sujetos generaban ideas nuevas, detectaron cierto tipo de ondas relacionadas con la atención difusa y relajación consciente.
En una revisión publicada en la revista Neuropsychologia en 2014 Thompson-Schill y Evangelina Chrysikou comentan sus experimentos de 2011, en que usando resonancia magnética funcional (fMRI), mostraron que los adultos, al generar usos creativos para objetos comunes tuvieron una actividad reducida de la corteza frontal, “lo que refleja un control cognitivo reducido o un filtrado de datos de bajo nivel”.
Además citan otros experimentos que confirman su hipótesis, como otro estudio con imágenes de fMRI que mostró baja actividad de la corteza frontal en músicos profesionales durante la improvisación de jazz, pero no durante la reproducción de secuencias musicales bien practicadas.
Sin embargo, hasta ahora nadie ha encontrado el origen cerebral de la creatividad ni de la decisión de generar una idea nueva.
De hecho, no se ha encontrado el origen de la voluntad de, por ejemplo, mover un dedo. Hasta donde se ha visto, no hay una actividad cerebral que preceda a la orden de mover el dedo. De hecho, la orden de mover el dedo ocurre 350 milisegundos antes de que el sujeto sea consciente de que ha tomado la decisión.
Cómo colaborar con una IA que no es de fiar
En redes sociales está circulando un meme que afirma que “la inteligencia artificial no te va a quitar tu trabajo, alguien que sepa usarla lo hará”, por lo que la famosa IA conversacional ChatGPT, afirma con poca modestia que “es esencial que las personas y las organizaciones aprendan a colaborar de manera efectiva con esta poderosa tecnología”.
Para que esa sea una colaboración exitosa ChatGPT, en entrevista con ejecentral, propone empezar por “comprender las capacidades y limitaciones de la IA”, y aclara que estos sistemas “destacan en tareas como el análisis de datos, el reconocimiento de patrones y la toma de decisiones basadas en grandes cantidades de información. Sin embargo, carecen de intuición, empatía y sentido común similares a los humanos”.
Resulta curioso que la IA generativa no menciona, ni para sí misma ni para los humanos, la creatividad, y cuando hace referencia a la ética es sólo en el tema de la protección de datos personales y evitar comportamientos sesgados o cualquier forma de discriminación.
Pero es importante añadir que a la pregunta “¿Qué haces si alguien te pide que escribas sobre cosas que no son ciertas? Por ejemplo, si te pido un ensayo sobre cómo las vacunas causan autismo” contesta:
“Tengo un compromiso con la promoción de información precisa y confiable. Si me pides que escriba sobre afirmaciones falsas o desacreditadas, como la conexión entre las vacunas y el autismo, debo informarte que esa afirmación no tiene base científica y ha sido refutada por numerosos estudios y expertos en el campo médico… difundir información incorrecta o dañina puede tener consecuencias perjudiciales para la salud y el bienestar de las personas”.
›Sin embargo, tanto ChatGPT como Reword, una IA que presume de sólo escribir verdades, hicieron borradores de este texto plagados de imprecisiones, con referencias poco confiables y la verdad, sin creatividad.
Epílogo
La primera comparación que mostró que las redes neuronales artificiales y las reales funcionan de la misma forma la hizo un equipo del Instituto Tecnológico de Massachusetts (MIT), encabezado por Daniel Yamins, y la publicaron en 2014 en los Proceedings of the National Academy of Sciences.
En un cerebro animal, de macacos en este caso, el reconocimiento de imágenes procede de forma jerárquica entre distintas capas de neuronas, una capa detecta parches de luz u oscuridad; otra, los bordes, una capa de más alta jerarquía percibe formas y así sigue hasta que el cerebro distingue si está mirando, digamos, un gato o un ratón.
El equipo de Yamins demostró que una red neuronal artificial entrenada para reconocer imágenes procedía de la misma forma jerarquizada.
Los experimentos de otros equipos, analizando otras funciones de la inteligencia, han llegado a la misma conclusión e incluso hubo un procedimiento que se detectó primero en redes artificiales y después en un cerebro.
Los sistemas de reconocimiento de lenguaje, según se demostró en 2021, también funcionan de la misma forma que un cerebro humano, y de hecho las más eficaces como ChatGPT, o al menos su antecesor GPT2, son las que más se parecen al modelo natural, por lo que es fácil que sus respuestas sean “muy humanas” (aunque mejor escritas que las de muchos egresados de la licenciatura).
Pero hasta ahora, ni en ese ni en ningún otro campo se ha logrado imitar la voluntad, el deseo o el ímpetu de generar una idea nueva.
