Ante los veloces avances que ha tenido la inteligencia artificial en los últimos meses, más de mil investigadores y desarrolladores, como el cofundador de Apple Steve Wozniak, y líderes del mundo de la tecnología, como el empresario Elon Musk, firmaron una carta abierta en la que piden hacer una pausa de seis meses en el desarrollo de los sistemas más avanzados.
Los firmantes de la carta, entre los que se encuentra el historiador Yuval Noah Harari, citan los “Principios de IA de Asilomar” de 2017, donde se establece que la Inteligencia Artificial avanzada “podría representar un cambio profundo en la historia de la vida en la Tierra”, por lo que debe planificarse y administrarse con el cuidado y los recursos correspondientes.
“Desafortunadamente, este nivel de planificación y gestión no está ocurriendo”, señalaron los firmantes, que también incluyen a Rachel Bronson, quien preside el Boletín de Científicos Atómicos, la organización que pone en hora el Reloj del Juicio Final, y a John Hopfield, el inventor de las redes neuronales asociativas, una de las bases de la inteligencia artificial.
PUEDES LEER: ChatGPT desata ‘fiebre’ por la inteligencia artificial en Silicon Valley
La carta plantea que la inteligencia artificial “puede plantear riesgos profundos para la sociedad y la humanidad”, sobre todo la que es capaz de competir con los humanos en diversas tareas generales.
“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos ... arriesgarnos a perder el control de nuestra civilización?”, preguntan los firmantes.
“Tales decisiones no deben delegarse en líderes tecnológicos no elegidos”, aseguran. “Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.
En particular mencionan el sistema GPT-4, el chatbot dado a conocer este mes y que fue desarrollado por el laboratorio de investigación OpenAI, del cual es cofundador el propio Musk; además, sugieren que la pausa se aproveche para desarrollar e implementar protocolos de seguridad auditados y supervisados por expertos externos independientes.
Incluso se señala que si los desarrolladores no pueden promulgar rápidamente la pausa, “los gobiernos deberían intervenir e instituir una moratoria”.
Inquietud. El chat GPT-4, desarrollado por un laboratorio cofundado por Elon Musk, es una de las preocupaciones.
SIGUE LEYENDO:
