“Hemos construido máquinas que son como toros en una tienda de porcelana: poderosas, temerarias y difíciles de controlar”, aseguró esta mañana, con respecto a la inteligencia artificial (IA), Gary Marcus, investigador emérito de la Universidad de Nueva York y uno de los pioneros en el desarrollo de estas tecnologías.
Marcus, quien además fundó en 2014 una empresa de IA, se presentó como testigo ante el subcomité de privacidad, tecnología y derecho del Senado de Estados Unidos para discutir sobre lo que es necesario hacer para garantizar que las tecnologías de IA sean seguras.
“Hay beneficios –dijo Marcus–, pero aún no sabemos si superarán los riesgos. Fundamentalmente, estos nuevos sistemas van a ser desestabilizadores. Pueden y crearán mentiras persuasivas a una escala nunca antes vista por la humanidad”, lo cual, aseguró, puede afectar procesos electorales, mercados y sistemas políticos. “La democracia misma está amenazada”.
De hecho, al inicio de la reunión, el senador Richard Blumenthal puso una grabación en la que su voz, imitada a la perfección por una IA, decía un discurso escrito por la famosa ChatGPT que también imitó el estilo y el tipo de cosas que dice Blumenthal, según reconoció él mismo.
Lee también: Inteligencia artificial casi puede tener licencia médica en EU
Por su parte, Christina Montgomery, vicepresidenta y supervisora en temas de privacidad de IBM, pidió a nombre de la compañía que se haga una “regulación de precisión”, y lo definió como “establecer reglas para regir el despliegue de las IA en casos de uso específicos, sin regular la tecnología en sí misma”.
Lo que implicaría que “la regulación más estricta se aplique a los usos con mayores riesgos para las personas y la sociedad”; que se definan claramente los riesgos, que haya transparencia y que los consumidores sepan siempre cuando están interactuando con un sistema de inteligencia artificial, y que se exija a las empresas que realicen evaluaciones de impacto de los sistemas que desarrollen.
El senador Lindsey Graham pidió a Marcus que le dijera, con claridad y sin abstracciones, qué debían hacer, ante lo que el experto propuso un organismo regulador como la Administración de Alimentos y Medicamentos (FDA), que evalúe la seguridad de los sistemas de IA.
“Actuamos demasiado lento con las redes sociales. Muchas decisiones desafortunadas quedaron atrapadas con consecuencias duraderas. Las decisiones que tomemos ahora tendrán efectos duraderos durante décadas, tal vez incluso siglos”, advirtió Marcus.
ES DE INTERÉS |
Nace el primer bebé con ADN de tres personas
Las solitarias “cebras” mexicanas
