Elon Musk y varios líderes tecnológicos consideran que la IA se está saliendo de control y piden una pausa urgente

Un grupo de líderes tecnológicos, profesores e investigadores, incluido Elon Musk, ha firmado una carta solicitando una pausa de al menos seis meses en el entrenamiento de los sistemas de inteligencia artificial (IA) más poderosos.

La carta, publicada por Future of Life Institute, expresa preocupaciones sobre los riesgos profundos que estos sistemas podrían representar para la sociedad y la humanidad. La solicitud de pausa surge después de que OpenAI anunciara GPT-4, una versión aún más avanzada de su tecnología de chatbot IA llamada ChatGPT

Las pruebas iniciales de GPT-4 mostraron que era capaz de redactar demandas, aprobar exámenes estandarizados y crear un sitio web a partir de un boceto dibujado a mano. La carta enfatiza la necesidad de desarrollar protocolos de seguridad compartidos para las herramientas de IA y señala que la planificación y gestión adecuada de esta tecnología no está teniendo lugar actualmente.

Si no se implementa una pausa voluntaria, la carta sugiere que los gobiernos deberían intervenir y establecer una moratoria. La preocupación sobre el rápido desarrollo de la IA también se extiende a su impacto en la privacidad, el sesgo y la difusión de información errónea. Varios países han comenzado a introducir marcos de gobernanza de IA para abordar estas preocupaciones.