Resumen
Generado por Inteliegenica Artifical (OpenAI)
La superinteligencia artificial podría estar más cerca de lo que pensamos, y OpenAI, la organización de investigación en inteligencia artificial de alto perfil, está redoblando esfuerzos para desarrollar herramientas que permitan su regulación y control. Recientemente, miembros del equipo de Superalignment se dieron cita en NeurIPS, una importante conferencia de aprendizaje automático en Nueva Orleans, para presentar los últimos avances de la compañía en esta área crítica.
OpenAI, conocida por su liderazgo en avances tecnológicos y su agenda ética en IA, formó el equipo de Superalalignment en julio pasado con un objetivo ambicioso: gobernar sistemas de IA que superen ampliamente la inteligencia humana. “Hoy podemos alinear modelos que son menos inteligentes que nosotros, o como mucho, al nivel humano”, dijo Collin Burns del equipo de Superalignment, “pero alinear un modelo que es realmente más inteligente que los seres humanos es mucho más complicado”.
Este esfuerzo está encabezado por el cofundador y científico jefe de OpenAI, Ilya Sutskever, quien aún lidera al equipo pese a las controversias internas y el regreso de Sam Altman a la compañía después de un despido que generó polémica.
El equipo enfrenta escepticismo dentro de la comunidad de investigación en IA, con algunos expertos considerando prematura la subdisciplina y otros sugiriendo que distrae de problemas regulatorios inmediatos de la IA, como el sesgo algorítmico. Sin embargo, según OpenAI, el avance en la inteligencia artificial no muestra señales de desacelerarse, y el trabajo sobre cómo alinear sistemas de superinteligencia artificial se convierte en un problema crucial para toda la humanidad.
La actual estrategia del equipo involucra utilizar un modelo de IA más débil para guiar a uno más avanzado, una analogía que compara con un estudiante de sexto grado supervisando a uno universitario; aunque el estudiante menor puede cometer errores, se espera que el mayor entienda la esencia y realice mejor la tarea. Aun así, reconociendo la imperfección de la analogía, OpenAI busca ideas externas.
Con este propósito, OpenAI ha lanzado un programa de becas por $10 millones para impulsar la investigación técnica en superalineamiento, reservando fondos para laboratorios académicos, organizaciones sin fines de lucro, investigadores individuales y estudiantes de posgrado. La compañía también planea una conferencia académica para principios de 2025, donde promoverá el trabajo de los finalistas del premio de superalineamiento.
Cabe destacar, parte de la financiación para este esfuerzo proviene del ex CEO de Google, Eric Schmidt, conocido por su apoyo a Altman y su pesimismo sobre las IA peligrosas. A pesar de las críticas, Schmidt insiste en la importancia de alinear las tecnologías emergentes con los valores humanos y se muestra orgulloso de apoyar la iniciativa de OpenAI.
El equipo de Superalignment asegura que tanto su investigación como la de aquellos que reciban financiamiento y premios en relación con el trabajo de superalineamiento, serán compartidos públicamente. “Contribuir no solo a la seguridad de nuestros modelos, sino también a la de modelos de otros laboratorios y la IA avanzada en general, es parte de nuestra misión”, afirmó Leopold Aschenbrenner, miembro del equipo de Superalalignment. En un momento de avances y desafíos tecnológicos sin precedentes, mantendremos a la compañía a su palabra.
