Resumen
Generado por Inteliegenica Artifical (OpenAI)
OpenAI, en colaboración con Eric Schmidt, ha lanzado una iniciativa pionera, denominada Superalignment Fast Grants, dotada con 10 millones de dólares en subvenciones destinadas a la investigación técnica. El objetivo de esta financiación es asegurar que los sistemas de inteligencia artificial (IA) superhumana sean seguros y estén alineados con las necesidades humanas. Se abordarán áreas críticas como la generalización de débil a fuerte, la interpretabilidad y la supervisión escalable.
La organización subraya que podría haber sistemas de IA con capacidades vastas en la próxima década. Estos sistemas superhumanos podrían ser extremadamente beneficiosos, pero también plantear riesgos significativos. 'Creemos que la superinteligencia podría llegar en los próximos diez años', dice OpenAI, consciente de que alinear la IA actual puede ser un desafío cualitativamente distinto al que se enfrentarían con la IA superhumana.
En el actual escenario, la alineación de la IA se logra a través de aprendizaje por refuerzo con retroalimentación humana (RLHF). Sin embargo, con sistemas superhumanos, este método puede quedar obsoleto, ya que los sistemas serán capaces de comportamientos complejos y creativos no totalmente comprensibles por los humanos. '¿Cómo pueden los humanos guiar y confiar en sistemas de IA mucho más inteligentes que ellos?', se pregunta la organización.
Esta pregunta sintetiza uno de los problemas técnicos no resueltos más importantes del mundo. A pesar de la magnitud del desafío, OpenAI es optimista: 'Pensamos que es solucionable con un esfuerzo concertado'. La comunidad de investigación de aprendizaje automático y los investigadores individuales tienen hoy una oportunidad única para progresar en esta área.
El programa de subvenciones Superalignment Fast Grants es una llamada a los mejores investigadores y ingenieros para enfrentar este reto. Las subvenciones de entre 100 mil y 2 millones de dólares están disponibles para laboratorios académicos, organizaciones sin fines de lucro e investigadores individuales. Además, se ofrece una beca de un año por 150 mil dólares para estudiantes graduados, la cual incluye una asignación de 75 mil dólares y fondos equivalentes para cómputo e investigación.
Importante enfatizar que no se requiere experiencia previa en alineación; se busca apoyar a aquellos que se interesan por trabajar en alineación por primera vez. El proceso de aplicación es sencillo y se promete una respuesta dentro de las cuatro semanas siguientes al cierre de las aplicaciones.
