Según fuentes citadas por Reuters, varios investigadores de OpenAI escribieron una carta a la junta asesora de la compañía advirtiendo sobre un “descubrimiento poderoso” en el campo de la inteligencia artificial que podría amenazar a la humanidad solo unos días antes de que el CEO de la compañía, Sam Altman, regresara a la compañía.
Las principales innovaciones que llevaron al despido de Altman, el gurú de la tecnología propagandista de IA detrás de ChatGPT, fueron la tarjeta y el algoritmo de IA. Más de 700 empleados de OpenAI amenazaron con renunciar y unirse a Microsoft en solidaridad con el líder exonerado antes del regreso triunfal del ejecutivo el miércoles (21 de abril).
Análisis
Microsoft ignora la crisis de OpenAI y debería salir victorioso.
Las grandes empresas de tecnología tomaron medidas rápidas para evitar que sus inversiones se vieran afectadas por el enfrentamiento.
Según las fuentes, el despido de Altman se puede atribuir en parte al contenido de la carta, que incluía preocupaciones sobre la comercialización de los avances de la IA antes de comprender las consecuencias de su uso. No se disponía de una copia de la carta para que Reuters la analizara. Los empleados que escribieron el contenido ignoraron las solicitudes de comentarios.
Una de las fuentes dijo que después de ser contactada por Reuters, OpenAI se negó a hacer comentarios, pero luego reconoció un proyecto llamado “Q*” en un memorando interno para empleados y una carta a la gerencia antes de los eventos del fin de semana. Un portavoz de OpenAI dijo que el mensaje, enviado por la ejecutiva Mira Murati, alertó al equipo sobre ciertos informes de los medios sin dar detalles sobre su importancia.
Algunos empleados de OpenAI creen que el proyecto “Q*” (pronunciado Q-Star) podría ser un avance en la investigación de la inteligencia artificial general (AGI, en inglés) de la compañía. OpenAI define la inteligencia artificial general como sistemas que superan a los humanos en la mayoría de las tareas económicamente valiosas.
Según la fuente, el nuevo modelo pudo abordar ciertos problemas matemáticos gracias a su acceso a recursos computacionales extensivos. Los investigadores son optimistas sobre el futuro del proyecto “Q*” a pesar de que el modelo solo se ha probado utilizando cálculos matemáticos de estudiantes de primaria.
“La ignorancia desaparece”
Los investigadores ven las matemáticas como la frontera del desarrollo de la IA creativa. Las respuestas a la misma pregunta pueden variar mucho debido al estado actual de la IA generativa, que es buena para escribir y traducir entre idiomas al predecir estadísticamente la siguiente palabra. Sin embargo, dominar tareas contables, para las cuales solo hay una respuesta correcta, implicaría que la IA tiene habilidades de razonamiento comparables a las de los humanos. Los investigadores en inteligencia artificial creen que esto podría ser utilizado en nuevos estudios científicos.
La inteligencia artificial general (AGI) tiene la capacidad de generalizar, aprender y comprender, en contraste con una calculadora que solo puede hacer un cierto número de operaciones.
Según las fuentes, los investigadores resaltaron los peligros potenciales de la IA en una carta al consejo, aunque no especificaron las preocupaciones exactas de seguridad planteadas. Los científicos de la computación han debatido durante mucho tiempo la amenaza que plantean las máquinas superinteligentes, como si elegirían destruir a la humanidad si se les diera la oportunidad.
Los investigadores también señalaron el trabajo de un “equipo de científicos de la IA”, cuya existencia ha sido confirmada por muchas fuentes. El equipo, que se formó fusionando los equipos “Code Gen” y “Math Gen” anteriores, está trabajando en la optimización de los modelos de IA existentes para mejorar su razonamiento y, en última instancia, llevar a cabo empresas científicas, como dijo uno de ellos.
Altman encabezó el esfuerzo para convertir a ChatGPT en una de las aplicaciones de crecimiento más rápido, atrayendo las inversiones y recursos informáticos que Microsoft necesitaba para acercarse a AGI.
Además de presentar una serie de herramientas nuevas durante una demostración este mes, Altman dijo a un grupo de líderes globales en San Francisco la semana pasada que creía que se avecinaban avances significativos en la tecnología de inteligencia artificial.
“Poder hacer esto es el honor profesional de toda una vida”, dijo frente al Comité de Cooperación de OpenAI. “Cuatro veces en la historia de OpenAI, siendo la más reciente en las últimas dos semanas, pude estar en la habitación cuando dejamos atrás el velo de la ignorancia y la frontera del descubrimiento ante nosotros”, dijo.
Al día siguiente, el liderazgo de OpenAI despidió a Altman.
