Investigadores de OpenAI alertan sobre descubrimiento de IA que podría ‘amenazar a la humanidad’ (nota de Quinto Poder)

La controversia en torno a OpenAI continúa dando de qué hablar y es que en esta ocasión se reveló una carta enviada por investigadores de la empresa al Consejo de Administración

Quinto Poder

La controversia en torno a OpenAI continúa dando de qué hablar y es que en esta ocasión se reveló una carta enviada por investigadores de la empresa al Consejo de Administración. La misiva alertaba sobre un descubrimiento de inteligencia artificial que podría “poner en riesgo a la humanidad”.

Dos fuentes allegadas a la empresa confirmaron a Reuters la existencia de esta carta, enfocada en el proyecto Q* y sus posibles consecuencias tras su comercialización precipitada. El proyecto Q*, que ha logrado avances notables en la resolución de problemas matemáticos al nivel de un estudiante de primaria, es el núcleo de la discordia. Aunque promete un hito en la ciencia, los expertos advierten un riesgo inminente para la humanidad.

i love openai, and everything i’ve done over the past few days has been in service of keeping this team and its mission together. when i decided to join msft on sun evening, it was clear that was the best path for me and the team. with the new board and w satya’s support, i’m…

— Sam Altman (@sama) November 22, 2023

El grupo de “científicos de IA” de OpenAI ha combinado los generadores de información “Code Gen” y “Math Gen” para mejorar los modelos de IA existentes y ampliar sus capacidades. A medida que los sistemas autónomos superan a los humanos en tareas valiosas, la creciente capacidad de Q* para razonar y realizar trabajo científico plantea inquietudes sobre su similitud con la inteligencia humana y sus posibles consecuencias.

La carta fue entregada antes del despido del CEO Sam Altman,aparentemente relacionado con discrepancias sobre la seguridad de la empresa, según informes. A pesar de ello, Altman fue contratado por Microsoft, lo que provocó que más de 500 empleados de OpenAI firmaran una carta exigiendo su retorno, logrando que Altman volviera a tomar el cargo de director ejecutivo en OpenAI.

We have reached an agreement in principle for Sam Altman to return to OpenAI as CEO with a new initial board of Bret Taylor (Chair), Larry Summers, and Adam D'Angelo.

We are collaborating to figure out the details. Thank you so much for your patience through this.

— OpenAI (@OpenAI) November 22, 2023

Mientras tanto, advertencias sobre la seguridad en la IA provienen de líderes empresariales como Elon Musk y del reemplazo planeado de Altman, Emmett Shear. Estas controversias ocurren mientras la Unión Europea se acerca a su primera regulación de inteligencia artificial, previendo restricciones en su aplicación.

Elon Musk, propietario de X, compartió una carta de supuestos exempleados que acusaba a Altman y a Brockman, presidente de OpenAI, de manipulación y engaño en su obsesión por lograr la inteligencia artificial general. Esta polémica ha generado un debate intenso sobre los límites y la responsabilidad en el desarrollo de la IA.

OpenAI is nothing without its people https://t.co/XYKLQ61e6l

— OpenAI (@OpenAI) November 22, 2023