El logotipo de Operai aparece en un teléfono móvil frente a una pantalla que muestra parte del sitio web de la compañía en esta foto tomada el 21 de noviembre de 2023 en Nueva York. Crédito: AP Photo/Peter Morgan, archivo
Los ex empleados de OpenAI están pidiendo a los principales agentes de la ley en California y Delaware que impidan que la compañía cambie el control de su tecnología de inteligencia artificial de una organización benéfica sin fines de lucro a un negocio con fines de lucro.
Están preocupados por lo que sucede si el fabricante de chatgpt cumple su ambición de construir una IA que supera a los humanos, pero ya no es responsable ante su misión pública para salvaguardar esa tecnología de causar daños graves.
“En última instancia, me preocupa quién posee y controla esta tecnología una vez que se crea”, dijo Page Hedley, ex asesor de política y ética en OpenAI, en una entrevista con Associated Press.
Respaldado por tres ganadores del Premio Nobel y otros defensores y expertos, Hedley y otros nueve ex trabajadores abiertos enviaron una carta esta semana a los dos fiscales generales estatales.
La coalición le pide al fiscal general de California Rob Bonta y a la fiscal general de Delaware, Kathy Jennings, ambos demócratas, que utilicen su autoridad para proteger el propósito caritativo de OpenAi y bloquear su reestructuración planificada. Openai se incorpora en Delaware y opera desde San Francisco.
Operai dijo en respuesta que “cualquier cambio en nuestra estructura existente estaría en servicio para garantizar que el público en general pueda beneficiarse de la IA”. Dijo que su con fines de lucro será una corporación de beneficios públicos, similar a otros laboratorios de IA como el Anthrope y el multimillonario tecnológico Elon Musk, excepto que OpenAi aún preservará un brazo sin fines de lucro.
“Esta estructura continuará asegurándose de que a medida que la con fines de lucro tenga éxito y crece, también lo hace la organización sin fines de lucro, lo que nos permite alcanzar la misión”, dijo la compañía en un comunicado.
La carta es la segunda petición a los funcionarios estatales este mes. El último provino de un grupo de líderes laborales y organizaciones sin fines de lucro centradas en proteger los miles de millones de dólares de los activos caritativos de OpenAi.
Jennings dijo el otoño pasado que “revisaría cualquier transacción de este tipo para garantizar que los intereses del público estén adecuadamente protegidos”. La oficina de Bonta buscó más información de OpenAi a fines del año pasado, pero ha dicho que no puede comentar, incluso para confirmar o negar si está investigando.
Los cofundadores de Openai, incluido el actual CEO Sam Altman y Musk, originalmente lo comenzaron como un laboratorio de investigación sin fines de lucro en una misión para construir de manera segura lo que se conoce como inteligencia general artificial, o AGI, para beneficio de la humanidad. Casi una década después, OpenAi ha informado su valor de mercado como $ 300 mil millones y cuenta 400 millones de usuarios semanales de ChatGPT, su producto insignia.
Operai ya tiene una subsidiaria con fines de lucro, pero enfrenta una serie de desafíos para convertir su estructura de gobierno central. Uno es una demanda de Musk, que acusa a la compañía y Altman de traicionar los principios fundadores que llevaron al CEO de Tesla a invertir en la organización benéfica.
Si bien algunos de los firmantes de la carta de esta semana apoyan la demanda de Musk, Hedley dijo que otros son “comprensiblemente cínicos” porque Musk también dirige su propia compañía de IA rival.
Los firmantes incluyen a dos economistas ganadores del Nobel, Oliver Hart y Joseph Stiglitz, así como a los pioneros de AI y los científicos informáticos Geoffrey Hinton, quienes ganaron el Premio Nobel de Física del año pasado, y Stuart Russell.
“Me gusta la misión de Openai de ‘asegurar que la inteligencia general artificial beneficie a toda la humanidad’, y me gustaría que ejecute esa misión en lugar de enriquecer a sus inversores”, dijo Hinton en un comunicado el miércoles. “Estoy feliz de que haya un esfuerzo por mantener OpenAi a su misión que no involucra a Elon Musk”.
Los conflictos sobre el propósito de OpenAi han dicho durante mucho tiempo en el Instituto de San Francisco, contribuyendo a que Musk renuncie en 2018, la expulsión de corta duración de Altman en 2023 y otras salidas de alto perfil.
Hedley, abogado de capacitación, trabajó para OpenAI en 2017 y 2018, un momento en que la organización sin fines de lucro todavía estaba navegando por las mejores formas de administrar la tecnología que quería construir. Tan recientemente como 2023, Altman dijo que Avanzed AI fue prometida, pero también advirtió sobre riesgos extraordinarios, desde accidentes drásticos hasta interrupciones sociales.
En los últimos años, sin embargo, Hedley dijo que observaba con preocupación como OpenAi, impulsado por el éxito de ChatGPT, estaba reduciendo cada vez más los rincones en las pruebas de seguridad y apresurando nuevos productos para adelantarse a los competidores comerciales.
“Los costos de esas decisiones continuarán aumentando a medida que la tecnología se vuelva más poderosa”, dijo. “Creo que en la nueva estructura que Operai quiere, los incentivos para apresurarse a tomar esas decisiones subirán y ya no habrá nadie que pueda decirles que no lo hagan, decirles que esto no está bien”.
El ingeniero de software Anish Tondwalkar, un ex miembro del equipo técnico de OpenAI hasta el año pasado, dijo que una garantía importante en la carta sin fines de lucro de OpenAI es una “cláusula de parada y asistencia” que ordena a OpenAI que se retire y ayude si otra organización se está acercando al logro de la mejor AI de la AI.
“Si se permite que OpenAi se convierta en una con fines de lucro, estas salvaguardas y el deber de OpenAi con el público pueden desaparecer de la noche a la mañana”, dijo Tondwalkar en un comunicado el miércoles.
Otro ex trabajador que firmó la carta lo pone más sin rodeos.
“Un día, Operai puede construir una tecnología que podría matarnos a todos”, dijo Nisan Stiennon, un ingeniero de IA que trabajó en OpenAI desde 2018 hasta 2020. “Es de crédito de OpenAi que está controlado por una organización sin fines de lucro con un deber para la humanidad. Este deber impide renunciar a ese control”.
© 2025 The Associated Press. Reservados todos los derechos. Este material no puede publicarse, transmitir, reescribirse o redistribirse sin permiso.
Cita: los trabajadores ex openai le piden a California y Delaware AGS que bloqueen la conversión con fines de lucro de ChatGPT Maker (2025, 23 de abril) Recuperado el 23 de abril de 2025 de https://techxplore.com/news/2025-04-openai-workers-california-delaware-ags.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
