Jerome Glenn
Resumen Ejecutivo: Actualizado en enero del 2025
Jerome Glenn, Millennium Project
La IA futura sin regulación probablemente será un desastre, advierten los expertos de todo el mundo. Hay tres tipos de IA: estrecha, general y superinteligencia. La inteligencia artificial estrecha (ANI), que incluye la IA generativa (o GenAI), es una herramienta estrecha y preentrenada que existe hoy en día y que seguirá mejorando en los próximos años. La inteligencia artificial general (AGI) aún no existe, pero se espera que actúe más como un agente que como una simple herramienta, y puede reescribir su propio código, crear soluciones novedosas para problemas novedosos similares a los humanos (a veces llamada IA de nivel humano) y puede aprender momento a momento para volverse continuamente más inteligente.
La AGI podría surgir dentro de esta década. La superinteligencia artificial (ASI), a veces llamada superinteligencia artificial, surge de la AGI para establecer sus propios objetivos independientemente del control humano.
Algunos avances en la gobernanza de la ANI:
La resolución de la Asamblea General de la ONU liderada por EE. UU. sobre IA se dirige a la ANI, no a la AGI
La resolución de la Asamblea General de la ONU liderada por China sobre IA se dirige a la ANI, no a la AGI
La Ley de IA de la UE y la Ley de Inteligencia Artificial de China se dirigen a la ANI, no a la AGI
La Declaración de Bletchley firmada por 28 gobiernos se dirige a la ANI, no a la AGI
La Convención del Consejo Europeo sobre IA se dirige a la ANI, no a la AGI
¿Qué se necesita ahora?
Redactar una legislación nacional para autorizar un sistema nacional de licencias de AGI
Incluir apoyo para una simulación informática nacional para probar y demostrar la seguridad de la AGI como parte de los procedimientos de licencia. En EE. UU., eso podría ser que el NIST prepare simulaciones para probar la seguridad de la AGI antes de la licencia.
Apoyar una sesión especial de la Asamblea General de la ONU sobre AGI
Como afirma el informe de la Fase 2 de la AGI del Proyecto del Milenio https://millennium-project.org/, "gobernar la AGI podría ser el problema de gestión más complejo y difícil al que se haya enfrentado la humanidad". Además, no resolverlo antes de proceder a crear sistemas de AGI sería un error fatal para la civilización humana. Ninguna entidad tiene derecho a cometer ese error.
Executive Summary: Update for January 2025
Jerome Glenn, Millennium Project
Unregulated future AI is likely to be a disaster, warns experts around the world. There are three kinds of AI: narrow, general, and super. Artificial Narrow Intelligence (ANI) including generative AI (or GenAI) is narrow, pre-trained tool that exists today and will continue to improve over the coming years. Artificial General Intelligence (AGI) does not exist yet, but is expected to act more like an agent than a simple tool, and can re-write its own code, create novel solutions to novel problems similar to humans (sometimes called human-level AI) and can learn moment by moment to continually get smarter.
AGI could emerge within this decade. Artificial Super Intelligence (ASI) sometimes called Artificial Superintelligence emerges from AGI to set is own goals independent from human control.
Some progress on ANI governance:
-
US-lead UN General Assembly Resolution on AI addresses ANI, not AGI
-
China-Lead UN General Assembly Resolution on AI addresses ANI not AGI
-
The EU AI Act and China’s Artificial Intelligence Law address ANI, not AGI
-
Bletchley Declaration signed by 28 governments addresses ANI, not AGI
-
European Council Convention on AI addresses ANI not AGI
What is needed now?
-
Draft national legislation to authorize a national AGI licensing system
-
Include support for a national computer simulation to test and prove AGI's safety as part of the licensing procedures. In the US that could be NIST to prepare simulations to test the safety of AGI prior to licensing.
-
Support a special UN General Assembly session on AGI
As The Millennium Project Phase 2 AGI https://millennium-project.org/ report states, "Governing AGI could be the most complex, difficult management problem humanity has ever faced." Furthermore, failure to solve it before proceeding to create AGI systems would be a fatal mistake for human civilization. No entity has the right to make that mistake.
LA RESPONSABILIDAD HUMANA EN LA IA
THE HUMAN RESPONSIBILITY FOR AI
LA RESPONSABILITÉ HUMAINE POUR L'IA
A RESPONSABILIDADE HUMANA NA IA