Cada vez más gente ha llegado a la conclusión de que la superinteligencia artificial (AGI) podría, al menos en algunas circunstancias, plantear riesgos catastróficos para el bienestar de miles de millones de personas en todo el mundo, y que, por lo tanto, hay que hacer algo para reducir estos riesgos.

Sin embargo, hay una gran divergencia de opiniones sobre lo que debe hacerse. Y hay poca claridad sobre los supuestos subyacentes de los que dependen las distintas estrategias.

En consecuencia, en este artículo intento desentrañar algunas de las opciones que hay que tomar. Destacaré cuatro opciones que promueven diversos activistas.

Las opciones difieren en cuanto al número de organizaciones de todo el mundo a las que se permite legalmente desarrollar y desplegar lo que podría convertirse en ASI. Las cuatro opciones son:

1. Aceptar que muchas organizaciones diferentes seguirán cada una su propio camino hacia la ASI, pero instar a cada una de ellas a ser muy cuidadosas y a aumentar significativamente la atención prestada a la seguridad de la IA en comparación con la situación actual.

2. Intentar restringir a una sola organización en el mundo cualquier avance que pueda conducir a la ASI, para evitar una peligrosa dinámica de competición si hay más de una organización de este tipo.
3. Buscar acuerdos que impidan a cualquier organización, en cualquier parte del mundo, tomar medidas específicas que puedan provocar ASI, hasta que esté absolutamente claro cómo garantizar que la ASI sea segura.
 
4.  Buscar una pausa global en cualquier mejora a nivel de plataforma en la capacidad de IA, en cualquier parte del mundo, hasta que esté absolutamente claro que estas mejoras no desencadenarán una pendiente resbaladiza hacia la aparición de ASI.
 
Para simplificar, estas opciones pueden etiquetarse como:
Cuidado con la ASI
Restringir la ASI
Detener la ASI
Detener toda IA nueva