La carrera por una inteligencia general artificial: implicaciones para la política pública

Una carrera armamentista por una inteligencia general artificial (AGI) sería perjudicial e incluso podría representar una amenaza existencial para la humanidad si resulta en una AGI hostil. En este artículo, se desarrolla un modelo de concurso de pago total para derivar implicaciones para la política pública a fin de evitar tal resultado. Se establece que, en una carrera donde el ganador se lleva todo, y los participantes deben invertir en I+D, solo los equipos más competitivos participarán. Por tanto, dada la dificultad de la AGI, es poco probable que el número de equipos competidores sea muy grande. También se establece que la intención de los equipos que compiten en una carrera por la AGI, así como la posibilidad de un resultado intermedio (premio), es importante. La posibilidad de un premio intermedio aumentará la probabilidad de encontrar la aplicación dominante de la AGI y, por lo tanto, hará que el control público sea más urgente. Se recomienda que el peligro de una AGI hostil puede reducirse gravando la IA y utilizando la compra pública. Esto reduciría la recompensa para los concursantes, aumentaría la cantidad de I+D necesaria para competir, y coordinaría e incentivaría la cooperación. Esto ayudará a aliviar los problemas de control y políticos en la IA. Se necesitan investigaciones futuras para elaborar el diseño de sistemas de compra pública de innovación en IA y para ajustar adecuadamente los marcos legales que sustentan la innovación en alta tecnología, en particular en lo que respecta a la patentación por IA.