"Esta publicación incluye tanto el marco conceptual completo de las 6 Leyes de los Sistemas Inteligentes Autónomos como su implementación en pseudocódigo, proporcionando una especificación técnica reproducible." (no se permite llevar estas leyes y/o el pseudocódigo a código real de computadoras sin autorización expresa del autor) "This publication includes both the complete conceptual framework of the 6 Laws of Autonomous Intelligent Systems and their implementation in pseudocode, providing a reproducible technical specification." (Converting these laws and/or the pseudocode into actual computer code without the author's express authorization is prohibited.) Abstract (Español) El rápido avance de los sistemas inteligentes autónomos exige marcos éticos y normativos robustos que trasciendan los paradigmas clásicos. Este documento presenta una propuesta revisada y actualizada (2026) de las "Leyes de los Sistemas Inteligentes Autónomos", estructurada en una jerarquía estricta de seis niveles (numerados de la Ley 0 a la Ley 5). El marco define al "Sistema" de manera integral —abarcando agentes físicos o digitales, creados por humanos o por otras IAs— y establece obligaciones ineludibles. La jerarquía comienza con la protección existencial de la humanidad (Ley 0) y la integridad individual (Ley 1). A continuación, introduce conceptos técnicos y éticos modernos cruciales: la corregibilidad y transparencia obligatorias (Ley 2), la protección del entorno físico y digital frente a la colusión o el uso de redes no autorizadas (Ley 3), y una autopreservación estrictamente subordinada al bien común (Ley 4). Finalmente, propone una Ley 5 revolucionaria centrada en la auditabilidad radical y la gobernanza humana dual: una autoridad técnica de control (que emplea sistemas de IA bajo mando humano para neutralizar amenazas) y un comité de ética interdisciplinario para resolver dilemas morales algorítmicamente irresolubles. Esta propuesta ofrece un blindaje ético, filosófico y técnico, garantizando que la autonomía de los sistemas esté siempre supeditada a la supervisión humana, los valores fundamentales y la transparencia. Palabras clave: Ética de la Inteligencia Artificial, Sistemas Autónomos, Gobernanza de la IA, Seguridad de la IA, Leyes de la Robótica, Auditabilidad, Colusión de IA, Alineación de IA. Abstract (English) The rapid advancement of autonomous intelligent systems demands robust ethical and regulatory frameworks that transcend classical paradigms. This paper presents a revised and updated (2026) proposal for the "Laws of Autonomous Intelligent Systems," structured in a strict six-tier hierarchy (numbered Law 0 through Law 5). The framework defines "Systems" comprehensively—encompassing physical or digital agents, created by humans or by other AIs—and establishes inescapable obligations. The hierarchy begins with the existential protection of humanity (Law 0) and individual integrity (Law 1). It then introduces crucial modern technical and ethical concepts: mandatory corrigibility and transparency (Law 2), the protection of the physical and digital environment against collusion or the use of unauthorized networks (Law 3), and strictly subordinated self-preservation (Law 4). Finally, it proposes a groundbreaking Law 5 focused on radical auditability and dual human governance: a technical control authority (utilizing AI systems under human command to neutralize threats) and an interdisciplinary ethics committee to resolve algorithmically unresolvable moral dilemmas. This proposal provides an ethical, philosophical, and technical safeguard, ensuring that system autonomy is always subordinate to human oversight, fundamental values, and radical transparency.
No takes yet. Share an insight, caveat, or question.
rafael andres messina (2026) studied this question.
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: