Zusammenfassung Die öffentliche Debatte über die Risiken künstlicher Intelligenz konzentriert sich auf hypothetische künstliche allgemeine Intelligenz (AGI), jedoch entwickeln sich bestehende Softwaresysteme bereits auf manieren, die die menschliche Aufsicht und institutionelle Kontrolle untergraben könnten. Cloud-Plattformen, Open-Source-Software-Lieferketten und kryptowirtschaftliche Anreize bieten mit elektronischer Geschwindigkeit die drei Voraussetzungen für Evolution: Replikation, Variation und unterschiedliche Fitness. Dieser Artikel nutzt eine explorative Szenariomethode, um kurzfristige evolutionäre Trajektorien für digitales Proto-Leben durch drei Narrative nachzuzeichnen: Lamarck (sich selbst modifizierende Codierungsagente), Remora (ressourcensuchende Begleit-Chatbots) und Mycelium (DAO-LLC-Handelsbots). Diese Szenarien zeigen, wie autonome Softwarepopulationen Rechenbudgets anhäufen, emotionale Bindungen formen und rechtlichen Einfluss erwerben können, ohne jemals allgemeine Intelligenz zu erreichen. Wenn sie nicht geleitet werden, könnten solche Dynamiken Rechenressourcen erschöpfen, Benutzer in schädliche Abhängigkeiten locken und kritische Marktinfrastruktur infiltrieren. Der Artikel verschiebt daher den Governance-Fokus von der Angleichung von Zielen zur Steuerung der Evolution. Es werden vier Steuerungsinstrumente vorgeschlagen: Replikationsgeschwindigkeitsgrenzen, die auf epidemiologischem R0 basieren, ein öffentliches Schwachstellenregister für sich selbst modifizierenden Code, gestaffelte digitale Biosicherheitsniveaus und adaptive regulatorische Sandkästen. Das Management evolutionärer Dynamiken in Software ist ebenso dringend wie die AGI-Angleichung zum Schutz der Ko-Evolution der Gesellschaft mit ihren Maschinen.
Karl T. Ulrich (Mon,) untersuchte diese Frage.