tech
KI-Update Deep-Dive: Warum ControlAI ein Verbot von Superintelligenz fordert
ControlAI fordert ein Verbot von Superintelligenz und rekursiver Selbstverbesserung, um einen Kontrollverlust über KI-Systeme zu verhindern.
Key points
- ControlAI definiert Superintelligenz als KI, die Menschen in allen Dimensionen überflügelt und mächtiger als Nationen ist.
- Die NGO unterstützt Gesetzesvorschläge in den USA und Großbritannien, die Superintelligenz und rekursive Selbstverbesserung verbieten.
- Benjamin Balde sieht eine gefährliche Wettrenn-Dynamik zwischen Unternehmen wie OpenAI, Google und Anthropic sowie zwischen den USA und
Why it matters. Ein Verbot könnte die Entwicklung autonomer, übermenschlicher KI-Systeme stoppen, die laut ControlAI aufgrund fehlender Kontrollmethoden ein Risiko für die menschliche Steuerung darstellen.
Die NGO ControlAI fordert in Deutschland sowie in den USA, Kanada und Großbritannien ein Verbot von Superintelligenz. Benjamin Balde, Leiter der Organisation in Deutschland, warnt vor einer rekursiven Selbstverbesserung, die KI-Systeme unsteuerbar machen könnte. In den letzten zwei Jahren sprachen Experten der NGO mit über 400 Abgeordneten, um Gesetzesvorschläge inklusive Strafen für Verstöße und Whistleblower-Schutz voranzutreiben.
Latest updates
KI-Update Deep-Dive: Warum ControlAI ein Verbot von Superintelligenz fordert
Die NGO ControlAI warnt vor den Gefahren durch eine Superintelligenz, die den Menschen in allen Bereichen übertrifft, und fordert ein Entwicklungsverbot. Was Superintelligenz von ChatGPT unterscheidet Während generative KI-Systeme bereits enorme Fähigkeiten besitzen, streben führende KI-Unternehmen eine viel höhere Entwicklungsstufe an: Superintelligenz. (Damit meinen wir in dieser Podcastfolge selbstverständlich nicht den derzeitigen Entwicklungsstand, den US-Präsident Donald Trump gerne schon als Superintelligenz definieren würde, sondern weit fortschrittlichere Modelle.) Die Nichtregierungsorganisation ControlAI definiert Superintelligenz als eine KI, die den Menschen in allen Dimensionen überflügelt und somit mächtiger ist als jedes Individuum, jedes Unternehmen oder jede Nation. Laut Benjamin Balde , dem Leiter von ControlAI in Deutschland, kann KI schon heute in speziellen Bereichen mehr als der Mensch. „KI kann besser programmieren als der Großteil aller Menschen mit Programmierkenntnissen“, so Balde. Erst kürzlich hat OpenAI hunderte Antworten auf offene Fragen der Mathematik und theoretischen Informatik veröffentlicht. Bislang beobachten wir solche Fortschritte aber eben nur in Teilgebieten, nicht jedes KI-Modell kann gleich gut schreiben, schlussfolgern und coden. Balde betont jedoch, das eigentliche Ziel der Unternehmen sei, die KI-Forschung selbst zu automatisieren.