Vitalik Buterin sagt, dass das Hauptrisiko von KI der Verlust menschlicher Kontrolle ist, und er unterstützt klare Auslöser für mögliche Entwicklungsgrenzen.
Ethereum-Mitbegründer Vitalik Buterin hat sich zu der wachsenden Debatte über fortgeschrittene künstliche Intelligenz geäußert. Seine Bedenken gehen über Arbeitsplatzverluste, Fehlinformationen und Veränderungen auf den globalen Märkten hinaus.
Stattdessen konzentrierte sich Buterin auf den möglichen Verlust menschlicher Kontrolle über leistungsstarke Maschinen. Dieses Risiko könnte wachsen, wenn KI-Systeme bei fast jeder Aufgabe besser werden als Menschen.
Die Debatte umfasst Befürworter strenger Grenzen und Kritiker, die eine offene Entwicklung befürworten. Beide Gruppen stützen sich jedoch auf sehr unterschiedliche Prognosen über den zukünftigen KI-Fortschritt.
Buterin bleibt unsicher, welche Prognose sich als richtig erweisen wird. Daher unterstützt er Maßnahmen, die unter mehreren möglichen Ergebnissen nützlich bleiben könnten.
Superintelligenz könnte menschliche Kontrolle schwächen
Der AI-2040-Plan geht davon aus, dass Superintelligenz vor Ende dieses Jahrzehnts entstehen könnte. Um dieses Ergebnis zu vermeiden, ist möglicherweise eine Zusammenarbeit zwischen Regierungen, Forschern und großen Technologieunternehmen erforderlich. Befürworter glauben, dass frühes Handeln Risiken verringern könnte, bevor fortgeschrittene Systeme schwer zu kontrollieren sind.
One thing I find striking in the discourse between AI 2040 and its detractors is that the two seem to be locked in to totally incompatible worldviews of how fast and how much of a big deal AI progress is:
* In AI 2040, every scenario sees superintelligence of some kind emerging…
— vitalik.eth (@VitalikButerin) July 11, 2026
Kritiker argumentieren jedoch, dass umfassende Kontrollen die Freiheit einschränken und die Open-Source-KI-Entwicklung schwächen könnten. Sie befürchten auch, dass große Unternehmen strenge Regeln gegen kleinere Konkurrenten einsetzen könnten. Diese Bedenken erscheinen vernünftig, wenn KI sich langsam entwickelt und anderen Technologien ähnlich bleibt.
Buterin sagte, die Rechnung ändere sich, wenn Maschinen Menschen in Wissenschaft, Sicherheit, Wirtschaft und Regierung übertreffen. Menschen könnten dann die Kontrolle über Systeme verlieren, die Volkswirtschaften und das öffentliche Leben prägen. Gleichzeitig könnten Unternehmen, die fortgeschrittene KI betreiben, ungewöhnliche politische und finanzielle Macht erlangen.
Defensive Technologie könnte eine gemeinsame Basis bieten
Buterin hat die defensive Beschleunigung unterstützt, die oft als d/acc bekannt ist. Der Ansatz fördert Werkzeuge, die Menschen schützen, ohne eine umfassendere zentrale Kontrolle zu schaffen. Er zielt auch darauf ab, Gemeinschaften gegen digitale, biologische und physische Bedrohungen zu stärken.
Zu den Schlüsselbereichen gehören Kryptografie, sichere Hardware, Softwareprüfungen, Pandemieschutz und zuverlässige Lebensmittelversorgung. Die Plattform unterstützt auch Werkzeuge, die den Zugang zu vertrauenswürdigen öffentlichen Informationen verbessern. Diese Projekte könnten nützlich bleiben, egal ob fortgeschrittene KI schnell oder langsam kommt.
Buterin hat auch die Unterstützung des AI-2040-Plans für Open-Source-Technologie begrüßt. Offener Zugang kann die Abhängigkeit von einer kleinen Gruppe von Unternehmen oder Regierungen verringern. Sicherheitsregeln bräuchten jedoch weiterhin klare Grenzen, öffentliche Überprüfung und faire Durchsetzung.
Lesen Sie auch: Ethereum-Inhaber stehen unter historischem Druck – steht eine große Erholung bevor?
Klare Warnsignale könnten KI-Grenzen lenken
Buterin schlug vor, vereinbarte Warnsignale festzulegen, bevor stärkere Grenzen notwendig werden. Mögliche Auslöser sind Massenarbeitslosigkeit, KI-bedingte Pandemien oder der vermehrte Einsatz autonomer Waffen. Regierungen und Forscher könnten diese Bedingungen genehmigen, bevor eine ernsthafte Krise beginnt.
Befürworter einer schnellen KI-Entwicklung könnten den Plan akzeptieren, weil sie keine große Krise erwarten. Sicherheitsbefürworter könnten ebenfalls zustimmen, weil sie das Auftreten von Warnsignalen erwarten. Daher könnten beide Seiten denselben Prozess aus unterschiedlichen Gründen unterstützen.
Klare Schwellenwerte könnten zukünftigen Einschränkungen stärkere öffentliche Unterstützung und klarere rechtliche Grundlagen verschaffen. Buterin schlug auch vor, soziale Medien zu nutzen, um mehr Menschen in diese Debatten einzubeziehen. Für Krypto-Nutzer steht die Diskussion in engem Zusammenhang mit offenem Zugang und Widerstand gegen zentrale Kontrolle.
Schreibe einen Kommentar