Vitalik Buterin affirme que le principal risque de l’IA est la perte du contrôle humain et soutient des déclencheurs clairs pour d’éventuelles limites de développement.
Co-fondateur d’EthereumVitalik Buterin a abordé le débat croissant sur l’intelligence artificielle avancée. Ses préoccupations vont au-delà des pertes d’emplois, de la désinformation et des changements sur les marchés mondiaux.
Au lieu de cela, Buterin s’est concentré sur la perte possible du contrôle humain sur des machines puissantes. Ce risque pourrait augmenter si les systèmes d’IA devenaient meilleurs que les humains dans presque toutes les tâches.
Le débat associe les partisans de limites strictes et les critiques favorables à un développement ouvert. Cependant, les deux groupes s’appuient sur des prévisions très différentes concernant les futurs progrès de l’IA.
Buterin ne sait toujours pas quelle prévision se révélera exacte. Il soutient donc des mesures qui pourraient rester utiles dans plusieurs cas possibles.résultats.
La superintelligence pourrait affaiblir le contrôle humain
Le plan AI 2040 suppose que la superintelligence pourrait émerger avant la fin de cette décennie. Pour éviter ce résultat, il faudra peut-être coopérer entre les gouvernements, les chercheurs et les grandes entreprises technologiques. Les partisans estiment qu’une action précoce pourrait réduire les risques avant que les systèmes avancés ne deviennent difficiles à contrôler.
Une chose que je trouve frappante dans le discours entre AI 2040 et ses détracteurs est que les deux semblent enfermés dans des visions du monde totalement incompatibles sur la rapidité et l’importance des progrès de l’IA :
* Dans AI 2040, chaque scénario voit émerger une sorte de superintelligence…
– vitalik.eth (@VitalikButerin)11 juillet 2026
Cependant, les critiques soutiennent que des contrôles étendus pourraient réduire la liberté et affaiblir le développement de l’IA open source. Ils craignent également que les grandes entreprises n’appliquent des règles strictes à l’encontre de leurs concurrents plus petits. Ces préoccupations semblent raisonnables lorsque l’IA se développe lentement et reste similaire aux autres technologies.
Buterin a déclaré que le calcul change si les machines surpassent les humains dans les domaines de la science, de la sécurité, des affaires et du gouvernement. Les gens pourraient alors perdre le contrôle des systèmes qui façonnent les économies et la vie publique. Pendant ce temps, les entreprises qui exploitent une IA avancée pourraient acquérir un pouvoir politique et financier inhabituel.
La technologie défensive peut fournir un terrain d’entente
Buterin a soutenuaccélération défensive, souvent appelé d/acc. Cette approche promeut des outils qui protègent les personnes sans créer de contrôle central plus large. Il vise également à renforcer les communautés face aux menaces numériques, biologiques et physiques.
Les domaines clés comprennent la cryptographie, le matériel sécurisé, les contrôles logiciels, la protection contre les pandémies et l’approvisionnement alimentaire fiable. La plateforme prend également en charge des outils qui améliorent l’accès à des informations publiques fiables. Ces projets pourraient rester utiles, que l’IA avancée arrive rapidement ou lentement.
Buterin a également salué le soutien du plan AI 2040 à la technologie open source. Le libre accès peut réduire la dépendance à l’égard d’un petit groupe d’entreprises ou de gouvernements. Toutefois, les règles de sécurité nécessiteraient toujours des limites claires, un examen public et une application équitable.
Lire aussi :Les détenteurs d’Ethereum sont soumis à un stress historique – un rebond majeur est-il prochain ?
Des panneaux d’avertissement clairs pourraient guider les limites de l’IA
Buterin a proposé d’installer des panneaux d’avertissement convenus avantdes limites plus fortesdeviennent nécessaires. Les déclencheurs possibles incluent le chômage de masse, les pandémies liées à l’IA ou une utilisation plus large des armes autonomes. Les gouvernements et les chercheurs pourraient approuver ces conditions avant qu’une crise grave ne commence.
Les partisans d’un développement rapide de l’IA pourraient accepter ce plan car ils ne s’attendent pas à une crise majeure. Les défenseurs de la sécurité peuvent également être d’accord parce qu’ils s’attendent à l’apparition de signes avant-coureurs. Les deux parties pourraient donc soutenir le même processus pour des raisons différentes.
Des seuils clairs pourraient donner aux futures restrictions un soutien public plus fort et des bases juridiques plus claires. Buterin a également suggéré d’utiliser les médias sociaux pour impliquer davantage de personnes dans ces débats. Pour les utilisateurs de crypto, la discussion est étroitement liée à l’accès ouvert et à la résistance au système central.contrôle.
Source : Live Bitcoin News
Laisser un commentaire