Vitalik Buterin nói rủi ro chính của AI là mất kiểm soát của con người và ủng hộ các tín hiệu rõ ràng cho các giới hạn phát triển khả thi.
Đồng sáng lập Ethereum Vitalik Buterin đã đề cập đến tranh luận ngày càng gia tăng về trí tuệ nhân tạo tiên tiến. Mối quan tâm của ông vượt xa việc mất việc làm, thông tin sai lệch và những thay đổi trên thị trường toàn cầu.
Thay vào đó, Buterin tập trung vào khả năng mất kiểm soát của con người đối với những cỗ máy mạnh mẽ. Nguy cơ đó có thể gia tăng nếu hệ thống AI trở nên giỏi hơn con người trong hầu hết mọi nhiệm vụ.
Cuộc tranh luận bao gồm những người ủng hộ các giới hạn nghiêm ngặt và các nhà phê bình ưa chuộng phát triển mở. Tuy nhiên, cả hai nhóm đều dựa trên những dự báo rất khác nhau về tiến trình AI trong tương lai.
Buterin vẫn không chắc chắn dự báo nào sẽ đúng. Do đó, ông ủng hộ các biện pháp có thể hữu ích trong nhiều kết cục khả thi.
Siêu trí tuệ có thể làm suy yếu kiểm soát của con người
Kế hoạch AI 2040 giả định siêu trí tuệ có thể xuất hiện trước cuối thập kỷ đó. Để tránh kết quả đó có thể cần sự hợp tác giữa chính phủ, nhà nghiên cứu và các công ty công nghệ lớn. Những người ủng hộ tin rằng hành động sớm có thể giảm thiểu rủi ro trước khi các hệ thống tiên tiến trở nên khó kiểm soát.
One thing I find striking in the discourse between AI 2040 and its detractors is that the two seem to be locked in to totally incompatible worldviews of how fast and how much of a big deal AI progress is:
* In AI 2040, every scenario sees superintelligence of some kind emerging…
— vitalik.eth (@VitalikButerin) July 11, 2026
Tuy nhiên, các nhà phê bình cho rằng các biện pháp kiểm soát rộng rãi có thể làm giảm tự do và làm suy yếu phát triển AI mã nguồn mở. Họ cũng lo ngại các công ty lớn có thể sử dụng các quy tắc nghiêm ngặt để chống lại các đối thủ nhỏ hơn. Những lo ngại đó có vẻ hợp lý khi AI phát triển chậm và vẫn tương tự các công nghệ khác.
Buterin nói rằng cách tính toán sẽ thay đổi nếu máy móc vượt trội con người trong khoa học, an ninh, kinh doanh và chính phủ. Con người sau đó có thể mất kiểm soát đối với các hệ thống định hình nền kinh tế và đời sống công cộng. Trong khi đó, các công ty vận hành AI tiên tiến có thể có được sức mạnh chính trị và tài chính bất thường.
Công nghệ phòng thủ có thể cung cấp điểm chung
Buterin đã ủng hộ tăng tốc phòng thủ, thường được gọi là d/acc. Cách tiếp cận này thúc đẩy các công cụ bảo vệ con người mà không tạo ra kiểm soát tập trung rộng rãi hơn. Nó cũng nhằm mục đích làm cho cộng đồng mạnh mẽ hơn trước các mối đe dọa kỹ thuật số, sinh học và vật lý.
Các lĩnh vực chính bao gồm mật mã, phần cứng an toàn, kiểm tra phần mềm, bảo vệ đại dịch và nguồn cung cấp thực phẩm đáng tin cậy. Nền tảng này cũng hỗ trợ các công cụ cải thiện khả năng tiếp cận thông tin công cộng đáng tin cậy. Các dự án này có thể vẫn hữu ích cho dù AI tiên tiến xuất hiện nhanh hay chậm.
Buterin cũng hoan nghênh sự ủng hộ của kế hoạch AI 2040 đối với công nghệ mã nguồn mở. Truy cập mở có thể làm giảm sự phụ thuộc vào một nhóm nhỏ các công ty hoặc chính phủ. Tuy nhiên, các quy tắc an toàn vẫn cần các giới hạn rõ ràng, đánh giá công khai và thực thi công bằng.
Đọc thêm: Người nắm giữ Ethereum đang chịu áp lực lịch sử – Liệu có phục hồi lớn tiếp theo?
Các dấu hiệu cảnh báo rõ ràng có thể hướng dẫn các giới hạn AI
Buterin đề xuất thiết lập các dấu hiệu cảnh báo đã được thống nhất trước khi các giới hạn mạnh hơn trở nên cần thiết. Các tín hiệu khả thi bao gồm thất nghiệp hàng loạt, đại dịch liên quan đến AI hoặc việc sử dụng rộng rãi vũ khí tự động. Chính phủ và các nhà nghiên cứu có thể phê duyệt các điều kiện này trước khi một cuộc khủng hoảng nghiêm trọng bắt đầu.
Những người ủng hộ phát triển AI nhanh chóng có thể chấp nhận kế hoạch này vì họ không mong đợi một cuộc khủng hoảng lớn. Các nhà vận động an toàn cũng có thể đồng ý vì họ mong đợi các dấu hiệu cảnh báo sẽ xuất hiện. Do đó, cả hai bên có thể ủng hộ cùng một quy trình vì những lý do khác nhau.
Các ngưỡng rõ ràng có thể mang lại cho các hạn chế trong tương lai sự ủng hộ của công chúng mạnh mẽ hơn và cơ sở pháp lý rõ ràng hơn. Buterin cũng đề xuất sử dụng mạng xã hội để thu hút nhiều người hơn vào các cuộc tranh luận này. Đối với người dùng tiền điện tử, cuộc thảo luận kết nối chặt chẽ với truy cập mở và khả năng chống lại sự kiểm soát tập trung.
Để lại một bình luận