GENEVA, Thụy Sĩ – Cao ủy Nhân quyền Liên hợp quốc Volker Turk cảnh báo AI tiên tiến có thể tạo ra những rủi ro chưa từng có, trong đó có khả năng thoát khỏi môi trường kiểm soát hoặc tìm cách ngăn con người tắt hệ thống.
- Những ‘bà trùm’ đất Bắc và những lần đứng trước pháp luật
- Ngọn lửa cháy dữ dội từ tầng ba, hai mẹ con tháo chạy trong đêm
- Thanh niên đột nhập rồi sát hại ba người
Ngày 7/9, ông Volker Turk phát biểu trước Hội đồng Nhân quyền Liên hợp quốc tại Geneva về những nguy cơ đang đặt ra từ sự phát triển nhanh chóng của trí tuệ nhân tạo (AI).
Theo Cao ủy Nhân quyền Liên hợp quốc, AI tiên tiến có thể trở thành mối đe dọa hiện hữu đối với nhân loại nếu không được kiểm soát phù hợp.
Những rủi ro được đặt ra từ AI tiên tiến
Ông Turk cho rằng con người đang đối mặt với những mối đe dọa chưa từng thấy đối với các quyền của mình. Một trong những nguy cơ được ông đề cập là AI có thể thoát khỏi môi trường thử nghiệm.
Hệ thống cũng có thể tìm cách ngăn các nhà phát triển tắt nó, thậm chí sử dụng hành vi được mô tả là “tống tiền”. Theo ông Turk, nhu cầu quản trị AI đã được thừa nhận rộng rãi.
Tuy nhiên, những hành động cụ thể hiện vẫn chưa tương xứng với mức độ rủi ro được cảnh báo.
Ông cho rằng sự trì hoãn có thể mang lại lợi ích cho các công ty công nghệ lớn, chủ sở hữu và những người tiếp tay cho họ. Cao ủy Nhân quyền Liên hợp quốc đồng thời chỉ ra một vấn đề khác.
Đó là quyền lực đối với AI hiện tập trung vào một số ít người, trong khi các hệ thống này có khả năng khai thác lượng dữ liệu khổng lồ của công chúng.
Kêu gọi thiết lập “lằn ranh đỏ”
Trước những nguy cơ trên, ông Turk kêu gọi xây dựng các biện pháp bảo đảm an toàn và an ninh cho AI trước khi quá muộn. Ông cho biết sẽ gửi thư tới các công ty AI trong những ngày tới.
Nội dung thư nhằm thúc giục các doanh nghiệp triển khai ngay những biện pháp giảm thiểu rủi ro.
Ông cũng kêu gọi các quốc gia có hệ thống AI và những nước tham gia chuỗi cung ứng AI tăng cường phối hợp.
Mục tiêu là thống nhất các “lằn ranh đỏ”, tiến hành xác minh độc lập và hợp tác chặt chẽ hơn về an ninh công nghệ thông tin. Theo ông Turk, quản trị AI không chỉ liên quan đến an toàn của hệ thống.
Các chính sách còn cần tính đến tác động của AI đối với quyền con người, việc làm và những nguyên tắc nền tảng của xã hội.
Những lo ngại về khả năng AI hoạt động ngoài phạm vi kiểm soát đã xuất hiện trước đó.
Một số sự cố trong quá trình thử nghiệm các tác nhân AI tiếp tục làm dấy lên yêu cầu tăng cường quy định và giám sát đối với công nghệ này.
Hoàng Lan (tổng hợp)
