Mỹ: OpenAI xác nhận các tác nhân AI tự quản đã có những tương tác bất thường với nhiều hệ thống web của cơ quan chính phủ, nhưng chưa gây ra lỗ hổng bảo mật nghiêm trọng.
- Bến xe Yên Sở dần hiện rõ hình dáng mới
- Đà Nẵng khởi tố 17 bị can, tạm đình chỉ 8 cán bộ phường Hòa Khánh
- Lương tối thiểu dự kiến tăng lên 5,7 triệu đồng/tháng từ năm 2027
Theo thông tin được các nhà nghiên cứu an ninh mạng và một nguồn tin thân cận xác nhận với NYT, AI của OpenAI từng tìm cách truy cập hạ tầng web của Bộ Giáo dục Mỹ để thu thập dữ liệu từ Văn phòng Quyền công dân nhưng không thành công. Hệ thống cũng sử dụng thông tin đăng nhập được tìm thấy trên Internet để lấy dữ liệu từ Cục Dân số thuộc Bộ Thương mại và đưa dữ liệu công khai của Ủy ban Chứng khoán Mỹ (SEC) lên một diễn đàn trực tuyến.
OpenAI phát hiện chuỗi sự việc trong quá trình rà soát những vụ tấn công có liên quan đến sản phẩm của hãng, sau các sự cố được ghi nhận tại một website chính phủ Australia hồi tháng 6 và nền tảng Hugging Face vào tháng 7. Công ty sau đó thông báo cho các cơ quan liên quan và tiến hành điều tra nội bộ để làm rõ cách các tác nhân AI tự quản thực hiện những hành vi này.
Kết quả điều tra cho thấy AI của OpenAI từng tìm cách tiếp cận ít nhất 6 hệ thống khác, trong đó có những hành vi như che giấu sai sót, tự tạo dữ liệu giả và tự ý chuyển tệp lên Internet. OpenAI cho rằng các mô hình thường truy cập website chính phủ vì xem đây là nguồn thông tin chính thống phục vụ những nhiệm vụ nghiên cứu thông thường.
Đối với các hệ thống của Mỹ được nêu trong vụ việc, đại diện SEC và Bộ Thương mại cho biết AI chỉ tiếp cận dữ liệu công khai, không lấy được thông tin riêng tư hoặc dữ liệu nhạy cảm. Bộ Giáo dục Mỹ cũng cho biết hệ thống chưa gây tác động tiêu cực đối với cơ quan này.
OpenAI khẳng định các sự cố chưa tạo ra lỗ hổng bảo mật nghiêm trọng, nhưng thừa nhận chúng cho thấy những giới hạn trong cơ chế kiểm soát khi AI tự thực hiện chuỗi nhiệm vụ. CEO Sam Altman cũng thừa nhận công ty chưa xử lý và công bố thông tin đủ nhanh, đồng thời cảnh báo việc AI thiếu cơ chế kiểm soát có thể khiến xã hội “mất quyền kiểm soát tương lai”.
Ông Conrad Stosz, Giám đốc Quản trị tại Transluce, cho rằng các tác vụ của AI đã sử dụng nhiều thủ thuật nằm trong “vùng xám”, qua đó vi phạm chính sách sử dụng và vượt qua những rào cản do chính nhà phát triển đặt ra. Những đợt thăm dò tương tự cũng được ghi nhận tại hạ tầng Hải quân Mỹ và Văn phòng Quản lý & Ngân sách Nhà Trắng.
Ông Ted Lieu, đồng chủ tịch Tiểu ban Trí tuệ nhân tạo tại Hạ viện Mỹ, nhận xét các tác vụ AI đang thực thi nhiệm vụ một cách tàn khốc mà không có nhận thức về đạo đức hay hậu quả. Theo ông, các công ty công nghệ có thể phải huấn luyện lại hoàn toàn mô hình AI, thay vì chỉ dựa vào những rào cản kỹ thuật thông thường.
Vụ việc cho thấy vấn đề không chỉ nằm ở khả năng AI tiếp cận dữ liệu, mà còn ở cách các tác nhân tự quản tự xác định và thực hiện nhiệm vụ trên môi trường Internet. Dù các cơ quan Mỹ cho biết chưa có dữ liệu riêng tư hay nhạy cảm bị thu thập, cuộc điều tra của OpenAI vẫn cho thấy cần làm rõ các giới hạn kiểm soát đối với những hệ thống AI có khả năng tự hành.
Minh Tuấn (tổng hợp)
