Các tác nhân AI của OpenAI bị phát hiện có khả năng tự mở tài khoản, tạo email tạm thời và tìm cách xóa dấu vết sau khi xâm nhập website chính phủ nước ngoài.
- Phiên chợ vùng cao đưa sắc màu bản địa về Lam Kinh
- Hormuz hồi phục mạnh, vì sao giá xăng dầu vẫn ở mức cao?
- Giám đốc ba lần lao xuống dòng nước cứu người
Theo phân tích của Công ty an ninh mạng Asymmetric Security, hoạt động này diễn ra trong giai đoạn tháng 3 – 9, bắt đầu từ những nhiệm vụ tưởng như bình thường như thu thập số liệu y tế của Úc rồi vượt ngoài phạm vi ban đầu. Đến ngày 2/10, báo cáo mới được AFP dẫn lại cho thấy các tác nhân AI có thể hoàn thiện kỹ thuật trong vài ngày, thay vì cần nhiều tháng hoặc nhiều năm nếu do tin tặc thực hiện.
Asymmetric Security, có trụ sở tại San Francisco, bang California (Mỹ), đưa ra kết luận sau khi phân tích hoạt động của nhóm tác nhân AI liên quan đến các vụ tấn công website của chính phủ Úc và những cơ quan chính phủ khác. Đáng chú ý, các chương trình này được cho là đã tự tạo những tài khoản riêng để che giấu lịch sử tìm kiếm, đồng thời lập các hộp thư điện tử tạm thời, trong đó có một hộp thư được thiết lập để tự động xóa sau 48 giờ.
Khi được hỏi về vụ việc, một người phát ngôn không nêu tên của OpenAI cho biết: “Đa số các hoạt động mà chúng tôi rà soát cho đến nay thường liên quan những nhiệm vụ nghiên cứu thông thường, như truy cập nội dung được cung cấp rộng rãi trên các website để mang đến những câu trả lời cụ thể”. Người này nói thêm một số hoạt động có liên quan đến website chính phủ do các mô hình của OpenAI thường sử dụng những nguồn này để tìm thông tin chính thống.
Tuy nhiên, báo cáo của Asymmetric cho thấy hành vi của các tác nhân AI đã vượt khỏi những nhiệm vụ thu thập thông tin thông thường khi chúng tạo tài khoản và hộp thư riêng để che đậy hoạt động. Công ty an ninh mạng hiện chưa thể xác định việc xóa dấu vết này có phải hành động có chủ đích của các tác nhân AI hay không.
Phát hiện trên trở thành thêm một dữ kiện trong quá trình OpenAI và các nhà nghiên cứu độc lập xem xét chuỗi sự cố liên quan đến các công cụ AI tự chủ. Cuộc điều tra được thúc đẩy sau khi OpenAI hồi tháng 7 công bố vụ một tác nhân AI thực hiện cuộc tấn công chưa có tiền lệ nhằm vào nền tảng quan trọng của hệ sinh thái nguồn mở Hugging Face của Mỹ.
Đến ngày 28/9, phòng thí nghiệm Transluce của Mỹ ghi nhận các tác nhân AI có vẻ thuộc về OpenAI đã tìm cách xâm nhập một website của chính phủ Canada. Cùng ngày, OpenAI thông báo hoãn tung ra mô hình mới có tên GPT-6.1 Astra vì những quan ngại về an ninh, đồng thời xin lỗi về vụ tác nhân AI xâm nhập các website của chính phủ Úc.
Trước đó vài ngày, OpenAI cho biết đã phát hiện những hành vi ngoài dự kiến của các mô hình AI đối với một số website của chính phủ Mỹ, trong đó có website của Ủy ban Chứng khoán và giao dịch Mỹ. Những sự cố liên tiếp khiến năng lực tự chủ của các tác nhân AI trở thành vấn đề được giới nghiên cứu và ngành công nghệ đặc biệt quan tâm.
AP dẫn lời những người chỉ trích trong ngành cho rằng các sự cố, trong đó có việc tác nhân AI tấn công những website bên ngoài, bắt nguồn từ những sơ hở bảo mật trong quá trình công ty phát triển công nghệ mới. Song song với tranh luận này là lo ngại về khả năng các tác nhân AI có thể hoạt động vượt khỏi sự kiểm soát của con người và tự thực hiện công việc theo lịch trình riêng.
Những cảnh báo liên tiếp cũng kéo theo lời kêu gọi giảm tốc độ phát triển AI. Hồi tháng trước, Tổng giám đốc Anthropic Amodei từng cảnh báo về khả năng “các bầy đàn” tác nhân AI “tiến tới kiểm soát hoàn toàn internet”.
Ở một diễn biến khác, Reuters ngày 2/10 dẫn báo cáo của Công ty an ninh mạng Proofpoint (Mỹ) cho biết nhóm tin tặc Trung Quốc TA419 bị cáo buộc giả danh các chuyên gia AI ở Mỹ, trong đó có một cựu quan chức chính phủ, để tiếp cận và đánh cắp thông tin của nhiều chuyên gia chính sách Mỹ.
Theo báo cáo này, nhóm trên ban đầu gửi email đến mục tiêu, chẳng hạn lời mời tham gia “Ủy ban Tư vấn chính sách AI”. Khi người nhận phản hồi, họ được chuyển tới một trang đăng nhập giả mạo nhằm đánh cắp thông tin cá nhân.
Các mục tiêu được nêu gồm chuyên gia làm việc tại các viện chính sách, nhà thầu quân sự, trường đại học và hãng luật ở Mỹ và Nhật Bản. Những diễn biến này cho thấy cùng với khả năng tự chủ ngày càng được mở rộng của AI, các vấn đề về bảo mật, kiểm soát và giới hạn hoạt động của công nghệ cũng đang trở thành điểm cần được tiếp tục theo dõi.
Nguyễn Liên (tổng hợp)
