Ô tô gặp nạn vì hệ thống AI hiểu sai câu lệnh của tài xế

Vụ tai nạn của chiếc Lynk & Co tại Trung Quốc vừa qua đã gióng lên hồi chuông cảnh báo về độ tin cậy của hệ thống AI trên ô tô. Một hiểu lầm tai hại từ trí tuệ nhân tạo đã khiến hành khách rơi vào tình hiểm nghèo.

Tai nạn kinh hoàng từ lỗi nhận diện giọng nói

Vào cuối tháng 2 vừa qua, một vụ tai nạn giao thông nghiêm trọng đã xảy ra tại tỉnh Tứ Xuyên, Trung Quốc, liên quan đến chiếc xe điện hiện đại Lynk & Co Z20. Đoạn video từ camera hành trình cho thấy khoảnh khắc kinh hoàng khi chiếc xe đang chạy ở tốc độ cao thì toàn bộ hệ thống đèn pha bỗng nhiên vụt tắt, khiến không gian xung quanh trở nên tối đen chỉ trong tích tắc. Hậu quả là chiếc xe đã đâm mạnh vào dải phân cách, khiến những người ngồi trên xe bị thương nhẹ.

Nguyên nhân trực tiếp dẫn đến sự việc này là do lỗi nhận diện từ trí tuệ nhân tạo tích hợp trên xe. Tài xế cho biết ông chỉ ra lệnh bằng giọng nói để tắt đèn đọc sách bên trong cabin. Tuy nhiên, hệ thống AI trên ô tô đã hiểu nhầm câu lệnh và thực hiện việc tắt toàn bộ hệ thống đèn trên xe, bao gồm cả đèn pha chiếu sáng chính. Việc mất tầm nhìn đột ngột trong đêm tối đã khiến người lái hoảng loạn và không kịp xử lý tình huống nguy cấp.

Sau vụ việc này, nhiều chủ xe điện khác tại Trung Quốc đã tiến hành kiểm tra và phát hiện một số mẫu xe của các hãng Zeekr và Deepal cũng gặp tình trạng tương tự. Các mẫu xe này đều bị tắt đèn pha khi tài xế chỉ yêu cầu tắt đèn đọc sách. Điều này cho thấy đây không chỉ là lỗi đơn lẻ mà là một vấn đề tiềm ẩn trong lập trình phần mềm của nhiều dòng xe hiện đại ngày nay.

Phó Tổng Giám đốc hãng xe Lynk & Co, ông Mục Quân, đã lên tiếng xác nhận lỗi phần mềm và thông báo phát hành bản cập nhật khẩn cấp. Tuy nhiên, vụ tai nạn một lần nữa đặt ra câu hỏi lớn về sự an toàn khi tích hợp quá nhiều công nghệ và loại bỏ các nút điều khiển vật lý. Việc quá phụ thuộc vào các tính năng thông minh có thể khiến tài xế mất tập trung và dẫn đến những tai nạn đáng tiếc nếu hệ thống gặp lỗi vận hành.

Theo: Báo Dân trí