An toàn đối với sản phẩm tiêu dùng ứng dụng AI

Mặc dù không phải ai cũng quen thuộc với AI trong lĩnh vực sản xuất bồi đắp (AM), nhưng phần lớn đều nhận thấy sự phổ biến ngày càng rộng rãi của AI trong các sản phẩm tiêu dùng. Xe tự hành, tủ lạnh có khả năng theo dõi và quản lý thực phẩm, hay các hệ thống an ninh tích hợp nhận diện vật thể và khuôn mặt là những ví dụ tiêu biểu cho sản phẩm ứng dụng AI đang ngày càng hiện diện phổ biến trong đời sống.

Khi các thiết bị này ngày càng tiên tiến và được sử dụng rộng rãi hơn, những lo ngại liên quan đến an toàn và an ninh của người tiêu dùng cũng gia tăng. Để giải quyết vấn đề này, Tiểu ban về sản phẩm kết nối (F15.75) đã xây dựng Hướng dẫn tiêu chuẩn bảo đảm an toàn cho sản phẩm tiêu dùng kết nối (F3463). Được sửa đổi vào năm 2024 nhằm bổ sung các thuật ngữ liên quan đến AI, hướng dẫn này tập trung vào rủi ro phát sinh từ khả năng kết nối của sản phẩm. Tiêu chuẩn áp dụng đối với sản phẩm cần được thử nghiệm và đánh giá nhằm ngăn ngừa lỗ hổng an ninh mạng có thể ảnh hưởng đến an toàn sản phẩm hoặc dẫn đến việc không đáp ứng tiêu chuẩn an toàn của sản phẩm cuối cùng.

Ảnh minh hoạ.

Trước khi đưa sản phẩm ứng dụng AI ra thị trường, nhà sản xuất cần thực hiện đánh giá an toàn đối với bất thường liên quan đến AI, như lỗi cập nhật phần mềm, sự cố kết nối hoặc các chức năng tự động hóa.

Theo ông Travis Norton, Chủ tịch Tiểu ban về sản phẩm kết nối và là Trưởng bộ phận chiến lược nội dung và đổi mới tuân thủ tại Compliance and Risks, nếu AI điều khiển một bộ phận của sản phẩm nhưng vận hành không chính xác, điều đó có thể tạo ra tình huống nguy hiểm.

Ông đưa ra hai tình huống điển hình mà AI có thể gây mất an toàn: một robot giao hàng sử dụng AI bị nhầm lẫn tại giao lộ, dừng đột ngột và gây tai nạn; hoặc robot không nhận diện được con người và va chạm với họ. Hướng dẫn F3463 nêu chi tiết các phương pháp đánh giá rủi ro, đồng thời xem xét những thách thức thực tế trong quá trình triển khai AI.

"Khi đánh giá sản phẩm cần tính đến các yếu tố gây nhiễu từ môi trường như sương mù hoặc nhiệt độ thấp nếu thiết bị sử dụng cảm biến hình ảnh hoặc môi trường nhiều tiếng ồn nếu AI phụ thuộc vào tín hiệu âm thanh. Sản phẩm có được tích hợp khả năng giảm thiểu rủi ro hoặc chế độ ngắt khẩn cấp mặc định trong trường hợp xảy ra tình huống nguy hiểm hay không?”, Norton cho biết.

Ông cũng cho rằng AI khác với lập trình truyền thống, nơi con người có thể xem từng dòng mã và điều chỉnh trực tiếp. Khi xảy ra sự cố, việc xác định nguyên nhân có thể trở nên khó khăn hơn nhiều.

“AI mang tính chất như một ‘hộp đen’. Công nghệ này có thể không cho phép chúng ta nhìn thấy trực tiếp lý do và cách thức mà một quyết định được đưa ra”, Norton nói. Chính vì vậy, các nhà phát triển mô hình hoặc nhà sản xuất có trách nhiệm theo dõi, đánh giá dữ liệu huấn luyện được sử dụng trong quá trình học máy.

Tiểu ban cũng xem xét nguy cơ các bộ dữ liệu có thể chưa phản ánh đầy đủ hoặc tạo ra thiên lệch đối với một số nhóm người nhất định. Do đó, hướng dẫn đã bổ sung nội dung liên quan đến mô hình huấn luyện AI nhằm bảo đảm tính công bằng, độ chính xác, hệ thống chỉ số phù hợp và việc tái huấn luyện định kỳ.

Bên cạnh đó, Tiểu ban về tiêu chuẩn an toàn bể bơi (F15.49) đã công bố một tiêu chuẩn dành riêng cho sản phẩm ứng dụng AI là hệ thống phát hiện đuối nước. Sử dụng camera và thuật toán AI, các hệ thống này có thể phát cảnh báo trong vòng 30 giây khi phát hiện một người đang gặp nguy hiểm hoặc bị chìm dưới nước trong hồ bơi. Tiêu chuẩn kỹ thuật đối với hệ thống phát hiện đuối nước bằng thị giác máy tính cho hồ bơi gia đình (F3698) là tiêu chuẩn đầu tiên quy định các biện pháp bảo vệ chủ động cho hồ bơi.

Hồng Vân (theo ASTM)