Quản lý AI bằng tiêu chuẩn và bằng chứng kiểm chứng

Ngày 19/10, tại TP.HCM, Ủy ban Tiêu chuẩn Đo lường Chất lượng Quốc gia, Bộ Khoa học và Công nghệ tổ chức Hội thảo APEC về quản lý trí tuệ nhân tạo (AI). Chương trình diễn ra trong hai ngày 19-20/10, tập trung trao đổi kinh nghiệm quản lý, áp dụng tiêu chuẩn quốc tế và các cơ chế bảo đảm độ tin cậy của AI.

Hội thảo được tổ chức trong khuôn khổ hợp tác của Diễn đàn Hợp tác Kinh tế châu Á - Thái Bình Dương (APEC). Trọng tâm là triển khai các tiêu chuẩn liên quan đến AI, trong đó có tiêu chuẩn do ISO/IEC JTC 1/SC 42 xây dựng, hỗ trợ ứng dụng công nghệ an toàn và có khả năng tương tác giữa các nền kinh tế.

TS. Trần Hậu Ngọc, Phó Chủ tịch Ủy ban Tiêu chuẩn Đo lường Chất lượng Quốc gia phát biểu khai mạc hội thảo. (Ảnh: Kim Thoa)

Phát biểu khai mạc Hội thảo, TS. Trần Hậu Ngọc, Phó Chủ tịch Ủy ban Tiêu chuẩn Đo lường Chất lượng Quốc gia nhấn mạnh, trí tuệ nhân tạo đang trở thành một trong những động lực quan trọng thúc đẩy đổi mới sáng tạo, nâng cao năng suất và chuyển đổi số trên phạm vi toàn cầu.

“Sự phát triển nhanh chóng của AI đang tạo ra nhiều cơ hội mới cho các nền kinh tế, doanh nghiệp và xã hội, từ cải tiến quy trình sản xuất, nâng cao hiệu quả quản lý đến phát triển các sản phẩm, dịch vụ và mô hình kinh doanh mới” - TS. Trần Hậu Ngọc khẳng định.

Tuy nhiên, công nghệ này cũng đặt ra thách thức về an toàn, tính minh bạch, trách nhiệm giải trình, bảo vệ dữ liệu và quản lý rủi ro. Yêu cầu đặt ra là thúc đẩy đổi mới sáng tạo, đồng thời bảo đảm AI được phát triển, ứng dụng có trách nhiệm và đáng tin cậy.

Theo ông Ngọc, tiêu chuẩn quốc tế cung cấp nguyên tắc, khuôn khổ và công cụ kỹ thuật hỗ trợ tổ chức, doanh nghiệp thực hiện yêu cầu này.

“Việc áp dụng tiêu chuẩn, kết hợp đánh giá sự phù hợp và các cơ chế bảo đảm kỹ thuật, giúp củng cố niềm tin đối với ứng dụng AI. Đây cũng là cơ sở góp phần giảm khác biệt về yêu cầu kỹ thuật, tạo thuận lợi cho hợp tác và thương mại giữa các nền kinh tế.” - Phó Chủ tịch Ủy ban Tiêu chuẩn Đo lường Chất lượng Quốc gia cho biết.

Toàn cảnh hội thảo. (Ảnh: Kim Thoa)

Theo ông Ngọc, các nền kinh tế APEC có trình độ phát triển, năng lực công nghệ và hệ thống quản lý khác nhau, nên cách tiếp cận phát triển và quản lý AI cũng khác nhau. Dù vậy, mục tiêu chung là khai thác hiệu quả lợi ích, kiểm soát rủi ro và củng cố niềm tin của người dân, doanh nghiệp đối với công nghệ này.

Ông cho rằng, hợp tác APEC đặc biệt trong lĩnh vực tiêu chuẩn và đánh giá sự phù hợp tạo cơ hội đối thoại, chia sẻ kinh nghiệm và thúc đẩy ứng dụng AI có trách nhiệm dựa trên tiêu chuẩn quốc tế. Đối với Việt Nam, xây dựng tiêu chuẩn, nâng cao năng lực đánh giá sự phù hợp và phát triển hạ tầng chất lượng phục vụ công nghệ mới là những nhiệm vụ cần được thúc đẩy. Hợp tác quốc tế và chia sẻ kinh nghiệm sẽ hỗ trợ quá trình này.

Trong hai ngày làm việc, hội thảo tập trung vào tiêu chuẩn AI toàn cầu, phương pháp quản lý và kinh nghiệm triển khai tại các nền kinh tế APEC, trong đó có Việt Nam. Các nội dung thảo luận bao gồm quản lý rủi ro, minh bạch thuật toán, trách nhiệm giải trình, giám sát của con người và quản lý vòng đời AI, cùng với đánh giá sự phù hợp, chứng nhận, an toàn sản phẩm và niềm tin số.

Ông Ngọc đề nghị các đại biểu trao đổi thẳng thắn về khó khăn, bài học triển khai và nhu cầu nâng cao năng lực, nhất là đối với doanh nghiệp siêu nhỏ, nhỏ và vừa. Trên cơ sở đó, hội thảo hướng tới xây dựng khuyến nghị thực tiễn về quản lý AI dựa trên tiêu chuẩn, phù hợp với điều kiện từng nền kinh tế thành viên.

Trong tham luận về AI đáng tin cậy, bà Aurélie Jacquet, Giám đốc Ethical AI Consulting đề cập cách chuyển các nguyên tắc thành hoạt động quản lý cụ thể. Khung tiếp cận được giới thiệu bao gồm lợi ích cộng đồng, sự công bằng, quyền riêng tư và bảo mật, tính minh bạch cùng trách nhiệm giải trình.

Bà Aurélie Jacquet, Giám đốc Ethical AI Consulting chia sẻ tham luận tại Hội thảo. (Ảnh: Kim Thoa) 

Theo bà Aurélie Jacquet, quản trị AI cần xem xét đồng thời dữ liệu, thuật toán và tổ chức sử dụng công nghệ. Hoạt động phòng ngừa phải đi cùng biện pháp giảm thiểu, khắc phục rủi ro, có sự tham gia của xã hội.

Để chuẩn bị ứng dụng AI, tổ chức cần có dữ liệu và kiến trúc công nghệ phù hợp. Bà Aurélie Jacquet giới thiệu các tiêu chuẩn hỗ trợ từng phần việc, như bộ ISO/IEC 5259 về chất lượng dữ liệu phục vụ phân tích và học máy, ISO/IEC 8183:2023 về khung vòng đời dữ liệu, ISO/IEC 42001:2023 về hệ thống quản lý AI.

Bên cạnh đó, quản lý rủi ro cũng cần được duy trì trong quá trình vận hành. Bà Jacquet đề cập việc xác định khoảng biến động hiệu năng có thể chấp nhận, theo dõi hệ thống và điều chỉnh biện pháp kiểm soát khi cần thiết. Cách tiếp cận này gắn quản lý AI với hoạt động giám sát thường xuyên.

Ở góc độ chính sách, bà Claire McFarland, Quản lý cấp cao thuộc Standards Australia phân tích ba hướng tiếp cận phổ biến trong APEC: xây dựng quy định riêng cho AI; áp dụng khuôn khổ pháp luật hiện có; sử dụng hướng dẫn, tiêu chuẩn và cơ chế tự nguyện hoặc tự quản lý.

Thảo luận nhóm trong phần trình bày của bà Claire McFarland, Quản lý cấp cao thuộc Standards Australia. (Ảnh: Kim Thoa)

Bà Claire McFarland cho biết, xu hướng phối hợp pháp luật hiện hành với hướng dẫn về AI, quy định chuyên ngành, tiêu chuẩn và cơ chế bảo đảm kỹ thuật.

Để trao đổi kinh nghiệm, bà đưa ra 8 khía cạnh xem xét thực tiễn quản lý. Nội dung bao gồm: mô hình quản lý, phân biệt mức độ rủi ro, trách nhiệm giải trình, tính minh bạch, giám sát của con người, tiêu chuẩn và bảo đảm kỹ thuật, hỗ trợ nâng cao năng lực, khả năng tương thích quốc tế.

Về kiểm chứng độ tin cậy, ông Jason Chan, Phó Chủ tịch phụ trách Dữ liệu và Đổi mới sáng tạo của UL Solutions trình bày cách đối chiếu tuyên bố về AI với bằng chứng. Chẳng hạn, tuyên bố một hệ thống minh bạch cần được hỗ trợ bằng tài liệu, dữ liệu, mã nguồn và hồ sơ phù hợp với phạm vi đánh giá.

Ông Jason Chan chia bằng chứng thành các lớp: dữ liệu, mô hình, giải thích và vận hành. Nội dung cần xem xét trải từ nguồn gốc, quyền riêng tư của dữ liệu đến kiến trúc, huấn luyện, xác nhận mô hình, phương pháp giải thích, giới hạn hệ thống và hồ sơ sự cố.

Quy trình được giới thiệu bắt đầu bằng xác định tuyên bố và ranh giới hệ thống, sau đó thu thập bằng chứng, đánh giá kỹ thuật, ghi nhận kết quả và khoảng trống cần xử lý. Kết quả xác minh phụ thuộc việc đáp ứng các tiêu chí đã xác định.

Với khả năng tái lập thuật toán, ông Jason Chan đặt ra yêu cầu xác định tập dữ liệu, chỉ số hiệu năng, mô hình và tham số phục vụ đánh giá. Các biện pháp kiểm soát khi triển khai cũng cần được theo dõi. Đối với quyền riêng tư, bằng chứng phải bao quát vòng đời dữ liệu, từ thu thập, lưu trữ, xử lý đến huấn luyện và sử dụng.

Kim Thoa