OpenAI đề xuất xây dựng tiêu chuẩn quốc tế về AI trong giai đoạn mới

Trí tuệ nhân tạo đang bước vào giai đoạn mà chính AI có thể đảm nhận ngày càng nhiều công việc trong quá trình nghiên cứu, phát triển các thế hệ hệ thống tiếp theo. Khi mức độ tự động hóa tăng lên, quá trình này có khả năng đẩy nhanh tốc độ tiến bộ của AI, đồng thời đặt ra những yêu cầu mới đối với an toàn, quản trị rủi ro và khả năng duy trì sự kiểm soát của con người.

OpenAI đề cập khái niệm “tự cải tiến đệ quy” (recursive self-improvement - RSI), trong đó các hệ thống AI tham gia ngày càng sâu vào việc phát triển những thế hệ AI kế tiếp. Tuy nhiên, RSI hoàn toàn tự chủ chưa diễn ra ở thời điểm hiện tại và không nên được theo đuổi nếu chưa bảo đảm an toàn. Việc tiến xa đến đâu phải phụ thuộc vào khả năng duy trì quyền kiểm soát của con người, cũng như những lựa chọn xã hội có đầy đủ thông tin về lợi ích và rủi ro.

Ở chiều tích cực, nghiên cứu AI tự động có thể góp phần giảm chi phí tiếp cận trí tuệ tiên tiến, mở rộng lợi ích tới nhiều người hơn. Chính những hệ thống có khả năng hỗ trợ nghiên cứu AI cũng có thể được sử dụng để nghiên cứu an toàn, củng cố khả năng bảo vệ hạ tầng trọng yếu, phòng vệ trước các tác nhân AI nguy hiểm và phát triển những biện pháp bảo vệ mới.

OpenAI nêu quan điểm về xây dựng tiêu chuẩn AI 

Tuy nhiên, nếu quá trình này diễn ra mà thiếu các biện pháp bảo đảm phù hợp, con người có nguy cơ mất khả năng kiểm soát thực tế đối với sự phát triển của AI, đặc biệt khi các quy trình nghiên cứu trở nên quá phức tạp hoặc diễn tiến với tốc độ vượt quá khả năng giám sát. Vì vậy, bên cạnh nghiên cứu về căn chỉnh AI với các giá trị và mục tiêu của con người, một hệ thống tiêu chuẩn chung được xem là cần thiết để định hướng hoạt động phát triển AI giữa các phòng thí nghiệm và quốc gia.

Tiêu chuẩn tạo “ngôn ngữ chung” về an toàn AI

Theo định hướng được OpenAI đưa ra, tiêu chuẩn quốc tế về thực hành an toàn và an ninh đối với AI tiên tiến có thể giữ vai trò quan trọng trong việc xác định thế nào là bằng chứng kỹ thuật đủ tin cậy, mức độ bảo vệ nào được coi là phù hợp và cách đánh giá hiệu quả của các biện pháp giảm thiểu rủi ro nghiêm trọng.

Nhu cầu này xuất phát từ thực tế AI được phát triển tại nhiều quốc gia, trong khi việc ứng dụng diễn ra trên phạm vi toàn cầu. Nếu từng quốc gia sử dụng phương pháp đánh giá, yêu cầu báo cáo hay định nghĩa sự cố khác nhau, kết quả có thể dẫn tới sự phân mảnh, gây khó khăn khi so sánh bằng chứng, nhận diện năng lực mới của AI và phối hợp ứng phó với những rủi ro xuyên biên giới.

Một thách thức khác là năng lực phát triển AI tiên tiến và chuyên môn liên quan hiện không phân bố đồng đều giữa các quốc gia. Trong khi đó, những vấn đề về an toàn không chỉ giới hạn ở mô hình đóng mà cũng liên quan đến mô hình mở. Bởi vậy, tiêu chuẩn chung có thể tạo cơ sở để nhiều bên ngoài các phòng thí nghiệm AI tham gia vào quá trình định hình cách công nghệ được phát triển và quản lý.

OpenAI đề xuất tận dụng mạng lưới các viện an toàn AI đang hình thành tại nhiều quốc gia để thúc đẩy hoạt động xây dựng tiêu chuẩn, tập trung vào hai nhóm vấn đề chính: mô hình và nhà phát triển AI tiên tiến được xác định thông qua các chuẩn đo năng lực; cùng quản lý lợi ích - rủi ro đối với nghiên cứu AI tự động, bao gồm RSI.

Các tiêu chuẩn được hình thành theo hướng này có thể tạo nền tảng kỹ thuật chung cho đo lường và đánh giá năng lực, đánh giá rủi ro cũng như xác định mức độ đầy đủ của các biện pháp bảo vệ. Đáng chú ý, OpenAI cho rằng những tiêu chuẩn kỹ thuật này không đồng nghĩa với giấy phép, cơ chế đánh giá bắt buộc trước khi phát hành hay yêu cầu phê duyệt mô hình AI. Việc có đưa các tiêu chuẩn vào hệ thống pháp luật và áp dụng như thế nào vẫn thuộc thẩm quyền của từng quốc gia.

Quá trình xây dựng tiêu chuẩn cũng cần bảo đảm tính minh bạch, có sự tham gia của nhà phát triển mô hình mở và đóng, giới chuyên gia kỹ thuật độc lập và giới học thuật. Các yêu cầu chung không nên tạo lợi thế cho một doanh nghiệp, quốc gia hay mô hình kinh doanh cụ thể, đồng thời tránh hình thành rào cản khiến doanh nghiệp mới hoặc các nhà phát triển mô hình trọng số mở khó cạnh tranh.

Chuẩn hóa đo lường, giám sát và báo cáo sự cố

Một trọng tâm được đặt ra là xây dựng các phương pháp đo lường và quy trình báo cáo sự cố chung. Khi AI ngày càng tự chủ trong hoạt động nghiên cứu, tiêu chuẩn có thể được phát triển để đánh giá mức tiến bộ liên quan đến RSI cũng như xác định mức độ nghiên cứu tự động đang diễn ra trong một tổ chức phát triển AI.

Bên cạnh đó là tiêu chuẩn về giám sát của con người đối với nghiên cứu AI tự động, trong đó cần xác định những loại quy trình hoặc tình huống nào phải kích hoạt ngay việc xem xét của con người.

Một cấu phần khác liên quan đến phân loại, theo dõi, báo cáo và ứng phó sự cố trong quá trình căn chỉnh và nghiên cứu AI tự động. Việc xây dựng các mức độ nghiêm trọng và ngưỡng báo cáo chung có thể giúp các tổ chức và quốc gia có cơ sở thống nhất hơn khi nhận diện và xử lý rủi ro.

Ngoài hệ thống tiêu chuẩn, các chính phủ và đơn vị vận hành hạ tầng trọng yếu cũng cần thiết lập những kênh liên lạc an toàn để chia sẻ các vấn đề liên quan đến an ninh quốc gia, lỗ hổng mới xuất hiện, mối đe dọa và kinh nghiệm thực hành trong lĩnh vực an toàn AI tiên tiến.

Để phát triển khuôn khổ này, OpenAI đề cập khả năng phối hợp với những tổ chức tiêu chuẩn và sáng kiến hiện có, trong đó có Tổ chức Tiêu chuẩn hóa Quốc tế (ISO), cùng các tổ chức hoạt động trong lĩnh vực mô hình AI tiên tiến, AI tác nhân và an toàn AI. Mục tiêu là kết nối các nguyên tắc, tiêu chuẩn quốc tế với hoạt động đo lường và đánh giá AI trong thực tế.

Theo cách tiếp cận này, tiêu chuẩn quốc tế không thay thế trách nhiệm của từng nhà phát triển hay thẩm quyền quản lý của mỗi quốc gia. Thay vào đó, tiêu chuẩn tạo ra nền tảng kỹ thuật và ngôn ngữ chung để các bên có thể đo lường, đánh giá, trao đổi thông tin và phối hợp trước những rủi ro ngày càng mang tính xuyên biên giới của AI tiên tiến.

Bảo Linh