Cần có quy định quốc tế chặt chẽ và nghiên cứu sâu rộng hơn về an toàn AI

Trong xu thế đổi mới sáng tạo hiện nay cùng với sự tiến bộ không ngừng của trí tuệ nhân tạo (AI), công nghệ AI tạo sinh (generative AI) đã mở ra một tầm nhìn mới đầy hứa hẹn. Từ việc tạo ra văn bản, hình ảnh và âm thanh đến các hình thức sáng tạo khác, AI tạo sinh đã vượt qua các ranh giới truyền thống và mở rộng phạm vi khả năng sáng tạo của con người. Tuy nhiên, cũng như bất kỳ tiến bộ công nghệ nào khác, sự phát triển này không diễn ra mà không phải đối mặt với những thách thức nhất định. 

Mới đây phát biểu tại Hội nghị Thượng đỉnh hành động về AI đang diễn ra tại Paris (Pháp), nhà khoa học máy tính Yoshua Bengio kêu gọi quy định quốc tế chặt chẽ hơn và nghiên cứu sâu rộng hơn về an toàn AI, mà hiện chỉ chiếm một phần nhỏ trong số các khoản đầu tư lớn đang được thực hiện trong lĩnh vực này.

Theo chủ nhân giải thưởng Turing danh giá về khoa học máy tính năm 2018, sự xuất hiện của mô hình AI hiệu suất cao, chi phí thấp DeepSeek vào tháng trước đã đẩy nhanh cuộc đua không tốt cho sự an toàn. Ông Yoshua Bengio cảnh báo nếu mất kiểm soát với AI, "loài người có thể biến mất trong 10 năm".

Công nghệ AI tạo ra nhiều thách thức đối với con người. Ảnh minh họa

Ông cũng kêu gọi sự dẫn dắt của các chính phủ trong vấn đề quản lý AI. Lời kêu gọi được đưa ra trong bối cảnh quốc gia AI hàng đầu thế giới hiện nay là Mỹ đã có nhiều động thái "cởi trói" cho sự phát triển của công nghệ này dưới thời tân Tổng thống Donald Trump.

Ở thời điểm hiện tại, báo cáo an toàn AI quốc tế mà ông Yoshua Bengio trình bày tại hội nghị cũng chỉ ra những rủi ro được biết đến nhiều như việc sử dụng AI để tạo nội dung giả mạo hoặc gây hiểu lầm trên nền tảng trực tuyến, đồng thời liên tục xuất hiện những rủi ro bổ sung, như các cuộc tấn công sinh học hoặc tấn công mạng.

Đối với vấn đề quản lý AI, vị chuyên gia Ben Goertzel của Mỹ cho rằng, AI có thể thay thế 80% công việc của con người trong những năm tới. Đối với vấn đề quản lý AI, vị chuyên gia này khuyến nghị muốn tạo ra hệ thống AI hữu ích thì xã hội cần phát triển các hệ thống này theo hướng tích cực. Việc quản lý các hệ thống AI cần có sự chung tay của cả xã hội, và điều này hoàn toàn khả thi về mặt kỹ thuật. Tuy nhiên, ông bày tỏ lo ngại khi cho rằng các công ty đầu tư vào lĩnh vực AI chủ yếu quan tâm tới việc tối đa hóa lợi ích, ít dành sự quan tâm đến các khía cạnh tích cực.

Đặc biệt hiện nay, rất ít nhà phát triển AI có chính sách rõ ràng về việc đảm bảo an toàn cho trẻ em khi sử dụng công nghệ mới mẻ này. Trẻ em ngày nay tiếp xúc nhiều với các thiết bị điện tử và phần mềm tự động, tuy nhiên, những sự cố xảy ra đã đặt ra câu hỏi lớn về an toàn của trẻ khi tương tác với các công nghệ này.

TS. Nomisha Kurian từ Đại học Cambridge cho rằng trẻ em thường bị bỏ qua khi phát triển AI. TS. Kurian đã nghiên cứu các tương tác giữa AI và trẻ em để phát hiện những rủi ro tiềm ẩn. Bà nhận thấy các mô hình ngôn ngữ lớn (LLM) thường không thể hiểu rõ các khía cạnh trừu tượng, cảm xúc, và khó đoán định trong cuộc trò chuyện với trẻ em. Điều này có thể dẫn đến các phản hồi không an toàn.

Các chatbot AI có khả năng ngôn ngữ ấn tượng nhưng lại gặp khó khăn trong việc thấu hiểu và phản hồi với cảm xúc của trẻ em. Hơn nữa, trẻ em thường có xu hướng tiết lộ thông tin cá nhân nhiều hơn và coi chatbot như “người” hơn người lớn, điều này tạo ra nhiều nguy cơ.

Nghiên cứu cũng chỉ ra rằng trẻ em sử dụng chatbot thường không được giám sát chặt chẽ. Một nghiên cứu của Common Sense Media cho thấy 50% học sinh từ 12 đến 18 tuổi đã sử dụng ChatGPT cho việc học, nhưng chỉ có 26% phụ huynh biết điều này.

TS. Kurian không cho rằng cần cấm AI, mà cần làm cho nó an toàn hơn. Bà đề xuất một khuôn khổ gồm 28 câu hỏi để các công ty, giáo viên, phụ huynh và nhà phát triển AI suy nghĩ một cách hệ thống về cách giữ an toàn cho người dùng trẻ tuổi khi họ tương tác với các chatbot AI.

Theo dự báo trong thời gian tới cùng với quá trình chuyển đổi số mạnh mẽ sẽ tiếp tục là sự gia tăng của những nguy cơ mất an toàn thông tin và đến năm 2025, tội phạm mạng sẽ gây thiệt hại 10,5 nghìn tỷ USD tăng đáng kể so với mức 3 nghìn tỷ USD được ghi nhận vào năm 2015. Điều này khẳng định tầm quan trọng của việc tăng cường các biện pháp bảo mật và nhận thức về an toàn thông tin 2023.

An Dương (T/h)