Trí tuệ nhân tạo chưa thể ngăn chặn bạo lực trực tuyến

Theo CNN, trí tuệ nhân tạo (AI) đã không giúp ích được gì khi kẻ khủng bố phát trực tiếp video lên Facebook. Video được phát trong khoảng 17 phút cho đến khi cảnh sát New Zealand thông báo đến mạng xã hội này. Các bản sao của đoạn video và bài đăng liên quan đến vụ việc đã lan truyền một cách chóng mặt.

Công nghệ AI vốn đang được nhiều mạng xã hội lớn sử dụng để giúp kiểm duyệt các cập nhật trạng thái, hình ảnh, video của người dùng tải lên. Nhưng tại sao AI lại thất bại trong việc ngăn chặn nội dung bạo lực trên ngay khi nó vừa xuất hiện?

Lý do lớn nhất là vì khả năng xác định ý nghĩa trong nội dung của AI vẫn chưa đủ mạnh. Con người khá giỏi trong việc hiểu ngữ cảnh tình huống dù chỉ từ vài dòng cập nhật trạng thái hay một video ngắn trên YouTube. Ngược lại, hiểu rõ ngữ cảnh không phải là chuyện dễ dàng với AI.

Phải công nhận rằng AI đã phát triển đáng kể trong những năm gần đây khi những mạng xã hội lớn như Facebook, Twitter, YouTube, Tumblr… đang dựa vào sự kết hợp giữa AI và kiểm duyệt viên là người thật để quản lý nội dung đăng bởi người dùng. Nhưng với một lượng lớn bài đăng, trạng thái cập nhật được tạo ra mỗi ngày, sự kết hợp trên vẫn chưa phải là giải pháp tối ưu nhất.

Máy học (machine learning), một dạng công nghệ trong lĩnh vực nghiên cứu AI, đang được các mạng xã hội áp dụng để tìm kiếm nội dung không lành mạnh. Nó làm điều này bằng cách học từ những thông tin mà chúng ta cung cấp trong những trường hợp nhất định, ví dụ như nội dung thù địch hoặc hình ảnh về vũ khí. Sau một khoảng thời gian, nó có thể nhận diện những nội dung đó chính xác.

Tuy nhiên, nó vẫn chưa thực sự hiểu các thông tin như: ai là người viết nội dung hay đăng tải hình ảnh, hoặc yếu tố nào là quan trọng trong những ngữ cảnh xã hội cụ thể. Đặc biệt, các phát ngôn kích động bạo lực phụ thuộc nhiều vào ngữ cảnh.

Một số nội dung có vẻ mang tính chất bạo lực, nhưng hóa ra lại có ý nghĩa châm biếm để phản đối bạo lực. Hoặc một vài nội dung có vẻ vô hại, nhưng rút cuộc lại mang tính chất nguy hiểm đối với những cá nhân nhất định, phụ thuộc vào kiến thức hoặc văn hóa của họ. Rất nhiều yếu tố tác động đến ý nghĩa của nội dung, do đó con người thỉnh thoảng cũng gặp khó khăn khi cố gắng tìm hiểu nghĩa.

Thậm chí dù bạo lực được hiển thị trong một đoạn video, nhưng không phải lúc nào con người - huống chi là một máy tính được "đào tạo" - có thể dễ dàng nhận diện ra nó hoặc quyết định cần phải làm gì. Mặt khác, dù hình ảnh về vũ khí không trực tiếp xuất hiện trong video hay bức hình, những nội dung này vẫn có thể khiến chúng ta liên tưởng đến bạo lực.

AI vẫn còn một chặng đường dài phải đi trước khi có thể được giao trọng trách xác định các nội dung không phù hợp hoặc bạo lực trực tuyến.

Mộc Anh (Biên dịch)