Hàn Quốc triển khai AI chống video deepfake trong bầu cử tổng thống

Mô hình Aegis được phát triển bởi Cơ quan Giám định Quốc gia Hàn Quốc (NFS) phối hợp cùng Viện Công nghệ Điện tử Hàn Quốc (KETI), trong khuôn khổ đề án nghiên cứu do Viện Kế hoạch và Đánh giá Công nghệ Thông tin - Truyền thông tài trợ từ tháng 4/2023. Dự án mang tên “Công nghệ phát hiện deepfake tự tiến hóa nhằm ngăn ngừa tác động xã hội tiêu cực của AI tạo sinh”. Ngoài NFS và KETI, còn có sự tham gia của Đại học Cảnh sát Quốc gia Hàn Quốc, Viện Khoa học và Công nghệ Tiên tiến Hàn Quốc (KAIST), công ty AI Cleon và hãng phim Wysiwyg Studios.

Một hình minh họa mô tả hình ảnh deepfake do AI tạo ra. Ảnh: GETTYIMAGESBANK

Aegis - đặt theo tên chiếc khiên trong thần thoại Hy Lạp được tối ưu hóa để phát hiện các nội dung giả mạo bằng AI, đặc biệt là những video được tạo bằng phương pháp khuếch tán (diffusion), một công nghệ tiên tiến giúp tạo hình ảnh và video có độ chân thực cao, rất khó phân biệt bằng mắt thường. Đây là phương pháp mà nhiều công cụ AI nổi tiếng như Midjourney hay DALL-E của OpenAI đang sử dụng.

Từ ngày 9/4, NEC đã vận hành tổ công tác đặc biệt nhằm xử lý các video AI giả mạo mang tính vu khống và bôi nhọ trong giai đoạn vận động tranh cử. Theo quy trình ba bước của NEC, các video nghi ngờ sẽ được kiểm tra bằng mắt thường và tai nghe ở bước đầu tiên. Nếu không xác định được, bước thứ hai sẽ sử dụng mô hình AI như Aegis để phát hiện, và bước cuối cùng là đánh giá của các chuyên gia kỹ thuật.

Một quan chức NEC cho biết: “Chúng tôi chủ yếu sử dụng Aegis của NFS vì độ chính xác cao, nhưng cũng đối chiếu kết quả với các mô hình khác để đảm bảo khách quan”.

Theo Luật Bầu cử sửa đổi có hiệu lực từ tháng 01/2024, việc sản xuất hoặc phát tán video deepfake phục vụ mục đích tranh cử trong vòng 90 ngày trước bầu cử là hành vi phạm pháp. Tuy vậy, nhiều video giả mạo vẫn lan truyền mạnh trên mạng xã hội. Điển hình như video ứng viên Lee Jae-myung (Đảng Dân chủ) mặc đồ tù nhân, hay ứng viên Han Dong-hoon (Đảng Sức mạnh Nhân dân) bị mô phỏng đang gỡ tóc giả đều là những sản phẩm mang tính vu khống.

Đại diện NFS nhấn mạnh: “Chúng tôi không chỉ tập trung phát hiện hình ảnh và giọng nói giả mạo, mà còn phát triển khả năng phân tích mục đích sử dụng - liệu đó có phải là nội dung mang động cơ xấu hay không”.

Việc Hàn Quốc chủ động triển khai công nghệ AI để chống lại chính công nghệ AI tạo sinh trong bối cảnh bầu cử cho thấy thách thức ngày càng lớn mà các quốc gia phải đối mặt khi AI phát triển quá nhanh, vượt khỏi khả năng kiểm soát bằng phương pháp truyền thống. Đây là bài học đáng tham khảo với nhiều nước, trong đó có Việt Nam, khi hành lang pháp lý và công cụ công nghệ vẫn đang chạy đua với tốc độ tiến hóa của AI.

Duy Trinh (Korea JoongAng Daily)