Trí tuệ nhân tạo đang bị kẻ xấu lợi dụng để tạo ra nhiều nội dung phản cảm

Mới đây, Các công tố viên tại Ecuador (Tây Ban Nha) đã mở cuộc điều tra việc phát tán các video có nội dung khiêu dâm do trí tuệ nhân tạo dàn dựng. Vụ việc xảy ra ở thủ đô Quito, các đối tượng xấu đã sử dụng công nghệ AI cắt ghép hình ảnh khuôn mặt của các sinh viên vào phần cơ thể khỏa thân để dựng các video và ảnh khiêu dâm. Khoảng 20-24 sinh viên bị sử dụng hình ảnh để cắt ghép và dàn dựng khoảng 700 video với nội dung khiêu dâm. Đây là vụ việc tiếp theo cho thấy hiểm họa từ các ảnh khiêu dâm do AI tạo ra.

Tháng 9 vừa qua tại Tây Ban Nha, trở lại trường sau kỳ nghỉ hè, khoảng 20 nữ sinh ở một thị trấn phía Tây Nam bất ngờ nhận được những bức ảnh khỏa thân của mình trên điện thoại di động. Các em không hề chụp những bức ảnh này, nhưng kẻ xấu đã lấy cắp ảnh mà các em đăng trên tài khoản Instagram cá nhân, sau đó dùng các ứng dụng AI chỉnh sửa ảnh. Kết quả là ảnh các em có mặc trang phục biến thành ảnh khỏa thân. Vụ việc gây ra những tác động tâm lý rất lớn đến các em bé gái. Bà Miriam Al Adib - Phụ huynh nạn nhân: "Các con vô cùng sợ hãi, bị khủng hoảng lo âu tột độ vì phải chịu đựng những điều kinh khủng này. Các con không dám nói bất cứ điều gì và sợ bị đổ lỗi".

Một số đối tượng đã đưa nhiều gương mặt người dùng trên nhiều nền tảng mạng xã hội vào các ứng dụng AI để cắt ghép và tạo nên các nội dung khiêu dâm. Ảnh minh họa 

Trước đó, một người đàn ông Hàn Quốc đã bị kết án tù vì sử dụng trí tuệ nhân tạo để tạo ra (AI) những hình ảnh khiêu dâm trẻ em. Đây là vụ án đầu tiên thuộc loại này ở Hàn Quốc khi các Tòa án trên khắp thế giới đang phải xử lý các vụ án liên quan tới việc sử dụng AI để tạo ra nội dung lạm dụng tình dục Văn phòng công tố quận Busan cho biết, người đàn ông này đã sử dụng công nghệ AI để tạo ra khoảng 360 hình ảnh khiêu dâm. Những hình ảnh này chưa được phát tán và đã bị cảnh sát tịch thu. Các công tố viên lập luận trong vụ án rằng định nghĩa về hình ảnh lạm dụng hay bóc lộc tình dục phải bao gồm cả những hành vi tình dục của “con người ảo” chứ không chỉ hình ảnh của trẻ em thực sự. Văn phòng công tố cho biết phán quyết cho thấy nội dung lạm dụng tình dục có thể bao gồm hình ảnh được tạo bằng công nghệ cao, đủ chân thực để trông giống trẻ em và trẻ vị thành niên thật.

Vụ việc xảy ra khi các chính phủ trên khắp thế giới đang vật lộn với sự bùng nổ của AI, với những tác động sâu rộng từ bản quyền và sở hữu trí tuệ đến an ninh quốc gia, quyền riêng tư cá nhân và nội dung khiêu dâm. Nhiều nước đang chạy đua để quản lý công nghệ - đặc biệt là khi những trường hợp như bản án của Hàn Quốc này nêu bật cách AI có thể được sử dụng để vi phạm quyền tự chủ và an toàn cơ thể của con người, phần lớn là phụ nữ và trẻ vị thành niên.

Ông Miguel Hernandez - Chuyên gia cố vấn Hội đồng châu Âu về trí tuệ nhân tạo: "Tôi cho rằng cần xem xét trách nhiệm pháp lý của những người tạo ra công cụ AI. Chúng tôi đang chờ hoàn thiện luật AI của châu Âu cũng như Công ước từ Hội đồng châu Âu. Đây là những công cụ cần thiết để điều chỉnh các hành vi liên quan đến sử dụng AI". Cục Điều tra Liên bang Mỹ cũng phát đi cảnh báo, tội phạm sử dụng AI tạo hình ảnh khiêu dâm nhằm đe dọa và tống tiền nạn nhân đang có xu hướng gia tăng. Giới chức Mỹ cũng yêu cầu các nền tảng cung cấp ứng dụng tạo ảnh AI, tăng cường các giải pháp, ngăn chặn tội phạm lợi dụng tính năng công nghệ để thực hiện hành vi phạm tội.

Khánh Mai