Cử tri bỏ phiếu sớm bầu tổng thống tại điểm bầu cử ở Seoul, Hàn Quốc, ngày 29-5-2025 – Ảnh: YONHAP/TTXVN
Chỉ còn vài ngày nữa là đến cuộc bầu cử tổng thống quan trọng, Hàn Quốc đang chứng kiến cuộc chiến pháp lý đầu tiên chống lại việc lạm dụng công nghệ deepfake trong chính trị.
Ủy ban Bầu cử quốc gia (NEC) đã chính thức khởi kiện 3 YouTuber vì tạo và phát tán video giả mạo các ứng viên tổng thống.
Ngày 30-5, NEC đã đệ đơn kiện ba YouTuber vì sử dụng AI để tạo ra âm thanh, hình ảnh và video giả mạo các ứng cử viên tổng thống, với mục đích tác động đến cơ hội chiến thắng của họ.
Đây là vụ kiện đầu tiên kể từ khi Hàn Quốc ban hành quy định nghiêm cấm deepfake trong bầu cử thông qua việc sửa đổi Đạo luật bầu cử viên chức nhà nước vào tháng 12-2023.
Luật mới cấm việc tạo, chỉnh sửa, phân phối hoặc đăng tải nội dung do AI tạo ra không rõ ràng về tính xác thực trong vòng 90 ngày trước bầu cử.
Ba cá nhân này phải đối mặt với 35 cáo buộc nghiêm trọng. Họ bị tố cáo đăng tải hình ảnh một ứng cử viên trong trang phục tù nhân đứng sau song sắt, đồng thời tạo ra 10 video về một nữ phát thanh viên AI để tuyên truyền có lợi hoặc bất lợi cho các ứng viên khác nhau.
Các YouTuber này cũng bị cáo buộc sử dụng công nghệ deepfake để tạo ra những hình ảnh tiêu cực về các ứng cử viên cụ thể trên tài khoản mạng xã hội cá nhân.
Theo NEC, nội dung giả mạo chủ yếu nhắm vào nghị sĩ Lee Jae Myung của Đảng Dân chủ Hàn Quốc và Kim Moon Soo của Đảng Quyền lực quốc dân.
Nếu bị kết án, những kẻ vi phạm có thể đối mặt với mức phạt nghiêm khắc: tù tối đa 7 năm hoặc phạt tiền từ 10-50 triệu won (7.250-36.250 USD).
Trong bối cảnh cuộc bầu cử tổng thống diễn ra vào ngày 3-6, NEC đang tăng cường các biện pháp trấn áp hoạt động bất hợp pháp trên không gian mạng.
Việc bỏ phiếu sớm đã bắt đầu từ ngày 29-5, với 27% cử tri đã tham gia bỏ phiếu tính đến 13h ngày 30-5.