Cảnh báo việc sử dụng AI tạo video sai sự thật
Việc lợi dụng công nghệ AI để tạo video, hình ảnh sai sự thật đang gây nhiễu loạn thông tin trên mạng xã hội, tiềm ẩn nguy cơ ảnh hưởng nghiêm trọng đến nhận thức và trật tự xã hội.
Theo cơ quan Công an, trên không gian mạng hiện nay xuất hiện tình trạng một số cá nhân, tổ chức lợi dụng công nghệ AI để tạo ra các hình ảnh, video nội dung “rác”, xấu độc, phản cảm, bịa đặt thông tin sai sự thật, thậm chí mang tính bạo lực nhằm kích thích sự tò mò, thu hút lượt xem.
Những nội dung này thường sử dụng từ ngữ mạnh như: “vụ án”, “bí mật”, “hồ sơ”… gây nhiễu loạn thông tin, tác động tiêu cực đến nhận thức, tâm lý và hành vi của người sử dụng mạng xã hội. Sau thời gian ngắn tạo lập, hoạt động, nhiều kênh đăng tải đã thu hút hàng chục nghìn người đăng ký, theo dõi và hàng chục triệu lượt xem video.
Đáng chú ý, trong số đó có kênh lượng tương tác lớn đã tạo dựng các video, hình ảnh, bịa đặt thông tin về lực lượng Công an nhằm mục đích trục lợi, “câu view”, “câu like” tạo dư luận xấu, gây nhầm lẫn cho người xem cho rằng những video này là thật.
Mới đây, Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao Công an thành phố Hà Nội xử lý một trường hợp (trú tại phường Tây Mỗ, Hà Nội), là quản trị kênh Youtube. Đối tượng thường xuyên đăng tải các video AI tạo dựng quá trình gây án mạng và hình ảnh lực lượng Công an phá án. Mục đích đăng tải các video lên kênh Youtube là để thu hút đông người xem, kiếm tiền quảng cáo từ Youtube.
Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao đã ra quyết định xử phạt vi phạm hành chính đối với trường hợp này về hành vi “cung cấp, chia sẻ thông tin giả mạo, thông tin sai sự thật, xuyên tạc, vu khống, xúc phạm uy tín của cơ quan, tổ chức, danh dự, nhân phẩm của cá nhân”.
