Sai sót này làm giảm đáng kể hiệu quả từ những nỗ lực của tập đoàn trong việc tự động gắn nhãn nội dung AI nhằm nâng cao tính minh bạch trên các nền tảng mạng xã hội, đồng thời đặt ra nhiều nghi vấn về độ tin cậy của giải pháp công nghệ hiện tại.
Dữ liệu thực nghiệm từ Reuters phản ánh, khi một bức ảnh AI bị thay đổi định dạng hoặc cắt nhỏ các phần góc cạnh, thuật toán quét dấu vết (watermark) của Meta thường xuyên bỏ sót các ký hiệu nhận diện cốt lõi. Lỗ hổng này vô tình tạo điều kiện cho các nội dung do AI mô phỏng dễ dàng lưu thông trên Facebook hay Instagram mà không hề đi kèm nhãn cảnh báo, làm gia tăng rủi ro khiến người dùng bị nhầm lẫn giữa hình ảnh thực tế và sản phẩm giả lập.
Giới chuyên gia công nghệ nhận định, sự cố trên phản ánh một thách thức kỹ thuật mang tính hệ thống trong việc kiểm soát dữ liệu đa phương tiện do AI tạo ra. Trong bối cảnh các công cụ trí tuệ nhân tạo đang bùng nổ về mặt số lượng và chất lượng hiển thị, việc nghiên cứu và phát triển các thuật toán rà quét có độ chính xác cao, có khả năng chống chịu các thao tác chỉnh sửa hậu kỳ là yêu cầu cấp thiết để bảo vệ an toàn thông tin cho người dùng và duy trì không gian số an toàn.
Tâm An(t/h)
