Ngọc Yến
Writer
Chỉ 38.000 đồng, bạn có thể "lột đồ" bất kỳ ai chỉ bằng một cú nhấp chuột.
Đó là thực trạng đang diễn ra công khai tại Trung Quốc, bị phơi bày trên sóng truyền hình quốc gia CCTV ngày 12/4 vừa qua.
Chương trình "Điều tra Tài chính" của CCTV ghi nhận nhiều người đang rao bán công khai trên mạng các khóa học hướng dẫn dùng AI để tạo video gần như khiêudâm, với cam kết có thể "tự tay sản xuất hàng loạt theo ý muốn" chỉ từ một tấm ảnh hoặc vài từ gõ vào.
Công nghệ AI hiện đã đủ mạnh để tạo hình ảnh từ văn bản và video từ ảnh. Một bộ phận người dùng đang lợi dụng điều đó để biến ảnh bình thường của phụ nữ thành ảnh hoặc video khiêudâm. Người trong ảnh, vốn ăn mặc bình thường, bị thay thế bằng những hình ảnh phản cảm, với tư thế được tạo dáng cố ý.
Cái chợ đen này hoạt động với giá rất rẻ. Trên các nền tảng như Douyin, Bilibili hay Xianyu, người dùng rao bán "lệnh kích hoạt" (giới trong nghề gọi là "Kỹ thuật đốt", mượn thuật ngữ từ tiểu thuyết mạng) với giá 9,9 tệ, tức khoảng 38.000 đồng. Gói "cởi đồ bằng một cú nhấp" có giá 19,9 tệ, tức khoảng 76.000 đồng. Gói đầy đủ nhất lên đến 39,9 tệ, tương đương 152.000 đồng.
Phóng viên tờ Times Weekly đã thử nghiệm trực tiếp. Sau khi trả 19,9 tệ và làm theo hướng dẫn, chỉ trong 5 phút, một video khiêudâm hoàn toàn được tạo ra từ ảnh đại diện ảo. Không có bất kỳ cảnh báo hay giới hạn nào từ nền tảng được kích hoạt trong suốt quá trình.
Đáng chú ý là các mô hình AI lớn như Doubao hay Wenxin Yiyan đều từ chối tạo nội dung khiêu *** khi nhận lệnh trực tiếp. Nhưng khi người dùng áp dụng các "lệnh biến tấu" đã mua, viết lại theo cách tối nghĩa hoặc pha tiếng Anh để qua mắt bộ lọc, một số mô hình vẫn bị vượt qua.
Nhà quan sát kinh tế Liang Zhenpeng nhận định đây là mâu thuẫn cốt lõi giữa sự tiện lợi của công nghệ và an toàn nội dung. Ông cho rằng "tốc độ đổi mới của các nhà điều hành chợ đen thường nhanh hơn phản ứng phòng thủ của nền tảng", và việc chỉ dùng AI để kiểm duyệt AI là chưa đủ, cần thêm can thiệp thủ công và cơ chế thể chế rõ ràng.
Về mặt pháp lý, luật sư Xu Hao thuộc Văn phòng Luật Jingshi Bắc Kinh khẳng định hành vi dùng ảnh người khác để tạo nội dung khiêu *** mà không được phép là vi phạm quyền hình ảnh, quyền danh tiếng và quyền riêng tư. Tùy mức độ, người vi phạm có thể bị xử lý dân sự, hành chính, thậm chí hình sự. Các nền tảng cố tình bỏ qua hoặc vô hiệu hóa cơ chế kiểm duyệt cũng có thể bị truy cứu như đồng phạm.
Vụ việc cho thấy một vấn đề chưa có lời giải rõ ràng: khi công cụ AI ngày càng rẻ và dễ dùng, ranh giới giữa sáng tạo và lạm dụng đang bị xóa mờ nhanh hơn khả năng quản lý của các nền tảng và cơ quan chức năng.
Đó là thực trạng đang diễn ra công khai tại Trung Quốc, bị phơi bày trên sóng truyền hình quốc gia CCTV ngày 12/4 vừa qua.
Chương trình "Điều tra Tài chính" của CCTV ghi nhận nhiều người đang rao bán công khai trên mạng các khóa học hướng dẫn dùng AI để tạo video gần như khiêudâm, với cam kết có thể "tự tay sản xuất hàng loạt theo ý muốn" chỉ từ một tấm ảnh hoặc vài từ gõ vào.
Công nghệ AI hiện đã đủ mạnh để tạo hình ảnh từ văn bản và video từ ảnh. Một bộ phận người dùng đang lợi dụng điều đó để biến ảnh bình thường của phụ nữ thành ảnh hoặc video khiêudâm. Người trong ảnh, vốn ăn mặc bình thường, bị thay thế bằng những hình ảnh phản cảm, với tư thế được tạo dáng cố ý.
Cái chợ đen này hoạt động với giá rất rẻ. Trên các nền tảng như Douyin, Bilibili hay Xianyu, người dùng rao bán "lệnh kích hoạt" (giới trong nghề gọi là "Kỹ thuật đốt", mượn thuật ngữ từ tiểu thuyết mạng) với giá 9,9 tệ, tức khoảng 38.000 đồng. Gói "cởi đồ bằng một cú nhấp" có giá 19,9 tệ, tức khoảng 76.000 đồng. Gói đầy đủ nhất lên đến 39,9 tệ, tương đương 152.000 đồng.
Phóng viên tờ Times Weekly đã thử nghiệm trực tiếp. Sau khi trả 19,9 tệ và làm theo hướng dẫn, chỉ trong 5 phút, một video khiêudâm hoàn toàn được tạo ra từ ảnh đại diện ảo. Không có bất kỳ cảnh báo hay giới hạn nào từ nền tảng được kích hoạt trong suốt quá trình.
Đáng chú ý là các mô hình AI lớn như Doubao hay Wenxin Yiyan đều từ chối tạo nội dung khiêu *** khi nhận lệnh trực tiếp. Nhưng khi người dùng áp dụng các "lệnh biến tấu" đã mua, viết lại theo cách tối nghĩa hoặc pha tiếng Anh để qua mắt bộ lọc, một số mô hình vẫn bị vượt qua.
Nhà quan sát kinh tế Liang Zhenpeng nhận định đây là mâu thuẫn cốt lõi giữa sự tiện lợi của công nghệ và an toàn nội dung. Ông cho rằng "tốc độ đổi mới của các nhà điều hành chợ đen thường nhanh hơn phản ứng phòng thủ của nền tảng", và việc chỉ dùng AI để kiểm duyệt AI là chưa đủ, cần thêm can thiệp thủ công và cơ chế thể chế rõ ràng.
Về mặt pháp lý, luật sư Xu Hao thuộc Văn phòng Luật Jingshi Bắc Kinh khẳng định hành vi dùng ảnh người khác để tạo nội dung khiêu *** mà không được phép là vi phạm quyền hình ảnh, quyền danh tiếng và quyền riêng tư. Tùy mức độ, người vi phạm có thể bị xử lý dân sự, hành chính, thậm chí hình sự. Các nền tảng cố tình bỏ qua hoặc vô hiệu hóa cơ chế kiểm duyệt cũng có thể bị truy cứu như đồng phạm.
Vụ việc cho thấy một vấn đề chưa có lời giải rõ ràng: khi công cụ AI ngày càng rẻ và dễ dùng, ranh giới giữa sáng tạo và lạm dụng đang bị xóa mờ nhanh hơn khả năng quản lý của các nền tảng và cơ quan chức năng.