Grok (chatbot AI do công ty xAI của tỷ phú Elon Musk phát triển) đang trở thành tâm điểm tranh cãi khi bị nhiều quốc gia cáo buộc không kiểm soát hiệu quả việc tạo ra nội dung khiêu d*m giả mạo. Mới đây, Indonesia và Malaysia đã chính thức ra quyết định chặn và cấm tạm thời công cụ AI này, sau khi ghi nhận tình trạng lạm dụng Grok để tạo ảnh khỏa thân và khiêu d*m từ hình ảnh của người khác.
Grok được xAI giới thiệu từ năm 2023 với khả năng trả lời câu hỏi, tạo văn bản, hình ảnh và video theo yêu cầu người dùng. Tuy nhiên, chính khả năng tạo ảnh linh hoạt này lại bị nhiều đối tượng lợi dụng để dựng nên các hình ảnh nhạy cảm mang tính giả mạo, đặc biệt nhắm vào người nổi tiếng, phụ nữ và thậm chí cả trẻ vị thành niên.
Grok được xAI giới thiệu từ năm 2023 với khả năng trả lời câu hỏi, tạo văn bản, hình ảnh và video theo yêu cầu người dùng. Tuy nhiên, chính khả năng tạo ảnh linh hoạt này lại bị nhiều đối tượng lợi dụng để dựng nên các hình ảnh nhạy cảm mang tính giả mạo, đặc biệt nhắm vào người nổi tiếng, phụ nữ và thậm chí cả trẻ vị thành niên.
Lệnh cấm nhằm bảo vệ cộng đồng
Theo Bộ Kỹ thuật số Indonesia, việc chặn Grok là biện pháp cần thiết nhằm giảm thiểu rủi ro từ nội dung khiêu d*m do AI tạo ra. Lệnh cấm được đưa ra để bảo vệ phụ nữ, trẻ em và cộng đồng khỏi những hệ lụy nghiêm trọng của công nghệ bị lạm dụng.
Tại Malaysia, chính phủ cũng đưa ra lập luận tương tự khi cho rằng Grok đã bị sử dụng để tạo ra các hình ảnh mang tính xúc phạm, không đứng đắn và trái với chuẩn mực đạo đức xã hội. Nhà chức trách nước này đặc biệt lo ngại trước các nội dung liên quan đến phụ nữ và trẻ em – những nhóm dễ trở thành nạn nhân của hình ảnh khiêu d*m giả mạo.
Cả Indonesia và Malaysia đều là các quốc gia có đa số dân theo Hồi giáo, nơi luật pháp về chống khiêu d*m được áp dụng rất nghiêm ngặt. Dù vậy, giới chức hai nước cho biết lệnh cấm Grok chỉ mang tính tạm thời và có thể được xem xét gỡ bỏ nếu xAI chứng minh được khả năng kiểm soát nội dung hiệu quả hơn.
Tại Malaysia, chính phủ cũng đưa ra lập luận tương tự khi cho rằng Grok đã bị sử dụng để tạo ra các hình ảnh mang tính xúc phạm, không đứng đắn và trái với chuẩn mực đạo đức xã hội. Nhà chức trách nước này đặc biệt lo ngại trước các nội dung liên quan đến phụ nữ và trẻ em – những nhóm dễ trở thành nạn nhân của hình ảnh khiêu d*m giả mạo.
Cả Indonesia và Malaysia đều là các quốc gia có đa số dân theo Hồi giáo, nơi luật pháp về chống khiêu d*m được áp dụng rất nghiêm ngặt. Dù vậy, giới chức hai nước cho biết lệnh cấm Grok chỉ mang tính tạm thời và có thể được xem xét gỡ bỏ nếu xAI chứng minh được khả năng kiểm soát nội dung hiệu quả hơn.
Lo ngại lan rộng ra nhiều khu vực
Không chỉ Đông Nam Á, vấn đề của Grok cũng khiến nhiều chính phủ phương Tây lên tiếng. Trước đó, các quan chức tại Anh, Ấn Độ và Liên minh châu Âu đã bày tỏ quan ngại về việc công cụ AI này cho phép người dùng tạo ra hình ảnh khiêu d*m giả mạo một cách tương đối dễ dàng.
Tại Anh, Bộ trưởng Khoa học, Đổi mới và Công nghệ Liz Kendall đã kêu gọi cơ quan quản lý truyền thông sử dụng toàn bộ quyền hạn pháp lý để ngăn chặn việc tạo và lan truyền hình ảnh khiêu d*m do AI tạo ra. Bà nhấn mạnh rằng việc dựng ảnh khiêu d*m nhắm vào phụ nữ và trẻ em là hành vi “đáng khinh và không thể chấp nhận”.
Tại Anh, Bộ trưởng Khoa học, Đổi mới và Công nghệ Liz Kendall đã kêu gọi cơ quan quản lý truyền thông sử dụng toàn bộ quyền hạn pháp lý để ngăn chặn việc tạo và lan truyền hình ảnh khiêu d*m do AI tạo ra. Bà nhấn mạnh rằng việc dựng ảnh khiêu d*m nhắm vào phụ nữ và trẻ em là hành vi “đáng khinh và không thể chấp nhận”.
Cam kết từ xAI vẫn chưa đủ?
Trên lý thuyết, điều khoản sử dụng của Grok cũng như nhiều chatbot AI khác như ChatGPT, Gemini hay Claude đều nghiêm cấm việc tạo nội dung khiêu d*m hoặc khỏa thân. Tuy nhiên, thực tế cho thấy người dùng vẫn có thể vượt qua các cơ chế kiểm duyệt bằng những câu lệnh biến tướng hoặc mẹo kỹ thuật đơn giản.
Trước áp lực dư luận, Elon Musk và xAI cho biết họ đã áp dụng biện pháp mạnh tay hơn, bao gồm cấm vĩnh viễn các tài khoản sử dụng Grok để tạo nội dung khiêu d*m, đồng thời cam kết phối hợp với chính phủ các nước nhằm hạn chế sự lan truyền của hình ảnh giả mạo do AI tạo ra.
Dù vậy, trên thực tế, các hình ảnh khiêu d*m liên quan đến Grok vẫn tiếp tục xuất hiện và lan truyền trên nhiều nền tảng mạng xã hội như Facebook, Reddit và cả mạng xã hội X . Điều này làm dấy lên mối lo ngại rằng bất kỳ ai cũng có thể trở thành nạn nhân của công nghệ AI nếu các biện pháp kiểm soát không được siết chặt kịp thời.
Trước áp lực dư luận, Elon Musk và xAI cho biết họ đã áp dụng biện pháp mạnh tay hơn, bao gồm cấm vĩnh viễn các tài khoản sử dụng Grok để tạo nội dung khiêu d*m, đồng thời cam kết phối hợp với chính phủ các nước nhằm hạn chế sự lan truyền của hình ảnh giả mạo do AI tạo ra.
Dù vậy, trên thực tế, các hình ảnh khiêu d*m liên quan đến Grok vẫn tiếp tục xuất hiện và lan truyền trên nhiều nền tảng mạng xã hội như Facebook, Reddit và cả mạng xã hội X . Điều này làm dấy lên mối lo ngại rằng bất kỳ ai cũng có thể trở thành nạn nhân của công nghệ AI nếu các biện pháp kiểm soát không được siết chặt kịp thời.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview