myle.vnreview
Writer
Trung Quốc đang tiến hành siết chặt quy định về hình ảnh và video độc hại được tạo ra bằng trí tuệ nhân tạo (AI) nhằm ứng phó với sự gia tăng nội dung giả mạo được đăng tải trên mạng xã hội, bao gồm cả những nội dung liên quan đến nạn nhân bị bắt cóc hoặc thiệt hại do động đất.
Một chương trình tin tức ở Trung Quốc đưa tin rằng hình ảnh lan truyền về một em bé sống sót sau trận động đất thực chất là do AI tạo ra.
Luật an toàn Internet sửa đổi của Trung Quốc sẽ có hiệu lực từ tháng 1/2026. Ban đầu, luật này nhằm mục đích cải thiện an ninh cơ sở hạ tầng viễn thông, nhưng những bổ sung mới nhất bao gồm quản lý rủi ro và giám sát an toàn AI. Các sửa đổi này đã được Quốc hội Trung Quốc thông qua vào ngày 28 tháng 10.
Chính phủ Trung Quốc dường như đang cảnh giác với việc sử dụng nội dung giả mạo để chỉ trích. Nếu thông tin sai lệch sau một vụ án, tai nạn hoặc thảm họa cho thấy thiệt hại nghiêm trọng hơn thực tế, điều đó có thể khiến Bắc Kinh mất uy tín. Một mối lo ngại khác là khả năng các quan chức cấp cao bị mất quyền lực do bị cáo buộc sai trái.
Trung Quốc đã ban hành luật quản lý các dịch vụ AI tạo sinh có hiệu lực từ tháng 8 năm 2023, yêu cầu các công ty liên quan đến AI phải sử dụng công nghệ này phù hợp với các giá trị của chủ nghĩa xã hội. Luật này nghiêm cấm việc tạo ra nội dung có thể dẫn đến bất ổn xã hội hoặc lật đổ chính quyền.
DeepSeek và các AI tạo sinh khác ở Trung Quốc được đào tạo theo luật này, vì vậy các mô hình ngôn ngữ lớn của Trung Quốc có xu hướng tránh trả lời các câu hỏi chính trị được đặt ra cho chúng. Làn sóng hình ảnh và video giả mạo gần đây dường như đã thúc đẩy Bắc Kinh tăng cường kiểm soát công nghệ này.
Sau trận động đất mạnh 6,8 độ richter xảy ra ở Tây Tạng vào ngày 7/1, một bức ảnh chụp một trẻ sơ sinh bị phủ đầy mảnh vỡ đã lan truyền trên mạng xã hội. Bức ảnh đã lan truyền rộng rãi khi mọi người bày tỏ sự thương cảm với em bé, nhưng sau đó người ta phát hiện ra rằng hình ảnh này được tạo ra bằng AI tạo sinh và không liên quan gì đến trận động đất. Người đăng bức ảnh đã bị chính quyền bắt giữ vì tội phát tán thông tin sai lệch.
Các cơ quan an ninh công cộng cũng đang tăng cường trấn áp. Vào cuối tháng 10, các cơ quan này đã công khai một số nội dung giả mạo bất hợp pháp mà họ tìm thấy, báo hiệu rằng họ sẽ truy tố những người có hành vi tương tự.
Ví dụ bao gồm một vụ việc, trong đó một người đàn ông 28 tuổi ở tỉnh Chiết Giang khẳng định con gái mình bị bắt cóc bằng cách sử dụng ảnh của một cô gái mà anh ta tìm thấy trên mạng. Trong một trường hợp khác, một phụ nữ 57 tuổi ở tỉnh Sơn Tây đã đăng tải văn bản và hình ảnh được cho là cho thấy thiệt hại do động đất gây ra, nhưng thiệt hại đó không hề tồn tại.
Theo Trung tâm Thông tin Mạng Internet Trung Quốc do chính phủ hậu thuẫn, tính đến tháng 6, số lượng người dùng AI tạo sinh đã đạt 515 triệu người tại Trung Quốc, tăng gấp đôi trong sáu tháng. Công nghệ này đã lan rộng nhanh chóng sau khi DeepSeek gây xôn xao dư luận vì đạt được hiệu suất cao với chi phí tương đối thấp.
Khi lướt internet ở Trung Quốc, người ta có thể dễ dàng tìm thấy các video hướng dẫn cách tạo ảnh giả bằng AI tạo sinh, cũng như phần mềm có thể thay đổi khuôn mặt hoặc giọng nói. Nhiều người dùng đăng tải những hình ảnh giật gân lên mạng xã hội để tăng tương tác với hy vọng thúc đẩy doanh số bán hàng hoặc doanh thu quảng cáo.
Một cơ quan giám sát internet liên kết với chính phủ và Đảng Cộng sản Trung Quốc đã bắt đầu ban hành hướng dẫn cho các chính quyền địa phương và các nền tảng mạng xã hội lớn. Cơ quan này đã siết chặt các dịch vụ AI dễ dàng tạo ảnh khỏa thân hoặc cho phép chỉnh sửa giọng nói hoặc khuôn mặt. Trong quý 2, cơ quan này đã ra lệnh khắc phục đối với 3.500 ứng dụng và 960.000 nội dung.
Vào tháng 9, cơ quan này đã đưa ra yêu cầu các nhà cung cấp dịch vụ AI phải gắn nhãn hình ảnh và video do người dùng tạo ra để chỉ ra rằng AI đã được sử dụng.
Một chương trình tin tức ở Trung Quốc đưa tin rằng hình ảnh lan truyền về một em bé sống sót sau trận động đất thực chất là do AI tạo ra.
Luật an toàn Internet sửa đổi của Trung Quốc sẽ có hiệu lực từ tháng 1/2026. Ban đầu, luật này nhằm mục đích cải thiện an ninh cơ sở hạ tầng viễn thông, nhưng những bổ sung mới nhất bao gồm quản lý rủi ro và giám sát an toàn AI. Các sửa đổi này đã được Quốc hội Trung Quốc thông qua vào ngày 28 tháng 10.
Chính phủ Trung Quốc dường như đang cảnh giác với việc sử dụng nội dung giả mạo để chỉ trích. Nếu thông tin sai lệch sau một vụ án, tai nạn hoặc thảm họa cho thấy thiệt hại nghiêm trọng hơn thực tế, điều đó có thể khiến Bắc Kinh mất uy tín. Một mối lo ngại khác là khả năng các quan chức cấp cao bị mất quyền lực do bị cáo buộc sai trái.
Trung Quốc đã ban hành luật quản lý các dịch vụ AI tạo sinh có hiệu lực từ tháng 8 năm 2023, yêu cầu các công ty liên quan đến AI phải sử dụng công nghệ này phù hợp với các giá trị của chủ nghĩa xã hội. Luật này nghiêm cấm việc tạo ra nội dung có thể dẫn đến bất ổn xã hội hoặc lật đổ chính quyền.
DeepSeek và các AI tạo sinh khác ở Trung Quốc được đào tạo theo luật này, vì vậy các mô hình ngôn ngữ lớn của Trung Quốc có xu hướng tránh trả lời các câu hỏi chính trị được đặt ra cho chúng. Làn sóng hình ảnh và video giả mạo gần đây dường như đã thúc đẩy Bắc Kinh tăng cường kiểm soát công nghệ này.
Sau trận động đất mạnh 6,8 độ richter xảy ra ở Tây Tạng vào ngày 7/1, một bức ảnh chụp một trẻ sơ sinh bị phủ đầy mảnh vỡ đã lan truyền trên mạng xã hội. Bức ảnh đã lan truyền rộng rãi khi mọi người bày tỏ sự thương cảm với em bé, nhưng sau đó người ta phát hiện ra rằng hình ảnh này được tạo ra bằng AI tạo sinh và không liên quan gì đến trận động đất. Người đăng bức ảnh đã bị chính quyền bắt giữ vì tội phát tán thông tin sai lệch.
Các cơ quan an ninh công cộng cũng đang tăng cường trấn áp. Vào cuối tháng 10, các cơ quan này đã công khai một số nội dung giả mạo bất hợp pháp mà họ tìm thấy, báo hiệu rằng họ sẽ truy tố những người có hành vi tương tự.
Ví dụ bao gồm một vụ việc, trong đó một người đàn ông 28 tuổi ở tỉnh Chiết Giang khẳng định con gái mình bị bắt cóc bằng cách sử dụng ảnh của một cô gái mà anh ta tìm thấy trên mạng. Trong một trường hợp khác, một phụ nữ 57 tuổi ở tỉnh Sơn Tây đã đăng tải văn bản và hình ảnh được cho là cho thấy thiệt hại do động đất gây ra, nhưng thiệt hại đó không hề tồn tại.
Theo Trung tâm Thông tin Mạng Internet Trung Quốc do chính phủ hậu thuẫn, tính đến tháng 6, số lượng người dùng AI tạo sinh đã đạt 515 triệu người tại Trung Quốc, tăng gấp đôi trong sáu tháng. Công nghệ này đã lan rộng nhanh chóng sau khi DeepSeek gây xôn xao dư luận vì đạt được hiệu suất cao với chi phí tương đối thấp.
Khi lướt internet ở Trung Quốc, người ta có thể dễ dàng tìm thấy các video hướng dẫn cách tạo ảnh giả bằng AI tạo sinh, cũng như phần mềm có thể thay đổi khuôn mặt hoặc giọng nói. Nhiều người dùng đăng tải những hình ảnh giật gân lên mạng xã hội để tăng tương tác với hy vọng thúc đẩy doanh số bán hàng hoặc doanh thu quảng cáo.
Một cơ quan giám sát internet liên kết với chính phủ và Đảng Cộng sản Trung Quốc đã bắt đầu ban hành hướng dẫn cho các chính quyền địa phương và các nền tảng mạng xã hội lớn. Cơ quan này đã siết chặt các dịch vụ AI dễ dàng tạo ảnh khỏa thân hoặc cho phép chỉnh sửa giọng nói hoặc khuôn mặt. Trong quý 2, cơ quan này đã ra lệnh khắc phục đối với 3.500 ứng dụng và 960.000 nội dung.
Vào tháng 9, cơ quan này đã đưa ra yêu cầu các nhà cung cấp dịch vụ AI phải gắn nhãn hình ảnh và video do người dùng tạo ra để chỉ ra rằng AI đã được sử dụng.
Nguồn: Nikkei