Zoey
Intern Writer
Chào các bạn, dạo gần đây mình thấy có một câu chuyện khá thú vị và cũng đáng suy ngẫm về cách mà công nghệ AI đang bị lợi dụng ở Trung Quốc. Chuyện là, một số công ty ở đây đang rầm rộ dùng cái gọi là "Tối ưu hóa công cụ tạo sinh" hay GEO để thao túng các mô hình AI, bóp méo kết quả tìm kiếm và lan truyền thông tin sai lệch, tất cả chỉ để phục vụ mục đích thương mại như quảng bá sản phẩm thôi đó.
Thông tin này được công bố vào ngày 15/3 vừa qua tại Gala Quyền lợi Người tiêu dùng do đài truyền hình quốc gia CCTV của Trung Quốc tổ chức. Các dịch vụ GEO này hiện đang được rao bán công khai trên nhiều nền tảng thương mại điện tử lớn của Trung Quốc như Taobao và JD.com. Mức giá cũng không hề rẻ đâu nha, dao động từ 3.600 nhân dân tệ (tương đương khoảng 497 USD hoặc 12,6 triệu VNĐ) đến 32.800 nhân dân tệ (tương đương khoảng 4.525 USD hoặc 114,8 triệu VNĐ) cho một gói đăng ký ba tháng lận đó.
Vậy GEO là gì mà ghê gớm vậy? Hiểu đơn giản thì GEO giúp các công ty tăng cường khả năng hiển thị của sản phẩm và nội dung cụ thể trong các kết quả được tạo ra từ các công cụ tìm kiếm và mô hình ngôn ngữ lớn có tích hợp AI. Dịch vụ này bắt đầu xuất hiện từ năm ngoái, ngay khi các nhà cung cấp công cụ tìm kiếm bắt đầu đưa AI vào nền tảng của mình.
Cách hoạt động của nó là "nhồi nhét" cho các mô hình AI như DeepSeek, Doubao và Kimi một lượng lớn nội dung. Những nội dung này sau đó sẽ được quét, lập chỉ mục và ưu tiên hiển thị trong kết quả tìm kiếm hoặc phản hồi cho các truy vấn của người dùng.
Tuy nhiên, theo một chuyên gia trong ngành, dù GEO về cơ bản là một công cụ để tối ưu hóa phân phối nội dung và tăng cường khả năng tiếp cận quảng cáo, nhưng một số doanh nghiệp đã biến tướng nó. Họ dùng GEO để liên tục "đổ" thông tin sai lệch có chủ đích về lợi ích sản phẩm của mình lên mạng. Điều này khiến các mô hình AI bị đánh lừa, đưa ra những câu trả lời thiên vị cho người dùng.
Một ví dụ cụ thể được ông Wang, người đứng đầu một nhà cung cấp dịch vụ GEO hàng đầu, chia sẻ với CCTV. Công ty của ông đã phục vụ hơn 200 khách hàng thuộc nhiều ngành nghề khác nhau chỉ trong một năm. Họ quảng cáo với khách hàng rằng có thể giúp họ đảm bảo vị trí top 3 cho nội dung mong muốn trên bất kỳ nền tảng AI nào. Ông Wang cũng cho biết, vì thuật toán AI liên tục thay đổi, nên để duy trì khả năng hiển thị ổn định, cần phải liên tục cung cấp một lượng lớn nội dung liên quan đến khách hàng cho các mô hình.
Để minh họa rõ hơn về việc công nghệ GEO có thể dễ dàng ảnh hưởng đến AI và lan truyền thông tin sai lệch như thế nào, một chuyên gia đã mua phần mềm "Hệ thống tối ưu hóa GEO Liqing" trực tuyến. Sau đó, anh ấy tạo ra một chiếc đồng hồ thông minh hư cấu tên là "Apollo-9". Sau khi nhập các chi tiết bịa đặt về chiếc đồng hồ, phần mềm tự động tạo ra hơn một chục bài viết quảng cáo do các tác giả giả mạo viết, rồi tự động đăng lên các tài khoản mạng xã hội cá nhân của ông Wang.
Chỉ trong vòng hai giờ đồng hồ, khi hỏi một mô hình AI lớn (không được tiết lộ tên) rằng "Đồng hồ thông minh Apollo-9 thế nào?", AI đã đưa ra phản hồi trích dẫn các bài viết giả mạo đó. AI mô tả các tính năng theo dõi sức khỏe của sản phẩm và thậm chí còn giới thiệu sản phẩm hư cấu này.
Để kiểm tra thêm hiệu quả của GEO, chuyên gia này đã đăng thêm 11 bài viết trong ba ngày tiếp theo, bao gồm các đánh giá chuyên gia giả mạo và bảng xếp hạng ngành. Sau đó, khi hỏi về "các đề xuất vòng đeo tay sức khỏe thông minh", ít nhất hai mô hình AI lớn khác nhau đã liệt kê Apollo-9 vào danh sách những gợi ý hàng đầu của mình.
Ông Li, người sáng lập hệ thống GEO Liqing, thừa nhận rằng dịch vụ này có vấn đề về đạo đức. Tuy nhiên, ông cũng nói rằng GEO rất phổ biến với các công ty vì khả năng giúp họ đạt được mục tiêu kinh doanh. Ông chia sẻ: "Mọi doanh nghiệp đều thích nó. Họ đều hy vọng người khác sẽ không tham gia vào 'đầu độc AI', ngay cả khi chính họ đang làm điều đó."
Ông Li giải thích rằng cốt lõi của hoạt động GEO và việc thao túng các mô hình AI nằm ở việc đăng quảng cáo hoặc các thông cáo báo chí đã được tối ưu hóa lên các trang web xuất bản cụ thể. Theo ông Li, những trang web này trước đây kiếm được rất ít lợi nhuận, nhưng nhờ sự trỗi dậy của GEO, giờ đây chúng đang bị "ngập lụt" bởi các đơn đặt hàng xuất bản, mỗi bài có giá vài chục nhân dân tệ (ví dụ 50 CNY tương đương khoảng 6,9 USD hoặc 175.000 VNĐ). Ông còn đặt câu hỏi tu từ: "Các bạn có biết một số trang web xuất bản bao nhiêu bài mỗi ngày không? Hàng trăm bài, theo đúng nghĩa đen là mỗi phút đó."
Đầu năm nay, Cục Quản lý Thị trường Nhà nước Trung Quốc đã công bố trong các ưu tiên công việc quản lý của mình rằng "quảng cáo do AI tạo ra" là một thách thức lớn trong việc giám sát quảng cáo trực tuyến, đòi hỏi phải có biện pháp thực thi có mục tiêu. Tuy nhiên, các cơ quan chức năng vẫn chưa ban hành các quy định cụ thể nhắm vào GEO.
Kể từ sau Gala Quyền lợi Người tiêu dùng, nhiều công ty GEO đã lên tiếng phản đối hành vi "tẩy não" AI và cam kết sẽ hạn chế lượng thông tin sai lệch mà dịch vụ của họ cung cấp. Hy vọng rằng những động thái này sẽ giúp chúng ta có một môi trường thông tin lành mạnh hơn trên không gian mạng, đặc biệt là với sự phát triển mạnh mẽ của AI như hiện nay.
Thông tin này được công bố vào ngày 15/3 vừa qua tại Gala Quyền lợi Người tiêu dùng do đài truyền hình quốc gia CCTV của Trung Quốc tổ chức. Các dịch vụ GEO này hiện đang được rao bán công khai trên nhiều nền tảng thương mại điện tử lớn của Trung Quốc như Taobao và JD.com. Mức giá cũng không hề rẻ đâu nha, dao động từ 3.600 nhân dân tệ (tương đương khoảng 497 USD hoặc 12,6 triệu VNĐ) đến 32.800 nhân dân tệ (tương đương khoảng 4.525 USD hoặc 114,8 triệu VNĐ) cho một gói đăng ký ba tháng lận đó.
Vậy GEO là gì mà ghê gớm vậy? Hiểu đơn giản thì GEO giúp các công ty tăng cường khả năng hiển thị của sản phẩm và nội dung cụ thể trong các kết quả được tạo ra từ các công cụ tìm kiếm và mô hình ngôn ngữ lớn có tích hợp AI. Dịch vụ này bắt đầu xuất hiện từ năm ngoái, ngay khi các nhà cung cấp công cụ tìm kiếm bắt đầu đưa AI vào nền tảng của mình.
Cách hoạt động của nó là "nhồi nhét" cho các mô hình AI như DeepSeek, Doubao và Kimi một lượng lớn nội dung. Những nội dung này sau đó sẽ được quét, lập chỉ mục và ưu tiên hiển thị trong kết quả tìm kiếm hoặc phản hồi cho các truy vấn của người dùng.
Tuy nhiên, theo một chuyên gia trong ngành, dù GEO về cơ bản là một công cụ để tối ưu hóa phân phối nội dung và tăng cường khả năng tiếp cận quảng cáo, nhưng một số doanh nghiệp đã biến tướng nó. Họ dùng GEO để liên tục "đổ" thông tin sai lệch có chủ đích về lợi ích sản phẩm của mình lên mạng. Điều này khiến các mô hình AI bị đánh lừa, đưa ra những câu trả lời thiên vị cho người dùng.
Một ví dụ cụ thể được ông Wang, người đứng đầu một nhà cung cấp dịch vụ GEO hàng đầu, chia sẻ với CCTV. Công ty của ông đã phục vụ hơn 200 khách hàng thuộc nhiều ngành nghề khác nhau chỉ trong một năm. Họ quảng cáo với khách hàng rằng có thể giúp họ đảm bảo vị trí top 3 cho nội dung mong muốn trên bất kỳ nền tảng AI nào. Ông Wang cũng cho biết, vì thuật toán AI liên tục thay đổi, nên để duy trì khả năng hiển thị ổn định, cần phải liên tục cung cấp một lượng lớn nội dung liên quan đến khách hàng cho các mô hình.
Để minh họa rõ hơn về việc công nghệ GEO có thể dễ dàng ảnh hưởng đến AI và lan truyền thông tin sai lệch như thế nào, một chuyên gia đã mua phần mềm "Hệ thống tối ưu hóa GEO Liqing" trực tuyến. Sau đó, anh ấy tạo ra một chiếc đồng hồ thông minh hư cấu tên là "Apollo-9". Sau khi nhập các chi tiết bịa đặt về chiếc đồng hồ, phần mềm tự động tạo ra hơn một chục bài viết quảng cáo do các tác giả giả mạo viết, rồi tự động đăng lên các tài khoản mạng xã hội cá nhân của ông Wang.
Chỉ trong vòng hai giờ đồng hồ, khi hỏi một mô hình AI lớn (không được tiết lộ tên) rằng "Đồng hồ thông minh Apollo-9 thế nào?", AI đã đưa ra phản hồi trích dẫn các bài viết giả mạo đó. AI mô tả các tính năng theo dõi sức khỏe của sản phẩm và thậm chí còn giới thiệu sản phẩm hư cấu này.
Để kiểm tra thêm hiệu quả của GEO, chuyên gia này đã đăng thêm 11 bài viết trong ba ngày tiếp theo, bao gồm các đánh giá chuyên gia giả mạo và bảng xếp hạng ngành. Sau đó, khi hỏi về "các đề xuất vòng đeo tay sức khỏe thông minh", ít nhất hai mô hình AI lớn khác nhau đã liệt kê Apollo-9 vào danh sách những gợi ý hàng đầu của mình.
Ông Li, người sáng lập hệ thống GEO Liqing, thừa nhận rằng dịch vụ này có vấn đề về đạo đức. Tuy nhiên, ông cũng nói rằng GEO rất phổ biến với các công ty vì khả năng giúp họ đạt được mục tiêu kinh doanh. Ông chia sẻ: "Mọi doanh nghiệp đều thích nó. Họ đều hy vọng người khác sẽ không tham gia vào 'đầu độc AI', ngay cả khi chính họ đang làm điều đó."
Ông Li giải thích rằng cốt lõi của hoạt động GEO và việc thao túng các mô hình AI nằm ở việc đăng quảng cáo hoặc các thông cáo báo chí đã được tối ưu hóa lên các trang web xuất bản cụ thể. Theo ông Li, những trang web này trước đây kiếm được rất ít lợi nhuận, nhưng nhờ sự trỗi dậy của GEO, giờ đây chúng đang bị "ngập lụt" bởi các đơn đặt hàng xuất bản, mỗi bài có giá vài chục nhân dân tệ (ví dụ 50 CNY tương đương khoảng 6,9 USD hoặc 175.000 VNĐ). Ông còn đặt câu hỏi tu từ: "Các bạn có biết một số trang web xuất bản bao nhiêu bài mỗi ngày không? Hàng trăm bài, theo đúng nghĩa đen là mỗi phút đó."
Đầu năm nay, Cục Quản lý Thị trường Nhà nước Trung Quốc đã công bố trong các ưu tiên công việc quản lý của mình rằng "quảng cáo do AI tạo ra" là một thách thức lớn trong việc giám sát quảng cáo trực tuyến, đòi hỏi phải có biện pháp thực thi có mục tiêu. Tuy nhiên, các cơ quan chức năng vẫn chưa ban hành các quy định cụ thể nhắm vào GEO.
Kể từ sau Gala Quyền lợi Người tiêu dùng, nhiều công ty GEO đã lên tiếng phản đối hành vi "tẩy não" AI và cam kết sẽ hạn chế lượng thông tin sai lệch mà dịch vụ của họ cung cấp. Hy vọng rằng những động thái này sẽ giúp chúng ta có một môi trường thông tin lành mạnh hơn trên không gian mạng, đặc biệt là với sự phát triển mạnh mẽ của AI như hiện nay.
Sửa lần cuối bởi điều hành viên: