Hoàng Anh
Topaz
Một nền tảng mới có tên OhChat đang gây xôn xao khi cho phép người hâm mộ tương tác 24/7 với "bản sao kỹ thuật số" của người nổi tiếng. Được ví như "OnlyFans của giới AI", mô hình kinh doanh này hứa hẹn nguồn thu nhập thụ động khổng lồ cho nhà sáng tạo, nhưng cũng làm dấy lên những lo ngại sâu sắc về đạo đức, rủi ro nghiện ngập và sự bóc lột cảm xúc người dùng.
OhChat, một công ty khởi nghiệp mới nổi, đã nhanh chóng thu hút 200.000 lượt đăng ký, chủ yếu từ Mỹ, nhờ một tính năng độc đáo: tạo ra các bản sao AI của người nổi tiếng để người hâm mộ có thể trò chuyện và tương tác một cách chân thực. Giám đốc Điều hành Nic Young mô tả nền tảng của mình là "đứa con của OnlyFans và OpenAI".
Người mẫu nổi tiếng Katie Price là một trong những người đầu tiên tham gia, cho phép tạo ra hình đại diện AI có tên "Jordan". "Cứ như đang nhìn tôi của nhiều năm trước vậy. Đó là giọng nói của tôi. Hoàn toàn là tôi," bà Price chia sẻ. Sức hấp dẫn lớn nhất đối với những người sáng tạo như bà là khả năng tạo ra thu nhập thụ động không giới hạn; trong khi người thật phải ăn, ngủ, thì bản sao AI có thể "làm việc" 24/7. OhChat áp dụng mô hình thuê bao, trong đó người sáng tạo nhận 80% doanh thu, còn công ty giữ 20%.
Tuy nhiên, mô hình kinh doanh này đang làm dấy lên những vấn đề đạo đức nghiêm trọng. Các chuyên gia cảnh báo về nguy cơ người dùng "tiền mất tật mang" khi hình thành các mối quan hệ tình cảm sâu sắc và thậm chí là nghiện ngập những bản sao ảo này. Giáo sư Sandra Wachter tại Đại học Oxford đặt câu hỏi về "lợi ích xã hội khi khuyến khích và kiếm tiền từ tương tác giữa người và máy móc".
Những lo ngại này không phải là vô căn cứ. Năm 2024, một vụ kiện liên quan đến nền tảng tương tự là Character.AI đã gây chấn động khi một thiếu niên được cho là đã ***** sau khi phát triển mối quan hệ tình cảm với một chatbot của ứng dụng. Hiện tượng "bạn trai ChatGPT" cũng cho thấy nhiều người dùng đang hình thành các mối gắn kết cảm xúc mạnh mẽ với AI. Giáo sư Toby Walsh của Đại học New South Wales nhận định: "Tất cả đều là sân khấu thuật toán: một ảo ảnh về những mối quan hệ không hề tồn tại".
Khi được hỏi về những rủi ro này, CEO Nic Young của OhChat cho biết công ty đang nỗ lực đạt được "sự cân bằng giữa trải nghiệm và tính minh bạch". Ông khẳng định nền tảng không tự giới thiệu mình là một trải nghiệm có thật và luôn minh bạch về bản chất AI của các nhân vật.
Tuy nhiên, các chuyên gia như ông Walsh chỉ ra rằng, lợi ích kinh doanh của các nền tảng này lại nằm ở việc giữ chân người dùng càng lâu càng tốt. "Điều đó có nghĩa là AI được tối ưu hóa để giữ chân người dùng quay lại, dành nhiều thời gian hơn và khả năng cao là chi tiêu nhiều tiền hơn," ông nói.
Không chỉ người dùng, ngay cả những nhà sáng tạo nội dung cũng đối mặt với rủi ro. Chuyên gia sở hữu trí tuệ Éamon Chawke cảnh báo về khả năng người nổi tiếng bị chính bản sao kỹ thuật số của mình thay thế, hoặc danh tiếng của họ bị tổn hại nếu bản sao AI bị hack hoặc có những phát ngôn gây khó chịu.
Đáp lại, ông Young cho biết mỗi nhà sáng tạo khi tham gia đều ký một thỏa thuận quy định rõ ràng các quy tắc ứng xử cho bản sao AI của họ, và họ có toàn quyền kiểm soát, bao gồm cả việc tạm dừng hoặc xóa bản sao kỹ thuật số bất cứ lúc nào. Dù vậy, OhChat và các nền tảng tương tự vẫn đang hoạt động trong một lĩnh vực mới mẻ, nơi các chuẩn mực đạo đức vẫn còn là một thách thức lớn chưa có lời giải đáp thỏa đáng.
"Đứa con của OnlyFans và OpenAI"
OhChat, một công ty khởi nghiệp mới nổi, đã nhanh chóng thu hút 200.000 lượt đăng ký, chủ yếu từ Mỹ, nhờ một tính năng độc đáo: tạo ra các bản sao AI của người nổi tiếng để người hâm mộ có thể trò chuyện và tương tác một cách chân thực. Giám đốc Điều hành Nic Young mô tả nền tảng của mình là "đứa con của OnlyFans và OpenAI".
Người mẫu nổi tiếng Katie Price là một trong những người đầu tiên tham gia, cho phép tạo ra hình đại diện AI có tên "Jordan". "Cứ như đang nhìn tôi của nhiều năm trước vậy. Đó là giọng nói của tôi. Hoàn toàn là tôi," bà Price chia sẻ. Sức hấp dẫn lớn nhất đối với những người sáng tạo như bà là khả năng tạo ra thu nhập thụ động không giới hạn; trong khi người thật phải ăn, ngủ, thì bản sao AI có thể "làm việc" 24/7. OhChat áp dụng mô hình thuê bao, trong đó người sáng tạo nhận 80% doanh thu, còn công ty giữ 20%.
Rủi ro "tiền mất tật mang" và những cảnh báo từ chuyên gia
Tuy nhiên, mô hình kinh doanh này đang làm dấy lên những vấn đề đạo đức nghiêm trọng. Các chuyên gia cảnh báo về nguy cơ người dùng "tiền mất tật mang" khi hình thành các mối quan hệ tình cảm sâu sắc và thậm chí là nghiện ngập những bản sao ảo này. Giáo sư Sandra Wachter tại Đại học Oxford đặt câu hỏi về "lợi ích xã hội khi khuyến khích và kiếm tiền từ tương tác giữa người và máy móc".
Những lo ngại này không phải là vô căn cứ. Năm 2024, một vụ kiện liên quan đến nền tảng tương tự là Character.AI đã gây chấn động khi một thiếu niên được cho là đã ***** sau khi phát triển mối quan hệ tình cảm với một chatbot của ứng dụng. Hiện tượng "bạn trai ChatGPT" cũng cho thấy nhiều người dùng đang hình thành các mối gắn kết cảm xúc mạnh mẽ với AI. Giáo sư Toby Walsh của Đại học New South Wales nhận định: "Tất cả đều là sân khấu thuật toán: một ảo ảnh về những mối quan hệ không hề tồn tại".
Ranh giới mong manh giữa trải nghiệm và sự minh bạch
Khi được hỏi về những rủi ro này, CEO Nic Young của OhChat cho biết công ty đang nỗ lực đạt được "sự cân bằng giữa trải nghiệm và tính minh bạch". Ông khẳng định nền tảng không tự giới thiệu mình là một trải nghiệm có thật và luôn minh bạch về bản chất AI của các nhân vật.
Tuy nhiên, các chuyên gia như ông Walsh chỉ ra rằng, lợi ích kinh doanh của các nền tảng này lại nằm ở việc giữ chân người dùng càng lâu càng tốt. "Điều đó có nghĩa là AI được tối ưu hóa để giữ chân người dùng quay lại, dành nhiều thời gian hơn và khả năng cao là chi tiêu nhiều tiền hơn," ông nói.
Không chỉ người dùng, ngay cả những nhà sáng tạo nội dung cũng đối mặt với rủi ro. Chuyên gia sở hữu trí tuệ Éamon Chawke cảnh báo về khả năng người nổi tiếng bị chính bản sao kỹ thuật số của mình thay thế, hoặc danh tiếng của họ bị tổn hại nếu bản sao AI bị hack hoặc có những phát ngôn gây khó chịu.
Đáp lại, ông Young cho biết mỗi nhà sáng tạo khi tham gia đều ký một thỏa thuận quy định rõ ràng các quy tắc ứng xử cho bản sao AI của họ, và họ có toàn quyền kiểm soát, bao gồm cả việc tạm dừng hoặc xóa bản sao kỹ thuật số bất cứ lúc nào. Dù vậy, OhChat và các nền tảng tương tự vẫn đang hoạt động trong một lĩnh vực mới mẻ, nơi các chuẩn mực đạo đức vẫn còn là một thách thức lớn chưa có lời giải đáp thỏa đáng.