Nguyễn Quốc Hòa
Writer
OpenAI đã công bố thành lập Ủy ban An toàn và Bảo mật, đồng thời bắt đầu đào tạo mô hình AI mới để thay thế hệ thống GPT-4 hiện tại làm nền tảng cho chatbot ChatGPT.
Theo tuyên bố công ty đưa ra hôm thứ Ba (28/5/2024), ủy ban này sẽ có nhiệm vụ đưa ra các khuyến nghị cho toàn bộ hội đồng về “các vấn đề an toàn và an ninh thiết yếu” liên quan đến các dự án và hoạt động của OpenAI.
Nhiệm vụ đầu tiên của ủy ban sẽ liên quan đến việc đánh giá và tăng cường các quy trình và biện pháp bảo vệ của OpenAI trong 90 ngày tới. Khi giai đoạn này kết thúc, ủy ban sẽ trình bày các khuyến nghị cho toàn thể hội đồng xem xét. Sau đánh giá của hội đồng, OpenAI sẽ chia sẻ công khai thông tin cập nhật về các khuyến nghị đã được thông qua.
Ủy ban an toàn được thành lập trong bối cảnh các cuộc tranh luận về an toàn AI trong công ty đã thu hút được sự chú ý sau khi nhà nghiên cứu Jan Leike từ chức, người đã chỉ trích công ty ưu tiên các sản phẩm sáng bóng hơn những lo ngại về an toàn. Đồng sáng lập OpenAI và nhà khoa học trưởng Ilya Sutskever cũng từ chức, dẫn đến việc giải thể nhóm "siêu liên kết" chuyên giải quyết các rủi ro về AI.
Các chatbot của OpenAI do Microsoft hỗ trợ, được trang bị các khả năng AI tổng quát như tham gia vào các cuộc trò chuyện giống con người và tạo hình ảnh từ lời nhắc bằng văn bản, đã làm dấy lên lo ngại về an toàn do sức mạnh ngày càng tăng của các mô hình AI.
OpenAI đã thông báo rằng gần đây họ đã bắt đầu đào tạo "mô hình biên giới tiếp theo" và hy vọng "các hệ thống kết quả sẽ đưa chúng tôi lên cấp độ năng lực tiếp theo trên con đường hướng tới AGI". #quảnlýAI
Theo tuyên bố công ty đưa ra hôm thứ Ba (28/5/2024), ủy ban này sẽ có nhiệm vụ đưa ra các khuyến nghị cho toàn bộ hội đồng về “các vấn đề an toàn và an ninh thiết yếu” liên quan đến các dự án và hoạt động của OpenAI.
Nhiệm vụ đầu tiên của ủy ban sẽ liên quan đến việc đánh giá và tăng cường các quy trình và biện pháp bảo vệ của OpenAI trong 90 ngày tới. Khi giai đoạn này kết thúc, ủy ban sẽ trình bày các khuyến nghị cho toàn thể hội đồng xem xét. Sau đánh giá của hội đồng, OpenAI sẽ chia sẻ công khai thông tin cập nhật về các khuyến nghị đã được thông qua.
Ủy ban an toàn được thành lập trong bối cảnh các cuộc tranh luận về an toàn AI trong công ty đã thu hút được sự chú ý sau khi nhà nghiên cứu Jan Leike từ chức, người đã chỉ trích công ty ưu tiên các sản phẩm sáng bóng hơn những lo ngại về an toàn. Đồng sáng lập OpenAI và nhà khoa học trưởng Ilya Sutskever cũng từ chức, dẫn đến việc giải thể nhóm "siêu liên kết" chuyên giải quyết các rủi ro về AI.
Các chatbot của OpenAI do Microsoft hỗ trợ, được trang bị các khả năng AI tổng quát như tham gia vào các cuộc trò chuyện giống con người và tạo hình ảnh từ lời nhắc bằng văn bản, đã làm dấy lên lo ngại về an toàn do sức mạnh ngày càng tăng của các mô hình AI.
OpenAI đã thông báo rằng gần đây họ đã bắt đầu đào tạo "mô hình biên giới tiếp theo" và hy vọng "các hệ thống kết quả sẽ đưa chúng tôi lên cấp độ năng lực tiếp theo trên con đường hướng tới AGI". #quảnlýAI
