Mẫn Nhi
Admin xinh gái
Một nhóm nhân viên và cựu nhân viên từ OpenAI và Google DeepMind đã công khai chỉ trích việc các công ty AI đang cố tình che giấu những thông tin quan trọng về nguy cơ tiềm ẩn của trí tuệ nhân tạo (AI), bao gồm cả khả năng AI có thể gây ra sự tuyệt chủng của loài người.
Trong một bức thư ngỏ được công bố tuần này, 13 nhân viên và cựu nhân viên của hai công ty này đã lên tiếng cảnh báo về việc các công ty AI "đang nắm giữ một lượng lớn thông tin không được công khai về năng lực và hạn chế của những hệ thống do chính họ phát triển".
Thư ngỏ nêu ra một loạt "hiểm họa nghiêm trọng" liên quan đến AI, bao gồm sự gia tăng bất bình đẳng, lan truyền thông tin sai lệch, và nguy cơ mất kiểm soát AI tự động dẫn đến sự tuyệt chủng của con người. Nhóm tác giả cũng chỉ trích việc thiếu các biện pháp giám sát hiệu quả và kêu gọi tăng cường bảo vệ cho những người dám lên tiếng cảnh báo, còn được gọi là "người thổi còi", trong ngành công nghiệp AI.
Mặc dù tin rằng AI có thể mang lại những lợi ích chưa từng có cho xã hội và những hiểm họa trên có thể được giảm thiểu thông qua sự tham gia của các nhà khoa học, nhà quản lý và công chúng, nhóm tác giả cho rằng các công ty AI có động cơ để tránh né các biện pháp giám sát hiệu quả.
Bức thư ngỏ cho biết nhiều công ty AI hiểu rõ mối đe dọa và những biện pháp bảo vệ cần thiết, nhưng lại không có nghĩa vụ phải chia sẻ thông tin này cho các chính phủ và cộng đồng.
"Các thỏa thuận bảo mật khiến nhiều người không thể công khai những lo ngại của mình. Các biện pháp bảo vệ người thổi còi là không đủ vì chúng thường chỉ tập trung vào những hoạt động phi pháp, trong khi nhiều hiểm họa nằm trong diện chưa được quản lý", trích từ bức thư ngỏ.
Nhóm tác giả kêu gọi các công ty hàng đầu không trả đũa những lời chỉ trích liên quan đến mối đe dọa của AI và thiết lập hệ thống góp ý ẩn danh để nhân viên có thể tự do bày tỏ quan điểm của mình.
Phát ngôn viên của OpenAI khẳng định công ty tự hào về thành tích liên tục công bố các hệ thống AI có hiệu năng cao và an toàn nhất, đồng thời bày tỏ niềm tin vào cách tiếp cận khoa học của công ty trong việc giải quyết các mối đe dọa.
Google đã từ chối bình luận về vấn đề này.
Trước đó, hồi tháng trước, Vox đã đưa tin về việc các cựu nhân viên OpenAI bị cấm chỉ trích công ty. Nếu không ký thỏa thuận giữ kín thông tin, họ có thể mất toàn bộ cổ phần nhận được trong thời gian làm việc. CEO của OpenAI, Sam Altman, sau đó đã khẳng định rằng các giấy tờ chấm dứt công việc tại công ty sẽ được điều chỉnh.
Trong một bức thư ngỏ được công bố tuần này, 13 nhân viên và cựu nhân viên của hai công ty này đã lên tiếng cảnh báo về việc các công ty AI "đang nắm giữ một lượng lớn thông tin không được công khai về năng lực và hạn chế của những hệ thống do chính họ phát triển".
Thư ngỏ nêu ra một loạt "hiểm họa nghiêm trọng" liên quan đến AI, bao gồm sự gia tăng bất bình đẳng, lan truyền thông tin sai lệch, và nguy cơ mất kiểm soát AI tự động dẫn đến sự tuyệt chủng của con người. Nhóm tác giả cũng chỉ trích việc thiếu các biện pháp giám sát hiệu quả và kêu gọi tăng cường bảo vệ cho những người dám lên tiếng cảnh báo, còn được gọi là "người thổi còi", trong ngành công nghiệp AI.
Mặc dù tin rằng AI có thể mang lại những lợi ích chưa từng có cho xã hội và những hiểm họa trên có thể được giảm thiểu thông qua sự tham gia của các nhà khoa học, nhà quản lý và công chúng, nhóm tác giả cho rằng các công ty AI có động cơ để tránh né các biện pháp giám sát hiệu quả.
Bức thư ngỏ cho biết nhiều công ty AI hiểu rõ mối đe dọa và những biện pháp bảo vệ cần thiết, nhưng lại không có nghĩa vụ phải chia sẻ thông tin này cho các chính phủ và cộng đồng.
"Các thỏa thuận bảo mật khiến nhiều người không thể công khai những lo ngại của mình. Các biện pháp bảo vệ người thổi còi là không đủ vì chúng thường chỉ tập trung vào những hoạt động phi pháp, trong khi nhiều hiểm họa nằm trong diện chưa được quản lý", trích từ bức thư ngỏ.
Nhóm tác giả kêu gọi các công ty hàng đầu không trả đũa những lời chỉ trích liên quan đến mối đe dọa của AI và thiết lập hệ thống góp ý ẩn danh để nhân viên có thể tự do bày tỏ quan điểm của mình.
Phát ngôn viên của OpenAI khẳng định công ty tự hào về thành tích liên tục công bố các hệ thống AI có hiệu năng cao và an toàn nhất, đồng thời bày tỏ niềm tin vào cách tiếp cận khoa học của công ty trong việc giải quyết các mối đe dọa.
Google đã từ chối bình luận về vấn đề này.
Trước đó, hồi tháng trước, Vox đã đưa tin về việc các cựu nhân viên OpenAI bị cấm chỉ trích công ty. Nếu không ký thỏa thuận giữ kín thông tin, họ có thể mất toàn bộ cổ phần nhận được trong thời gian làm việc. CEO của OpenAI, Sam Altman, sau đó đã khẳng định rằng các giấy tờ chấm dứt công việc tại công ty sẽ được điều chỉnh.
