A-Train The Seven
...'cause for once, I didn't hate myself.
Ecovacs, công ty robot gia dụng Trung Quốc, bị phát hiện có sử dụng hình ảnh, video và ghi âm giọng nói của khách hàng để huấn luyện các mô hình AI của họ.
Công ty cho biết người dùng đang "tự nguyện tham gia" vào một chương trình cải thiện sản phẩm. Tuy nhiên, khi người dùng chọn tham gia chương trình này thông qua ứng dụng điện thoại thông minh của Ecovacs, họ không được thông báo dữ liệu nào sẽ được thu thập, chỉ biết rằng nó sẽ “giúp chúng tôi tăng cường việc cải thiện chức năng sản phẩm và chất lượng kèm theo”.
Chính sách quyền riêng tư của Ecovacs cho phép thu thập toàn bộ dữ liệu người dùng cho mục đích nghiên cứu, bao gồm:
Nhà nghiên cứu an ninh mạng Dennis Giese đã báo cáo các vấn đề này cho công ty vào năm ngoái sau khi ông ấy phát hiện ra một loạt lỗi cơ bản khiến quyền riêng tư của khách hàng Ecovacs gặp rủi ro. "Nếu robot của họ bị hỏng như vậy", ông ấy hỏi, "thì hậu trường [máy chủ] của họ trông như thế nào? Ngay cả khi công ty không ác ý, họ cũng có thể là nạn nhân của gián điệp doanh nghiệp hoặc các tác nhân nhà nước."
Ecovacs - được định giá 4,6 tỷ USD - cho biết họ "đang tích cực khám phá các phương pháp kiểm tra toàn diện hơn" và cam kết khắc phục các vấn đề bảo mật trong robot hút bụi hàng đầu của mình vào tháng 11. Một phát ngôn viên của công ty cho biết ABC rằng bộ dữ liệu tiền khởi chạy này không liên quan đến "thông tin hộ gia đình thực của người dùng".
Nhưng kể từ khi các sản phẩm được tung ra thị trường, họ đã xác nhận rằng dữ liệu từ người dùng đã chọn tham gia “Chương trình Cải thiện Sản phẩm” đang được sử dụng để đào tạo mô hình AI của họ. "Trong quá trình thu thập dữ liệu này, chúng tôi ẩn danh thông tin người dùng ở cấp độ máy, đảm bảo rằng chỉ có dữ liệu được ẩn danh mới được tải lên máy chủ của chúng tôi", người phát ngôn cho biết trong một tuyên bố.
"Chúng tôi đã triển khai các giao thức quản lý truy cập nghiêm ngặt để xem và sử dụng dữ liệu người dùng được ẩn danh này." Hình ảnh từ robot hút bụi đã bị rò rỉ trước đây. Vào năm 2022, những bức ảnh thân mật do thiết bị iRobot chụp đã được chia sẻ trên Facebook, nổi tiếng là bao gồm cả hình ảnh của một người đang ngồi trên bồn cầu. Trong trường hợp này, các robot đã chụp những bức ảnh đó là một phần của chương trình thử nghiệm mà người dùng đã chọn tham gia.
Một phát ngôn viên của công ty nói với MIT Tech Review rằng chúng là "những robot phát triển đặc biệt có những sửa đổi về phần cứng và phần mềm mà không có mặt và chưa bao giờ có mặt trên các sản phẩm tiêu dùng của iRobot để mua".
Các thiết bị được dán nhãn vật lý bằng nhãn dán màu xanh lá cây sáng (họ cho biết "đang quay video") và người dùng đã đồng ý cho phép họ gửi dữ liệu đến iRobot cho mục đích nghiên cứu. iRobot đã ký hợp đồng với một công ty dữ liệu đào tạo AI có tên là Scale AI để phân tích cảnh quay thô để sử dụng đào tạo thuật toán phát hiện đối tượng của họ.
Người sáng lập Scale AI, Alex Wang, mô tả công ty của mình - được định giá 20 tỷ USD - là giải quyết "vấn đề dữ liệu" cho ngành công nghiệp AI. "Công cụ dữ liệu của chúng tôi tạo ra gần như tất cả dữ liệu cần thiết để cung cấp năng lượng cho các mô hình ngôn ngữ lớn hàng đầu", ông nói trong một cuộc phỏng vấn với CNBC. Thực tế đối với hàng triệu công nhân hợp đồng của họ, như được mô tả trong báo cáo năm 2023 từ Washington Post, kém hấp dẫn hơn nhiều.
"Người lao động phân biệt người đi bộ với cây cọ trong video được sử dụng để phát triển thuật toán cho lái xe tự động; họ gắn nhãn hình ảnh để AI có thể tạo ra đại diện của các chính trị gia và người nổi tiếng; họ chỉnh sửa các đoạn văn bản để đảm bảo các mô hình ngôn ngữ như ChatGPT không tạo ra những thứ vô nghĩa." iRobot đã chấm dứt mối quan hệ với Scale AI sau khi các nhà thầu của họ rò rỉ ảnh trên mạng xã hội.
Các nhà nghiên cứu tại Trung tâm Robot Úc đã phát triển một giải pháp có thể tránh hoàn toàn vấn đề này. Để giữ cho hình ảnh nhạy cảm ngoài tầm với của tin tặc, họ đã phát triển công nghệ thay đổi "cách robot nhìn thế giới". Trên thực tế, đó là một camera "bảo vệ quyền riêng tư" vốn có.
Bằng cách xáo trộn hình ảnh do camera chụp đến mức không thể nhận ra trước khi nó được số hóa, không có cách nào mà các cuộc tấn công từ xa có thể truy cập vào hình ảnh thô. Và tuy nhiên, vẫn còn đủ thông tin được lưu giữ trong hình ảnh bị xáo trộn để robot dẫn đường. "Không có khả năng vi phạm an ninh", Donald Dansereau, giảng viên cao cấp tại Đại học Sydney, người giám sát dự án, giải thích.
Công nghệ này chưa sẵn sàng để thương mại hóa, nhưng Tiến sĩ Dansereau tự tin rằng nó sẽ được các công ty công nghệ áp dụng. Ông nhấn mạnh rằng "không có viên đạn thần kỳ nào về mặt công nghệ - chính sách tốt và trình độ tốt vẫn là điều cần thiết".
Công ty cho biết người dùng đang "tự nguyện tham gia" vào một chương trình cải thiện sản phẩm. Tuy nhiên, khi người dùng chọn tham gia chương trình này thông qua ứng dụng điện thoại thông minh của Ecovacs, họ không được thông báo dữ liệu nào sẽ được thu thập, chỉ biết rằng nó sẽ “giúp chúng tôi tăng cường việc cải thiện chức năng sản phẩm và chất lượng kèm theo”.
Chính sách quyền riêng tư của Ecovacs cho phép thu thập toàn bộ dữ liệu người dùng cho mục đích nghiên cứu, bao gồm:
- Bản đồ 2D hoặc 3D ngôi nhà của người dùng do thiết bị tạo ra.
- Ghi âm giọng nói từ micrô của thiết bị.
- Ảnh hoặc video do camera của thiết bị ghi lại.
Nhà nghiên cứu an ninh mạng Dennis Giese đã báo cáo các vấn đề này cho công ty vào năm ngoái sau khi ông ấy phát hiện ra một loạt lỗi cơ bản khiến quyền riêng tư của khách hàng Ecovacs gặp rủi ro. "Nếu robot của họ bị hỏng như vậy", ông ấy hỏi, "thì hậu trường [máy chủ] của họ trông như thế nào? Ngay cả khi công ty không ác ý, họ cũng có thể là nạn nhân của gián điệp doanh nghiệp hoặc các tác nhân nhà nước."
Ecovacs - được định giá 4,6 tỷ USD - cho biết họ "đang tích cực khám phá các phương pháp kiểm tra toàn diện hơn" và cam kết khắc phục các vấn đề bảo mật trong robot hút bụi hàng đầu của mình vào tháng 11. Một phát ngôn viên của công ty cho biết ABC rằng bộ dữ liệu tiền khởi chạy này không liên quan đến "thông tin hộ gia đình thực của người dùng".
Nhưng kể từ khi các sản phẩm được tung ra thị trường, họ đã xác nhận rằng dữ liệu từ người dùng đã chọn tham gia “Chương trình Cải thiện Sản phẩm” đang được sử dụng để đào tạo mô hình AI của họ. "Trong quá trình thu thập dữ liệu này, chúng tôi ẩn danh thông tin người dùng ở cấp độ máy, đảm bảo rằng chỉ có dữ liệu được ẩn danh mới được tải lên máy chủ của chúng tôi", người phát ngôn cho biết trong một tuyên bố.
"Chúng tôi đã triển khai các giao thức quản lý truy cập nghiêm ngặt để xem và sử dụng dữ liệu người dùng được ẩn danh này." Hình ảnh từ robot hút bụi đã bị rò rỉ trước đây. Vào năm 2022, những bức ảnh thân mật do thiết bị iRobot chụp đã được chia sẻ trên Facebook, nổi tiếng là bao gồm cả hình ảnh của một người đang ngồi trên bồn cầu. Trong trường hợp này, các robot đã chụp những bức ảnh đó là một phần của chương trình thử nghiệm mà người dùng đã chọn tham gia.
Một phát ngôn viên của công ty nói với MIT Tech Review rằng chúng là "những robot phát triển đặc biệt có những sửa đổi về phần cứng và phần mềm mà không có mặt và chưa bao giờ có mặt trên các sản phẩm tiêu dùng của iRobot để mua".
Các thiết bị được dán nhãn vật lý bằng nhãn dán màu xanh lá cây sáng (họ cho biết "đang quay video") và người dùng đã đồng ý cho phép họ gửi dữ liệu đến iRobot cho mục đích nghiên cứu. iRobot đã ký hợp đồng với một công ty dữ liệu đào tạo AI có tên là Scale AI để phân tích cảnh quay thô để sử dụng đào tạo thuật toán phát hiện đối tượng của họ.
Người sáng lập Scale AI, Alex Wang, mô tả công ty của mình - được định giá 20 tỷ USD - là giải quyết "vấn đề dữ liệu" cho ngành công nghiệp AI. "Công cụ dữ liệu của chúng tôi tạo ra gần như tất cả dữ liệu cần thiết để cung cấp năng lượng cho các mô hình ngôn ngữ lớn hàng đầu", ông nói trong một cuộc phỏng vấn với CNBC. Thực tế đối với hàng triệu công nhân hợp đồng của họ, như được mô tả trong báo cáo năm 2023 từ Washington Post, kém hấp dẫn hơn nhiều.
"Người lao động phân biệt người đi bộ với cây cọ trong video được sử dụng để phát triển thuật toán cho lái xe tự động; họ gắn nhãn hình ảnh để AI có thể tạo ra đại diện của các chính trị gia và người nổi tiếng; họ chỉnh sửa các đoạn văn bản để đảm bảo các mô hình ngôn ngữ như ChatGPT không tạo ra những thứ vô nghĩa." iRobot đã chấm dứt mối quan hệ với Scale AI sau khi các nhà thầu của họ rò rỉ ảnh trên mạng xã hội.
Các nhà nghiên cứu tại Trung tâm Robot Úc đã phát triển một giải pháp có thể tránh hoàn toàn vấn đề này. Để giữ cho hình ảnh nhạy cảm ngoài tầm với của tin tặc, họ đã phát triển công nghệ thay đổi "cách robot nhìn thế giới". Trên thực tế, đó là một camera "bảo vệ quyền riêng tư" vốn có.
Bằng cách xáo trộn hình ảnh do camera chụp đến mức không thể nhận ra trước khi nó được số hóa, không có cách nào mà các cuộc tấn công từ xa có thể truy cập vào hình ảnh thô. Và tuy nhiên, vẫn còn đủ thông tin được lưu giữ trong hình ảnh bị xáo trộn để robot dẫn đường. "Không có khả năng vi phạm an ninh", Donald Dansereau, giảng viên cao cấp tại Đại học Sydney, người giám sát dự án, giải thích.
Công nghệ này chưa sẵn sàng để thương mại hóa, nhưng Tiến sĩ Dansereau tự tin rằng nó sẽ được các công ty công nghệ áp dụng. Ông nhấn mạnh rằng "không có viên đạn thần kỳ nào về mặt công nghệ - chính sách tốt và trình độ tốt vẫn là điều cần thiết".
