Nghiên cứu mới cho thấy việc áp dụng AI của S&P 500 có thể dẫn đến vi phạm dữ liệu

[MinhSec]

AI đã thâm nhập gần như toàn bộ các tập đoàn lớn nhất nước Mỹ. Tuy nhiên, sự thiếu kiểm soát, bảo mật yếu kém và các lỗ hổng ngày càng lớn đang khiến làn sóng AI trở thành con dao hai lưỡi.

Một nghiên cứu mới của Cybernews tiết lộ rằng 327/500 công ty thuộc S&P 500 đã và đang sử dụng AI trong hoạt động thường ngày. Từ hậu cần, R&D, đến chăm sóc sức khỏe, tài chính và hạ tầng AI đang hỗ trợ nhiều lĩnh vực quan trọng. Tuy nhiên, bên cạnh sự tiện lợi, các rủi ro bảo mật tiềm ẩn cũng ngày càng nhiều và nghiêm trọng.
Ba mối nguy lớn nhất được xác định gồm:
Đầu ra AI không an toàn (205 trường hợp): AI đưa ra đề xuất sai hoặc nguy hiểm do dữ liệu lỗi, bị đầu độc hoặc thiếu cập nhật.
Rò rỉ dữ liệu (146 trường hợp): AI vô tình làm lộ thông tin nhạy cảm như danh tính khách hàng, mã nguồn, hay dữ liệu tài chính.
Trộm cắp sở hữu trí tuệ (119 trường hợp): Hacker khai thác lỗ hổng để tái tạo mô hình AI, đánh cắp bí mật thương mại.
Theo ông Žilvinas Girėnas, giám đốc sản phẩm tại Nexos.ai, phần lớn rủi ro không đến từ bản thân công nghệ mà đến từ cách sử dụng và kiểm soát lỏng lẻo. “Hãy phát triển AI với tư duy giống như thiết kế máy bay không được phép sai sót, luôn có hệ thống giám sát và rào chắn.”

Các lĩnh vực "nóng": công nghệ, tài chính và y tế đối mặt với nguy cơ lớn nhất​

Báo cáo cho thấy, các công ty công nghệ và chất bán dẫn (61 công ty) chiếm đến 202 rủi ro tiềm ẩn, dẫn đầu danh sách vì lượng mã độc quyền và thuật toán nhạy cảm cao. Đặc biệt, 40 trường hợp trộm cắp IP và 34 đầu ra không an toàn là những cảnh báo nghiêm trọng.
Ngành tài chính và bảo hiểm cũng không ngoại lệ, với 158 rủi ro, bao gồm 35 trường hợp rò rỉ dữ liệu và 22 tình huống thuật toán thiên vị tiềm ẩn nguy cơ phân biệt đối xử trong đánh giá tín dụng.

Trong y tế và dược phẩm, vấn đề còn có thể ảnh hưởng trực tiếp đến tính mạng bệnh nhân. Nghiên cứu ghi nhận 28 rủi ro đầu ra không an toàn và 24 trường hợp rò rỉ dữ liệu.
Các lĩnh vực như năng lượng, sản xuất, bán lẻ, logistics và thậm chí quốc phòng cũng ghi nhận hàng chục lỗ hổng tiềm tàng, với nguy cơ ảnh hưởng đến chuỗi cung ứng, an ninh quốc gia hoặc gây sự cố quy mô lớn như mất điện hay ngừng sản xuất.

Những bài học xương máu và lời cảnh báo​

Các sự cố thực tế đã xảy ra và để lại hậu quả đáng tiếc:
Watson của IBM từng được kỳ vọng cách mạng hóa y tế, nhưng lại khuyến nghị phương pháp điều trị ung thư sai.
Thuật toán thẻ tín dụng của Apple Card bị điều tra vì thiên vị giới tính.
Zillow lỗ 500 triệu USD do AI định giá nhà không chính xác.
Samsung buộc phải cấm ChatGPT nội bộ sau khi bị rò rỉ mã nguồn.
Ông Martynas Vareikis, chuyên gia an ninh của Cybernews, cho biết: “AI là con dao hai lưỡi bạn có thể đạt hiệu quả vượt bậc, nhưng cũng có thể gục ngã nếu không kiểm soát được.”

Làm sao để sử dụng AI an toàn?​

Các chuyên gia khuyến nghị doanh nghiệp cần:
Luôn nghi ngờ đầu ra của AI, đặc biệt trong lĩnh vực rủi ro cao như y tế và tài chính.
Phân loại dữ liệu và kiểm soát truy cập nghiêm ngặt, kết hợp lọc đầu ra và giám sát liên tục.
Bảo vệ dữ liệu huấn luyện và mô hình AI, tránh để bị đảo ngược hoặc bị đánh cắp.
Kiểm tra các công cụ AI bên ngoài như phần mềm nội bộ, đặc biệt trong chuỗi cung ứng.
AI đang định hình lại cách doanh nghiệp hoạt động nhưng nếu không đi kèm với chiến lược bảo mật toàn diện, lợi ích sẽ nhanh chóng biến thành gánh nặng. “Triển khai AI mà không phòng bị chính là công thức cho một thảm họa sắp đến,” Vareikis cảnh báo.

https://cybernews.com/security/sp-500-companies-ai-security-risks-report/

 

Được phối hợp thực hiện bởi các chuyên gia của Bkav, cộng đồng An ninh mạng Việt Nam WhiteHat và cộng đồng Khoa học công nghệ VnReview