🔒 TrendAI cho biết các kỹ năng AI đại diện cho bề mặt tấn công mới nguy hiểm

TrendAI đã cảnh báo cái gọi là “kỹ năng AI” được sử dụng để mở rộng quy mô và thực hiện các hoạt động AI có nguy cơ bị đánh cắp, phá hoại và gián đoạn dữ liệu.

📋 Nội dung chi tiết

Đơn vị kinh doanh mới được đặt tên của Trend Micro đã giải thích trong một báo cáo được công bố trong tuần này rằng các kỹ năng AI là các tạo phẩm kết hợp văn bản mà con người có thể đọc được với các hướng dẫn mà các mô hình ngôn ngữ lớn (LLM) có thể đọc và thực thi.

Báo cáo giải thích: “Các kỹ năng AI gói gọn mọi thứ, từ các yếu tố như chuyên môn của con người, quy trình làm việc và các ràng buộc vận hành cho đến logic quyết định”. “Bằng cách nắm bắt kiến ​​thức này thành thứ gì đó có thể thực thi được, các kỹ năng AI cho phép các tổ chức đạt được khả năng mở rộng và chuyển giao kiến ​​thức ở mức độ không thể đạt được trước đây”.

Ví dụ về cách tiếp cận này là Kỹ năng đặc vụ của Anthropic, Hành động GPT của OpenAI và Plugin Copilot của Microsoft.

Đọc thêm về các mối đe dọa AI: Các mối đe dọa bảo mật AI xuất hiện khi mức sử dụng của doanh nghiệp tăng 91%.

🔍 Thông tin bổ sung

Theo cách này, những hiện vật này có thể hỗ trợ việc sử dụng AI để giao dịch dịch vụ tài chính, nâng cao cung cấp dịch vụ trong khu vực công hoặc tạo nội dung trong lĩnh vực truyền thông, TrendAI cho biết.

Tuy nhiên, những kỹ năng này cũng gây rủi ro cho bảo mật doanh nghiệp vì chúng có thể làm lộ dữ liệu khách hàng/độc quyền và logic ra quyết định.

Báo cáo cảnh báo: “Nếu kẻ tấn công có được quyền truy cập vào logic đằng sau một kỹ năng, điều đó có thể mang lại cho chúng cơ hội khai thác đáng kể”. “Kẻ tấn công cũng có thể quyết định trao đổi hoặc rò rỉ dữ liệu thu được, do đó làm lộ thông tin nhạy cảm của tổ chức.”

Với quyền truy cập vào dữ liệu vận hành và logic kinh doanh, kẻ thù có thể làm gián đoạn các dịch vụ công cộng, phá hoại quy trình sản xuất, đánh cắp dữ liệu bệnh nhân, v.v.

🔍 Thông tin bổ sung

SOC hỗ trợ AI phải đối mặt với rủi ro gia tăng

Rủi ro đối với các tình huống tấn công này đặc biệt nghiêm trọng đối với các SOC hỗ trợ AI.

Các tác nhân đe dọa có thể xác định và khai thác các điểm mù phát hiện trong SOC. Theo báo cáo của TrendAI, các cuộc tấn công tiêm nhiễm là một thách thức lớn về mặt này.

TrendAI giải thích: “Các kỹ năng AI kết hợp dữ liệu do người dùng cung cấp với hướng dẫn do người dùng cung cấp và định nghĩa kỹ năng cũng có thể kết hợp cả dữ liệu và hướng dẫn, đồng thời có thể tham chiếu các nguồn dữ liệu bên ngoài”.

🔍 Thông tin bổ sung

"Sự kết hợp giữa dữ liệu và logic thực thi này tạo ra sự mơ hồ, từ đó gây khó khăn cho các công cụ phòng thủ - và thậm chí cả chính công cụ AI - trong việc phân biệt một cách an toàn giữa các hướng dẫn phân tích chính hãng và nội dung do kẻ tấn công cung cấp. Do đó, không có khả năng chống lại các cuộc tấn công tiêm nhiễm."

Nguyên tắc đảm bảo kỹ năng AI

📌 Kết luận

Đây là một sự kiện đáng chú ý trong lĩnh vực an ninh mạng. Người dùng và doanh nghiệp cần cập nhật các biện pháp bảo mật để bảo vệ hệ thống của mình.