An toàn thông tin

Phát triển nền tảng AI tạo sinh – ưu tiên đổi mới không quên giải quyết thỏa đáng các rủi ro bảo mật

PV 08:42 10/11/2023

AI tạo sinh (Generative AI) không giống bất kỳ công nghệ nào trước đây. Nó nhanh chóng làm gián đoạn hoạt động kinh doanh và xã hội, buộc các nhà lãnh đạo phải suy nghĩ lại về các giả định, kế hoạch và chiến lược của họ trong thời gian thực.

IBM (Tập đoàn công nghệ máy tính đa quốc gia có trụ sở tại Mỹ) cảnh báo, trong nỗ lực triển khai AI tạo sinh, nhiều tổ chức đang hy sinh tính bảo mật để đổi mới.

AI tạo sinh đã làm phát sinh một thế hệ mối đe dọa mạng mới. Tin tặc có nhiều cơ hội hơn để khai thác lỗ hổng – và có nhiều cách hơn để thực hiện các chiến dịch độc hại của chúng. May mắn thay, điều ngược lại cũng đúng: AI tạo sinh có thể củng cố khả năng phòng thủ của doanh nghiệp. Trong thời gian tới, AI tạo sinh sẽ tăng tốc các quy trình bảo mật vốn từng là một công việc khó khăn. Và bằng cách phân tích lượng dữ liệu khổng lồ cũng như nhận dạng các mẫu – và điểm bất thường – AI tổng hợp có thể phát hiện ra các mối đe dọa ngay khi chúng xuất hiện.

Khi những kẻ xấu thêm các thủ đoạn mới vào thủ đoạn của chúng, các nhóm an ninh mạng sẽ cần phải hành động nhanh chóng để theo kịp. Trong trò chơi mèo vờn chuột này, sự cảnh giác sẽ là chìa khóa để quản lý các lỗ hổng và để luôn đi trước một bước.

attt1.png
Nhiều lo ngại gia tăng đã liên tục được cảnh báo về rủi ro tiềm tàng của AI. (Ảnh minh họa)

AI tạo sinh mở ra một thế giới đầy rủi ro và mối đe dọa mới

AI tạo sinh đã mang đến cho những kẻ tấn công mạng một kho vũ khí hoàn toàn mới. Tin tặc không còn chỉ giả mạo email nữa – ngày nay chúng có thể bắt chước giọng nói, khuôn mặt và thậm chí cả tính cách để lừa nạn nhân rơi vào bẫy của chúng. Và điều này chỉ là khởi đầu.

Chris McCurdy, Phó chủ tịch toàn cầu kiêm tổng giám đốc của IBM cho biết: “Khi AI tổng hợp phát triển trong vòng 6 đến 12 tháng tới, các chuyên gia dự đoán các cuộc tấn công xâm nhập mới sẽ khai thác quy mô, tốc độ, độ phức tạp và độ chính xác, cùng với các mối đe dọa mới liên tục xuất hiện”.

Khi xem xét cả khả năng xảy ra và tác động tiềm ẩn, các cuộc tấn công tự động được thực hiện với số lượng lớn là rủi ro cao nhất. Tuy nhiên, các Giám đốc điều hành cho rằng tin tặc giả mạo hoặc mạo danh người dùng đáng tin cậy sẽ có tác động lớn nhất đến doanh nghiệp, theo sau là việc tạo ra mã độc.

Cách các tổ chức triển khai AI tạo sinh cũng có thể gây ra những rủi ro mới. Trên thực tế, 47% Giám đốc điều hành lo ngại rằng việc áp dụng AI tạo sinh trong hoạt động sẽ dẫn đến các kiểu tấn công mới nhắm vào các mô hình, dữ liệu hoặc dịch vụ AI của chính họ. Và gần như tất cả các giám đốc điều hành (96%) cho biết việc áp dụng AI tạo ra khả năng vi phạm an ninh trong tổ chức của họ trong vòng ba năm tới.

Đối với các nhóm mạng và bảo mật, các thách thức có thể bao gồm việc phải chống lại khối lượng lớn thư rác và email lừa đảo mà AI có thể tạo ra; theo dõi các cuộc tấn công từ chối dịch vụ qua những lưu lượng truy cập lớn; và phải tìm kiếm phần mềm độc hại mới khó phát hiện và loại bỏ hơn phần mềm độc hại truyền thống.

Hãy coi AI tạo sinh như một nền tảng chiến lược và bảo mật nó ngay bây giờ

Các tổ chức đang dự đoán mức tăng trưởng đáng kể trong chi tiêu cho bảo mật liên quan đến AI. Với chi phí trung bình của một vụ vi phạm dữ liệu lên tới 4,45 triệu USD trên toàn cầu – 9,48 triệu USD ở Hoa Kỳ – các công ty đang đầu tư mạnh vào việc quản lý các rủi ro an ninh mạng mới.

Các nhà điều hành cho biết ngân sách an ninh mạng AI năm 2023 của họ lớn hơn 51% so với năm 2021. Và họ kỳ vọng ngân sách đó sẽ tăng thêm 43% vào năm 2025. IBM dự báo đến năm 2025, ngân sách dành cho bảo mật AI dự kiến sẽ lớn hơn 116% so với năm 2021. Khoảng 84% số người được hỏi cho biết họ sẽ ưu tiên các giải pháp bảo mật AI tạo sinh hơn các giải pháp thông thường.

Về mặt kỹ năng, 92% giám đốc điều hành được khảo sát nói rằng nhiều khả năng lực lượng lao động bảo mật của họ sẽ được tăng cường hoặc nâng cao để tập trung vào công việc có giá trị cao hơn thay vì bị thay thế.

Kết quả nghiên cứu gần đây của Enterprise Management Associates (EMA), cũng đưa ra kết luận: bảo mật cũng là mối quan tâm chính đối với các doanh nghiệp đang xem xét các giải pháp quản lý mạng dựa trên AI/ML.

EMA đã khảo sát 250 chuyên gia CNTT về trải nghiệm của họ với các giải pháp quản lý mạng dựa trên AI/ML và nhận thấy rằng gần 39% đang phải vật lộn với rủi ro bảo mật liên quan đến việc chia sẻ dữ liệu mạng với hệ thống AI/ML.

Trong báo báo của ELA (AI-Driven Networks: Leveling up Network Management) cho biết: “Nhiều nhà cung cấp cung cấp các giải pháp mạng dựa trên AI dưới dạng dịch vụ dựa trên đám mây. Nhóm CNTT phải gửi dữ liệu mạng của họ lên đám mây để phân tích. Một số ngành, như dịch vụ tài chính, không thích gửi dữ liệu mạng lên đám mây. Họ muốn giữ nó trong nhà bằng một công cụ tại chỗ. Thật không may, nhiều nhà cung cấp mạng sẽ không hỗ trợ phiên bản tại chỗ của hồ dữ liệu AI của họ vì họ cần khả năng mở rộng trên đám mây để nó có thể hoạt động”.

IBM cũng tiến hành khảo sát, trong số 200 giám đốc điều hành, 94% cho biết điều quan trọng là phải bảo mật các ứng dụng và dịch vụ AI tạo sinh trước khi triển khai. Tuy nhiên, chỉ có 24% dự án AI tạo sinh của người được hỏi cho biết sẽ bao gồm thành phần an ninh mạng trong vòng sáu tháng tới. Ngoài ra, 69% cho biết sự đổi mới được ưu tiên hơn so với tính bảo mật đối với AI thế hệ mới, theo báo cáo của Viện Giá trị Doanh nghiệp IBM.

Các nhà lãnh đạo doanh nghiệp dường như đang ưu tiên phát triển các khả năng mới mà không giải quyết các rủi ro bảo mật mới – mặc dù 96% cho rằng việc áp dụng AI tạo ra khả năng vi phạm an ninh trong tổ chức của họ trong vòng ba năm tới.

IBM nhận thấy có sự mất kết nối giữa sự hiểu biết của các tổ chức về nhu cầu an ninh mạng AI tạo sinh và việc thực hiện các biện pháp an ninh mạng của họ. Để ngăn chặn những hậu quả tốn kém và không cần thiết, các CEO cần giải quyết trực tiếp các vấn đề về an ninh mạng và nguồn gốc dữ liệu bằng cách đầu tư vào các biện pháp bảo vệ dữ liệu, chẳng hạn như mã hóa và ẩn danh, cũng như các hệ thống theo dõi và xuất xứ dữ liệu để có thể bảo vệ tính toàn vẹn tốt hơn cho dữ liệu được sử dụng trong các mô hình AI tạo sinh.

IBM cảnh báo các nhà lãnh đạo an ninh mạng cần phải hành động khẩn cấp để ứng phó với những rủi ro trước mắt của AI. Một số khuyến nghị dành cho các nhà điều hành công ty mà IBM đưa ra như:

Triệu tập các nhà lãnh đạo an ninh mạng, công nghệ, dữ liệu và vận hành để thảo luận cấp hội đồng về các rủi ro ngày càng gia tăng, bao gồm cả cách khai thác AI tổng hợp để lộ dữ liệu nhạy cảm và cho phép truy cập trái phép vào hệ thống. Giúp mọi người cập nhật thông tin về AI “đối thủ” mới nổi – những thay đổi gần như không thể nhận thấy được đưa vào tập dữ liệu cốt lõi gây ra kết quả độc hại.

Tập trung vào việc bảo mật và mã hóa dữ liệu dùng để huấn luyện và điều chỉnh các mô hình AI. Liên tục quét các lỗ hổng, phần mềm độc hại và tham nhũng trong quá trình phát triển mô hình và theo dõi các cuộc tấn công dành riêng cho AI sau khi mô hình được triển khai.

Đầu tư vào hệ thống phòng thủ mới được thiết kế đặc biệt để bảo mật AI. Mặc dù các biện pháp kiểm soát và chuyên môn bảo mật hiện có có thể được mở rộng để bảo mật cơ sở hạ tầng và dữ liệu hỗ trợ hệ thống AI, nhưng việc phát hiện và ngăn chặn các cuộc tấn công bất lợi vào các mô hình AI đòi hỏi các phương pháp mới hữu hiệu hơn./.

Nguồn tham khảo:

https://www150.statcan.gc.ca

https://www.gsa.gov/technology

Trả lời

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *