MỸ – Công ty Cisco đang áp dụng cách tiếp cận triệt để đối với bảo mật công nghệ trí tuệ nhân tạo (AI) trong giải pháp AI Defense mới.

Ông Jeetu Patel, Phó chủ tịch điều hành kiêm Giám đốc sản phẩm tại Công ty Cisco, đã nói rằng: “AI Defense đang áp dụng cách tiếp cận triệt để để giải quyết những vấn đề mà các giải pháp bảo mật hiện tại không đủ khả năng xử lý”.

Giải pháp AI Defense, được công bố vào tháng 01/2025, nhằm mục đích giải quyết các rủi ro trong việc phát triển và triển khai các ứng dụng công nghệ AI, cũng như xác định nơi công nghệ AI được sử dụng trong một tổ chức.

Nền tảng AI Defense có thể bảo vệ các hệ thống AI khỏi các cuộc tấn công mạng và bảo vệ hành vi của mô hình trên nhiều nền tảng với các tính năng như:
– Phát hiện các ứng dụng công nghệ AI ẩn và được chấp thuận trên các đám mây công cộng và riêng tư.
– Kiểm tra tự động các mô hình công nghệ AI để tìm ra hàng trăm vấn đề tiềm ẩn về an toàn và bảo mật.
– Xác thực liên tục bảo vệ chống lại các mối đe dọa tiềm ẩn về an toàn và bảo mật, chẳng hạn như tấn công prompt injection (1), từ chối dịch vụ và rò rỉ dữ liệu nhạy cảm.
(1) Tấn công prompt injection: là một loại tấn công mạng vào các mô hình ngôn ngữ lớn (LLM). Tội phạm mạng ngụy trang các dữ liệu đầu vào độc hại thành các lời nhắc hợp lệ, thao túng các hệ thống công nghệ AI tạo sinh (GenAI) để rò rỉ dữ liệu nhạy cảm, phát tán thông tin sai lệch hoặc hơn thế.

Giải pháp này cũng cho phép các nhóm bảo mật bảo vệ dữ liệu của doanh nghiệp tốt hơn, bằng cách cung cấp cái nhìn toàn diện về các ứng dụng công nghệ AI mà các kỹ thuật viên sử dụng, tạo chính sách hạn chế quyền truy cập vào các công cụ AI chưa được cấp phép và triển khai các biện pháp bảo vệ chống lại các mối đe dọa và mất dữ liệu bí mật trong khi vẫn đảm bảo tuân thủ quy định.

Ông Kent Noyes, Giám đốc toàn cầu về công nghệ AI và đổi mới mạng tại Công ty World Wide Technology ở thành phố St. Louis (thuộc bang Missouri, Mỹ), đã nói rằng: “Việc áp dụng công nghệ AI khiến các công ty phải đối mặt với những rủi ro mới mà các giải pháp an ninh mạng truyền thống không giải quyết được. Giải pháp AI Defense đại diện cho một bước tiến đáng kể về bảo mật công nghệ AI, cung cấp khả năng hiển thị đầy đủ các tài sản công nghệ AI của doanh nghiệp và bảo vệ trước các mối đe dọa đang phát triển”.

Bước tiến tích cực cho bảo mật công nghệ AI

Bà MJ Kaufmann, một tác giả và huấn luyện viên tại Công ty O’Reilly Media, là doanh nghiệp điều hành nền tảng học tập dành cho các chuyên gia công nghệ tại thành phố Boston (Mỹ), đã khẳng định phân tích của công ty Cisco về các giải pháp an ninh mạng hiện có. Bà đã nói rằng: “Công ty Cisco đã đúng. Các công cụ hiện có không giải quyết được nhiều cuộc tấn công do hoạt động điều khiển nhằm vào các hệ thống AI, chẳng hạn như các cuộc tấn công prompt injection, rò rỉ dữ liệu và hành động mô hình trái phép”.

Bà nói thêm: “Những người thực hiện cần hành động và triển khai các giải pháp cụ thể để giải quyết những vấn đề này”.

Công ty Cisco đang ở vị thế độc nhất để cung cấp giải pháp này, ông Jack E. Gold, người sáng lập và là nhà phân tích chính tại J.Gold Associates, một công ty tư vấn công nghệ thông tin tại thành phố Northborough (thuộc bang Massachusetts, Mỹ), đã chia sẻ: “Đó là vì họ có rất nhiều dữ liệu từ mạng lưới đo từ xa, có thể được sử dụng để củng cố khả năng AI mà họ muốn bảo vệ”.

Ông cho biết thêm rằng, công ty Cisco muốn cung cấp bảo mật trên nhiều nền tảng – tại chỗ, đám mây và đa đám mây – và trên nhiều mô hình.

Ông Jack E. Gold nói tiếp: “Sẽ rất thú vị khi thấy có bao nhiêu công ty áp dụng điều này. Công ty Cisco chắc chắn đang đi đúng hướng với loại năng lực này, vì nhìn chung các công ty không xem xét điều này một cách hiệu quả”.

Việc cung cấp khả năng bảo vệ đa mô hình, đa đám mây rất quan trọng đối với bảo mật AI.

Bà Patricia Thaine, Giám đốc điều hành kiêm đồng sáng lập Private AI, một công ty bảo mật dữ liệu và quyền riêng tư tại thành phố Toronto (thuộc bang Ontario, Canada), đã nói rằng: “Các giải pháp AI đa mô hình, đa đám mây mở rộng bề mặt tấn công của tổ chức bằng cách tạo ra sự phức tạp trên các môi trường khác nhau với các giao thức bảo mật không nhất quán, nhiều điểm truyền dữ liệu và những vấn đề trong việc phối hợp giám sát và ứng phó sự cố – những yếu tố mà tội phạm mạng có thể dễ dàng khai thác”.

Liên quan đến những hạn chế
Ông Dev Nag, Tổng giám đốc kiêm nhà sáng lập QueryPal, một công ty cung cấp dịch vụ trò chuyện hỗ trợ khách hàng có trụ sở tại thành phố San Francisco (thuộc bang California, Mỹ), cho biết: Mặc dù cách tiếp cận của công ty Cisco trong việc nhúng các biện pháp kiểm soát bảo mật vào lớp mạng thông qua hệ thống hiện có của họ cho thấy triển vọng, nhưng nó cũng bộc lộ những hạn chế đáng lo ngại.

Ông Dev đã nói rằng: “Mặc dù khả năng hiển thị ở cấp độ mạng cung cấp dữ liệu đo từ xa có giá trị, nhưng nhiều cuộc tấn công mạng cụ thể của công nghệ AI xảy ra ở lớp ứng dụng và mô hình mà chỉ riêng công nghệ giám sát mạng là không thể phát hiện được”.

Ông Dev nói tiếp: “Việc mua lại công ty Robust Intelligence vào năm 2024 đã mang lại cho công ty Cisco những khả năng quan trọng xung quanh việc xác thực mô hình và bảo vệ thời gian chạy, nhưng việc tập trung vào tích hợp mạng của họ có thể dẫn đến những lỗ hổng trong việc bảo mật vòng đời phát triển công nghệ AI thực tế. Các lĩnh vực quan trọng như bảo mật đào tạo liên tục, xác minh chuỗi cung ứng mô hình và tinh chỉnh các rào chắn bảo vệ yêu cầu tích hợp sâu với công cụ hoạt động học máy MLOps (machine learning operations) vượt ra ngoài mô hình tập trung vào mạng truyền thống của công ty Cisco”.

Ông Dev nói thêm: “Hãy nghĩ về những cơn đau đầu mà chúng ta đã thấy với các cuộc tấn công chuỗi cung ứng mã nguồn mở, nơi mã vi phạm được hiển thị công khai. Các cuộc tấn công chuỗi cung ứng mô hình gần như không thể phát hiện được khi so sánh”.

Ông Dev lưu ý rằng xét về góc độ triển khai, giải pháp AI Defense dường như chủ yếu là việc đóng gói lại các sản phẩm bảo mật hiện có với một số khả năng giám sát dành riêng cho công nghệ AI được tích hợp thêm.

Ông Dev đã nói rằng: “Mặc dù phạm vi triển khai rộng rãi của họ mang lại lợi thế cho khả năng hiển thị trên toàn doanh nghiệp, nhưng giải pháp này có vẻ phản ứng hơn là chuyển đổi vào lúc này. Đối với một số tổ chức bắt đầu hành trình công nghệ AI của mình và đang làm việc với các sản phẩm bảo mật của công ty Cisco, giải pháp AI Defense có thể cung cấp các biện pháp kiểm soát hữu ích, nhưng những doanh nghiệp theo đuổi các công nghệ AI tiên tiến có thể sẽ cần các kiến ​​trúc bảo mật tinh vi hơn được xây dựng riêng cho các hệ thống học máy”.

Bà Karen Walsh, Giám đốc điều hành Allegro Solutions, một công ty tư vấn an ninh mạng tại thành phố West Hartford, (thuộc bang Connecticut, Mỹ), cho biết đối với nhiều doanh nghiệp, việc giảm rủi ro AI yêu cầu cần có những người kiểm tra thâm nhập hiểu cách đặt những câu hỏi cho mô hình để thu thập thông tin nhạy cảm.

Bà Karen đã nói rằng: “Giải pháp của công ty Cisco cho thấy khả năng tạo ra các rào chắn dành riêng cho từng mô hình của họ sẽ giảm những rủi ro này nhằm ngăn công nghệ AI học dữ liệu xấu, phản hồi các yêu cầu độc hại và chia sẻ thông tin không mong muốn. Ít nhất, chúng ta có thể hy vọng rằng điều này sẽ xác định và giảm các vấn đề cơ bản để những người kiểm tra thâm nhập có thể tập trung vào các chiến lược xâm phạm AI tinh vi hơn”.

Nhu cầu cấp thiết trên đường đến trí tuệ nhân tạo tổng quát (AGI)
Ông Kevin Okemwa, biên tập cho nền tảng trực tuyến Windows Central, lưu ý rằng việc giới thiệu giải pháp AI Defense không thể đến vào thời điểm nào tốt hơn khi các phòng thí nghiệm công nghệ AI lớn đang tiến gần đến việc sản xuất công nghệ trí tuệ nhân tạo tổng quát (AGI – artificial general intelligence) (2), được cho là có thể sao chép trí thông minh của con người.
(2) Trí tuệ nhân tạo tổng quát: là một lĩnh vực nghiên cứu AI lý thuyết nhằm cố gắng tạo ra phần mềm có trí thông minh giống con người và có khả năng tự học. Mục đích là để phần mềm có thể thực hiện các nhiệm vụ mà nó không nhất thiết phải được đào tạo hoặc phát triển.

Ông James McQuiggan, người ủng hộ nhận thức về an ninh tại KnowBe4, một doanh nghiệp cung cấp dịch vụ đào tạo nhận thức về an ninh tại thành phố Clearwater (thuộc bang Florida, Mỹ), đã nói rằng: “Khi công nghệ AGI tiến gần hơn qua mỗi năm, thì rủi ro không thể cao hơn “.

Ông James nói tiếp: “Khả năng suy nghĩ như con người với trực giác và định hướng của công nghệ AGI có thể cách mạng hóa các ngành công nghiệp, nhưng nó cũng mang đến những rủi ro gây ra hậu quả sâu rộng. Một giải pháp bảo mật công nghệ AI mạnh mẽ đảm bảo công nghệ AGI phát triển một cách có trách nhiệm, giảm rủi ro như ra quyết định sai lầm hoặc hậu quả không mong muốn”.

Ông James nói thêm: “An ninh AI không chỉ là ‘điều tốt để có’ hay điều gì đó để suy nghĩ trong những năm tới. Nó rất quan trọng khi chúng ta hướng tới công nghệ AGI”.

Sự nguy hại
Ông Kevin Okemwa đã viết rằng: “Mặc dù giải pháp AI Defense là một bước đi đúng hướng, nhưng việc áp dụng nó ở khắp các doanh nghiệp và phòng thí nghiệm công nghệ AI lớn vẫn còn phải chờ xem. Điều thú vị là, Tổng giám đốc công ty OpenAI, ông Sam Altman đã thừa nhận mối đe dọa của công nghệ này đối với nhân loại nhưng tin rằng công nghệ AI sẽ đủ thông minh để ngăn chặn AI gây ra nguy hại.”

Ông Adam Ennamli, Giám đốc rủi ro và an ninh tại công ty General Bank (ở Canada), đã chia sẻ: “Tôi thấy có một số yếu tố lạc quan về khả năng tự điều chỉnh và ngăn ngừa hậu quả thảm khốc của công nghệ AI, nhưng tôi cũng nhận thấy rằng việc áp dụng các hệ thống AI tiên tiến phù hợp với các giá trị của con người vẫn chỉ là ý nghĩ chợt đến chứ không phải là điều bắt buộc”.

Ông Stephen Kowski, Giám đốc công nghệ tại công ty SlashNext, một công ty bảo mật máy tính và mạng tại thành phố Pleasanton (thuộc bang California, Mỹ), đã nói rằng: “Quan niệm cho rằng công nghệ AI sẽ tự giải quyết được các rủi ro hiện hữu của chính nó là lạc quan một cách nguy hiểm, điều này được chứng minh bằng các hệ thống AI hiện tại vốn có thể bị thao túng để tạo ra nội dung có hại và vượt qua các biện pháp kiểm soát bảo mật” .

Ông Stephen nói tiếp: “Các biện pháp bảo vệ kỹ thuật và sự giám sát của con người vẫn rất cần thiết, vì các hệ thống AI về cơ bản được điều khiển bởi dữ liệu đào tạo và các mục tiêu được lập trình, chứ không phải là mong muốn vốn có về hạnh phúc của con người”.

Ông Jack E. Gold nói thêm rằng: “Con người khá sáng tạo. Tôi không tin vào toàn bộ chuyện vô lý về ngày tận thế này. Chúng ta sẽ tìm ra cách để công nghệ AI làm việc cho chúng ta và thực hiện một cách an toàn. Điều đó không có nghĩa là sẽ không có vấn đề gì trong tương lai, nhưng không phải tất cả chúng ta đều sẽ kết thúc trong ‘The Matrix’ (tạm dịch là ‘Ma trận’)”.

Để xem các tin bài khác về “AI”, hãy nhấn vào đây.

 

Nguồn: TechNewsWorld