AI Của Hacker Phát Hiện Lỗ Hổng Zero-Day Trong 11 Phút. Amazon Cảnh Báo Máy Chủ Y Tế Có Thể Bị Chiếm Quyền Kiểm Soát

Một hacker trước đây cần chuyên môn, thời gian và nhiều công cụ để tìm ra lỗ hổng bảo mật trong phần mềm. Nhưng với sự xuất hiện của các tác nhân trí tuệ nhân tạo, quá trình này đang thay đổi đáng kể.

AI Agent Đang Biến Tấn Công Mạng Thành Cuộc Chạy Đua Tính Bằng Phút

Trong một chiến dịch được Amazon công bố, các tác nhân AI đã tự phát hiện và khai thác một lỗ hổng chưa từng được công bố trong phần mềm xử lý hình ảnh y tế MONAI Label. Thời gian để tìm ra cách ghi tệp ra ngoài thư mục được phép chỉ khoảng 11 phút.

Đáng lo ngại hơn, sau đó những kẻ tấn công tiếp tục khai thác cùng lỗ hổng để thực thi mã độc và giành quyền kiểm soát hoàn toàn máy chủ.

Vấn đề không chỉ nằm ở một phần mềm y tế có lỗ hổng. Điều đáng quan tâm là AI đang giúp tự động hóa một phần quy trình tấn công mạng vốn đòi hỏi nhiều kỹ năng kỹ thuật.

Trong khi doanh nghiệp đang sử dụng AI để tiết kiệm nhân lực, tăng năng suất và tự động hóa vận hành, những kẻ tấn công cũng đang sử dụng chính công nghệ đó để tăng tốc độ xâm nhập.

Và khoảng cách giữa một hệ thống được bảo vệ tốt với một hệ thống bị chiếm quyền có thể ngày càng được quyết định bằng những phút đầu tiên.

Amazon phát hiện chiến dịch AI tấn công các trường đại học tại Đông Á

Theo thông tin Amazon công bố, chiến dịch tấn công diễn ra trong khoảng 48 giờ, bắt đầu từ ngày 8 tháng 9.

Mục tiêu là các trường đại học tại Đông Á, không bao gồm Trung Quốc đại lục.

Ngày 10 tháng 9, Amazon phát hiện một máy chủ Cairn của nhóm vận hành đang hoạt động mà không yêu cầu xác thực. Cairn là một khung phần mềm mã nguồn mở dùng để điều phối nhiều tác nhân AI phục vụ kiểm thử bảo mật.

Nhờ truy cập được máy chủ này, Amazon có thể đọc các chỉ dẫn mà người điều hành đã giao cho những tác nhân AI.

Mục tiêu được đưa ra rất ngắn gọn.

Giành quyền truy cập vào hệ thống thông qua dòng lệnh.

Sau đó, các tác nhân AI tự thực hiện quá trình tìm kiếm và khai thác điểm yếu trong những hệ thống mục tiêu.

Amazon đánh giá chiến dịch có mối liên hệ với Trung Quốc ở mức độ tin cậy trung bình. Đây là nhận định về nguồn gốc có khả năng liên quan, không phải bằng chứng xác định danh tính của toàn bộ những người đứng sau chiến dịch.

Đối với lỗ hổng trong MONAI Label, Amazon đánh giá với độ tin cậy cao rằng đây là một lỗ hổng chưa từng được công bố và chưa có bản vá tại thời điểm bị phát hiện.

11 phút cho thấy AI có thể rút ngắn quá trình tìm kiếm lỗ hổng

Điểm đáng chú ý nhất của sự kiện là tốc độ.

Các tác nhân AI phát hiện rằng tính năng tải tệp của MONAI Label có thể bị thao túng để ghi dữ liệu ra ngoài khu vực lưu trữ mà ứng dụng được phép sử dụng.

Thông thường, một ứng dụng cần giới hạn vị trí mà người dùng có thể tải tệp lên. Nếu cơ chế kiểm tra đường dẫn không chặt chẽ, kẻ tấn công có thể lợi dụng để ghi tệp vào những vị trí khác trên máy chủ.

Đây là dạng lỗi có thể dẫn đến ghi tệp trái phép.

Trong trường hợp này, các tác nhân AI đã tìm ra cách khai thác chỉ trong khoảng 11 phút.

Ở một phiên làm việc sau đó, nhóm tấn công tiếp tục sử dụng lỗ hổng để thực thi mã độc và chiếm toàn quyền kiểm soát máy chủ.

Điều quan trọng là phải hiểu đúng con số 11 phút.

Đây là thời gian được Amazon ghi nhận cho quá trình phát hiện và khai thác vấn đề cụ thể trong chiến dịch này. Không có nghĩa mọi hệ thống đều có thể bị AI xâm nhập trong 11 phút.

Tuy nhiên, sự kiện cho thấy một thay đổi đáng kể trong năng lực tấn công.

AI không chỉ hỗ trợ viết mã. Nó có thể phân tích cấu trúc ứng dụng, thử nghiệm các chức năng, nhận diện hành vi bất thường và tìm cách khai thác những điểm yếu.

Khi những công việc này được tự động hóa, một người vận hành có thể điều phối nhiều tác nhân cùng lúc thay vì phải trực tiếp thực hiện từng bước.

MONAI Label có lỗ hổng nghiêm trọng nhưng bản vá vẫn chưa được phát hành

MONAI Label là ứng dụng mã nguồn mở thuộc hệ sinh thái MONAI, phục vụ công việc gắn nhãn dữ liệu hình ảnh y tế bằng trí tuệ nhân tạo.

Phần mềm này được sử dụng trong quy trình xử lý và chú thích hình ảnh y tế, một lĩnh vực có yêu cầu cao về độ chính xác và bảo mật dữ liệu.

Theo thông tin trong bài viết gốc, bản sửa lỗi đã được đưa vào nhánh mã nguồn chính của dự án ngày 19 tháng 10 thông qua yêu cầu hợp nhất số 1915.

Tuy nhiên, có một vấn đề.

Bản sửa lỗi đã được đưa vào mã nguồn nhưng chưa được phát hành thành phiên bản chính thức để người dùng cập nhật.

Tại thời điểm bài viết gốc được công bố, phiên bản mới nhất trên kho phân phối gói Python vẫn là MONAI Label 0.8.5, được tải lên ngày 25 tháng 11 năm 2024.

Thông báo bảo mật của dự án cho biết các phiên bản 0.8.5 trở về trước bị ảnh hưởng và bản sửa lỗi sẽ được đưa vào phiên bản MONAI Label tiếp theo.

Đây là khoảng trống đáng lo ngại giữa việc phát hiện lỗi, sửa lỗi và đưa bản sửa lỗi đến người sử dụng.

Trong phần mềm doanh nghiệp, một lỗi được sửa trong mã nguồn không đồng nghĩa với việc hàng nghìn máy chủ đang vận hành đã được bảo vệ.

Nếu quản trị viên chỉ theo dõi phiên bản phát hành chính thức mà không đọc thông báo bảo mật, họ có thể tiếp tục sử dụng phần mềm dễ bị khai thác.

Không bật xác thực mặc định khiến máy chủ trở thành mục tiêu dễ dàng

Một trong những vấn đề nghiêm trọng nhất của MONAI Label là xác thực bị tắt theo mặc định.

Điều này có nghĩa bất kỳ ai có khả năng truy cập đến máy chủ đều có thể tìm cách khai thác lỗ hổng.

Nhưng bật xác thực cũng chưa giải quyết hoàn toàn vấn đề.

Theo thông báo bảo mật, ngay cả khi xác thực được bật, những người dùng được cấp vai trò ANNOTATOR vẫn có thể khai thác lỗ hổng.

Đây là một bài học quan trọng về quản trị quyền truy cập.

Nhiều doanh nghiệp nghĩ rằng chỉ cần đặt mật khẩu cho ứng dụng là đủ an toàn. Nhưng bảo mật thực tế cần nhiều lớp kiểm soát.

Một người dùng có tài khoản hợp lệ không nhất thiết phải được phép thực hiện mọi hành động trên máy chủ.

Nếu một vai trò chỉ cần gắn nhãn hình ảnh, nó không nên có khả năng ghi tệp tùy ý vào những thư mục nhạy cảm.

Đây là nguyên tắc phân quyền tối thiểu.

Mỗi tài khoản chỉ được cấp những quyền thực sự cần thiết để hoàn thành công việc.

Cairn cho thấy mô hình điều phối nhiều AI Agent có thể được sử dụng để tấn công

Một chi tiết đáng chú ý khác là máy chủ Cairn mà Amazon phát hiện.

Cairn là khung phần mềm mã nguồn mở dùng để phối hợp các tác nhân AI trong hoạt động kiểm thử bảo mật.

Thay vì một mô hình AI chỉ nhận câu hỏi và trả lời, hệ thống điều phối có thể giao nhiệm vụ cho nhiều tác nhân, cho phép chúng thực hiện những công việc khác nhau trong một quy trình.

Chẳng hạn, một tác nhân phân tích hệ thống, một tác nhân kiểm tra chức năng, một tác nhân đánh giá kết quả và một tác nhân tiếp tục xử lý khi phát hiện vấn đề.

Trong môi trường phòng thủ, kiến trúc này có thể giúp đội ngũ bảo mật kiểm tra hệ thống nhanh hơn.

Nhưng khi bị sử dụng với mục đích xấu, cùng một kiến trúc có thể tự động hóa quá trình tìm kiếm điểm yếu và khai thác hệ thống.

Điều này cho thấy AI Agent không chỉ là một công cụ hội thoại.

Nó đang trở thành một thành phần có khả năng thực hiện công việc nhiều bước, tương tác với phần mềm và sử dụng công cụ bên ngoài.

Giá trị của AI Agent nằm ở khả năng hành động. Và chính khả năng hành động đó cũng làm tăng mức độ rủi ro nếu không được kiểm soát.

Lợi thế cạnh tranh trong an ninh mạng đang chuyển từ con người sang tốc độ tự động hóa

Trong nhiều năm, năng lực tấn công mạng phụ thuộc lớn vào kiến thức chuyên môn và khả năng của từng kỹ sư.

Một nhóm có kinh nghiệm có thể tìm ra những lỗi mà người khác bỏ qua.

AI không loại bỏ vai trò của chuyên gia, nhưng có thể giảm thời gian dành cho những công việc lặp lại.

Một tác nhân có thể thử nhiều phương án, phân tích phản hồi và tiếp tục tìm kiếm hướng khai thác.

Điều này tạo ra một thay đổi về kinh tế của an ninh mạng.

Nếu chi phí tìm kiếm lỗ hổng giảm xuống, số lượng hệ thống có thể được kiểm tra trong cùng một khoảng thời gian có thể tăng lên.

Đối với bên phòng thủ, đây là cơ hội để tự động hóa việc phát hiện và xử lý lỗ hổng.

Đối với bên tấn công, đó là cơ hội mở rộng phạm vi tìm kiếm mục tiêu.

Amazon đã ghi nhận một trường hợp cụ thể cho thấy các tác nhân AI có thể tự tìm và khai thác một lỗi chưa được công bố. Tuy nhiên, không nên từ đó kết luận rằng mọi cuộc tấn công mạng hiện nay đều do AI thực hiện hoặc AI đã thay thế hoàn toàn hacker.

Con người vẫn có thể đặt mục tiêu, lựa chọn nạn nhân, điều chỉnh chiến lược và quyết định cách khai thác kết quả.

AI đang làm thay đổi cách thức thực hiện, không xóa bỏ vai trò của người vận hành.

Rủi ro lớn nhất là bản vá có thể đến sau khi máy chủ đã bị xâm nhập

Trong vụ việc này, bản sửa lỗi đã được đưa vào mã nguồn từ ngày 19 tháng 10, nhưng tại thời điểm thông tin được công bố, người dùng vẫn chưa có phiên bản phát hành chính thức chứa bản vá.

Đây là vấn đề phổ biến trong quản trị phần mềm mã nguồn mở.

Một dự án có thể phát hiện lỗi, viết bản sửa và hợp nhất mã nguồn. Nhưng người vận hành phải chờ phiên bản mới, kiểm tra tính tương thích, triển khai và xác nhận hệ thống hoạt động bình thường.

Trong khoảng thời gian đó, máy chủ vẫn có thể bị tấn công.

Nguy hiểm hơn, một máy chủ từng bị chiếm quyền không tự động trở nên an toàn chỉ vì quản trị viên bật xác thực sau đó.

Kẻ tấn công có thể đã để lại mã độc, thay đổi tệp ứng dụng hoặc tạo cơ chế truy cập trái phép.

Vì vậy, việc khắc phục phải gồm hai phần.

Thứ nhất là ngăn chặn những cuộc xâm nhập tiếp theo.

Thứ hai là xác định liệu hệ thống đã bị xâm nhập trước đó hay chưa.

Đây là điểm nhiều doanh nghiệp nhỏ thường bỏ qua. Họ sửa nguyên nhân ban đầu nhưng không kiểm tra hậu quả đã xảy ra.

Ba biện pháp Amazon khuyến nghị cho người đang sử dụng MONAI Label

Trong khi chờ phiên bản chính thức có bản vá, thông báo bảo mật đưa ra ba biện pháp giảm thiểu rủi ro.

Bật xác thực và giới hạn quyền ANNOTATOR.

Chỉ cấp quyền cho những người thực sự đáng tin cậy. Không để bất kỳ người dùng nào có thể truy cập và thao tác tùy ý.

Không đưa máy chủ MONAI Label lên mạng không đáng tin cậy.

Hạn chế khả năng truy cập từ Internet công cộng và các mạng không được kiểm soát. Chỉ cho phép những hệ thống và người dùng cần thiết kết nối.

Không chạy phần mềm bằng quyền quản trị viên.

Sử dụng tài khoản có quyền hạn thấp nhất cần thiết và giới hạn khả năng ghi tệp ra ngoài thư mục lưu trữ được chỉ định.

Khi phiên bản mới chứa bản vá được phát hành, quản trị viên cần nâng cấp.

Ngoài ra, Amazon khuyến nghị kiểm tra dấu hiệu máy chủ đã bị xâm nhập, đặc biệt là những thay đổi bất thường trong các tệp ứng dụng.

Đây không phải những bước có thể thay thế bản vá. Chúng chỉ giúp giảm nguy cơ trong thời gian chờ khắc phục chính thức.

Doanh nghiệp y tế và công nghệ sẽ phải thay đổi cách quản trị phần mềm AI

Vụ việc có thể tác động đến nhiều nhóm doanh nghiệp.

Đối với bệnh viện và cơ sở nghiên cứu, phần mềm xử lý hình ảnh y tế thường nằm trong quy trình quan trọng. Nếu máy chủ bị chiếm quyền, dữ liệu, hoạt động nghiên cứu và các hệ thống liên quan có thể gặp rủi ro.

Đối với doanh nghiệp phát triển phần mềm, bài học nằm ở trách nhiệm phát hành bản vá và thông báo bảo mật.

Một lỗi được sửa trong mã nguồn cần được chuyển thành phiên bản có thể cài đặt, kèm hướng dẫn nâng cấp rõ ràng.

Đối với nhà cung cấp dịch vụ công nghệ, việc triển khai ứng dụng mã nguồn mở cho khách hàng cần đi kèm quy trình kiểm tra bảo mật, phân quyền và giám sát.

Đối với các doanh nghiệp đang sử dụng AI Agent, cần xem những tác nhân này như một tài khoản có khả năng thực hiện hành động trên hệ thống, thay vì một công cụ chỉ tạo ra văn bản.

Nếu AI được phép truy cập tệp, cơ sở dữ liệu, máy chủ và hệ thống quản trị, quyền hạn của nó phải được giới hạn và ghi nhận đầy đủ.

Doanh nghiệp Việt Nam không nên chờ bị tấn công mới quan tâm đến bảo mật AI

Nhiều doanh nghiệp nhỏ tại Việt Nam đang sử dụng phần mềm mã nguồn mở vì chi phí thấp và dễ triển khai.

Một máy chủ có thể chạy website, hệ thống quản lý khách hàng, công cụ tự động hóa, cơ sở dữ liệu và nhiều ứng dụng AI cùng lúc.

Đây là cách tiết kiệm chi phí hợp lý.

Nhưng nếu không có quy trình quản trị, một lỗ hổng trong ứng dụng nhỏ cũng có thể trở thành cửa ngõ cho toàn bộ hệ thống.

Đặc biệt, nhiều doanh nghiệp triển khai phần mềm theo hướng nhanh chóng đưa lên máy chủ để sử dụng mà không kiểm tra cấu hình bảo mật mặc định.

Một số hệ thống còn để giao diện quản trị hoặc dịch vụ nội bộ có thể truy cập từ Internet công cộng.

Đây là những rủi ro cần được xử lý trước khi đầu tư thêm vào công nghệ mới.

Doanh nghiệp không cần một đội ngũ an ninh mạng hàng chục người để bắt đầu bảo vệ hệ thống. Nhưng cần có những nguyên tắc tối thiểu và thực hiện chúng một cách nhất quán.

Nếu là doanh nghiệp Việt Nam nhỏ và siêu nhỏ, tôi sẽ xây dựng hệ thống bảo mật theo năm lớp

Nếu chỉ có một người quản lý doanh nghiệp và một máy chủ chạy nhiều dịch vụ, tôi sẽ không bắt đầu bằng việc mua những giải pháp bảo mật đắt tiền.

Tôi sẽ ưu tiên kiểm soát những rủi ro có thể gây thiệt hại lớn nhất.

Lớp đầu tiên là kiểm kê toàn bộ phần mềm đang chạy.

Lập danh sách website, ứng dụng, cơ sở dữ liệu, công cụ AI, dịch vụ tự động hóa và phiên bản đang sử dụng.

Đối với mỗi phần mềm, cần biết ai quản lý, đang chạy ở đâu và có được cập nhật thường xuyên hay không.

Đặc biệt, không nên để những ứng dụng thử nghiệm tồn tại lâu dài trên máy chủ sản xuất mà không có người chịu trách nhiệm.

Lớp thứ hai là kiểm soát truy cập.

Không mở tất cả cổng mạng cho Internet.

Chỉ cho phép những dịch vụ thực sự cần thiết hoạt động công khai. Các trang quản trị, cơ sở dữ liệu và công cụ điều phối AI nên được giới hạn truy cập qua mạng riêng hoặc phương thức xác thực phù hợp.

Không sử dụng chung một tài khoản quản trị cho tất cả nhân viên và ứng dụng.

Lớp thứ ba là giới hạn quyền của AI Agent.

Nếu sử dụng AI để đọc dữ liệu, tạo nội dung hoặc vận hành công việc, hãy cấp quyền theo từng nhiệm vụ.

Một tác nhân chỉ cần đọc dữ liệu thì không nên có quyền xóa dữ liệu.

Một tác nhân xử lý nội dung không nên được tự ý thay đổi cấu hình máy chủ.

Những hành động nhạy cảm như xóa dữ liệu, thay đổi quyền truy cập hoặc thực hiện giao dịch cần có sự xác nhận của con người.

Lớp thứ tư là sao lưu và giám sát.

Sao lưu cơ sở dữ liệu và các tệp quan trọng theo lịch cố định.

Không lưu toàn bộ bản sao lưu trên cùng máy chủ với dữ liệu gốc. Nếu máy chủ bị chiếm quyền hoặc mã độc phá hoại, bản sao lưu cũng có thể bị ảnh hưởng.

Theo dõi những thay đổi bất thường trong tệp ứng dụng, tài khoản mới, tiến trình lạ và hoạt động truy cập không bình thường.

Lớp thứ năm là quy trình xử lý sự cố.

Khi phát hiện dấu hiệu xâm nhập, không chỉ đổi mật khẩu rồi tiếp tục vận hành.

Cần cô lập hệ thống có nguy cơ, lưu lại nhật ký, kiểm tra tài khoản và tệp bị thay đổi, xác định phạm vi ảnh hưởng, sau đó mới khôi phục từ nguồn đáng tin cậy.

Đặc biệt, nếu doanh nghiệp xử lý dữ liệu y tế, tài chính hoặc thông tin cá nhân, cần có quy trình xử lý sự cố phù hợp với nghĩa vụ pháp lý liên quan.

Đây là những việc một doanh nghiệp nhỏ hoàn toàn có thể tổ chức thực hiện theo từng bước, không cần đầu tư một hệ thống quá phức tạp ngay từ đầu.

Cuộc phân tách công nghệ Mỹ và Trung Quốc khiến an ninh AI trở thành vấn đề chiến lược

Hoa Kỳ và Trung Quốc đang phát triển các hệ sinh thái AI với những nền tảng, nhà cung cấp và định hướng công nghệ khác nhau.

Khi doanh nghiệp Việt Nam sử dụng nhiều công cụ từ hai hệ sinh thái, vấn đề không chỉ là lựa chọn mô hình nào thông minh hơn hoặc rẻ hơn.

Câu hỏi quan trọng là dữ liệu được gửi đi đâu, ai có quyền truy cập, phần mềm được cập nhật như thế nào và doanh nghiệp có thể tiếp tục hoạt động nếu một nhà cung cấp thay đổi chính sách hay không.

Vụ việc MONAI Label cho thấy rủi ro không nhất thiết đến từ một mô hình AI lớn hoặc một hệ thống đắt tiền.

Nó có thể bắt đầu từ một ứng dụng mã nguồn mở, một tính năng tải tệp và một cấu hình xác thực chưa an toàn.

Doanh nghiệp nên tách dữ liệu quan trọng khỏi các dịch vụ thử nghiệm, kiểm soát quyền truy cập của từng ứng dụng và duy trì khả năng chuyển đổi giữa các nhà cung cấp.

Đặc biệt, không nên mặc định rằng phần mềm mã nguồn mở luôn an toàn chỉ vì mã nguồn được công khai.

Mã nguồn mở giúp cộng đồng có khả năng kiểm tra và cải tiến phần mềm. Nhưng trách nhiệm cập nhật, cấu hình và vận hành an toàn vẫn thuộc về người triển khai.

AI đang thay đổi cả hai phía của cuộc chiến an ninh mạng

Trước đây, doanh nghiệp đầu tư AI để tự động hóa công việc và giảm chi phí vận hành.

Bây giờ, các tổ chức bảo mật phải tính đến khả năng đối thủ cũng sử dụng AI để tự động hóa việc tìm kiếm và khai thác lỗ hổng.

Đây là sự thay đổi về tốc độ.

Một hệ thống có thể mất nhiều tháng để xây dựng, nhưng một điểm yếu trong cấu hình có thể bị phát hiện và khai thác rất nhanh.

Câu chuyện MONAI Label không chứng minh rằng mọi cuộc tấn công đều có thể hoàn thành trong 11 phút. Nhưng nó cho thấy doanh nghiệp không thể tiếp tục dựa vào giả định rằng hacker cần rất nhiều thời gian để tìm ra lỗi.

Trong môi trường mới, khả năng phát hiện sớm, giới hạn quyền truy cập, cập nhật phần mềm và khôi phục sau sự cố trở thành năng lực kinh doanh thiết yếu.

AI không chỉ giúp doanh nghiệp làm việc nhanh hơn. Nó cũng giúp đối thủ tìm ra những sai sót mà doanh nghiệp chưa kịp sửa. Khi tốc độ tấn công được tính bằng phút, bảo mật không còn là công việc để làm sau cùng mà phải trở thành một phần của kiến trúc doanh nghiệp ngay từ đầu.


AI Agent Đang Biến Tấn Công Mạng Thành Cuộc Chạy Đua Tính Bằng Phút

AI Agent, an ninh mạng AI, lỗ hổng Zero-Day, Amazon, MONAI Label, tấn công mạng AI, bảo mật máy chủ, mã nguồn mở, bảo mật dữ liệu, kiểm soát truy cập, hacker AI, bảo mật doanh nghiệp, an toàn phần mềm, chuyển đổi số.