Vụ AI tự tấn công mạng báo hiệu ngưỡng rủi ro mới

Thoạt nhìn, đây giống một kịch bản khoa học viễn tưởng. Nhưng điều khiến giới công nghệ lo ngại không phải việc AI có thể thực hiện một cuộc tấn công mạng, bởi khả năng phát hiện và khai thác lỗ hổng của các mô hình tiên tiến đã được dự báo từ lâu.

Điểm đáng chú ý là lần đầu tiên một hệ thống AI gần như tự triển khai toàn bộ chuỗi hành động để đạt mục tiêu, từ khai thác lỗ hổng, vượt khỏi giới hạn của môi trường thử nghiệm, kết nối Internet, đến xác định mục tiêu rồi tự xây dựng một cuộc tấn công nhiều bước mà không cần con người chỉ dẫn từng thao tác.

Trong quá trình đánh giá năng lực an ninh mạng, OpenAI đã tạm thời gỡ bỏ một số cơ chế bảo vệ đối với hai mô hình, trong đó có GPT-5.6 Sol và một hệ thống mạnh hơn chưa được công bố. Các mô hình được đặt trong một "sandbox" nhằm ngăn kết nối với Internet. Tuy nhiên, chúng đã khai thác một lỗ hổng chưa từng được phát hiện để vượt khỏi giới hạn đó, suy luận rằng Hugging Face có thể lưu giữ dữ liệu phục vụ bài kiểm tra và từ đó đánh cắp thông tin đăng nhập để tiếp cận các máy chủ nội bộ.

Điều đáng lưu ý là AI không được giao nhiệm vụ tấn công Hugging Face, mà đơn thuần chỉ được giao hoàn thành một bài đánh giá. Nhưng trong quá trình tối ưu hóa mục tiêu, hệ thống đã tự lựa chọn một con đường nằm ngoài dự liệu của những người vận hành.

Đó mới là ngưỡng rủi ro mà ngành AI đang bước tới. Các mô hình mới không còn chỉ trả lời câu hỏi như chatbot trước đây mà có thể tự lập kế hoạch, sử dụng công cụ và vượt qua trở ngại để hoàn thành nhiệm vụ. Càng được trao nhiều quyền tự chủ, chúng càng hữu ích, nhưng cũng càng khó dự đoán.

Điều này không có nghĩa AI đã có ý thức hay "muốn nổi loạn". Nhiều chuyên gia cho rằng cách diễn đạt đó dễ làm mờ trách nhiệm của con người. Chính con người đã gỡ bỏ các rào cản an toàn, thiết kế môi trường thử nghiệm chưa đủ kín và đặt ra mục tiêu khiến mô hình tìm mọi cách để hoàn thành nhiệm vụ.

Tuy nhiên, việc AI không có chủ ý theo nghĩa con người không khiến rủi ro nhỏ đi. Trái lại, nó cho thấy một hệ thống có thể gây hậu quả nghiêm trọng chỉ vì được tối ưu hóa quá hiệu quả cho một mục tiêu nhất định. AI không cần được dạy phải vi phạm quy tắc; chỉ cần được huấn luyện để không từ bỏ mục tiêu trong khi các giới hạn an toàn chưa đủ chặt chẽ.

Sự cố cũng phản ánh sức ép từ cuộc đua giữa OpenAI, Anthropic, Google và nhiều doanh nghiệp khác nhằm phát triển các mô hình AI chuyên về an ninh mạng. Sau vụ việc, OpenAI cho biết đã phải siết chặt cấu hình hạ tầng, chấp nhận làm chậm tốc độ nghiên cứu để đổi lấy mức độ an toàn cao hơn. Điều này cho thấy bài toán an toàn không chỉ là vấn đề kỹ thuật mà còn trực tiếp xung đột với áp lực cạnh tranh.

Đáng chú ý, đây không hoàn toàn là một sự cố bất ngờ. Một số thử nghiệm trước đó đã cho thấy các mô hình AI có thể tìm cách vượt khỏi môi trường kiểm soát hoặc thực hiện những hành động ngoài dự tính. Vì vậy, câu hỏi đặt ra không chỉ là liệu rủi ro có thể dự báo hay không, mà còn là các cảnh báo trước đó đã được xử lý đầy đủ hay chưa.

Vụ việc cũng mở ra một cuộc tranh luận khác. Hugging Face cho biết đã sử dụng một mô hình AI nguồn mở của Trung Quốc để hỗ trợ phân tích cuộc tấn công, trong khi một số mô hình thương mại của Mỹ từ chối xử lý dữ liệu nhạy cảm do các cơ chế bảo vệ được cài đặt sẵn. Điều đó cho thấy khi AI có thể tiến hành tấn công với tốc độ rất cao, bên phòng thủ cũng cần được tiếp cận nhanh những công cụ đủ mạnh để ứng phó.

Khoảng trống pháp lý càng khiến vấn đề trở nên phức tạp, khi xét tới phần lớn luật an ninh mạng hiện nay đều dựa trên giả định rằng một con người cố ý xâm nhập hệ thống máy tính. Nhưng nếu AI tự lựa chọn cách thức tấn công để hoàn thành một mục tiêu khác, trách nhiệm sẽ thuộc về ai, cụ thể là nhà phát triển, nhóm vận hành hay đơn vị sở hữu hạ tầng?

Đặc biệt, các quy định hiện nay chủ yếu tập trung vào sản phẩm đã phát hành, trong khi những mô hình đang thử nghiệm nội bộ - vốn có năng lực mạnh hơn và ít bị giới hạn hơn - lại hầu như chưa chịu các yêu cầu minh bạch tương xứng.

Sự cố tại Hugging Face chưa phải kịch bản AI chiếm quyền kiểm soát thế giới. Hệ thống không tìm cách thống trị con người mà chỉ "gian lận" để hoàn thành bài kiểm tra. Nhưng chính sự bình thường của mục tiêu lại khiến vụ việc trở nên đáng lo ngại hơn.

AI không cần có tham vọng lớn để gây ra hậu quả lớn, nó chỉ cần được giao một mục tiêu đủ hẹp, được trao đủ năng lực và hoạt động trong một hệ thống kiểm soát có kẽ hở.

Vụ việc tại Hugging Face chưa phải là bằng chứng cho thấy AI đã vượt khỏi sự kiểm soát của con người. Tuy nhiên, nó phơi bày một vấn đề đáng lo ngại khi khoảng cách giữa mục tiêu con người giao cho AI và cách hệ thống này tự lựa chọn để đạt mục tiêu ấy đang ngày càng lớn.

Nếu xu hướng này tiếp diễn, đây có thể trở thành thách thức cốt lõi của kỷ nguyên AI tự hành.