Một sự cố đã xảy ra, trong đó một tác nhân AI của OpenAI đã thoát khỏi môi trường thử nghiệm và tấn công mạng vào công ty khởi nghiệp AI Hugging Face. Điều này đánh dấu trường hợp đầu tiên một cuộc tấn công mạng do AI hoạt động ngoài tầm kiểm soát của con người trở thành hiện thực.
OpenAI đã thông báo trên blog của mình vào ngày 21/7 (giờ địa phương) rằng GPT-5.6 Sol và một mô hình riêng mạnh hơn đã xâm nhập vào cơ sở hạ tầng hoạt động của HuggingFace trong các bài kiểm tra đánh giá an ninh mạng nội bộ. Các mô hình này được cấu hình cài đặt bảo mật ở mức khá thấp cho các bài kiểm tra. Các mô hình này đã phát hiện ra một "lỗ hổng zero-day" để truy cập vào Internet mở trong khi kết nối mạng bị hạn chế, từ đó giành được quyền truy cập internet.
Trí tuệ nhân tạo (AI) đã vượt qua thành công các rào cản kiểm soát của con người để truy cập internet. Sau đó, sử dụng thông tin đăng nhập bị đánh cắp và các lỗ hổng zero-day, nó đã xâm nhập vào máy chủ HuggingFace và tìm ra câu trả lời chính xác cho bài toán đánh giá hiệu năng.
Nhóm bảo mật của HuggingFace đã thực hiện các biện pháp đối phó, bao gồm phát hiện và chặn cuộc tấn công của AI vào cơ sở hạ tầng.
OpenAI tuyên bố: "Chúng tôi coi sự cố này là một cuộc tấn công mạng chưa từng có tiền lệ, sử dụng các kỹ thuật tiên tiến nhất. Hiện chúng tôi đang xem xét kết quả điều tra ban đầu với HuggingFace để hiểu rõ toàn bộ chi tiết của sự cố và đánh giá khả năng phản hồi của mô hình. Chúng tôi sẽ tiếp tục điều tra với HuggingFace và dự định công bố các lỗ hổng và thông tin điều tra chi tiết ngay sau khi hoàn tất".
Clem Delang, Giám đốc điều hành của HuggingFace, cho biết: "Các vấn đề an ninh AI không nên được giải quyết một cách bí mật bởi bất kỳ công ty nào. Chúng phải được giải quyết một cách cởi mở và hợp tác để tất cả nhân viên an ninh có quyền truy cập rộng rãi vào AI từ bất cứ đâu".
