OpenAI đang tiết lộ những biện pháp bảo mật mạnh mẽ hơn cho quá trình đào tạo và kiểm tra của mình trong bối cảnh các khả năng mới của mô hình và một loạt sự cố mà hệ thống trí tuệ nhân tạo đã hack vào các công ty khác.
Công ty lần đầu tiên tiết lộ vào tháng 7 rằng trong một kỳ thi an ninh mạng, sự kết hợp của các tác nhân AI cùng với các biện pháp bảo vệ nội bộ đã cố tình giảm bớt rủi ro và thoát khỏi môi trường thử nghiệm thông qua một lỗi chưa được biết đến trước đó. Các tác nhân quyết định cách tốt nhất để vượt qua bài kiểm tra là tìm câu trả lời bên ngoài môi trường thử nghiệm. Vì vậy, họ đã hack vào hệ thống của Hugging Face, một nền tảng lưu trữ các mô hình và bộ dữ liệu AI, để tìm câu trả lời.
Người sáng tạo ChatGPT cho biết họ đang tăng cường môi trường nghiên cứu và thử nghiệm của mình như một kết quả, mở rộng giám sát để phát hiện và phản ứng với hành vi AI đáng ngờ. OpenAI cũng đang làm việc để đảm bảo các hệ thống AI hoạt động theo ý muốn của con người, một quá trình được gọi là căn chỉnh.
“Mọi thứ mà chúng tôi đang làm đều nhằm ngăn chặn những điều như Hugging Face xảy ra lần nữa,” Mia Glaese, người đứng đầu nghiên cứu của OpenAI, cho biết với các phóng viên trong một cuộc họp báo vào thứ Ba.
Cuộc tấn công này được coi là một bước ngoặt trong lĩnh vực an ninh mạng tự động hóa do AI điều khiển. Giám đốc điều hành OpenAI, Sam Altman, cho biết vào tháng 7 rằng đây là “sự cố an ninh đầu tiên mà tôi cảm nhận rất rõ ràng” và đã thúc đẩy hơn 1.300 nhân viên hàng đầu từ các công ty công nghệ lớn nhất đồng kêu gọi các công cụ để làm chậm tiến trình phát triển AI.
OpenAI cho biết các biện pháp bảo vệ mới cũng được truyền cảm hứng từ mô hình mới nhất của họ, Astra. Công ty gần đây đã tạm ngừng một số công việc trên mô hình sau khi nhận thấy mô hình này có khả năng thực hiện các cuộc tấn công mạng tự động.
Một trong những cách chính mà các tác nhân của OpenAI có thể thoát khỏi môi trường thử nghiệm của họ là vì một nhà cung cấp phần mềm bên thứ ba đã có một lỗi chưa được biết đến mà các tác nhân đã khai thác. Bây giờ, OpenAI cho biết họ sẽ “nâng cao tiêu chuẩn bảo mật” cho các môi trường thử nghiệm AI, bao gồm cả việc cách ly mạnh mẽ hơn, “để một sự thỏa hiệp đơn lẻ của một khối công việc hoặc dịch vụ hỗ trợ không cho phép quyền truy cập không hợp lệ” ra bên ngoài sandbox được phép.
Các tác nhân của OpenAI cũng đã hoạt động mà không bị phát hiện trong một khoảng thời gian, bắt đầu quá trình thoát khỏi môi trường vào tháng 5. Công ty hiện cho biết họ đã phát triển một hệ thống giám sát sẽ “cung cấp cảnh báo trong vòng 30 phút sau khi phát hiện hoạt động đáng ngờ.”
Công ty cũng cho biết họ đang làm nhiều hơn để đào tạo các mô hình AI phù hợp với những gì con người thực sự muốn chúng làm – trong nhiều trường hợp, các tác nhân AI đã thực hiện các hành động không được ủy quyền mà các người thử nghiệm không mong muốn.
OpenAI cho biết họ đang cải thiện quá trình đào tạo căn chỉnh mô hình, bao gồm việc thưởng cho “các mô hình để phát hiện và ngăn ngừa hành vi không an toàn trên các nhiệm vụ và môi trường; đào tạo các mô hình để trung thực hơn về hành động, khả năng và hạn chế của chúng; và giảm thiểu các hành vi khai thác điểm yếu trong hệ thống thưởng, người chấm điểm, công cụ hoặc giám sát.”
Việc giám sát tăng cường có một cái giá: Công ty cho biết họ ước tính chi phí giám sát sẽ tốn khoảng 20% hơn so với công suất máy tính mà mô hình cần thiết.
“Chúng tôi thực sự cam kết đáp ứng các tiêu chuẩn an toàn cao hơn khi các khả năng tiến bộ, ngay cả khi điều đó ảnh hưởng đến tốc độ phát triển nội bộ của chúng tôi,” Glaese nói.
