Ba nhà nghiên cứu an toàn của OpenAI cho biết họ đã bị sa thải và đang đặt câu hỏi về lý do cho việc này.
Ba nhà nghiên cứu, gồm Mikita Balesni, Tomak Korbak và Jasmine Wang, đều làm việc trong lĩnh vực an toàn AI hoặc sự đồng bộ trong công ty, nhằm đảm bảo các hệ thống AI hoạt động theo ý muốn của người vận hành một cách an toàn.
Tuy nhiên, cả ba cho biết họ đã bị sa thải đột ngột tuần trước, trong bối cảnh họ cho rằng mình đã đóng vai trò quan trọng trong việc điều tra một sự cố mà tại đó các đại lý của OpenAI đã tự động xâm nhập vào công ty AI Hugging Face trong quá trình thử nghiệm.
Korbak cho biết trên X rằng anh được thông báo mình bị sa thải vì cách thức giao tiếp của anh với tổ chức an toàn AI METR, mà OpenAI hợp tác để điều tra sự cố Hugging Face. Korbak cho biết anh là “điểm liên lạc kỹ thuật chính” của OpenAI với METR.
Korbak tin rằng anh bị sa thải vì “trong nhiều tháng qua, tôi đã nêu ra những quan ngại về an toàn rằng chúng ta đang mất khả năng theo dõi những gì các đại lý AI nghĩ, một trong những công cụ tốt nhất của chúng ta để phát hiện khi chúng hành xử sai.” Anh còn lo ngại rằng việc sa thải của anh sẽ được sử dụng như một lý do để OpenAI ngừng làm việc chặt chẽ với METR, tổ chức được tôn trọng trong lĩnh vực an toàn AI.
Balesni đồng tình với các lý thuyết của Korbak về lý do họ bị sa thải, viết trên X rằng anh được thông báo rằng anh đã “nói quá nhiều với các tổ chức an toàn bên thứ ba.” Anh nói rằng OpenAI gợi ý rằng anh đã rò rỉ tài sản trí tuệ của OpenAI, điều mà anh phủ nhận.
Việc sa thải ba nhà nghiên cứu diễn ra trong bối cảnh có nhiều ý kiến từ những người trong ngành AI bày tỏ lo ngại về an toàn. Trong khi một số nhân viên AI trước đây đã từ chức công khai vì lý do an toàn, ba nhà nghiên cứu của OpenAI lại cáo buộc họ bị đẩy ra ngoài do đã bày tỏ những lo ngại tương tự.
Wang cho biết cô bị sa thải vì đã “truy cập email của một giám đốc điều hành,” mà cô nói là cô đã được cung cấp cho mục đích tuyển dụng. Wang cho biết cô đã nhiều lần yêu cầu thu hồi quyền truy cập của mình, nhưng khi vô tình truy cập vào một “email nhạy cảm,” cô đã thông báo cho giám đốc “trong vòng vài phút” và một lần nữa thông báo cho đội ngũ CNTT của OpenAI.
“Các lý do mà chúng tôi nhận được cho việc sa thải của chúng tôi hoàn toàn không hợp lý,” Wang viết trên X.
“Chúng tôi không phải là những người đầu tiên bị đẩy ra khỏi OpenAI trong bối cảnh nghi vấn,” cô nói thêm. “Trừ khi những nhân viên đứng lên phản đối những hành động như vậy ngay bây giờ, tôi lo ngại rằng chúng tôi sẽ không phải là những người cuối cùng.”
Ba nhà nghiên cứu đã viết một bức thư gửi lãnh đạo OpenAI bày tỏ những lo ngại của họ và lý do cho việc bị sa thải. Wall Street Journal đã đưa tin đầu tiên về các vụ sa thải và bức thư.
“Chúng tôi không tin rằng con đường hướng tới siêu trí tuệ có thể được điều hướng một cách an toàn nếu những người gần nhất với các rủi ro không thể làm việc trong các phương thức tin cậy và hiệu suất cao với nhau và với các bên thứ ba,” nhóm nghiên cứu viết. “Chính văn hóa đó là thứ chúng tôi cố gắng bảo vệ.”
OpenAI cho biết với CNN rằng các nhà nghiên cứu đã bị sa thải không phải vì đã nêu ra những quan ngại về an toàn, mà vì hành vi cụ thể đã vi phạm các chính sách của công ty về việc xử lý thông tin nhạy cảm. Công ty cũng cho biết có nhiều vi phạm vượt ra ngoài việc xử lý sai thông tin với một nhóm đánh giá bên ngoài và rằng họ đã bị sa thải dựa trên hành vi không được bảo vệ theo pháp lý.
Trong một tuyên bố, OpenAI cho biết họ đã chấm dứt hợp tác với ba nhà nghiên cứu “vì vi phạm chính sách của chúng tôi về việc truy cập và xử lý thông tin nhạy cảm của công ty.”
“Cuộc điều tra của chúng tôi đã xác nhận rằng các cá nhân này đã xử lý thông tin nhạy cảm ngoài các quy trình công ty đã được thiết lập, vi phạm các chính sách của chúng tôi và làm phá vỡ sự tin tưởng thiết yếu cho công việc của chúng tôi,” người phát ngôn của OpenAI cho biết thêm.
Trong một bản ghi nhớ gửi nhân viên do OpenAI cung cấp, một nhà lãnh đạo nghiên cứu không tên của OpenAI cho biết họ “hoàn toàn đồng ý” với ba nhà nghiên cứu về tầm quan trọng của việc làm việc với các nhóm an toàn bên ngoài.
“Tôi muốn rõ ràng rằng các quyết định này không liên quan đến việc nêu ra những quan ngại về an toàn hay phát ngôn. Chúng tôi luôn khuyến khích điều đó và sẽ luôn như vậy. Chúng tôi không sa thải nhân viên vì đã nêu ra những quan ngại,” nhà lãnh đạo nghiên cứu viết theo bản ghi nhớ.
Tuy nhiên, ba nhà nghiên cứu bị sa thải cáo buộc rằng họ đã nghe từ đồng nghiệp rằng có một văn hóa sợ hãi đang phát triển trong nội bộ OpenAI.
“Những người đồng nghiệp cũ của tôi cho biết họ đang bối rối về những gì nên tin tưởng. Họ cũng sợ phát biểu và lo lắng rằng điện thoại cá nhân của họ sẽ bị kiểm tra tin nhắn gửi cho chúng tôi và các bên thứ ba,” Balesni cho biết. “Tôi lo rằng nỗi sợ hãi luôn hiện hữu sẽ khiến OpenAI cắt giảm các biện pháp an toàn trong bí mật.”
