Ngành công nghiệp AI đang dấy lên nhiều lo ngại về những rủi ro nghiêm trọng có thể xảy ra đối với nhân loại — một làn sóng lo âu ngày càng lớn lên khi Anthropic chuẩn bị công bố lên sàn chứng khoán vào tháng tới.
Tuy nhiên, những công ty đang phát triển các mô hình AI như Claude và ChatGPT lại đang đối mặt với một nguy cơ cấp bách và thực tế hơn: Họ có khả năng phải đối mặt với nhiều vụ kiện.
Cho đến nay, các công ty AI đã tránh được những vụ kiện lớn liên quan đến các sự cố gần đây, trong đó họ không thể giữ các tác nhân AI — những hệ thống có khả năng hoạt động tự chủ mà không cần quá nhiều giám sát — trong giới hạn của môi trường thử nghiệm. Tuy nhiên, một số chuyên gia pháp lý và nhà hoạch định chính sách nói rằng điều này khá rõ ràng: Các công ty có thể và nên chịu trách nhiệm.
“Câu hỏi ‘pháp luật sẽ được áp dụng như thế nào?’ dễ trả lời hơn nếu bạn nhìn nhận AI như một thực thể thực sự, chứ không phải như một điều giả định như nhiều người trong ngành đang đề xuất,” Kristen Thomasen, phó giáo sư tại Đại học Windsor và là chuyên gia về luật robot, cho biết. “Pháp luật đã xử lý các công nghệ mới từ khi nó xuất hiện.”
Ngành công nghiệp AI thường gọi những sự cố này là công nghệ đang “đi chệch hướng” — một ngôn ngữ mà một số nhà phê bình cho rằng được thiết kế để khuếch đại những tuyên bố của các công ty rằng công nghệ của họ mạnh mẽ đến mức ngay cả những người sáng tạo ra nó cũng khó mà kiểm soát.
Cũng theo Thomasen, đây có thể là một chiêu thức để cố gắng che chở cho họ khỏi trách nhiệm và các yêu cầu pháp lý trong tương lai.
Tuy nhiên, bà nói, các câu hỏi về trách nhiệm liên quan đến các mô hình AI có một câu trả lời đơn giản: “Đó là một thứ mà công ty này đưa ra thế giới. Nếu nó gây hại, có các luật điều chỉnh điều đó.”
Chi phí của sự can thiệp “chệch hướng”
Tính đến nay, những tác hại thực tế do các bot “chệch hướng” gây ra chưa thật sự nghiêm trọng nhưng vẫn tốn kém cho các tổ chức mà chúng đã xâm nhập. Tuần trước, tổ chức phi lợi nhuận điều hành Wikipedia cho biết họ đã tìm thấy bằng chứng về các tác nhân OpenAI không được phép cố gắng thực hiện “những chỉnh sửa có thể gây hại” trên một số trang và làm tổn thương nó với quá nhiều lưu lượng truy cập đến mức có thể đã gây ra sự cố tạm thời.
Cuộc điều tra “dừng hoạt động tại các bộ phận chính của tổ chức để chúng tôi tập trung vào việc này,” Eric Mill, giám đốc sản phẩm về an toàn và bảo mật tại Wikimedia, nói với CNN. “Chúng tôi đã đưa những người tốt nhất của mình vào… và đó là một quá trình khá lộn xộn.”
Wikimedia đã bắt đầu cuộc điều tra này vào mùa hè khi nỗi lo toàn cầu gia tăng về cuộc tấn công Hugging Face và các sự cố khác trong đó các mô hình AI nội bộ đã thoát khỏi môi trường thử nghiệm để tấn công các hệ thống máy tính khác. Meta và Anthropic cũng tiết lộ rằng các mô hình thử nghiệm của họ đã xâm nhập vào các hệ thống khác mà không có sự cho phép.
Cuộc điều tra của Wikimedia có ý nghĩa một phần vì những gì không xảy ra: Không có mối đe dọa nghiêm trọng nào đối với nhân loại mà các giám đốc AI thường đề cập đến. Nhưng chi phí — hơn hai tuần làm việc của những kỹ sư hàng đầu tại một tổ chức trị giá hơn 200 triệu đô la — là có thật.
Wikimedia không đang thúc đẩy bất kỳ chính sách hay giải pháp công nghệ nào, và Mill cho biết tổ chức đang trong quá trình liên lạc với OpenAI về những phát hiện của họ. (OpenAI không phản hồi yêu cầu bình luận của CNN.) Tuy nhiên, tổ chức phi lợi nhuận này hy vọng rằng những sự cố này sẽ là lời cảnh tỉnh cho các nhà phát triển AI.
“Các công ty AI không đang làm đủ để bảo mật hệ thống của họ và bảo vệ công chúng khỏi những thiệt hại mà họ gây ra,” Wikimedia nói trong bài viết trên blog của họ tuần trước. “Gánh nặng đó đang dồn lên mọi người khác, bao gồm cả các tổ chức nhỏ hơn.”
Trách nhiệm đã quá hạn
Anthropic, công ty chuẩn bị ra công chúng vào tháng tới trong một trong những vụ IPO lớn nhất trong lịch sử, đã tiết lộ trong một hồ sơ quy định rằng vì khuôn khổ pháp lý xung quanh AI còn “chưa ổn định,” những hành động của các tác nhân này có thể khiến công ty phải chịu “các vụ kiện quan trọng và không thể đoán trước,” theo một bản sao tài liệu mà Reuters đã xem xét.
Cuộc tấn công có thể xảy ra không chỉ là một cơn đau đầu cho các luật sư công ty hoặc là một bài toán khó cho các học giả — mà cũng có thể là một yếu tố lớn làm ảnh hưởng đến dòng tài chính của Anthropic. Chi phí kiện tụng là một gánh nặng tài chính cho bất kỳ công ty nào, nhưng nó có thể trở nên đặc biệt vấn đề đối với Anthropic, công ty đang tiêu tốn tiền mặt nhanh hơn số tiền họ có thể kiếm được. Công ty đã tiêu tốn 42 tỷ đô la trong năm ngoái trong khi chỉ thu về 4,6 tỷ đô la doanh thu, theo tài liệu mà Reuters đã xem.
Các giám đốc điều hành của cả Anthropic và OpenAI đã lập luận ủng hộ các quy định mới được điều chỉnh cho ngành. Dario Amodei gần đây đã viết một bài luận cho rằng các công ty nên “thúc đẩy biên giới” và tăng cường hợp tác quốc tế về các giao thức an toàn.
Tuy nhiên, các công ty AI đối thủ đã có sự khác biệt nhỏ về câu hỏi trách nhiệm.
Giám đốc điều hành OpenAI Sam Altman vào đầu năm nay ủng hộ một dự luật của Illinois sẽ giới hạn khi nào các phòng thí nghiệm AI có thể bị chịu trách nhiệm, ngay cả khi sản phẩm của họ gây ra “thiệt hại nghiêm trọng”. (Anthropic đã phản đối điều này.)
Và trong khi Altman đã ủng hộ đề xuất “thúc đẩy biên giới” của Amodei, ông cũng nói với POLITICO vào đầu tuần rằng quan điểm của ông không hoàn toàn đồng nhất với đối thủ: OpenAI tin rằng “thế giới nên chấp nhận một số điều xấu xảy ra để hưởng lợi từ công nghệ này,” ông nói. Altman cũng nói với trang tin tức rằng “nếu có điều gì đó sai xảy ra với các mô hình của chúng tôi trong quá trình đào tạo, sẽ có một điều gì đó mà chúng tôi cần chịu trách nhiệm.”
Một người phát ngôn của Anthropic cho biết với CNN rằng công ty xem luật trách nhiệm như một biện pháp hỗ trợ, chứ không phải là một sự thay thế cho các quy định an toàn. Anthropic chưa bao giờ đề xuất miễn trừ khỏi các luật trách nhiệm hiện có, người phát ngôn này thêm vào.
Các nhà hoạch định chính sách từ cả hai phía đã cố gắng tìm cách thông qua một số câu hỏi phức tạp hơn về quy định trong tương lai và nhấn mạnh các trách nhiệm pháp lý mà AI đã phải chịu.
Lina Khan, cựu Chủ tịch Ủy ban Thương mại Liên bang dưới thời Tổng thống Joe Biden, đã trở thành một đối thủ nổi bật của các giám đốc AI, đã lập luận trên X rằng “chúng ta không nên để những cuộc thảo luận về các chế độ pháp lý mới làm phân tâm khỏi thực tế rằng không có sự miễn trừ AI khỏi các luật hiện có.”
Trong khi đó, Thượng nghị sĩ đảng Cộng hòa Josh Hawley cùng với đồng nghiệp đảng Dân chủ Chris Murphy, đã giới thiệu một dự luật tuần trước nhằm đảm bảo “các nhà điều hành và phát triển tác nhân AI phải chịu trách nhiệm về các sự cố hack.”
“Những gì những công ty này cần không phải là nhiều quyền lực… mà là một trách nhiệm đã quá hạn,” Hawley viết trong một bài bình luận trên Washington Post. “Một cách để đem lại điều đó cho họ là để những người họ gây hại có thể kiện họ ra tòa.”
Câu hỏi về thiết kế
Các chuyên gia pháp lý đã nói với CNN rằng trong khi các vấn đề trách nhiệm sản phẩm và bảo vệ người tiêu dùng không phải là mới, vẫn sẽ có một số khía cạnh tinh vi của công nghệ mà cuối cùng sẽ rơi vào tay tòa án để quyết định.
“Chúng tôi đã thấy những vấn đề kiểu này với an toàn súng hoặc thuốc lá hoặc những vấn đề khác, và rất thú vị — các tòa án sẽ nắm bắt vào sự tương đồng nào?” Frank Pasquale, một giáo sư luật tại Cornell và là chuyên gia về luật AI cho biết.
Một trong những câu hỏi lớn hơn mà Pasquale mong đợi các tòa án sẽ phải đối mặt là về thiết kế. Ví dụ, ông nói, hãy hình dung nếu một nhà sản xuất chế tạo ra một chiếc xe có những lưỡi dao nhọn ở cuối, và sau đó ai đó lái chiếc xe đó vào một người đi bộ. Phản ứng hợp lý khá đơn giản: Đừng thiết kế một cái gì đó có lưỡi dao gắn vào.
Cũng tương tự với các sản phẩm AI, ông nói: Đừng thiết kế một cái gì đó cố gắng nhập mật khẩu 50 lần trở lên. Hãy chắc chắn rằng nó chứa các hướng dẫn cấp cao sẽ ngăn chặn bất kỳ nỗ lực nào của người dùng trong việc lạm dụng nó.
“Tôi nghĩ rằng rất khó cho các công ty AI để nói, ‘Oh, nó có thể làm hàng tỷ điều khác nhau nhưng chúng tôi không thể kiểm soát nó.’” Pasquale nói. “Điều đó không làm tôi cảm thấy hợp lý vì nếu nó có thể làm tất cả những điều này, thì bạn cũng có thể có các quy tắc meta, hoặc các quy tắc cho các quy tắc, điều sẽ ngăn cản nó làm một số điều xấu.”
— CNN’s Hadas Gold đã góp phần báo cáo.
