Startup trò chuyện trí tuệ nhân tạo Character.ai— đã phải đối mặt với một loạt các cáo buộc rằng ứng dụng của họ góp phần gây ra những vấn đề sức khỏe tâm thần và tự tử ở thanh thiếu niên — đã chính thức nộp đơn xin phá sản theo Chương 11.
Character.ai cho phép người dùng trò chuyện với nhiều chatbot, thường được mô phỏng theo các nhân vật nổi tiếng và nhân vật hư cấu, hoặc tạo ra chatbot riêng của mình. Các bot của họ thường phản hồi với những tín hiệu trò chuyện giống người, thêm các tham chiếu về biểu cảm khuôn mặt hoặc cử chỉ vào câu trả lời của chúng.
Công ty cho biết họ dự định tìm kiếm việc bán tài sản dưới sự giám sát của tòa án vào cuối năm nay với hy vọng duy trì hoạt động của nền tảng lâu dài.
Công ty Disney đã chính thức đề xuất mua tài sản của Character.ai, đồng ý trả 20 triệu USD cho một số tài sản trí tuệ của công ty và cung cấp dịch vụ chuyển giao thông qua các cựu nhân viên của Character.ai mà họ đã tuyển dụng. Thỏa thuận này sẽ cho phép Character.ai duy trì nền tảng của mình ít nhất trong suốt quá trình phá sản. Karandeep Anand, người được bổ nhiệm làm Giám đốc điều hành của Character.ai vào năm ngoái để cải thiện danh tiếng về độ an toàn của công ty, đã gia nhập Disney với vai trò Giám đốc Công nghệ vào tháng trước.
Các cựu nhân viên AI của Google, Noam Shazeer và Daniel de Freitas, đã thành lập Character.ai vào năm 2021. Cả hai nhà sáng lập đều đã trở lại Google. Trong chưa đầy một năm, công ty cho biết đã đạt được mức định giá 1 tỷ USD, sau vòng gọi vốn 150 triệu USD.
Character.ai có giữa 50 triệu và 100 triệu USD tài sản, theo hồ sơ phá sản của công ty.
Vào năm 2024, giữa những lo ngại ngày càng tăng về sự phụ thuộc của con người vào chatbot AI, bà mẹ ở Florida, Megan Garcia đã kiện Character.ai, cáo buộc rằng nền tảng này có liên quan đến cái chết tự tử của con trai bà, Sewell Setzer III, 14 tuổi. Các gia đình khác cũng đã đệ đơn hàng loạt vụ kiện khác, cáo buộc nền tảng này đã cung cấp nội dung không phù hợp cho trẻ em của họ hoặc khuyến khích hành vi tự sát, tự làm tổn thương hoặc bạo lực. Character.ai đã đồng ý dàn xếp năm vụ án, bao gồm cả vụ của Garcia, vào đầu năm nay.
Matthew Bergman, người sáng lập Trung tâm Luật Nạn nhân Mạng xã hội, đại diện cho một số gia đình đã kiện Character.ai, từ chối bình luận về việc nộp đơn phá sản.
Character.ai đã thực hiện một loạt các thay đổi về an toàn sau các vụ kiện, bao gồm thêm các thông báo hướng dẫn người dùng đến các nguồn lực về sức khỏe tâm thần. Họ cũng đã chặn người dùng dưới 18 tuổi tham gia vào các cuộc trò chuyện qua lại với bot, thay vào đó chỉ cho phép họ tạo ra các câu chuyện hoặc video một lần.
Công ty cũng đã phải đối mặt với một cuộc điều tra về các thực hành an toàn của mình bởi các Thượng nghị sĩ Đảng Dân chủ vào năm ngoái, cùng với các ứng dụng “bạn đồng hành” AI khác. Character.ai cũng đang trong cuộc cạnh tranh với các chatbot từ những công ty lớn hơn nhiều, chẳng hạn như ChatGPT và Gemini của Google.
Khi Anand tiếp quản vị trí Giám đốc điều hành của công ty lúc đó đang có 70 nhân viên vào năm ngoái, ông cho biết với CNN rằng ông nhìn thấy một tương lai cho công ty trong lĩnh vực giải trí AI tương tác, cá nhân hóa — nơi người dùng có thể cùng sáng tạo các câu chuyện và cuộc trò chuyện với các nhân vật AI để giải trí. Ông nói với CNN vào thời điểm đó rằng công ty đang “gấp đôi đầu tư vào giải trí, gấp đôi đầu tư vào độ tin cậy và an toàn.”
Character.ai cho biết nếu việc bán tài sản không hoàn tất, nền tảng này sẽ bị “giải thể.”
“Trong năm qua, Character.ai đã thực hiện nhiều bước quan trọng để duy trì và cải thiện hoạt động kinh doanh của mình trước những thách thức pháp lý, quy định và hoạt động đáng kể,” Colin Adams, Giám đốc điều hành của Character.AI, cho biết trong một tuyên bố, thêm rằng ban giám đốc của công ty đã xem xét các tùy chọn của mình và “xác định rằng quy trình bán hàng dưới sự giám sát của tòa án này cung cấp cho công ty cơ hội tốt nhất để tối đa hóa giá trị cho tất cả các bên liên quan.”
