Tập đoàn Meta vừa thông báo tạm dừng việc cho phép thiếu niên sử dụng các nhân vật AI trên toàn cầu thông qua các ứng dụng của mình. Công ty cho biết họ không từ bỏ tham vọng phát triển, mà thay vào đó sẽ xây dựng một phiên bản AI đặc biệt dành riêng cho lứa tuổi thiếu niên. Thông tin này được TechCrunch độc quyền đăng tải.
Quyết định này được đưa ra chỉ vài ngày trước khi một vụ kiện chống lại Meta dự kiến sẽ được đưa ra xét xử tại New Mexico. Meta bị cáo buộc đã không nỗ lực đủ để bảo vệ trẻ em khỏi bị xâm hại tình dục trên các ứng dụng của mình. Ngoài ra, Meta cũng đang đối mặt với một phiên tòa khác vào tuần tới, với cáo buộc gây nghiện mạng xã hội.
Trước đó, vào tháng 10, Meta đã tung ra các tính năng kiểm soát của phụ huynh, tập trung vào việc điều chỉnh trải nghiệm của thanh thiếu niên khi tương tác với AI trên các ứng dụng của mình. Các tính năng này hạn chế quyền truy cập của thanh thiếu niên vào một số chủ đề nhất định như bạo lực cực đoan, khỏa thân và sử dụng ma túy. Meta cho biết họ đã nhận được phản hồi từ các bậc phụ huynh, bày tỏ mong muốn được kiểm soát nhiều hơn đối với việc con cái họ tương tác với các nhân vật AI. Do đó, Meta đã quyết định tạm dừng quyền truy cập vào các nhân vật AI cho đến khi phiên bản mới được hoàn thiện.
Meta cho biết, khi các nhân vật AI mới dành riêng cho thanh thiếu niên được ra mắt, chúng sẽ có các công cụ kiểm soát của phụ huynh được tích hợp sẵn. Các nhân vật này sẽ đưa ra các phản hồi phù hợp với lứa tuổi và tập trung vào các chủ đề như giáo dục, thể thao và sở thích.
Các công ty truyền thông xã hội đang chịu sự giám sát chặt chẽ từ các nhà quản lý. Trong khi đó, các công ty AI cũng phải điều chỉnh trải nghiệm của mình cho thanh thiếu niên sau khi phải đối mặt với các vụ kiện cáo buộc có vai trò trong việc hỗ trợ tự gây hại.
Theo TechCrunch.
