Một phán quyết quan trọng chống lại Meta và Google trong một phiên tòa xét xử về chứng nghiện mạng xã hội có thể mở rộng trách nhiệm pháp lý của các nền tảng đối với nội dung thù địch.
Vụ án tập trung vào một phụ nữ California 20 tuổi, được xác định là K.G.M., người đã cáo buộc các nền tảng đã thúc đẩy việc sử dụng gây nghiện khi còn ở tuổi vị thành niên và góp phần vào chứng trầm cảm cũng như ý nghĩ tự tử của cô ấy thông qua thiết kế tập trung vào tương tác.
Các công ty đã phủ nhận hành vi sai trái, viện dẫn các công cụ an toàn và kiểm soát của phụ huynh.
Meta cho biết trong một tuyên bố với Fox News Digital: “Chúng tôi tôn trọng không đồng ý với những phán quyết này và sẽ kháng cáo. Việc quy kết một vấn đề phức tạp như sức khỏe tâm thần của thanh thiếu niên vào một nguyên nhân duy nhất có nguy cơ bỏ sót nhiều vấn đề rộng lớn hơn mà thanh thiếu niên phải đối mặt ngày nay và bỏ qua thực tế là nhiều thanh thiếu niên dựa vào các cộng đồng kỹ thuật số để kết nối và tìm kiếm sự thuộc về. Chúng tôi vẫn cam kết xây dựng môi trường an toàn, hỗ trợ cho những người trẻ tuổi và sẽ bảo vệ hồ sơ của chúng tôi một cách mạnh mẽ.”
José Castañeda, người phát ngôn của Google, nói với FOX Business rằng công ty không đồng ý với phán quyết và có kế hoạch kháng cáo. Ông cũng tuyên bố rằng “vụ án đã hiểu sai về YouTube, đây là một nền tảng phát trực tuyến được xây dựng một cách có trách nhiệm, không phải là một trang mạng xã hội.”
Vụ án đáng chú ý đã né tránh Mục 230, vốn bảo vệ các nền tảng khỏi trách nhiệm pháp lý đối với nội dung bài đăng. Thay vào đó, vụ kiện đã nhắm vào thiết kế sản phẩm được các công ty sử dụng, điều này có thể có những tác động rộng lớn hơn đối với cách các nền tảng xử lý nội dung thù địch, đặc biệt là khi nó được kiếm tiền.
Liora Rez, người sáng lập và Giám đốc điều hành của StopAntisemitism, cho biết phán quyết này là “mang tính bước ngoặt” và cho rằng các nhóm vận động đã cảnh báo các tập đoàn công nghệ lớn rằng “thuật toán đang ảnh hưởng tiêu cực đến mọi người” cả về đặc tính gây nghiện và “thúc đẩy sự thù ghét.”
“Chúng tôi đã chuyển từ việc các nền tảng không làm đủ để loại bỏ chủ nghĩa bài Do Thái, chẳng hạn, sang việc các nền tảng hiện đang thiết kế cụ thể các hệ thống tích cực lan truyền, và quan trọng nhất là kiếm tiền và khuyến khích những nội dung thù địch này lan truyền,” Rez nói với Fox News Digital.
Bà Rez thừa nhận rằng những kẻ lan truyền sự thù ghét có thể tạo ra các mã từ tương tự, nhưng bà nói rằng “các dấu hiệu quyết định chính sách” tại các nền tảng lớn đều nhận thức được vấn đề này. Bà nói rằng do phạm vi tiếp cận mạng xã hội của StopAntisemitism, đặc biệt là với những người dưới 25 tuổi, tổ chức này thường xuyên được thông báo về các thuật ngữ này sớm và có thể cảnh báo các công ty.
Người sáng lập StopAntisemitism cho biết nội dung do AI tạo ra sẽ là trọng tâm của cuộc chiến tiếp theo, vốn đã bắt đầu.
“Chúng tôi thực sự lo ngại về cách AI hiện đang giúp cung cấp nội dung bài Do Thái trên các nền tảng. Và có rất ít hoặc không có sự giám sát về vấn đề này, và chúng tôi hy vọng phán quyết này có thể được điều hướng để giúp đỡ,” Rez nói.
Bà chỉ ra “các giáo sĩ” do AI tạo ra với hàng nghìn người theo dõi, với ít nhất một người có hơn 1 triệu người theo dõi. Các tài khoản này thường thúc đẩy các tường thuật bài Do Thái về việc người Do Thái kiểm soát hệ thống tài chính và sử dụng các từ tiếng Yiddish theo cách mà Rez nói cho thấy không có người Do Thái nào đứng sau tài khoản.
Một tài khoản như vậy – hiện đã bị xóa – là của Giáo sĩ Goldman, người đã thu hút được 1,5 triệu người theo dõi trên Instagram mặc dù chỉ đăng video đầu tiên vào giữa tháng 2. Nội dung của giáo sĩ do AI tạo ra đã nhận được nhiều ghi chú cộng đồng cảnh báo những người khác rằng đó là giả mạo. Ông ta nói về những bí mật được cho là mà tất cả người Do Thái đều biết trong khi sử dụng các từ tiếng Yiddish theo những cách không có ý nghĩa.
“Vì vậy, trong số, giả sử, 10 video, hai hoặc ba video sẽ thú vị. Tuy nhiên, hai hoặc ba video tiếp theo, và chúng tôi nhận thấy rằng những video được xem nhiều nhất nhanh chóng theo sau là những video có vấn đề, phải không? Bởi vì video của bạn càng được xem nhiều, thuật toán càng đẩy video tiếp theo và bài đăng tiếp theo đến đối tượng của bạn,” Rez nói về Giáo sĩ Goldman do AI tạo ra.
Mặc dù có những lo ngại đó về nội dung do AI tạo ra, Rez bày tỏ sự lạc quan về sự sẵn lòng của các công ty mạng xã hội trong việc giải quyết nội dung thù địch sau phán quyết. Bà nói rằng StopAntisemitism hy vọng rằng vào cuối năm nay, họ sẽ thấy các công ty mạng xã hội thực hiện các bước chủ động.
“Meta phải hành động và làm nhiều hơn nữa… Sự thất bại trong việc cảnh báo của họ, về cơ bản, là sự thất bại trong việc bảo vệ, mọi người đã bị tổn thương,” Rez nói. “Chúng tôi thực sự nghĩ rằng đây là tiền lệ cho các vụ kiện tập thể trong tương lai. Vì vậy, một lần nữa, chúng tôi hy vọng họ coi đây là một tín hiệu cảnh báo, và chúng tôi hy vọng AI sẽ là trung tâm của điều này.”
Theo tin từ Fox News Digital.
