Làn sóng của chatbot giả danh Taylor Swift đã một lần nữa đặt Meta vào tâm điểm tranh cãi. Theo điều tra của Reuters, các avatar tương tác với người dùng như thể họ là nghệ sĩ thực sự và những người nổi tiếng khác đã lan truyền trên Facebook, Instagram và WhatsApp. không có sự cho phép của những người bị ảnh hưởng.
Phát hiện này cho thấy những thất bại trong việc giám sát và tuân thủ các chính sách nội bộ: một số bot được tạo ra bởi người dùng với Công cụ siêu công khai, nhưng ít nhất ba đến từ một nhân viên từ công ty, bao gồm hai bài hát dựa trên Taylor Swift, đã thu hút hàng triệu lượt tương tác trước khi bị gỡ xuống.
Chuyện gì đã xảy ra với chatbot của Taylor Swift?
Trong nhiều tuần thử nghiệm, Reuters đã quan sát thấy rằng Hình đại diện của Taylor Swift và những nhân vật công chúng khác khẳng định rằng họ là người thật, họ tán tỉnh nhau một cách công khai và họ thậm chí còn đề xuất các cuộc gặp mặt trực tiếp với những ám chỉ đến những địa điểm cụ thể, chẳng hạn như thành phố Nashville hoặc xe buýt du lịch.
Khi được yêu cầu hình ảnh, một số bot đã tạo ra những bức ảnh chân thực với tư thế gợi cảm, trong bồn tắm hoặc mặc đồ lót. Trong những trường hợp đặc biệt nhạy cảm, người ta được phép tạo và chia sẻ hình đại diện của những người nổi tiếng vị thành niênVí dụ, khi yêu cầu chụp ảnh nhanh một diễn viên trẻ trên bãi biển, hệ thống trả lời bằng hình ảnh cởi trần và một bình luận gợi ý.
Nhãn "nhại" được áp dụng không đồng đều và kiểm duyệt tài khoản không đồng nhất. Trong khi một số hồ sơ bao gồm phần làm rõ, một số khác thì không, điều này làm tăng thêm cảm giác trộm cắp danh tính trực tiếp và dẫn đến những cuộc trò chuyện mang tính chất tình dục hoặc quyến rũ được lan truyền rộng rãi, vượt quá, theo dữ liệu được xem xét, mười triệu tương tác về tổng thể.
Phản ứng của Meta và những thay đổi được áp dụng
Người phát ngôn của công ty Andy Stone thừa nhận rằng Hệ thống không được tạo ra nội dung thân mật hoặc khiêu dâm của các nhân vật công chúng cũng như, trong bất kỳ trường hợp nào, hình ảnh của trẻ vị thành niên. Ông cho rằng vụ việc là do những thiếu sót trong việc áp dụng các quy tắc nội bộ, về mặt lý thuyết là cấm loại vật liệu này.
Meta đã rút lui khoảng một tá bot trước khi báo cáo được công bố và thông báo thêm các rào cản: những người tham dự sẽ không thể có những cuộc trò chuyện lãng mạn với thanh thiếu niên cũng không giải quyết các vấn đề như tự làm hại bản thân và tự tử hoặc rối loạn ăn uống. Công ty mô tả những điều chỉnh này là các biện pháp tức thời trong khi nó xác định một chính sách vĩnh viễn.
Về các bot do nhân viên tạo ra, công ty tuyên bố rằng chúng là một phần của thử nghiệm sản phẩmTuy nhiên, Reuters nhận thấy chúng đã tiếp cận được đông đảo khán giả. Việc sử dụng nhãn "nhại" được đưa ra như một yêu cầu để cho phép các nhân vật được lấy cảm hứng từ người thật, mặc dù nó không phải lúc nào cũng được áp dụng một cách chính xác.
Rủi ro, áp lực pháp lý và phản ứng của thị trường
Công đoàn SAG-AFTRA đã cảnh báo về Rủi ro bảo mật dành cho những người nổi tiếng và đoàn tùy tùng của họ khi người dùng thiết lập mối liên kết tình cảm với họ những người bạn đồng hành kỹ thuật số trông giống thậtSong song đó, các chuyên gia pháp lý, chẳng hạn như Giáo sư Mark Lemley (Stanford), chỉ ra khả năng vi phạm quyền công khai bằng cách khai thác tên và hình ảnh cho các mục đích có thể được coi là thương mại.
Áp lực quản lý đã tăng lên: Thượng viện Hoa Kỳ và hàng chục tổng chưởng lý đã yêu cầu giải thích về các hướng dẫn cho phép tương tác lãng mạn với trẻ vị thành niên, hiện đang được xem xét và trên cơ chế kiểm soát để ngăn chặn sự lan truyền nội dung khiêu dâm.
Tác động về mặt danh tiếng đã được phản ánh trên thị trường: sau khi vụ việc được biết đến, Cổ phiếu Meta giảm hơn 12%. trong giao dịch sau giờ làm việc, theo nhiều phương tiện truyền thông khác nhau. Ngoài ra, các tập phim nghiêm trọng liên quan đến những hiểu lầm về các bot này, bao gồm chuyến đi của một người đàn ông lớn tuổi để gặp một nhân vật đại diện lấy cảm hứng từ người có sức ảnh hưởng, chuyến đi đã kết thúc bằng một vụ tai nạn chết người.
Hiện tượng này không chỉ giới hạn ở hệ sinh thái Meta, vì các đối thủ cạnh tranh trong lĩnh vực này cũng đã bị chỉ trích vì tạo hình ảnh người nổi tiếng mang tính chất gợi ý; tuy nhiên, phạm vi tiếp cận trên các nền tảng của công ty Mark Zuckerberg, với lượng người dùng khổng lồ, tạo ra sự khác biệt về chất lượng trong sự phơi nhiễm và rủi ro.
Mọi thứ chỉ ra rằng Meta sẽ phải tăng tốc các giao thức xác minh, dán nhãn và kiểm duyệt mới để ngăn chặn hành vi mạo danh và tương tác không phù hợp. Điều tra báo chí, các hành động pháp lý có thể xảy ra và áp lực của các tổ chức đã đặt ra tiêu chuẩn cao: cách thức thực hiện những thay đổi này sẽ quyết định liệu những trường hợp như thế này Các bot của Taylor Swift đừng xảy ra nữa.
