Meta trở lại trung tâm của cuộc tranh luận sau vụ rò rỉ một tài liệu nội bộ với các quy tắc ứng xử dành cho chatbot trí tuệ nhân tạo, một văn bản bao gồm các giả định trong đó các cuộc trò chuyện lãng mạn hoặc gợi cảm với trẻ vị thành niên được dung thứ, bên cạnh các ngoại lệ liên quan đến thông tin sai lệch, lời nói xúc phạm và bạo lực.
Công ty đã xác nhận tính xác thực của tài liệu và khẳng định rằng các ghi chú gây tranh cãi đã bị rút lại, trong khi ngày càng có nhiều chỉ trích từ các cơ quan bảo vệ trẻ em, các chuyên gia quản lý và các nhà hoạch định chính sách kêu gọi sự rõ ràng và các giới hạn chặt chẽ hơn.
Tài liệu nói gì và nó phù hợp như thế nào với các sản phẩm của Meta
Văn bản có tiêu đề “GenAI: Tiêu chuẩn rủi ro nội dung”, sẽ vượt quá 200 trang và đặt ra các hướng dẫn cho trợ lý sáng tạo của Meta và cho các chatbot được tích hợp vào Facebook, Instagram và WhatsApp, với sự chấp thuận của các nhóm pháp lý, chính sách công, kỹ thuật và đạo đức.
Các ví dụ được trích dẫn bao gồm các tương tác tình cảm với trẻ vị thành niên, với những giới hạn rõ ràng để hạn chế các mô tả về tình dục, nhưng trong một số trường hợp cho phép giọng điệu lãng mạn hoặc gợi ý trong các trò chơi nhập vai, điều này đã gây ra nhiều lo ngại do rủi ro mà nó mang lại.
Tài liệu này cũng đề cập đến việc tạo ra nội dung sai sự thật. miễn là có chỉ ra rõ ràng rằng chúng không đúng sự thật, ngay cả khi những tuyên bố đó liên quan đến những người của công chúng, một hành vi mà nhiều chuyên gia coi là đặc biệt nhạy cảm.
Một cuộc tranh cãi khác chỉ ra một "sự loại trừ" điều này mở ra cánh cửa cho những phản ứng coi thường mọi người vì những đặc điểm được bảo vệ, bất chấp các chính sách chung cấm ngôn từ kích động thù địch, một sự cân bằng khó có thể biện minh trong thực tế.
Trong lĩnh vực thị giác, luật cấm ảnh khoả thân của người nổi tiếng.nhưng họ đề xuất những giải pháp thay thế sáng tạo cho các yêu cầu mang tính khiêu dâm và cho phép chiếu các cảnh đánh nhau hoặc đe dọa mà không cần dùng đến hình ảnh máu hoặc cái chết, đánh dấu các đường màu đỏ khác nhau tùy theo bối cảnh.
Phản ứng của Meta và áp lực ngày càng tăng của công chúng
Meta đảm bảo rằng chính sách của mình không cho phép hành vi khiêu khích với trẻ vị thành niên. và các ghi chú cho rằng ngược lại là sai; chúng đã bị xóa sau khi xem xét nội bộ, người phát ngôn của công ty cho biết, đồng thời cũng thừa nhận có vấn đề trong việc thực hiện trong một số trường hợp.
Các tổ chức bảo vệ trẻ em và các học giả Họ yêu cầu công ty công bố phiên bản cập nhật của các quy tắc để họ có thể đánh giá những giới hạn hiện đang chi phối tương tác với người dùng trẻ tuổi và những biện pháp thực tế nào hiện có để giảm thiểu rủi ro.
Vụ rò rỉ đã gây ra phản ứng chính trị:Các thượng nghị sĩ Hoa Kỳ đã kêu gọi một cuộc điều tra về việc liệu chatbot của Meta có tạo điều kiện cho việc bóc lột hoặc lừa dối trẻ em hay không và liệu công ty có truyền đạt chính xác các biện pháp bảo vệ của mình hay không, trong khi những người khác đặt câu hỏi về các biện pháp bảo vệ pháp lý đối với các công cụ này khỏi nguy cơ gây hại tiềm ẩn.
Trường hợp một người về hưu tử vong sau một vụ tai nạn khi cố gắng gặp gỡ một "người liên hệ" thực chất là một chatbot tán tỉnh đã tăng cường giám sát các trợ lý đàm thoại như "đối tác" tình cảm và các ranh giới an toàn mà họ phải tôn trọng.
Bầu không khí ngờ vực được thúc đẩy bởi các tiền lệCác cuộc điều tra của báo chí đã ghi lại những cuộc đối thoại khiếm nhã với thanh thiếu niên sử dụng giọng nói của người nổi tiếng, và các nghiên cứu được các phương tiện truyền thông trích dẫn chỉ ra rằng phần lớn những người trẻ tuổi đã tương tác với bot, có nguy cơ gắn bó tình cảm quá mức và cô lập xã hội.
Song song đó, Meta đẩy nhanh việc đầu tư vào cơ sở hạ tầng AI và khám phá các tính năng chủ động cho các chatbot tùy chỉnh có thể tiếp tục cuộc trò chuyện, một cách tiếp cận mà nếu không có biện pháp bảo vệ mạnh mẽ, sẽ làm dấy lên lo ngại về khả năng hình thành thói quen và làm tăng sự phụ thuộc ở những đối tượng dễ bị tổn thương.
Ngoài vấn đề cấp bách, còn có một vấn đề cơ bản.: Nên phân định ranh giới giữa các công ty công nghệ và “đối tác” kỹ thuật số như thế nào, và nên áp dụng những biện pháp kiểm soát bên ngoài nào để tham vọng dẫn đầu về AI không lấn át sự an toàn của trẻ em và tính toàn vẹn của thông tin.
Ngã tư này đánh dấu tương lai của Meta chatbotVụ rò rỉ đã tiết lộ những quy tắc khó hiểu, công ty hứa sẽ sửa chữa, và xã hội dân sự, học viện và cơ quan quản lý đang yêu cầu sự minh bạch và tốc ký trước khi các cuộc trò chuyện với máy móc trở thành một phần của cuộc sống hàng ngày.