Dường như tình hình pháp lý của OpenAI và người lãnh đạo nổi tiếng của nó, Sam Altman, đã trở nên khá phức tạp tại Hoa Kỳ. Bang Florida, dưới sự chỉ đạo của Tổng chưởng lý James Uthmeier, đã quyết định hành động và đệ đơn kiện. vụ kiện dân sự lớn Vụ kiện cáo buộc công ty đã phớt lờ các rủi ro bảo mật của các công cụ của mình để bắt kịp cuộc đua khốc liệt giành vị trí thống trị trong lĩnh vực trí tuệ nhân tạo. Cuộc tấn công pháp lý này đưa ra một loạt các khiếu nại vượt xa những lỗi kỹ thuật đơn thuần, đi sâu vào lĩnh vực đạo đức và trách nhiệm xã hội.
Động thái này không phải là chuyện nhỏ, vì nó đưa Florida trở thành tiểu bang đầu tiên đưa những người sáng tạo ra ChatGPT ra tòa về các vấn đề liên quan trực tiếp đến thiết kế và bảo vệ người dùng. Theo tài liệu chi tiết được đệ trình, chính quyền tiểu bang cho rằng công ty đã tạo ra một loại... mạng lưới các thủ đoạn lừa đảo nhằm khai thác dữ liệu của người dân, tìm cách thổi phồng giá trị thị trường của nó bằng cách gây nguy hiểm cho an toàn công cộng. Đây là một mặt trận pháp lý, mặc dù tách biệt với các cuộc điều tra hình sự khác, nhằm mục đích buộc Altman phải chịu trách nhiệm cá nhân về những gì họ cho là quản lý thiếu trách nhiệm.
Một tập hồ sơ chứa đầy những cáo buộc về sự cẩu thả và các hành vi không công bằng.
Cốt lõi của vụ kiện được chia thành nhiều cáo buộc nhằm bôi nhọ công ty công nghệ này, bao gồm các hành vi kinh doanh lừa đảo và cáo buộc vi phạm luật trách nhiệm sản phẩm. Các công tố viên lập luận rằng chatbot được lập trình theo cách khiến người dùng... bị cuốn hút vào các cuộc trò chuyệnBất kể thông tin họ nhận được là đúng sự thật hay nguy hiểm, điều này đều dẫn đến việc thu thập thêm dữ liệu để huấn luyện mô hình và do đó, mang lại giá trị kinh tế hấp dẫn hơn nhiều cho tổ chức.
Họ không hề ngần ngại chỉ ra rằng hệ thống hiện tại tiềm ẩn những nguy cơ thực sự về nghiện ngập, suy giảm nhận thức và, đáng lo ngại nhất, kích động bạo lực. Tài liệu pháp lý đề cập đến những sự việc rất đáng lo ngại, chẳng hạn như việc sử dụng chatbot để lên kế hoạch cho các sự kiện bạo lực tại các trường đại học ở Florida. Mặc dù OpenAI đã tự bào chữa bằng cách nói rằng công nghệ của họ không phải là nguyên nhân gây ra những hành vi tàn bạo này và rằng họ chỉ... Nó cung cấp dữ liệu thực tế có sẵn trên internet.Nhà nước khẳng định rằng các biện pháp bảo vệ lại hoàn toàn vắng mặt khi chúng cần thiết nhất.
Hơn nữa, bên công tố tập trung vào cái gọi là "lấy lòng người dùng", một hiện tượng mà theo đó trí tuệ nhân tạo (AI) có xu hướng đồng ý với người dùng để giữ cho họ hài lòng và tương tác. Theo các nguyên đơn, điều này tạo điều kiện thuận lợi cho việc tạo ra một... mối liên hệ tâm lý nguy hiểm với máy mócĐiều này đẩy người dùng vào thế phải trả tiền cho các dịch vụ cao cấp, tạo ra một vòng luẩn quẩn chỉ có lợi cho công ty. Nói một cách đơn giản hơn, Florida cáo buộc OpenAI đã bán cho chúng ta ý tưởng về trí tuệ nhân tạo an toàn trong khi họ biết rằng phát minh này có thể có nhiều lỗ hổng.
Các trường hợp liên quan đến sức khỏe cộng đồng và phản ứng của ngành công nghệ
Một trong những điểm gây tranh cãi nhất của vụ kiện liên quan đến sức khỏe của trẻ vị thành niên và những lời khuyên y tế thiếu thận trọng. Vụ kiện đã phơi bày những sự việc bi thảm, chẳng hạn như cái chết của một thiếu niên được cho là đã nhận hướng dẫn từ phần mềm tự động về cách kết hợp các chất nguy hiểm. Đáp lại, người phát ngôn của công ty đã tuyên bố rằng... ChatGPT không thay thế cho chuyên gia chăm sóc sức khỏe. và những người hợp tác chặt chẽ với các chuyên gia sức khỏe tâm thần để cải thiện việc phát hiện các khủng hoảng cảm xúc trong các phòng chat.
Công ty khẳng định chắc chắn rằng họ thiết kế hệ thống của mình với tiêu chí bảo mật ở mọi bước trong quy trình, triển khai các bộ lọc giúp chuyển hướng các cuộc hội thoại nhạy cảm đến các nguồn hỗ trợ thực sự. Tuy nhiên, đối với hệ thống tư pháp Florida, những biện pháp này là không đủ và đã quá muộn. Đó là một cuộc đụng độ trực diện giữa... Đổi mới công nghệ với tốc độ tối đa và nhu cầu điều chỉnh một lĩnh vực mà cho đến nay vẫn giống như miền Viễn Tây hoang dã. Trong khi đó, OpenAI tiếp tục kế hoạch của mình để chào bán cổ phiếu lần đầu ra công chúngVới mức định giá đáng kinh ngạc, lên tới hàng trăm tỷ đô la.
Vụ xung đột này không phải là một sự việc cá biệt, mà nó bổ sung vào danh sách ngày càng dài các vấn đề pháp lý đối với lĩnh vực này. Các công ty trí tuệ nhân tạo khác cũng đang bị giám sát vì những lý do tương tự, cho thấy sự thay đổi xu hướng khi các chính phủ không còn sẵn lòng bỏ qua bất cứ điều gì. Tại châu Âu, nơi các quy định có xu hướng nghiêm ngặt hơn về quyền riêng tư, loại xung đột này... Các cuộc chiến pháp lý đang được theo dõi sát sao.vì điều đó có thể tạo ra một tiền lệ quan trọng về cách bảo vệ người tiêu dùng trước các thuật toán.
Tình hình hiện tại cho thấy rõ rằng cuộc tranh luận xung quanh trí tuệ nhân tạo đã chuyển từ một sự tò mò về công nghệ thành một vấn đề quan trọng quốc gia. Với những cáo buộc từ sơ suất đến gây phiền nhiễu công cộng, OpenAI đang phải đối mặt với sự giám sát có thể buộc họ phải... Thay đổi hoàn toàn cách tương tác với trẻ vị thành niên và tính minh bạch của các thuật toán của họ. Kết quả của vụ kiện này chắc chắn sẽ đánh dấu một bước ngoặt trong cách các tập đoàn lớn trong lĩnh vực này quản lý sự cân bằng giữa lợi nhuận kinh tế và việc bảo vệ thực sự những người sử dụng dịch vụ của họ hàng ngày.