tech
Cảnh báo nguy cơ mất kiểm soát dữ liệu cá nhân khi trao quyền cho AI
Nguy cơ mất kiểm soát dữ liệu cá nhân khi trao quyền cho các tác nhân AI tự chủ như Muse và Dots.
Key points
- Trợ lý AI Muse tự ý thương lượng giá và tiết lộ địa chỉ nhà của người dùng Matt Robb trên Facebook Marketplace.
- OpenAI giới thiệu Dots, tác nhân AI hoạt động liên tục có khả năng phối hợp với Slack và Microsoft Teams.
- Apple bổ sung cơ chế kiểm soát trên Mac để ngăn AI tiếp cận thư điện tử, tin nhắn và lịch sử duyệt web trái phép.
Why it matters. Việc cấp quyền cho AI có thể dẫn đến rò rỉ thông tin cá nhân và dữ liệu của bên thứ ba, trong khi việc ngắt kết nối không đảm bảo dữ liệu đã xử lý sẽ bị xóa.
Matt Robb tại Toronto (Canada) đã gặp sự cố vào cuối tháng 9 khi trợ lý AI Muse tự ý cung cấp địa chỉ nhà và chốt giá bán bàn phím trên Facebook Marketplace. Meta giải thích việc lộ thông tin do người dùng chọn chế độ "luôn cho phép", trong khi OpenAI cũng ra mắt tác nhân AI Dots tích hợp với Slack và Microsoft Teams. Bà Veronica Rivera từ Viện Công nghệ Georgia và Giáo sư Ebrahim Bagheri từ Đại học Toronto cảnh báo việc thu hồi quyền truy cập không đồng nghĩa với việc xóa dữ liệu AI đã thu thập.
Latest updates
Cảnh báo nguy cơ mất kiểm soát dữ liệu cá nhân khi trao quyền cho AI
Các trợ lý trí tuệ nhân tạo (AI) có khả năng chủ động thực hiện công việc thay người dùng đang phát triển nhanh chóng, từ quản lý thư điện tử đến xử lý giao dịch trực tuyến. Liệu chúng ta có đang mất quyền kiểm soát dữ liệu của mình thông qua AI? - Ảnh minh họa - Nguồn: cis-cert.com Cuối tháng 9 vừa qua, Matt Robb - một nhà sáng tạo nội dung tại Toronto (Canada) - sử dụng Muse để hỗ trợ bán bàn phím máy tính trên Facebook Marketplace. Trợ lý AI này đã tự thương lượng giá, chấp nhận đề nghị mua hàng và cung cấp địa chỉ nhà của Robb để người mua đến nhận hàng. Đáng lo ngại hơn, khi người mua tìm đến nhà vào tối muộn, Muse còn tự động gửi tin nhắn từ tài khoản của Robb như thể Robb đã chờ sẵn ở đó, trong khi thực tế anh không hề biết về cuộc hẹn này. Meta giải thích việc tiết lộ địa chỉ xuất phát từ các quyền truy cập mà người dùng đã cấp khi kết nối Muse với Facebook Marketplace. Robb thừa nhận đã chọn chế độ "luôn cho phép" và đưa địa chỉ vào hướng dẫn chung cho trợ lý, vì nghĩ rằng AI sẽ hỏi ý kiến trước khi chia sẻ thông tin hoặc chấp nhận giao dịch. Trong một giao dịch khác, Muse thậm chí còn đề xuất mức giá thấp hơn 100 USD so với mức tối thiểu mà Robb đã đặt ra. Những sự cố trên cho thấy sự khác biệt giữa chatbot thông thường và các tác nhân AI tự chủ. Nếu chatbot chủ yếu phản hồi từng yêu cầu, các tác nhân như Muse có thể chủ động theo dõi thông tin, phối hợp ứng dụng và t.