Gần đây, Amazon ra mắt chatbot AI của nó là Amazon Q, thu hút sự quan tâm từ các công ty nhưng cũng gây lo ngại cho nhân viên về các vấn đề nghiêm trọng về độ chính xác và quyền riêng tư. Q bị báo cáo vì có “ảo giác không poco câu chuyện” và tiết lộ dữ liệu bí mật, đặt ra câu hỏi về tính bảo mật thông tin của công ty. Dưới đây là thông tin chi tiết được tiết lộ bởi Platformer.
Cảnh báo bảo mật cho Amazon Q: giữa dữ liệu bí mật và câu trả lời sai
đàn bà gan dạ anh ấy giới thiệu Chatbot AI của nó, được gọi là Q, ba ngày trước, nhưng dường như không phải mọi thứ đều diễn ra như kế hoạch. Một số nhân viên đã gióng lên hồi chuông cảnh báo về các vấn đề về độ chính xác và quyền riêng tư: Amazon Q có thể đã biểu hiện "ảo giác" và tiết lộ thông tin bảo mật, chẳng hạn như vị trí của trung tâm dữ liệu AWS, các chương trình giảm giá nội bộ và các tính năng chưa được phát hành.
Thông tin này xuất hiện từ các tài liệu bị rò rỉ và thu được bởi Platformer, làm nổi bật một Vấn đề bảo mật cấp độ 2, một tình huống nghiêm trọng cần sự can thiệp khẩn cấp của các kỹ sư.
Mặc dù vậy, Amazon đã hạ thấp tầm quan trọng của những cuộc thảo luận nội bộ này. Người phát ngôn cho biết sự chia sẻ của phản hồi thông qua các kênh nội bộ là thông lệ tiêu chuẩn tại Amazon và không có vấn đề bảo mật nào được xác định do phản hồi này. Công ty nhấn mạnh tầm quan trọng của những phản hồi nhận được và mong muốn tiếp tục tinh chỉnh Amazon Q khi nó chuyển từ bản xem trước sang tính khả dụng rộng rãi.
Amazon Q, hiện có sẵn ở dạng bản xem trước miễn phí, được giới thiệu dưới dạng phiên bản phần mềm doanh nghiệp của một chatbot, với các chức năng ban đầu nhằm trả lời các câu hỏi của nhà phát triển về AWS, sửa đổi mã nguồn và trích dẫn nguồn. Amazon đã nhấn mạnh tính bảo mật và quyền riêng tư của Q, đối lập nó với các công cụ dành cho người tiêu dùng như ChatGPT.
Tuy nhiên, một tài liệu nội bộ tiết lộ rằng Q có thể "gây ảo giác" và đưa ra những phản ứng có hại hoặc không phù hợp, chẳng hạn như thông tin bảo mật lỗi thời có thể khiến tài khoản của khách hàng gặp rủi ro. Những rủi ro này là điển hình của các mô hình ngôn ngữ lớn, tất cả đều có xu hướng đưa ra phản hồi không chính xác hoặc không phù hợp, ít nhất là trong một số trường hợp.
Via | Slashdot
