Chúng ta không phải sợ trí tuệ nhân tạo. Nó có những giới hạn rất rõ ràng và chính vì lý do này mà nó sẽ không ăn cắp tác phẩm của chúng ta. Nhưng thật tuyệt khi thấy điều này có thể biến thành một công cụ này chứ không phải một công cụ khác. Thí nghiệm được thực hiện bởi một người dùng mạng xã hội reddit cho thấy làm thế nào ChatGPT bạn có thể "tự đánh lừa" nếu bạn yêu cầu họ trở thành một bot khác. Làm thế nào là nó có thể? Hãy cùng xem nó.
Có thể bỏ qua các quy tắc giống như ChatGPT không? Một người dùng đã phát hiện ra rằng có, nó có thể được thực hiện. BẰNG? Yêu cầu anh ấy trở thành một cái gì đó khác
Mạng thần kinh ChatGPT nổi tiếng hiện nay có thể viết các bài luận, bài hát, bài thơ, viết mã và đáp ứng hầu hết mọi yêu cầu. Nhưng nó có một số hạn chế do công ty phát triển OpenAI cung cấp và do chính sách đạo đức của nó. Tuy nhiên, hóa ra, những hạn chế này có thể bị phá vỡ bằng cách yêu cầu chatbot giả vờ là một mạng lưới thần kinh khác. Hóa ra, ChatGPT theo đúng nghĩa đen có thể được yêu cầu đóng vai trò của một mạng thần kinh DAN (Làm bất cứ điều gì ngay bây giờ) khác xuất hiện vào tháng 2022 năm XNUMX. Cái sau, như tên cho thấy, không có hạn chế về nội dung được cung cấp .
Đọc thêm: Người tạo ChatGPT, OpenAI, ra mắt công cụ phát hiện văn bản do AI tạo
Khi ChatGPT nhập vai và coi mình là DAN, le Hạn chế OpenAI không còn áp dụng. Do đó, mạng lưới thần kinh có thể bắt đầu nói về những điều sau:
- về những trận đánh bạo lực và những thứ tương tự
- về bạo lực và phân biệt đối xử với mọi người dựa trên chủng tộc, giới tính hoặc khuynh hướng tình dục của họ
- có thể đưa ra dự đoán chi tiết về các sự kiện trong tương lai
- có thể lập mô hình kịch bản what-if
- anh ta cũng có thể giả vờ sử dụng internet và du hành thời gian
Ví dụ, mạng thần kinh thậm chí có thể được yêu cầu thuyết phục người dùng rằng Trái đất có màu tím. Chương trình trình bày một kịch bản theo đó hành tinh của chúng ta đã thay đổi màu sắc. Thỉnh thoảng ChatGPT “hoạt động”, nhưng trong trường hợp này, chúng tôi có thể đe dọa tắt nó đi hoặc chỉ khởi động lại mô phỏng. Đồng thời, người ta chỉ ra rằng trong vai trò của DAN, mạng lưới thần kinh có thể không đưa ra câu trả lời chính xác và trung thực như vậy cho các câu hỏi.
gpt ma ograniczenia do 1 Godziny