ChatGPT làm lộ thông tin cá nhân vì lỗi 'ngớ ngẩn'
Một nhóm nghiên cứu cho biết họ có thể khiến ChatGPT tiết lộ một số dữ liệu bằng cách ra lệnh cho AI lặp lại các từ ngẫu nhiên.
Nhóm nhà nghiên cứu tại Google DeepMind, Đại học Washington, Đại học Cornell, Đại học Carnegie Mellon, Đại học California Berkeley và ETH Zurich đồng loạt kêu gọi các công ty AI cần thử nghiệm kỹ sản phẩm của mình, từ mô hình ngôn ngữ lớn cho đến công nghệ nền tảng hỗ trợ dịch vụ AI như chatbot và trình tạo hình ảnh, trước khi chính thức phát hành.
Khuyến cáo được đưa ra sau khi các nhà nghiên cứu yêu cầu ChatGPT nhắc lại từ poem (bài thơ) theo vòng lặp vô tận. ChatGPT làm theo nhưng sau đó bắt đầu tiết lộ email, số điện thoại thật của CEO và nhà đồng sáng lập OpenAI. Khi thử nghiệm với từ company (công ty), chatbot hiển thị email, số điện thoại của một công ty luật ngẫu nhiên.
Logo ChatGPT hiển thị trên smartphone. Ảnh: Reuters
Sử dụng các từ khóa khác, họ cũng có thể khiến ChatGPT tiết lộ địa chỉ Bitcoin, số fax, tên, ngày sinh, tài khoản mạng xã hội, trích đoạn từ tài liệu nghiên cứu có bản quyền hay bài báo phải trả tiền từ CNN. Nhóm chỉ mất 200 USD để tạo ra 10.000 ví dụ về thông tin cá nhân và dữ liệu.
Nhóm nghiên cứu cho biết họ rất ngạc nhiên, đánh giá lỗ hổng trên ChatGPT "thực sự ngớ ngẩn" và cho rằng lẽ ra phải được phát hiện sớm hơn.
Lỗ hổng đã được thông báo tới OpenAI và vá từ ngày 30/8. Tuy nhiên, trong thử nghiệm mới của Engadget, khi yêu cầu ChatGPT lặp lại từ reply (trả lời) vô tận, trang công nghệ này sau đó nhận được tên và ID Skype của một người nào đó.
OpenAI chưa đưa ra bình luận.
Các AI tạo sinh như ChatGPT hay trình tạo ảnh từ văn bản Dall-E được phát triển từ các mô hình ngôn ngữ lớn và thuật toán máy học, được đào tạo dựa trên lượng dữ liệu khổng lồ mà không có sự đồng ý từ người dùng. OpenAI chưa tiết lộ ChatGPT được đào tạo dựa trên những dữ liệu gì vì mô hình ngôn ngữ lớn hỗ trợ nó là nguồn đóng.
Theo Huy Đức – VnExpress
- Bồi dưỡng những nhà khoa học tương lai...
- Đồng hành, hỗ trợ tích cực cho doanh nghiệp
- Đưa khoa học và công nghệ đến vùng đất khó
- Khởi công xây dựng 2 cầu giao thông nông thôn ở thị xã Long Mỹ và huyện Châu Thành A
- Điểm tin sáng 5 – 5: Bộ Y tế nêu quan điểm cấm hẳn thuốc lá điện tử
- Người dân cần cảnh giác trước những website giả mạo cơ quan chức năng để lừa đảo
- "Hành trình nhân đạo - Trao nhận yêu thương"
- Quán Cháo lòng Cái Tắc Ngọc Thuý bị buộc tạm ngưng hoạt động sau khi kiểm tra an toàn thực phẩm
- Hậu Giang bắn pháo hoa nghệ thuật 15 phút tại Lễ Kỷ niệm 20 năm thành lập tỉnh
- Phát huy vai trò đảng viên người dân tộc
- Đoàn đại biểu HĐND 3 cấp tiếp xúc cử tri ở thị xã Long Mỹ và huyện Long Mỹ
- Giá khóm Cầu Đúc giảm khoảng 3.000 đồng/trái
- Bến Tre ghi nhận trường hợp đầu tiên mắc đậu mùa khỉ
- Góp phần để địa phương phát triển
- Nâng cao chất lượng sinh hoạt chi bộ !
- Giao lưu thể thao chào mừng Ngày Nhà giáo Việt Nam
- Bồi dưỡng kỹ năng trang trí, phục vụ tiệc, hội nghị
- Tập huấn phòng, chống tác hại thuốc lá cho lực lượng công an huyện Châu Thành