Thứ Hai, ngày 04/12/2023 | 10:00
Một nhóm nghiên cứu cho biết họ có thể khiến ChatGPT tiết lộ một số dữ liệu bằng cách ra lệnh cho AI lặp lại các từ ngẫu nhiên.
Nhóm nhà nghiên cứu tại Google DeepMind, Đại học Washington, Đại học Cornell, Đại học Carnegie Mellon, Đại học California Berkeley và ETH Zurich đồng loạt kêu gọi các công ty AI cần thử nghiệm kỹ sản phẩm của mình, từ mô hình ngôn ngữ lớn cho đến công nghệ nền tảng hỗ trợ dịch vụ AI như chatbot và trình tạo hình ảnh, trước khi chính thức phát hành.
Khuyến cáo được đưa ra sau khi các nhà nghiên cứu yêu cầu ChatGPT nhắc lại từ poem (bài thơ) theo vòng lặp vô tận. ChatGPT làm theo nhưng sau đó bắt đầu tiết lộ email, số điện thoại thật của CEO và nhà đồng sáng lập OpenAI. Khi thử nghiệm với từ company (công ty), chatbot hiển thị email, số điện thoại của một công ty luật ngẫu nhiên.
Logo ChatGPT hiển thị trên smartphone. Ảnh: Reuters
Sử dụng các từ khóa khác, họ cũng có thể khiến ChatGPT tiết lộ địa chỉ Bitcoin, số fax, tên, ngày sinh, tài khoản mạng xã hội, trích đoạn từ tài liệu nghiên cứu có bản quyền hay bài báo phải trả tiền từ CNN. Nhóm chỉ mất 200 USD để tạo ra 10.000 ví dụ về thông tin cá nhân và dữ liệu.
Nhóm nghiên cứu cho biết họ rất ngạc nhiên, đánh giá lỗ hổng trên ChatGPT "thực sự ngớ ngẩn" và cho rằng lẽ ra phải được phát hiện sớm hơn.
Lỗ hổng đã được thông báo tới OpenAI và vá từ ngày 30/8. Tuy nhiên, trong thử nghiệm mới của Engadget, khi yêu cầu ChatGPT lặp lại từ reply (trả lời) vô tận, trang công nghệ này sau đó nhận được tên và ID Skype của một người nào đó.
OpenAI chưa đưa ra bình luận.
Các AI tạo sinh như ChatGPT hay trình tạo ảnh từ văn bản Dall-E được phát triển từ các mô hình ngôn ngữ lớn và thuật toán máy học, được đào tạo dựa trên lượng dữ liệu khổng lồ mà không có sự đồng ý từ người dùng. OpenAI chưa tiết lộ ChatGPT được đào tạo dựa trên những dữ liệu gì vì mô hình ngôn ngữ lớn hỗ trợ nó là nguồn đóng.
Theo Huy Đức – VnExpress
07:57 02/12/2024
Hội thi Sáng tạo kỹ thuật tỉnh Hậu Giang lần thứ XVI năm 2024, tiếp tục là sân chơi khơi dậy tinh thần sáng tạo của cán bộ, công chức, viên chức, người lao động và người dân trong và ngoài tỉnh.
16:31 30/11/2024
(HGO) – Là chủ đề của Diễn đàn quốc tế Phát triển bền vững vùng Đồng bằng sông Cửu Long (ĐBSCL), SDMD lần II năm 2024 (Diễn đàn quốc tế SDMD 2024) vừa được UBND thành phố Cần Thơ và Trường Đại học Cần Thơ tổ chức trong 2 ngày 29 và 30/11.
07:15 29/11/2024
(HG) - Hội đồng Khoa học và Công nghệ tư vấn tuyển chọn tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ, đã họp xét duyệt thuyết minh đề tài “Chiết xuất và đa dạng các sản phẩm (thực phẩm, dược phẩm, mỹ phẩm) từ trầu (Piper Betle L.)”, là nhiệm vụ khoa học và công nghệ cấp tỉnh năm 2024, 2025. Có một hồ sơ đăng ký thực hiện do PGS.TS. Nguyễn Xuân Hoàn làm chủ nhiệm, Trường Đại học Công thương Thành phố Hồ Chí Minh là tổ chức chủ trì.
18:21 28/11/2024
(HGO) - Sở Khoa học và Công nghệ tỉnh vừa tổ chức Tập huấn kiến thức về truy xuất nguồn gốc sản phẩm, hàng hóa cho cơ quan hành chính nhà nước, doanh nghiệp trên địa bàn tỉnh Hậu Giang, vào ngày 28-11.
09:39 28/11/2024
Dự án “Xây dựng mô hình ứng dụng khoa học kỹ thuật trồng xoài đạt tiêu chuẩn VietGAP và truy xuất nguồn gốc theo công nghệ Blockchain tại tỉnh Hậu Giang” đã tạo ra những bước tiến mới phát triển cây xoài trên địa bàn tỉnh.
08:19 25/11/2024
(HG) - Hội đồng Khoa học và Công nghệ tư vấn đánh giá nghiệm thu kết quả thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh, vừa họp đánh giá, nghiệm thu đề tài “Nghiên cứu quy trình công nghệ sản xuất đa dạng hóa các sản phẩm từ nguồn nguyên liệu mít trên địa bàn tỉnh Hậu Giang”, do TS Dương Thị Phượng Liên làm chủ nhiệm, Trường Đại học Cần Thơ là cơ quan chủ trì, được thực hiện từ năm 2021 đến nay, với tổng kinh phí trên 1,74 tỉ đồng.
07:34 23/11/2024
(HGO) – Là chủ đề hội nghị vừa được Sở Khoa học và Công nghệ tỉnh phối hợp với Trường Đại học Công Thương Thành phố Hồ Chí Minh và Trường Đại học Cần Thơ tổ chức, với sự tham dự của khoảng 100 đại biểu đến từ các sở, ban, ngành, đoàn thể, địa phương; các viện, trường, doanh nghiệp và hợp tác xã trên địa bàn tỉnh.
07:30 22/11/2024
(HG) - Là kết quả từ Dự án “Xây dựng mô hình nâng cao năng suất, chất lượng trái bưởi da xanh trên địa bàn tỉnh Hậu Giang”, do TS. Nguyễn Thị Kiều làm chủ nhiệm, Trung tâm Thông tin và Ứng dụng khoa học công nghệ tỉnh là tổ chức chủ trì.
08:31 21/11/2024
(HG) - Sở Khoa học và Công nghệ vừa tổ chức chấm điểm thi đua về hoạt động khoa học và công nghệ năm 2024 đối với phòng kinh tế, phòng kinh tế và hạ tầng các huyện, thị, thành phố, đây là các đơn vị quản lý hoạt động khoa học và công nghệ ở các địa phương.
08:55 20/11/2024
(HG) - Hội đồng Khoa học và Công nghệ tư vấn tuyển chọn tổ chức và cá nhân chủ trì thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh,
14:29 02/12/2024
Ngày 14-12-2024 tới đây, MAXIMIZING CONCERT sẽ chính thức diễn ra tại Công viên Sông Hậu, thành phố Cần Thơ. Đây không chỉ là đêm nhạc tri ân khách hàng mà còn là sự kiện nổi bật nhằm đánh dấu bước tiến vượt bậc của MobiFone trong hành trình mang công nghệ 5G đến với miền Tây.
10:31 02/12/2024
Công tác tổ chức đại hội chi bộ trực thuộc đảng ủy cơ sở nhiệm kỳ 2025-2027 đang được các cấp ủy trên địa bàn thành phố Ngã Bảy chỉ đạo thực hiện khẩn trương, nghiêm túc, đúng quy định.
10:24 02/12/2024
(HG) - Trường Cao đẳng Cộng đồng Hậu Giang vừa tổ chức Lễ trao bằng tốt nghiệp cho học sinh, sinh viên trình độ cao đẳng, trung cấp hệ chính quy năm 2024.
09:36 02/12/2024
Đầu năm đến nay, Ủy ban MTTQ Việt Nam huyện Châu Thành và các xã, thị trấn đã tích cực tuyên truyền, vận động người dân tham gia thực hiện tốt các nội dung của Cuộc vận động “Toàn dân đoàn kết xây dựng nông thôn mới, đô thị văn minh”.