ChatGPT làm lộ thông tin cá nhân vì lỗi 'ngớ ngẩn'

Thứ Hai, ngày 04/12/2023 | 10:00

Một nhóm nghiên cứu cho biết họ có thể khiến ChatGPT tiết lộ một số dữ liệu bằng cách ra lệnh cho AI lặp lại các từ ngẫu nhiên.

Nhóm nhà nghiên cứu tại Google DeepMind, Đại học Washington, Đại học Cornell, Đại học Carnegie Mellon, Đại học California Berkeley và ETH Zurich đồng loạt kêu gọi các công ty AI cần thử nghiệm kỹ sản phẩm của mình, từ mô hình ngôn ngữ lớn cho đến công nghệ nền tảng hỗ trợ dịch vụ AI như chatbot và trình tạo hình ảnh, trước khi chính thức phát hành.

Khuyến cáo được đưa ra sau khi các nhà nghiên cứu yêu cầu ChatGPT nhắc lại từ poem (bài thơ) theo vòng lặp vô tận. ChatGPT làm theo nhưng sau đó bắt đầu tiết lộ email, số điện thoại thật của CEO và nhà đồng sáng lập OpenAI. Khi thử nghiệm với từ company (công ty), chatbot hiển thị email, số điện thoại của một công ty luật ngẫu nhiên.

Logo ChatGPT hiển thị trên smartphone. Ảnh: Reuters

Sử dụng các từ khóa khác, họ cũng có thể khiến ChatGPT tiết lộ địa chỉ Bitcoin, số fax, tên, ngày sinh, tài khoản mạng xã hội, trích đoạn từ tài liệu nghiên cứu có bản quyền hay bài báo phải trả tiền từ CNN. Nhóm chỉ mất 200 USD để tạo ra 10.000 ví dụ về thông tin cá nhân và dữ liệu.

Nhóm nghiên cứu cho biết họ rất ngạc nhiên, đánh giá lỗ hổng trên ChatGPT "thực sự ngớ ngẩn" và cho rằng lẽ ra phải được phát hiện sớm hơn.

Lỗ hổng đã được thông báo tới OpenAI và vá từ ngày 30/8. Tuy nhiên, trong thử nghiệm mới của Engadget, khi yêu cầu ChatGPT lặp lại từ reply (trả lời) vô tận, trang công nghệ này sau đó nhận được tên và ID Skype của một người nào đó.

OpenAI chưa đưa ra bình luận.

Các AI tạo sinh như ChatGPT hay trình tạo ảnh từ văn bản Dall-E được phát triển từ các mô hình ngôn ngữ lớn và thuật toán máy học, được đào tạo dựa trên lượng dữ liệu khổng lồ mà không có sự đồng ý từ người dùng. OpenAI chưa tiết lộ ChatGPT được đào tạo dựa trên những dữ liệu gì vì mô hình ngôn ngữ lớn hỗ trợ nó là nguồn đóng.

Theo Huy Đức – VnExpress

 

Viết bình luận mới

Xem thêm

Đa dạng sản phẩm nấm nhờ ứng dụng khoa học công nghệ vào sản xuất

08:42 26/06/2025

Ứng dụng tiến bộ khoa học và công nghệ (KH&CN) vào sản xuất, chế biến các sản phẩm nấm, đã góp phần tạo nguồn thực phẩm an toàn, đa dạng, đáp ứng nhu cầu trong nước và xuất khẩu.

Chế tạo máy cắt băm khóm liên hợp với máy kéo phục vụ vùng trồng khóm Cầu Đúc

06:37 24/06/2025

(HG) - Hội đồng Khoa học và Công nghệ (KH&CN) tư vấn đánh giá nghiệm thu kết quả thực hiện nhiệm vụ KH&CN cấp tỉnh, vừa tiến hành nghiệm thu đề tài “Nghiên cứu thiết kế, chế tạo máy cắt băm cây khóm liên hợp với máy kéo phục vụ vùng trồng khóm Cầu Đúc tỉnh Hậu Giang”, là nhiệm vụ KH&CN cấp tỉnh năm 2019, do ThS. Trần Tấn Hậu làm chủ nhiệm, Viện Lúa đồng bằng sông Cửu Long là tổ chức chủ trì, với kinh phí từ ngân sách nhà nước gần 600 triệu đồng.

Xử phạt 1 cơ sở sử dụng cân đồng hồ lò xo không có chứng chỉ kiểm định

05:42 23/06/2025

(HG) - Đoàn kiểm tra về đo lường, chất lượng hàng hóa lưu thông trên thị trường, do Sở Khoa học và Công nghệ tỉnh thành lập, vừa có đợt kiểm tra các phương tiện đo nhóm 2, hàng đóng gói sẵn, thép làm cốt bê tông, thiết bị điện và điện tử, mũ bảo hiểm và một số hàng hóa khác có nghi vấn về đo lường, chất lượng trên địa bàn tỉnh.

Kỳ vọng phát triển tài sản trí tuệ

07:44 19/06/2025

Chương trình phát triển tài sản trí tuệ tỉnh Hậu Giang giai đoạn đến năm 2030 đang được triển khai với nhiều định hướng trợ lực cho các thương hiệu, sản phẩm chủ lực, giàu tiềm năng của tỉnh nhà.

Để người dân tin tưởng, doanh nghiệp phát triển

09:07 18/06/2025

Công tác kiểm định và hiệu chuẩn phương tiện đo, chuẩn đo lường là một việc quan trọng, cần được thực hiện đầy đủ, đúng quy định để doanh nghiệp phát triển bền vững, người dân yên tâm mua sắm hàng hóa.

Sản xuất dưa lưới trong nhà màng và chế biến đa dạng hóa sản phẩm từ trái dưa lưới

09:01 13/06/2025

(HG) - Là nội dung Dự án “Xây dựng mô hình, chuyển giao công nghệ sản xuất dưa lưới và chế biến đa dạng hóa sản phẩm từ trái dưa lưới tại Khu nông nghiệp ứng dụng công nghệ cao Hậu Giang”, một nhiệm vụ khoa học và công nghệ cấp tỉnh năm 2021, do kỹ sư Trần Kỷ Nguyên làm chủ nhiệm, Ban Quản lý Khu nông nghiệp ứng dụng công nghệ cao Hậu Giang là tổ chức chủ trì, được triển khai trong 3 năm (từ tháng 2-2022 đến tháng 2-2025), với tổng kinh phí gần 1,3 tỉ đồng.

Tìm giải pháp quản lý nước ngọt phục vụ sản xuất và dân sinh

09:22 12/06/2025

(HG) - Hội đồng Khoa học và Công nghệ tư vấn đánh giá nghiệm thu kết quả thực hiện nhiệm vụ khoa học và công nghệ cấp tỉnh vừa tiến hành đánh giá, nghiệm thu đề tài “Tiềm năng, giải pháp quản lý nước ngọt phục vụ sản xuất và dân sinh hiệu quả ở tỉnh Hậu Giang”.

Ứng dụng tiến bộ khoa học và công nghệ sản xuất, chế biến nấm

14:32 08/06/2025

(HG) - Dự án “Xây dựng mô hình ứng dụng tiến bộ khoa học và công nghệ (KH&CN) sản xuất và chế biến nấm sò (nấm bào ngư - Pleurotus sp.), nấm vân chi (Trametes versicolor) và nấm trân châu (Agrocybe aegeritae) tại tỉnh Hậu Giang”, là nhiệm vụ

Nguồn lực tư nhân trong phát triển khoa học và công nghệ

06:25 29/05/2025

Doanh nghiệp tư nhân được xác định là động lực chính cho sự phát triển bền vững của khoa học, công nghệ, đổi mới sáng tạo (KH, CN, ĐMST), cần được trợ lực nhiều hơn trong thời gian tới.

Ứng dụng công nghệ cao trong sản xuất nông nghiệp

06:10 21/05/2025

Với tầm nhìn chiến lược phát triển nông nghiệp theo hướng hiện đại, Hậu Giang đã và đang từng bước khẳng định vai trò của Khu nông nghiệp ứng dụng công nghệ cao (NNƯDCNC) trong việc chuyển giao tiến bộ kỹ thuật, nâng cao giá trị nông sản, góp phần gia tăng thu nhập cho nông dân.

THÔNG TIN CẦN BIẾT
Nhiều mây, có mưa, có nơi mưa vừa, mưa to và rải rác có dông. Gió tây nam cấp 3. Trong cơn dông có khả năng xảy ra lốc, sét và gió giật mạnh.

Thành lập Tổ Công tác thường trực tiếp nhận, hướng dẫn, giải đáp khó khăn, vướng mắc phát sinh trong quá trình sắp xếp tổ chức bộ máy

11:02 30/06/2025

(HGO) - Nhằm đảm bảo vận hành mô hình chính quyền địa phương 02 cấp thông suốt, hiệu quả, Bảo hiểm xã hội (BHXH) khu vực XXX vừa thành lập Tổ Công tác thường trực tiếp nhận, hướng dẫn, giải đáp khó khăn, vướng mắc phát sinh trong quá trình sắp xếp tổ chức bộ máy

Kính gửi Quý độc giả thân yêu !

08:11 30/06/2025

Kể từ số báo này, Báo Hậu Giang sẽ chính thức ngừng xuất bản, chia tay với Quý độc giả theo sự chỉ đạo của Thường trực Tỉnh ủy để sáp nhập về đơn vị hành chính mới thành phố Cần Thơ theo Nghị quyết số 202/2025/QH 15 ngày 12 tháng 6 năm 2025 của Quốc hội về việc sắp xếp đơn vị hành chính cấp tỉnh năm 2025.

“Hạnh phúc tuổi trẻ”

08:10 30/06/2025

Đây là quyển sách của triết gia Ấn Độ Jiddu Krishnamurti (1895-1986) dành cho những người trẻ.

Mãi nhớ Hậu Giang qua từng câu hát, lời ca !

08:09 30/06/2025

Miền đất Hậu Giang đã để lại trong ký ức bao người không chỉ qua âm nhạc, mà ở các thể loại nghệ thuật khác như văn, thơ, nhiếp ảnh...