Một cuộc trò chuyện với chatbot AI như ChatGPT có thể tạo cảm giác giống như đang tâm sự với chính mình. Người dùng đặt câu hỏi, kể chuyện riêng tư hoặc chia sẻ những vấn đề khó nói với người khác và thường cho rằng nội dung chỉ nằm giữa họ với chatbot.

Thực tế, mức độ riêng tư của những cuộc trò chuyện này phức tạp hơn nhiều.

Theo khảo sát "The AI Privacy Problem" của DuckDuckGo, khoảng 1/3 người sử dụng AI thừa nhận từng kể cho chatbot một bí mật mà họ không muốn nói với những người được xem là đáng tin cậy trong cuộc sống. Điều này cho thấy chatbot đang dần trở thành nơi người dùng tìm đến không chỉ để tìm kiếm thông tin mà còn để chia sẻ những vấn đề cá nhân.

Tuy nhiên, những gì được nhập vào chatbot không nên mặc định được xem như một cuộc trò chuyện hoàn toàn riêng tư.

Theo Washington Post, trong hai năm qua đã có khoảng một chục vụ việc tại tòa án mà nội dung các cuộc trò chuyện với chatbot được dẫn lại trong hồ sơ công khai. Điều này cho thấy dữ liệu hội thoại có thể xuất hiện trong các quy trình pháp lý, tùy thuộc hoàn cảnh và yêu cầu của cơ quan chức năng.

Với người sử dụng dịch vụ AI do công ty cung cấp, rủi ro còn có thể đến từ chính nơi làm việc. Các cuộc trò chuyện được thực hiện thông qua tài khoản hoặc dịch vụ AI của doanh nghiệp có thể chịu sự quản lý của tổ chức đó.

Ngoài ra, các công ty AI có thể phải lưu giữ dữ liệu trong một số trường hợp theo yêu cầu pháp luật. Vì vậy, việc người dùng xóa một cuộc trò chuyện khỏi giao diện không đồng nghĩa với việc mọi bản sao dữ liệu lập tức biến mất khỏi hệ thống.

Jen King, nhà nghiên cứu về quyền riêng tư tại Viện Trí tuệ nhân tạo lấy con người làm trung tâm của Đại học Stanford, cho rằng người dùng không thể chắc chắn cuộc trò chuyện với chatbot hoàn toàn riêng tư nếu không sử dụng các chế độ được thiết kế để hạn chế lưu trữ dữ liệu.

Điều đáng chú ý là nhận thức của người dùng về vấn đề này đang thấp hơn đáng kể so với mức độ họ sử dụng chatbot.

Theo khảo sát DuckDuckGo, 53% người dùng thường xuyên cho biết họ không biết chatbot AI có thể sử dụng dữ liệu từ các cuộc trò chuyện để phục vụ việc huấn luyện. Trong khi đó, 75% không biết nội dung trao đổi với các mô hình ngôn ngữ lớn (LLM) có thể bị cơ quan thực thi pháp luật yêu cầu cung cấp.

Sự phổ biến của chatbot đang làm thay đổi cách người dùng tương tác với phần mềm. Thay vì chỉ nhập một câu hỏi ngắn, nhiều người cung cấp bối cảnh dài, kể về các mối quan hệ, công việc, tài chính hoặc những vấn đề cá nhân để nhận được câu trả lời phù hợp hơn.

Chính quá trình này khiến lượng thông tin nhạy cảm trong các cuộc hội thoại ngày càng tăng.

Một chatbot có thể được người dùng xem như "người nghe" không phán xét. Song, về bản chất, đây vẫn là một dịch vụ công nghệ vận hành trên hạ tầng máy chủ và chịu sự chi phối của chính sách lưu trữ, xử lý dữ liệu của nhà cung cấp.

Nguy cơ không chỉ đến từ việc dữ liệu được sử dụng theo chính sách của doanh nghiệp. Tháng 7, một lượng lớn cuộc trò chuyện với chatbot Claude của Anthropic từng được phát hiện có thể truy cập trên Internet. Đây cũng không phải lần đầu nội dung hội thoại của chatbot bị lộ ra ngoài.

Những sự cố như vậy cho thấy dữ liệu hội thoại AI có thể trở thành một dạng thông tin nhạy cảm mới. Khác với lịch sử tìm kiếm, một cuộc trò chuyện với chatbot thường chứa nhiều thông tin có ngữ cảnh và chi tiết hơn, thậm chí kết hợp nhiều dữ liệu cá nhân trong cùng một phiên.

Vì vậy, giới chuyên gia khuyến cáo người dùng không nên coi chatbot như một cuốn nhật ký cá nhân. Những thông tin có thể gây hậu quả nếu bị tiết lộ, chẳng hạn dữ liệu tài chính, thông tin xác thực, bí mật nghề nghiệp hoặc các vấn đề riêng tư sâu sắc, không nên được đưa vào chatbot nếu không thực sự cần thiết.

Đặc biệt, người dùng nên kiểm tra chế độ lưu trữ và sử dụng dữ liệu của dịch vụ AI trước khi chia sẻ thông tin nhạy cảm. Với những cuộc trao đổi cần mức độ riêng tư cao, nên ưu tiên các chế độ trò chuyện tạm thời hoặc những dịch vụ có cơ chế rõ ràng về việc không lưu và không sử dụng nội dung cho mục đích khác.