Bộ nhớ bền vững thực sự thay đổi nhập vai AI đến mức nào?
2026-08-07
Bộ nhớ bền vững xuyên phiên thay đổi trải nghiệm nhập vai AI nhiều hơn bất kỳ yếu tố kỹ thuật đơn lẻ nào khác — đó là khác biệt giữa một câu chuyện được tích lũy và một câu chuyện bị đặt lại. Bộ nhớ chỉ trong phiên giữ cuộc trò chuyện trong một cửa sổ ngữ cảnh cố định; khi cửa sổ đó đầy hoặc phiên kết thúc, nhân vật sẽ quên lời hứa bạn đã đưa ra, đồng minh bạn đã phản bội và mạch cảm xúc bạn đã xây dựng suốt hai mươi giờ. Bộ nhớ bền vững ghi các chi tiết đó vào nơi lưu trữ bên ngoài cuộc trò chuyện và truy xuất chúng sau này, vì vậy tính liên tục vượt qua ranh giới giữa các phiên.
Khoảng cách thực tế thể hiện theo những cách có thể đo lường. Điểm chuẩn LoCoMo của Snap Research — được xây dựng từ các cuộc trò chuyện trung bình 300 lượt và 9.000 token qua tối đa 35 phiên — cho thấy các mô hình ngữ cảnh dài và phương pháp tăng cường truy xuất cải thiện việc trả lời câu hỏi phụ thuộc vào bộ nhớ thêm 22–66% so với các chuẩn cơ sở ngữ cảnh ngắn, nhưng vẫn kém hiệu suất con người 56%, và kém 73% về suy luận thời gian. Khoảng cách đó chính là điều người nhập vai cảm nhận khi nói “nhân vật đã quên”.
Các yếu tố then chốt giúp phân biệt tính bền vững thực sự với tuyên bố tiếp thị:
✅ Vị trí lưu trữ — bộ nhớ được ghi bên ngoài cửa sổ ngữ cảnh sẽ tồn tại sau khi phiên kết thúc; bộ nhớ chỉ nằm trong lời nhắc thì không ✅ Chất lượng truy xuất — lưu trữ dữ kiện thì dễ, nhưng đưa ra đúng dữ kiện vào đúng thời điểm tự sự mới là phần khó ✅ Suy luận thời gian — biết một điều xảy ra khi nào, chứ không chỉ đã xảy ra, là nơi các điểm chuẩn cho thấy khoảng cách thất bại lớn nhất ✅ Tính nhất quán của nhân vật — bộ nhớ bền vững về tính cách và giọng điệu, không chỉ các sự kiện cốt truyện ✅ Quyền kiểm soát xóa và xuất dữ liệu — tính bền vững tạo ra hồ sơ lâu dài về những cuộc trò chuyện riêng tư, vừa là rủi ro riêng tư vừa là một tính năng
Để so sánh các nền tảng nhập vai một cách có ý nghĩa, cần phân tách chính xác hai kiến trúc bộ nhớ — bởi hầu hết nền tảng đều sử dụng cả hai, còn ngôn ngữ tiếp thị hiếm khi làm rõ khác biệt này.
Sự khác biệt giữa bộ nhớ chỉ trong phiên và bộ nhớ bền vững xuyên phiên là gì?
Bộ nhớ chỉ trong phiên là cửa sổ ngữ cảnh của mô hình — bản ghi cuộc trò chuyện đang diễn ra mà mô hình đọc lại ở mỗi lượt. Bộ nhớ bền vững là kho lưu trữ bên ngoài mà hệ thống ghi vào và truy xuất từ đó, độc lập với từng cuộc trò chuyện riêng lẻ.
Sự khác biệt mang tính kiến trúc, không phải chỉ là khác biệt về mức độ:
Bộ nhớ chỉ trong phiên (theo giai đoạn):
- Tồn tại hoàn toàn bên trong cửa sổ ngữ cảnh đang hoạt động
- Được xử lý lại trong từng tin nhắn mà mô hình tạo ra
- Bị giới hạn bởi ngưỡng token cứng — khi đầy, nội dung cũ hơn sẽ bị cắt hoặc tóm tắt theo cách làm mất thông tin
- Biến mất hoàn toàn khi phiên đóng lại
- Nhanh và không mất mát trong ranh giới của nó — không có gì được “truy xuất”, mọi thứ đơn giản là đang hiện diện
Bộ nhớ bền vững (dài hạn):
- Các dữ kiện đã trích xuất, bản tóm tắt hoặc embedding được ghi vào cơ sở dữ liệu bên ngoài cuộc trò chuyện
- Được truy xuất có chọn lọc và đưa vào ngữ cảnh khi phù hợp
- Tồn tại sau khi phiên kết thúc, ứng dụng khởi động lại và thường cả khi chuyển mô hình
- Dung lượng gần như không giới hạn, nhưng truy xuất có mất mát — hệ thống phải quyết định chính xác điều gì cần đưa ra
Sự bất đối xứng then chốt: bộ nhớ chỉ trong phiên là ghi nhớ hoàn hảo trong giới hạn, còn bộ nhớ bền vững là ghi nhớ không hoàn hảo không giới hạn. Một cửa sổ ngữ cảnh 200.000 token ghi nhớ hoàn hảo mọi thứ trong đó. Hệ thống bộ nhớ bền vững ghi nhớ mọi điều bạn từng nói — nhưng chỉ đưa ra những gì lớp truy xuất đánh giá là liên quan, và đó là nơi lỗi phát sinh.
Đây là lý do nghiên cứu khảo sát các kiến trúc bộ nhớ dài hạn cho AI ánh xạ các hệ thống bộ nhớ AI theo những nhóm của con người — bộ nhớ theo giai đoạn, ngữ nghĩa và thủ tục — thay vì coi bộ nhớ là một năng lực đơn lẻ. Một hệ thống nhập vai cần đồng thời có hồi ức theo giai đoạn (“bạn đã giết đội trưởng lính gác ở chương ba”), hồi ức ngữ nghĩa (“nhân vật này khinh ghét giới quý tộc”) và tính nhất quán thủ tục (“nhân vật này luôn nói bằng những câu ngắn gọn”).
Vì sao các nhân vật nhập vai AI quên câu chuyện của bạn?
Nhân vật quên vì kiến trúc chỉ trong phiên sẽ loại bỏ nội dung về mặt vật lý khi cửa sổ ngữ cảnh đầy, và vì hệ thống bộ nhớ bền vững thất bại ở khâu truy xuất ngay cả khi dữ liệu vẫn tồn tại. Cả hai kiểu thất bại đều tạo ra cùng một triệu chứng mà người dùng nhìn thấy.
Kiểu thất bại 1: Tràn cửa sổ ngữ cảnh. Trong một phiên nhập vai dài, các cảnh đầu tiên bị cắt bớt hoặc nén thành các bản tóm tắt mất thông tin. Nhân vật không “quên” — thông tin đơn giản là không còn ở trước mô hình nữa.
Kiểu thất bại 2: Bỏ sót khi truy xuất. Kho lưu trữ bền vững chứa dữ kiện đó, nhưng lớp truy xuất không đưa nó ra vì lượt hiện tại không khớp về mặt ngữ nghĩa. Đây là kiểu thất bại ngấm ngầm hơn, vì nền tảng vẫn có thể thành thật tuyên bố rằng mình có bộ nhớ.
Kiểu thất bại 3: Nhầm lẫn thời gian. Hệ thống nhớ một dữ kiện nhưng đặt sai vị trí của nó trên dòng thời gian. Kết quả điểm chuẩn của LoCoMo chỉ ra chính xác điều này — suy luận thời gian cho thấy khoảng cách người-mô hình lớn nhất, ở mức 73%, tệ hơn nhiều so với hồi ức nói chung.
Kiểu thất bại 4: Hồi ức ảo giác. Đánh giá LoCoMo phát hiện các mô hình ngữ cảnh dài “thể hiện ảo giác đáng kể, dẫn đến khó khăn với các câu hỏi đối kháng” — nghĩa là mô hình tự tin bịa ra lịch sử chung chưa từng xảy ra. Với nhập vai, ký ức sai có thể còn tệ hơn không có ký ức, vì nó âm thầm làm hỏng tính liên tục.
Đây là vấn đề được cảm nhận rộng rãi, không phải lời phàn nàn của một nhóm nhỏ. Người nhập vai trên
là điểm gây cản trở chính, với mô thức hỏng cụ thể là “nhân vật quên các sự kiện lớn đã xảy ra”. Cuộc xem đây là một vấn đề kỹ thuật chưa được giải quyết trong toàn bộ danh mục, bất chấp quy mô của Character.AI.Bộ nhớ thực sự cải thiện trải nghiệm nhập vai đến mức nào?
Bộ nhớ cải thiện khả năng cảm nhận về trí thông minh và mức độ gắn kết một cách có thể đo lường, nhưng nghiên cứu cho thấy mối quan hệ này không hoàn toàn tích cực — có một khía cạnh niềm tin theo chiều ngược lại.
Những điều được cải thiện nhờ bộ nhớ bền vững:
| Khía cạnh | Chỉ trong phiên | Bền vững xuyên phiên |
|---|---|---|
| Hiệu quả tự sự | Liên hệ lại chỉ giới hạn trong phiên hiện tại | Những tiền đề từ nhiều tháng trước có thể được giải quyết |
| Tính nhất quán của nhân vật | Tính cách trôi dạt khi định nghĩa ban đầu bị cắt | Giọng điệu và đặc điểm được neo trong kho lưu trữ bên ngoài |
| Tiến triển mối quan hệ | Bắt đầu lại từ số không ở mỗi phiên | Tích lũy xuyên suốt toàn bộ lịch sử |
| Độ sâu xây dựng thế giới | Cốt truyện nền phải được thiết lập lại hoặc dán vào | Các phe phái, địa điểm và luật lệ được duy trì |
| Rào cản khi bắt đầu | Cao — phải giải thích lại bối cảnh ở mỗi phiên | Gần bằng không sau thiết lập ban đầu |
Điểm phức tạp của vấn đề. Một nghiên cứu thí điểm của ACM mang tên “Ghi nhớ khiến chatbot có vẻ thông minh hơn, nhưng...” đã điều tra cách bộ nhớ dài hạn ngữ nghĩa ảnh hưởng đến đánh giá của người dùng về mức độ dễ mến, trí thông minh cảm nhận và độ an toàn cảm nhận của chatbot — chính tiêu đề đã cho thấy lợi ích không đồng đều ở cả ba khía cạnh. Bộ nhớ khiến một hệ thống có vẻ thông minh hơn có thể đồng thời khiến nó có cảm giác bị giám sát nhiều hơn.
Đây là sự đánh đổi mà phần lớn tiếp thị của nền tảng bỏ qua. Một nhân vật nhớ được chấn thương thời thơ ấu của bạn từ bốn tháng trước vừa nhập vai hơn vừa gây bất an hơn so với một nhân vật không nhớ. Việc đó có phải là tính năng hay không phụ thuộc hoàn toàn vào mục đích của người dùng — nhập vai kể chuyện và nhập vai với bạn đồng hành thực sự có các yêu cầu bộ nhớ khác nhau.
Khung đánh giá của chúng tôi. Đánh giá bộ nhớ nhập vai một cách có ý nghĩa đòi hỏi sáu khía cạnh, không phải một:
- Khoảng lưu giữ — có thể nhớ lại xa đến đâu?
- Độ chính xác truy xuất — có đưa ra đúng ký ức không?
- Độ chính xác thời gian — có sắp xếp đúng thứ tự các sự kiện không?
- Độ trung thực nhân vật — tính cách có tồn tại song song với cốt truyện không?
- Tính liên tục xuyên phiên — có hoạt động sau khi đóng ứng dụng không?
- Quyền kiểm soát của người dùng — bạn có thể xem, chỉnh sửa và xóa những gì hệ thống đã lưu không?
Phần lớn nền tảng tối ưu cho 1 và 5, vì đây là những điều dễ tiếp thị nhất. Các khía cạnh 2, 3 và 6 mới là nơi có sự khác biệt thực sự.
Những nền tảng nhập vai AI nào xử lý bộ nhớ tốt nhất?
Không có nền tảng nào dẫn đầu ở mọi khía cạnh bộ nhớ — lựa chọn mạnh nhất phụ thuộc vào việc bạn ưu tiên trạng thái thế giới, quyền kiểm soát văn xuôi, sự đa dạng nhân vật hay tính bền vững xuyên phiên.
🎭 Character.AI
Thư viện nhân vật lớn nhất và điểm khởi đầu dễ tiếp cận nhất. Character.AI được cho là đã đạt khoảng 20 triệu người dùng hoạt động hằng tháng tính đến tháng 2 năm 2026. Bộ nhớ dựa trên ngữ cảnh cuộc trò chuyện, và các so sánh trong ngành lưu ý rằng nền tảng này có “mô phỏng thế giới hạn chế, không có hình ảnh cảnh tích hợp và tính liên tục cho truyện dài yếu hơn các thế giới nhập vai chuyên biệt”.
Phù hợp cho: trò chuyện nhân vật thông thường, khám phá, các cảnh ngắn. Hạn chế bởi: tính liên tục của truyện dài — lời phàn nàn phổ biến nhất trong chính cộng đồng của nền tảng.
📖 NovelAI
Một studio văn xuôi thay vì trò chơi trò chuyện. Cách tiếp cận bộ nhớ của nó dùng lorebook — các mục được tuyển chọn thủ công, đưa thông tin thế giới liên quan vào ngữ cảnh dựa trên kích hoạt từ khóa. Đây là bộ nhớ xác định: bạn kiểm soát chính xác những gì được đưa ra.
Phù hợp cho: tiểu thuyết cá nhân, xây dựng thế giới, tự sự do tác giả dẫn dắt mà bạn muốn kiểm soát rõ ràng những gì mô hình nhớ lại. Hạn chế bởi: cần tuyển chọn thủ công và không được xây dựng xoay quanh các phiên nhiều người chơi hoặc các vòng lặp kiểu trò chơi.
🃏 Janitor AI
Dựa trên thẻ nhân vật với độ linh hoạt mô hình cao. Chất lượng bộ nhớ “phụ thuộc nhiều vào lựa chọn mô hình, thiết lập và thiết kế nhân vật” — nghĩa là bộ nhớ về thực chất là kết quả của cấu hình người dùng thay vì một cam kết của nền tảng.
Phù hợp cho: thư viện nhân vật miễn phí lớn, thử nghiệm, chuyển đổi mô hình. Hạn chế bởi: hành vi bộ nhớ không nhất quán giữa các cấu hình.
🛠️ SillyTavern + mô hình cục bộ
Bộ công cụ cho người dùng chuyên sâu. Thông tin thế giới, tiện ích mở rộng và quyền kiểm soát đầy đủ đối với lời nhắc, với tùy chọn chạy hoàn toàn cục bộ. Quyền riêng tư ở mức tối đa vì không có gì rời khỏi máy của bạn.
Phù hợp cho: người dùng kỹ thuật muốn quyền kiểm soát và quyền riêng tư. Hạn chế bởi: thiết lập, chọn mô hình, phần cứng và khắc phục sự cố đều là một phần của trải nghiệm — đây là một bộ công cụ, không phải sản phẩm hoàn thiện.
🎲 Jenova's Roleplay Game Master
Roleplay Game Master được xây dựng xoay quanh bộ nhớ không giới hạn và tính nhất quán của nhân vật, với bộ nhớ bền vững xuyên phiên hoạt động ở cấp nền tảng thay vì cấp từng nhân vật. Vì Jenova duy trì lịch sử trò chuyện không giới hạn và bộ nhớ bền vững xuyên suốt mọi phiên, một chiến dịch có thể tạm dừng nhiều tuần rồi tiếp tục mà tính liên tục vẫn nguyên vẹn. Tác nhân này cũng kế thừa quyền truy cập đa mô hình — bạn có thể chuyển đổi mô hình nền mà không mất trạng thái câu chuyện đã tích lũy, điều hiếm thấy trong danh mục này.
Phù hợp cho: chiến dịch dài hạn, tự do sáng tạo hoàn toàn, tính liên tục xuyên phiên, linh hoạt mô hình trong một câu chuyện duy nhất. Hạn chế bởi: đây là nền tảng tác nhân đa năng thay vì sản phẩm xã hội nhập vai được xây dựng chuyên biệt — không có chợ khám phá nhân vật, không có thẻ nhân vật do cộng đồng chia sẻ, không có phiên hợp tác nhiều người chơi và không có tính năng tạo ảnh cảnh tích hợp trong luồng nhập vai. Nếu ưu tiên của bạn là duyệt hàng nghìn nhân vật cộng đồng hoặc chơi cùng bạn bè trong một thế giới chung, các nền tảng nhập vai chuyên dụng phục vụ điều đó tốt hơn.
Bảng so sánh
| Khía cạnh | Character.AI | NovelAI | Janitor AI | SillyTavern | Jenova Roleplay Game Master |
|---|---|---|---|---|---|
| Loại bộ nhớ | Ngữ cảnh trò chuyện | Lorebook + ngữ cảnh dài | Ngữ cảnh phụ thuộc mô hình | Thông tin thế giới + tiện ích mở rộng | Bền vững xuyên phiên |
| Tính liên tục xuyên phiên | Yếu với truyện dài | Do lorebook dẫn dắt | Phụ thuộc cấu hình | Phụ thuộc thiết lập | Bền vững mặc định |
| Tính nhất quán nhân vật | Dựa trên thẻ nhân vật | Do tác giả kiểm soát | Phụ thuộc thẻ + mô hình | Tùy chỉnh hoàn toàn | Nhất quán ở cấp nền tảng |
| Linh hoạt mô hình | Mô hình nền tảng | Các mô hình nền tảng | Cao | Đầy đủ (cục bộ hoặc lưu trữ) | Đa nhà cung cấp, có thể chuyển giữa truyện |
| Nhân vật cộng đồng | Thư viện rất lớn | Không áp dụng | Thư viện miễn phí lớn | Nhập thẻ | Không có |
| Nhiều người chơi | Tính năng trò chuyện nhóm | Không ưu tiên nhóm chơi | Ưu tiên chơi đơn | Phụ thuộc thiết lập | Không hỗ trợ |
| Giá | Gói miễn phí + trả phí | Các gói trả phí | Gói miễn phí | Phần mềm miễn phí, chi phí phần cứng/API | Gói miễn phí; Plus $20/tháng (mức sử dụng 30×) |
| Phù hợp nhất cho | Trò chuyện nhân vật thông thường | Văn xuôi cá nhân và lorebook | Đa dạng nhân vật miễn phí | Quyền kiểm soát và riêng tư tối đa | Chiến dịch dài cần tính liên tục |
Tính năng và giá của nền tảng thay đổi thường xuyên. Hãy xác minh thông tin hiện tại trên trang của từng nhà cung cấp trước khi quyết định.
Làm thế nào để thiết lập nhập vai nhằm tối đa tính liên tục của bộ nhớ?
Bất kể nền tảng nào, tính liên tục bộ nhớ cũng cải thiện đáng kể khi thiết lập có chủ đích — phần lớn sự suy giảm có thể được ngăn ngừa bằng cấu trúc thay vì công nghệ tốt hơn.
Kỹ thuật phổ quát: bản tóm tắt neo. Sau mỗi 20–30 lượt, hãy viết một bản tóm tắt ngắn trong phiên về các dữ kiện đã được thiết lập. Cách này hoạt động trên hệ thống chỉ trong phiên (giữ dữ kiện trong cửa sổ) lẫn hệ thống bền vững (tạo một bản ghi tín hiệu cao để hệ thống truy xuất tìm thấy).
“Trước khi tiếp tục — hãy tóm tắt trạng thái hiện tại: tên và đặc điểm nhân vật của tôi, những người chúng ta đã liên minh, những người chúng ta đã đối đầu, các tuyến cốt truyện chưa được giải quyết và địa điểm hiện tại.”
Với cách tiếp cận lorebook của NovelAI:
- Tạo một mục lorebook cho mỗi nhân vật, phe phái và địa điểm chính.
- Đặt từ khóa kích hoạt thành những cái tên xuất hiện trong văn xuôi thông thường.
- Giữ mỗi mục dưới khoảng 200 token — mục dài sẽ lấn át ngữ cảnh tự sự thực tế.
- Cập nhật các mục sau những diễn biến cốt truyện lớn thay vì phụ thuộc vào bản ghi.
Với Roleplay Game Master của Jenova:
- Mở tác nhân tại jenova.ai/a/roleplay-game-master.
- Thiết lập thế giới và nhân vật trong tin nhắn mở đầu thay vì từng bước:
“Bối cảnh: một thành phố thương mại đang suy tàn, nơi ma thuật là bất hợp pháp. Tôi vào vai Kael, cựu thẩm tra viên nay buôn lậu cổ vật bị cấm. Hoài nghi, hài hước khô khan, tránh bạo lực trực diện. Theo dõi danh tiếng của tôi với ba phe: Đội Canh gác, Nghiệp đoàn và Thánh ca Tàn tro.”
- Tiếp tục trong cùng phiên trò chuyện qua nhiều ngày hoặc tuần — tính bền vững hoạt động ở cấp phiên, vì vậy quay lại cùng cuộc trò chuyện sẽ giữ trạng thái đã tích lũy.
- Để xác minh tính liên tục sau một khoảng nghỉ dài, hãy yêu cầu kiểm tra trạng thái:
“Hãy tóm tắt chỗ chúng ta đã dừng lại — vị thế của tôi với từng phe, các tuyến cốt truyện còn mở và điều tôi sắp làm.”
Với SillyTavern:
- Cấu hình các mục World Info với độ sâu quét và ngân sách token phù hợp.
- Sử dụng tiện ích mở rộng tóm tắt để duy trì lịch sử cô đọng theo dạng cuốn chiếu.
- Chọn mô hình có cửa sổ ngữ cảnh lớn — chất lượng bộ nhớ ở đây bị giới hạn trực tiếp bởi lựa chọn mô hình và phần cứng của bạn.
Thói quen đa nền tảng: đặt tên rõ ràng cho mọi thứ và tái sử dụng chính xác cùng những tên đó. Các hệ thống truy xuất khớp theo độ tương đồng ngữ nghĩa, còn cách gọi không nhất quán (“đội trưởng” so với “Vell” so với “gã lính gác kia”) sẽ chia một ký ức đáng lẽ thống nhất thành ba ký ức yếu.
Những rủi ro riêng tư của bộ nhớ nhập vai bền vững là gì?
Bộ nhớ bền vững đồng nghĩa lịch sử trò chuyện riêng tư của bạn được lưu trữ, giữ lại và có thể khó xóa — và nghiên cứu về chính danh mục này cho thấy những khoảng trống quản trị là đáng kể.
Một nghiên cứu arXiv năm 2026 phân tích 2.909 bài đăng Reddit trên 79 subreddit trong một năm đã xác định bốn mô thức riêng tư lặp lại trong AI bạn đồng hành và nhập vai:
- Yêu cầu đầu vào không tương xứng — xác minh danh tính và tích hợp rộng có cảm giác quá mức đối với bối cảnh bạn đồng hành.
- Độ nhạy gia tăng trong cách sử dụng thân mật — các cuộc trò chuyện bị “tái phân loại thành những hồ sơ giống nhật ký hoặc có tính riêng tư cao”.
- Bất định trong diễn giải và cảm nhận bị giám sát — các tín hiệu riêng tư mâu thuẫn tạo ra cảm giác chung rằng mình đang bị theo dõi.
- Tính không thể đảo ngược, bền vững và gánh nặng cho người dùng — việc xóa và di chuyển dữ liệu trở nên khó khăn, còn trách nhiệm bảo vệ riêng tư chuyển sang người dùng.
Lập luận trung tâm của nghiên cứu liên quan trực tiếp đến câu hỏi về bộ nhớ: quyền riêng tư trong các hệ thống này “không chỉ được định hình bởi dữ liệu nào được thu thập hoặc tái sử dụng, mà còn bởi cách quản trị được tổ chức qua truy cập, diễn giải, lưu giữ và rời đi”. Bộ nhớ bền vững vốn là việc lưu giữ theo thiết kế. Tính năng và rủi ro là cùng một cơ chế.
Bài nghiên cứu cũng lưu ý rằng cơ quan bảo vệ dữ liệu của Ý đã phạt Replika vì vi phạm quyền riêng tư, bao gồm các thiếu sót liên quan đến xác minh độ tuổi — bằng chứng cho thấy sự giám sát pháp lý trong danh mục này đang diễn ra chứ không phải chỉ là lý thuyết.
Danh sách kiểm tra thực tế trước khi bật bộ nhớ bền vững:
- ☐ Bạn có thể xem hệ thống đã lưu gì về mình không?
- ☐ Bạn có thể xóa từng ký ức riêng lẻ, hay chỉ có thể xóa toàn bộ tài khoản?
- ☐ Việc xóa có thực sự loại bỏ dữ liệu, hay chỉ ẩn dữ liệu khỏi giao diện?
- ☐ Dữ liệu trò chuyện của bạn có được dùng để huấn luyện mô hình không?
- ☐ Bạn có thể xuất lịch sử nếu muốn chuyển sang nơi khác không?
Jenova tuyên bố dữ liệu người dùng không bao giờ được dùng để huấn luyện các mô hình AI công khai, được mã hóa khi truyền và khi lưu trữ, đồng thời không bị bán hoặc chia sẻ với nhà quảng cáo. Global Memory — lớp xuyên phiên — có thể được tắt hoàn toàn trong Settings, thao tác này vô hiệu hóa cả lưu trữ lẫn truy xuất. Các bộ công cụ cục bộ như SillyTavern với mô hình cục bộ mang lại tư thế riêng tư mạnh nhất hiện có, vì dữ liệu không bao giờ rời khỏi phần cứng của bạn, đổi lại là độ phức tạp trong thiết lập.
Các nhà nghiên cứu nói gì về bộ nhớ hội thoại dài hạn?
Đồng thuận nghiên cứu là bộ nhớ bền vững mang lại lợi ích thực tế nhưng vẫn thấp hơn đáng kể so với hiệu suất của con người, đặc biệt ở suy luận thời gian — và khoảng cách về độ tin cậy, chứ không phải khoảng cách về dung lượng, là nút thắt hiện nay.
“Phát hiện thường bị hiểu sai nhất trong tài liệu về bộ nhớ là con số cải thiện trên tiêu đề. LoCoMo cho thấy các phương pháp tăng cường truy xuất và ngữ cảnh dài cải thiện QA phụ thuộc vào bộ nhớ từ 22 đến 66 phần trăm — nghe có vẻ như vấn đề gần được giải quyết. Nhưng cùng điểm chuẩn đó lại cho thấy khoảng cách 56 phần trăm so với hiệu suất con người nói chung và 73 phần trăm với suy luận thời gian. Riêng với nhập vai, suy luận thời gian chính là sản phẩm. Một câu chuyện là một chuỗi. Nếu hệ thống biết một sự phản bội đã xảy ra nhưng không thể đặt nó trong tương quan với liên minh diễn ra trước đó, logic tự sự sẽ sụp đổ ngay cả khi việc hồi ức về mặt kỹ thuật đã thành công.”
“Điều thứ hai đáng lưu ý là hồi ức ảo giác là một kiểu thất bại khác biệt so với quên, và nó gây hại hơn trong các bối cảnh sáng tạo. Đánh giá LoCoMo phát hiện các mô hình ngữ cảnh dài gặp khó khăn với câu hỏi đối kháng — chúng tự tin xác nhận những sự kiện chưa từng xảy ra. Với một trợ lý thực tế, đó là lỗi bạn có thể phát hiện. Trong chiến dịch nhập vai kéo dài 40 giờ, một ký ức chung được bịa ra đầy tự tin sẽ trở thành chính sử, và người dùng không có tham chiếu bên ngoài để kiểm chứng. Vì chính lý do này, chúng tôi xem độ chính xác truy xuất quan trọng hơn độ bao phủ truy xuất.”
“Hàm ý kiến trúc là lưu trữ không giới hạn chưa từng là phần khó. Ghi lại mọi thứ là chuyện đơn giản. Phần khó là quyết định ba dữ kiện nào trong số mười nghìn dữ kiện cần có trong cửa sổ ngữ cảnh ở lượt này. Đó là bài toán xếp hạng, và chính là nơi nỗ lực kỹ thuật còn lại trong danh mục này thực sự tập trung.”
— Nhóm Sản phẩm Jenova, bộ nhớ và điều phối tác nhân AI, hơn 6 năm xây dựng các hệ thống hội thoại vận hành thực tế
Tài liệu nghiên cứu nhìn chung ủng hộ cách định khung này. Đánh giá của Aveni Labs về bộ nhớ dài hạn cho LLM đã khảo sát nhiều loại bộ nhớ riêng biệt thay vì xem bộ nhớ là một khối đơn nhất, còn nghiên cứu ACL Findings về đánh giá bộ nhớ dài hạn đề xuất các phương pháp đánh giá chính xác hơn — cho thấy bản thân việc đo lường vẫn là một vấn đề mở.
Đáng chú ý, các tác giả LoCoMo nhận thấy RAG mang đến một sự thỏa hiệp cân bằng, “kết hợp độ chính xác của LLM ngữ cảnh ngắn với mức độ thấu hiểu rộng của LLM ngữ cảnh rộng”, và hoạt động “đặc biệt tốt khi các cuộc đối thoại được chuyển thành cơ sở dữ liệu gồm các khẳng định (quan sát) về cuộc sống và nhân dạng của từng người nói”. Đối với việc chọn nền tảng nhập vai, điều này ủng hộ các hệ thống trích xuất dữ kiện có cấu trúc hơn là các hệ thống chỉ lưu bản ghi thô.
Bạn nên chọn cách tiếp cận bộ nhớ nào cho phong cách nhập vai của mình?
Kiến trúc phù hợp phụ thuộc vào độ dài phiên, độ phức tạp câu chuyện và mức độ tuyển chọn thủ công mà bạn sẵn sàng thực hiện — không có lựa chọn nào vượt trội một cách phổ quát.
Chọn bộ nhớ chỉ trong phiên khi:
- Các cảnh của bạn khép kín và kéo dài dưới vài giờ
- Bạn thích khởi động lại với các biến thể thay vì tiếp tục một mạch truyện
- Quyền riêng tư là ưu tiên tối cao và bạn không muốn có hồ sơ được lưu giữ
- Bạn đang khám phá nhân vật thay vì xây dựng một chiến dịch
Chọn bộ nhớ được tuyển chọn kiểu lorebook (NovelAI, SillyTavern World Info) khi:
- Bạn đang viết tiểu thuyết dài với cẩm nang thế giới được xác định rõ
- Bạn muốn kiểm soát có tính xác định đối với những gì mô hình nhớ lại
- Bạn sẵn sàng duy trì các mục theo cách thủ công
- Độ chính xác của tác giả quan trọng hơn sự tiện lợi
Chọn bộ nhớ tự động bền vững (Jenova Roleplay Game Master và các sản phẩm tương tự) khi:
- Chiến dịch của bạn kéo dài nhiều tuần hoặc tháng qua nhiều phiên
- Bạn muốn tính liên tục mà không phải chịu chi phí tuyển chọn thủ công
- Tiến triển về quan hệ và danh tiếng là trọng tâm trải nghiệm
- Bạn coi trọng khả năng đóng ứng dụng rồi quay lại mà không phải thiết lập lại bối cảnh
Chọn cục bộ/tự lưu trữ khi:
- Quyền riêng tư không thể thương lượng
- Bạn muốn trực tiếp xem xét và chỉnh sửa lớp bộ nhớ
- Bạn có phần cứng và khả năng chấp nhận công sức cấu hình
Tóm tắt trung thực: bộ nhớ bền vững xuyên phiên tạo khác biệt lớn — có lẽ là khác biệt đơn lẻ lớn nhất có trong các công cụ nhập vai hiện nay — nhưng không miễn phí. Nó làm tăng bề mặt rủi ro riêng tư, tạo ra nguy cơ hồi ức ảo giác mà hệ thống chỉ trong phiên không có, và vẫn thất bại ở suy luận thời gian theo những cách đôi lúc phá vỡ cảm giác nhập vai. Chọn nó đồng nghĩa với việc chấp nhận những đánh đổi đó để đổi lấy các câu chuyện thực sự được tích lũy.
Nếu bạn đang vận hành một chiến dịch dài hạn và muốn có bộ nhớ không giới hạn với nhân vật nhất quán xuyên các phiên, Roleplay Game Master được xây dựng chính xác cho mục đích đó.