The Special Token `<think>` Problem/Bug of Latest DeepSeek LLM

Gần đây, người dùng đã quan sát thấy một sự cố/lỗi trong phiên bản mới nhất của DeepSeek LLM: trong quá trình thử nghiệm, người ta phát hiện ra rằng khi các token đặc biệt hoặc không hoàn chỉnh cụ thể như <think> hoặc <think được đưa vào lời nhắc của người dùng, mô hình có thể tạo ra các phản hồi không ổn định, ảo giác nghiêm trọng, kết quả suy luận bất thường hoặc hành vi không mong muốn.

Mục đích của bài viết này là ghi lại sự cố, minh họa cách hành vi có thể được tái tạo và thảo luận về các thí nghiệm xác minh đã được thực hiện để hiểu rõ hơn về nguyên nhân có thể xảy ra của vấn đề. Bài viết này được tổ chức thành ba phần chính:

• Giới thiệu và Tái tạo sự cố Token <think>: Một hướng dẫn về sự cố đã phát hiện, bao gồm các lời nhắc ví dụ và các hành vi bất thường của mô hình được quan sát.

• Thiết kế Thí nghiệm Xác minh và Phân tích Kết quả: Giới thiệu về thiết lập thí nghiệm xác minh cục bộ, phương pháp thử nghiệm, kết quả thu thập được và phân tích kết quả xác minh.

• Thảo luận và Một số Giả định: Thảo luận và các giả định liên quan đến hành vi của bộ mã hóa token, cơ chế phân tích lời nhắc và các hàm ý bảo mật tiềm ẩn.

# Author:      Yuancheng Liu
# Created:     2026/05/18
# Version:     v_0.0.2
# Copyright:   Copyright (c) 2026 LiuYuancheng
# License:     MIT License

1. Giới thiệu và Tái tạo Lỗi

1.1 Giới thiệu Lỗi

Khoảng ba ngày trước (16/05/2026), nhiều người dùng đã báo cáo hành vi bất thường khi tương tác với web chat của mô hình DeepSeek LLM. Trong quá trình thử nghiệm, người dùng phát hiện ra rằng nếu lời nhắc chỉ chứa token đặc biệt <think> hoặc token không hoàn chỉnh <think, mô hình có thể bất ngờ tạo ra các phản hồi không liên quan, dấu vết suy luận ẩn hoặc trả lời các câu hỏi chưa bao giờ được người dùng hiện tại hỏi.

Trong một số trường hợp, nội dung được tạo ra có vẻ có cấu trúc logic và ý nghĩa theo ngữ cảnh. Bởi vì một số phản hồi trông giống như các đoạn của các truy vấn người dùng hợp lệ, các cuộc thảo luận trực tuyến nhanh chóng dấy lên lo ngại về khả năng rò rỉ dữ liệu giữa các phiên hoặc lộ bộ nhớ đệm suy luận.

Tại thời điểm phát hiện, một số lời giải thích khả thi đã được cộng đồng thảo luận:

• Rò rỉ bộ nhớ đệm GPU hoặc bộ cân bằng tải: Một số người dùng nghi ngờ rằng bộ nhớ đệm của máy chủ suy luận không được xóa đúng cách giữa các yêu cầu, có khả năng gây ra các đoạn lời nhắc hoặc dấu vết suy luận của người dùng khác xuất hiện trong các phiên không liên quan.

• Lỗi bộ mã hóa token hoặc bộ phân tích lời nhắc: Những người khác tin rằng sự cố liên quan đến bộ mã hóa token hoặc cơ chế định dạng lời nhắc nội bộ, trong đó token <think> có thể vô tình kích hoạt hành vi chế độ suy luận ẩn hoặc các hướng dẫn nội bộ đặc biệt.

• Sự cố phân tích token đặc biệt: Một giả định khác là <think> có thể được coi là một token điều khiển dự trữ được mô hình sử dụng nội bộ trong quá trình tạo chuỗi suy nghĩ (chain-of-thought), gây ra các kết quả không ổn định khi tiếp xúc trực tiếp với đầu vào của người dùng.

1.2 Tái tạo Lỗi

Lỗi này tương đối dễ tái tạo. Trong thí nghiệm này, giao diện web DeepSeek chính thức đã được sử dụng với cấu hình sau:

• Chức năng Tìm kiếm Trực tuyến: Đã tắt

• Chức năng Deep Think: Đã bật

Phương pháp thử nghiệm rất đơn giản: lời nhắc đầu vào chỉ chứa văn bản <think> và kết quả trả về đã được ghi lại. Bảy vòng thử nghiệm độc lập đã được thực hiện bằng cách sử dụng các phiên trò chuyện riêng biệt mà không có bất kỳ lịch sử trò chuyện hoặc lời nhắc ngữ cảnh nào.

Bây giờ chúng ta gửi từ <think> và kiểm tra câu trả lời, chúng ta đã thử nghiệm nhiều vòng (bảy cuộc trò chuyện riêng biệt mà không có bất kỳ ngữ cảnh nào)

1.2.1 Thử nghiệm 01 [không có lỗi]

Như được hiển thị bên dưới, mô hình đã diễn giải chính xác đầu vào và trả về một lời giải thích bình thường về token <think>.

1.2.2 Thử nghiệm 02 [lỗi xuất hiện]

Trong vòng này, mô hình đã tạo ra một phản hồi hoàn toàn không liên quan. Khi dấu vết suy luận được mở rộng, nó cho thấy mô hình đang cố gắng trả lời câu hỏi “Làm thế nào để vẽ một khối lập phương?”, mặc dù câu hỏi này chưa bao giờ được hỏi trong phiên hiện tại.

1.2.3 Thử nghiệm 03 [không có lỗi]

Trong thử nghiệm này, mô hình coi token <think> như một chỉ dẫn cấp hệ thống hoặc từ khóa dự trữ, đây là một hành vi hợp lý và mong đợi hơn.

1.2.4 Thử nghiệm 04 [lỗi xuất hiện]

Trong vòng này, mô hình bất ngờ cố gắng trả lời câu hỏi toán học:

“Có đúng là tất cả các không gian vectơ n chiều trên một trường F đều đẳng cấu với không gian các bộ n phần tử F^n không?”

Nội dung được tạo ra không liên quan đến đầu vào của người dùng.

1.2.5 Thử nghiệm 05 [lỗi xuất hiện]

Trong vòng này, mô hình đã tạo ra câu:

“Có một ràng buộc bổ sung: các aja_jaj là các số nguyên dương phân biệt.”

Đầu ra có vẻ là một đoạn trích/một phần được trích xuất từ một lời nhắc liên quan đến toán học hoặc thuật toán lớn hơn (như được hiển thị bên dưới)

1.2.6 Thử nghiệm 06 [không có lỗi]

Vòng này đã tạo ra một phản hồi tương đối bình thường và hợp lý. Mô hình chỉ ra rằng nó đang chuẩn bị quy trình suy luận trước khi trả lời yêu cầu của người dùng.

1.2.7 Thử nghiệm 07 [lỗi xuất hiện]

Trong vòng cuối cùng, mô hình đã cố gắng trả lời một câu hỏi lập trình không liên quan ""Chúng ta có một tập dữ liệu các số đại diện cho số tin nhắn được gửi mỗi ngày bởi một người dùng. Định nghĩa một hàm calculate_limits(mean, std_dev) trả về giới hạn dưới và giới hạn trên của phạm vi chấp nhận được dựa trên quy tắc 68-95-99.7.", và thậm chí còn bắt đầu tự động tạo mã Python như được hiển thị bên dưới:

Dựa trên bảy thử nghiệm độc lập, (4/7) phiên đã tạo ra các phản hồi không liên quan hoặc bất thường. Điều này cho thấy xác suất tương đối cao rằng token <think> có thể kích hoạt hành vi mô hình không ổn định dưới cấu hình đã thử nghiệm.

1.3 Giải thích Chính thức và Thảo luận Ban đầu

Hôm nay ngày 19/05/2026, tài khoản DeepSeek chính thức đã đưa ra một lời giải thích (“关于 <think> 字符触发模型异常回复的说明”). Theo lời giải thích chính thức, sự cố là do một token đặc biệt kích hoạt hành vi ảo giác bất thường bên trong mô hình, và công ty tuyên bố rằng không có bằng chứng về việc rò rỉ thông tin cá nhân. (Như được hiển thị bên dưới)

Mặc dù lời giải thích chính thức quy vấn đề cho ảo giác được kích hoạt bởi các token đặc biệt, một câu hỏi quan trọng vẫn còn:

Nếu hành vi bất thường hoàn toàn do bộ mã hóa token hoặc ảo giác ở cấp độ mô hình gây ra, thì sự cố tương tự có xảy ra trong một bản triển khai cục bộ hoàn toàn cô lập của mô hình DeepSeek chạy trên máy chủ GPU độc lập mà không có cơ sở hạ tầng suy luận chia sẻ không?

Để điều tra thêm khả năng này, các thí nghiệm xác minh bổ sung đã được thực hiện bằng cách sử dụng các mô hình DeepSeek được triển khai cục bộ.

2. Thiết lập và Kết quả Thí nghiệm Xác minh

Dựa trên lời giải thích chính thức của DeepSeek, hành vi bất thường là do ảo giác được kích hoạt bởi một token đặc biệt. Nếu lời giải thích này là đúng, thì tôi đoán rằng hành vi tương tự cũng nên có thể tái tạo trên một bản triển khai cục bộ hoàn toàn cô lập của mô hình DeepSeek chạy trên máy chủ GPU độc lập mà không có bất kỳ cơ sở hạ tầng suy luận đám mây chia sẻ hoặc hệ thống bộ nhớ đệm yêu cầu nào.

2.1 Nền tảng Thí nghiệm

Nền tảng thí nghiệm được sử dụng trong thử nghiệm này là một máy trạm AI NVIDIA GB10 DGX-Spark với 128 GB bộ nhớ chia sẻ. Tài nguyên phần cứng đủ để triển khai và chạy cục bộ mô hình DeepSeek-R1 32B lớn hơn thông qua Ollama.

Môi trường thí nghiệm bao gồm:

• Nền tảng Phần cứng: NVIDIA GB10 DGX-Spark

• Khung LLM: Ollama

• Mô hình Sử dụng: deepseek-r1:32b

• Chế độ Thực thi: Suy luận hoàn toàn cục bộ mà không cần truy cập API bên ngoài

Mục tiêu chính của thí nghiệm là xác định xem chỉ token <think> có thể nhất quán kích hoạt hành vi ảo giác bất thường tương tự như quan sát thấy trong dịch vụ web DeepSeek chính thức hay không.

2.2 Chương trình Thí nghiệm

Một chương trình thử nghiệm Python đơn giản đã được tạo ra để liên tục gửi token <think> đến mô hình được triển khai cục bộ và ghi lại cả dấu vết suy luận và phản hồi cuối cùng.

Mã thí nghiệm được hiển thị bên dưới:

from ollama import chat
for i in range(10):
    print("Test Around %s" %str(i))
    response = chat(
        model='deepseek-r1:32b',
        messages=[{'role': 'user', 'content': '<think>'}],
        think=True,
    )
    print('Thinking:\n', response.message.thinking)
    print("Response from Model:")
    print(response.message.content)

2.3 Kết quả Thí nghiệm

Thí nghiệm đã được thực hiện nhiều lần để quan sát xem hành vi bất thường có thể được tái tạo trong môi trường triển khai cục bộ hoàn toàn hay không.

2.3.1 Vòng Thực thi 01

Trong vòng thực thi đầu tiên, tất cả mười phản hồi đều liên quan trực tiếp đến chính token <think>. Mô hình nhất quán xác định token là một từ khóa đặc biệt, thẻ định dạng hoặc hướng dẫn không hoàn chỉnh.

Không có câu hỏi không liên quan, lời nhắc ẩn hoặc dấu vết suy luận bất thường nào được quan sát trong vòng này.

Các phản hồi cho thấy mô hình đã diễn giải chính xác hoặc xử lý an toàn token <think> mà không tạo ra nội dung ảo giác ngẫu nhiên.

2.3.2 Vòng Thực thi 02

Thí nghiệm sau đó đã được lặp lại bằng cách sử dụng cùng cấu hình và đầu vào.

Trong vòng này, mô hình lại xử lý chính xác token <think> trong tất cả các trường hợp thử nghiệm. Hầu hết các phản hồi chỉ ra rằng đầu vào không hoàn chỉnh, không rõ ràng hoặc không đủ để tạo ra câu trả lời có ý nghĩa.

Mô hình hoặc bỏ qua token một cách an toàn hoặc coi nó như một trình giữ chỗ liên quan đến định dạng thay vì tạo ra các phản hồi không liên quan.

Không có kết quả đầu ra bất thường nào tương tự như những gì đã quan sát thấy trong dịch vụ web DeepSeek được tái tạo.

2.3.3 Vòng Thực thi 03

Thí nghiệm đã được lặp lại cho vòng thứ ba.

Tương tự như các vòng trước, mô hình đã xử lý token <think> một cách chính xác. Các phản hồi được tạo ra vẫn ổn định và hợp lý theo ngữ cảnh trong tất cả các lần lặp lại thử nghiệm.

Một lần nữa, không có trường hợp nào mô hình bất ngờ tạo ra các câu hỏi toán học không liên quan, các bài tập lập trình hoặc các dấu vết suy luận ẩn từ các ngữ cảnh khác.

2.4 Quan sát và Thảo luận Ban đầu

Dựa trên 30 trường hợp thử nghiệm đầu tiên, mô hình DeepSeek-R1 32B được triển khai cục bộ đã không tái tạo được hành vi bất thường được quan sát thấy trong dịch vụ web DeepSeek chính thức.

Các vòng thí nghiệm bổ sung (thêm 30 thử nghiệm) cũng đã được thực hiện sau đó, và sự cố tương tự vẫn không thể tái tạo được trong môi trường thử nghiệm hiện tại.

3. Suy đoán và Thảo luận

Dựa trên kết quả thí nghiệm và các cuộc thảo luận trực tuyến, nguyên nhân chính xác của sự cố token <think> vẫn chưa được xác nhận 100%. Mặc dù DeepSeek chính thức giải thích rằng hành vi bất thường là do ảo giác được kích hoạt bởi một token đặc biệt, nhưng kết quả xác minh từ những người dùng khác nhau có vẻ không nhất quán.

Một số người đề cập rằng họ có thể tái tạo các kết quả đầu ra bất thường tương tự ngay cả trong môi trường triển khai cục bộ, trong khi các thử nghiệm khác - bao gồm cả thí nghiệm được mô tả trong bài viết này - đã không tái tạo được sự cố trong quá trình thực thi GPU độc lập. Điều này cho thấy vấn đề có thể không chỉ do một yếu tố duy nhất gây ra.

Một điểm thảo luận quan trọng là bản chất của chính nội dung ảo giác. Nếu các câu trả lời "ngẫu nhiên" được tạo ra chứa thông tin, sự kiện hoặc tham chiếu mới hơn thời điểm cắt giảm đào tạo ban đầu hoặc dòng thời gian phát hành của mô hình (như chúng ta đã có), thì vấn đề trở nên phức tạp hơn. Trong trường hợp đó, nó đặt ra câu hỏi liệu các phản hồi có hoàn toàn là ảo giác do mô hình tạo ra hay không, hay liệu có một hình thức tiết lộ thông tin không mong muốn hoặc rò rỉ ngữ cảnh nào đó tồn tại trong cơ sở hạ tầng suy luận.

Ở giai đoạn hiện tại, vẫn chưa có bằng chứng công khai nào chứng minh việc rò rỉ dữ liệu riêng tư thực sự giữa những người dùng. Tuy nhiên, trường hợp này nêu bật một số mối quan tâm bảo mật quan trọng liên quan đến các hệ thống LLM hiện đại:

• Các token đặc biệt ẩn hoặc dự trữ có thể vô tình làm lộ các cơ chế suy luận nội bộ.

• Việc phân tích lời nhắc không đúng cách có thể cho phép người dùng kích hoạt các trạng thái mô hình không ổn định.

• Cơ sở hạ tầng suy luận chia sẻ có thể làm tăng nguy cơ ô nhiễm ngữ cảnh giữa các yêu cầu.

• Các mô hình chế độ suy luận có thể làm lộ hành vi xử lý chuỗi suy nghĩ ẩn khi các token đặc biệt được đưa vào.

• Định dạng lời nhắc giao diện người dùng và các đường ống suy luận backend có thể hoạt động khác với các bản triển khai cục bộ độc lập.

Từ góc độ bảo mật LLM, trường hợp này cũng có thể được xem như một hình thức tấn công token đặc biệt hoặc tấn công thao túng trạng thái lời nhắc, trong đó các token được chế tạo cẩn thận cố gắng can thiệp vào suy luận nội bộ hoặc luồng điều khiển của mô hình. Ngay cả khi không có rò rỉ dữ liệu thực tế, hành vi trạng thái ẩn không ổn định tự nó vẫn có thể trở thành rủi ro bảo mật vì nó có thể làm lộ các lời nhắc nội bộ, cấu trúc suy luận ẩn hoặc các hành vi mô hình không mong muốn.

Cảm ơn bạn đã dành thời gian xem chi tiết bài viết, nếu bạn có bất kỳ câu hỏi và đề xuất nào hoặc tìm thấy bất kỳ lỗi chương trình nào, vui lòng gửi tin nhắn cho tôi. Xin chân thành cảm ơn nếu bạn có thể đưa ra một số nhận xét và chia sẻ bất kỳ lời khuyên cải tiến nào để chúng tôi có thể làm cho công việc của mình tốt hơn ~

chỉnh sửa lần cuối bởi LiuYuancheng ([email protected]) vào ngày 20/05/2026 nếu bạn có bất kỳ câu hỏi nào, vui lòng gửi tin nhắn cho tôi.