Anthropic, OpenAI chống chưng cất: khóa tài khoản, giấu chuỗi suy nghĩ, nhưng không ngăn được sự áp sát

Tác giả: 王子伊, LatePost

Biên tập: 程曼祺

Logic kinh doanh quan trọng hơn logic kỹ thuật.

Ngày 10 tháng 9 năm 2026, Anthropic công bố một báo cáo dài 154 trang, cho biết họ đã xác định và chặn hoạt động chưng cất quy mô lớn nhắm vào Claude của 7 phòng thí nghiệm AI Trung Quốc.

Chưng cất vốn là một phương pháp huấn luyện mô hình phổ biến: nhà phát triển dùng mô hình mạnh hơn để tạo dữ liệu, rồi dùng dữ liệu đó huấn luyện mô hình của mình bắt chước mô hình dẫn đầu. Anthropic gọi hành vi trích xuất năng lực mô hình trái phép, quy mô lớn và che giấu là "chưng cất bất hợp pháp" (illicit distillation).

Anthropic cho biết các tổ chức liên quan đã dùng một số thủ đoạn vi phạm rõ ràng khi trích xuất đầu ra của mô hình tiên tiến: như dùng thẻ tín dụng bị đánh cắp, thông tin đăng nhập và khóa API để tạo hàng loạt tài khoản giả.

Báo cáo còn cho biết một số công ty mô hình Trung Quốc chuyển tiếp yêu cầu của người dùng cho Claude, hoặc mua hội thoại người dùng từ các dịch vụ định tuyến bên thứ ba, rồi dùng dữ liệu đó để huấn luyện mô hình. Một phần hội thoại chứa tên, dữ liệu doanh nghiệp và thông tin truy cập hợp lệ.

Đây không phải lần đầu Anthropic cáo buộc "tấn công chưng cất". Tháng 2 năm 2026, họ cho biết DeepSeek, Moonshot AI và MiniMax đã thực hiện hơn 16 triệu lượt tương tác với Claude thông qua khoảng 24.000 tài khoản giả. Sau đó, Anthropic đã nâng cao tuyến phòng thủ. OpenAI và Google cũng liên tục xác định và ứng phó với các cuộc tấn công chưng cất.

Những biện pháp này có ngăn được chưng cất không?

劉藝, trợ lý giáo sư tại Đại học Griffith, Úc, tỏ ra nghi ngờ. Ông nghiên cứu lâu năm về trí tuệ nhân tạo và an ninh mạng, từng là nhà khoa học nghiên cứu AI tại Quantstamp. Nghiên cứu về tiêm prompt năm 2023 mà ông tham gia được tổ chức an ninh toàn cầu OWASP liệt kê làm tài liệu tham khảo trong mục LLM 01. Ông cũng từng hai lần nhận tiền thưởng lỗ hổng bảo mật của Anthropic, và nghiên cứu các cuộc tấn công đánh cắp chuỗi suy nghĩ của các mô hình thương mại hàng đầu.

劉藝 chia sẻ nhận định cốt lõi của mình:

Lấy Anthropic làm ví dụ, các công ty mô hình tiên tiến của Mỹ hiện chủ yếu thiết lập ba lớp phòng thủ chống chưng cất:

(1) Dùng bộ phân loại chuyên phát hiện trích xuất dữ liệu đối kháng, khiến mô hình từ chối nội sinh các yêu cầu đáng ngờ;

(2) Ẩn hoặc nén chuỗi suy nghĩ trước khi xuất ra ở cấp độ thiết kế kiến trúc;

(3) Dùng bộ phát hiện bên ngoài để nhận diện trích xuất dữ liệu, sau đó ngắt yêu cầu hoặc khóa tài khoản.

Chống chưng cất là một mệnh đề giả. Về lý thuyết, chưng cất rất khó bị triệt tiêu, mục tiêu thực tế hơn của các công ty mô hình tiên tiến Mỹ là nâng cao chi phí thu thập dữ liệu, làm chậm đối thủ cạnh tranh, kéo dài thời gian dẫn đầu.

Đối với các công ty mô hình tiên tiến Mỹ, chống chưng cất không chỉ bảo vệ năng lực mô hình, mà họ còn phải bảo vệ giá trị thương mại được xây dựng trên lợi thế công nghệ.

劉藝 cho rằng, để hiểu hành động chống chưng cất của các công ty mô hình tiên tiến Mỹ, logic kinh doanh quan trọng hơn logic kỹ thuật.

Anthropic có thể nhận diện hành vi nghi chưng cất, nhưng rất khó có bằng chứng xác thực về chưng cất

LatePost : Ngày 10 tháng 9, Anthropic công bố báo cáo cáo buộc 7 phòng thí nghiệm AI Trung Quốc thực hiện chưng cất bất hợp pháp. "Tấn công chưng cất" ở đây cụ thể là gì?

劉藝: Hiện nay, các mô hình ngôn ngữ lớn chủ đạo gồm ba phần: đầu vào của người dùng, chuỗi suy nghĩ trung gian (chain of thought), và đầu ra của mô hình. Hiện tại, Anthropic và OpenAI ẩn chuỗi suy nghĩ trung gian, chỉ đưa cho bạn câu trả lời cuối cùng. Đối với các tác vụ suy luận phức tạp, moi ra chuỗi suy nghĩ chính là một hình thức tấn công chưng cất.

LatePost : Vì sao dữ liệu như quỹ đạo suy luận và quỹ đạo đầy đủ của Agent lại quan trọng đến vậy đối với việc nâng cao năng lực mô hình?

劉藝: Bạn có thể hiểu chuỗi suy nghĩ như lời giải mà một mô hình mạnh hơn đã làm ra, là dữ liệu chất lượng cao có thể dùng để huấn luyện mô hình.

Hiệu năng của mô hình ngôn ngữ lớn được quyết định bởi ba yếu tố: số lượng tham số (N), lượng dữ liệu (D) và lượng tính toán (C). Số lượng tham số ở các công ty đều tăng khá nhanh. Trong điều kiện thời gian và sức mạnh tính toán hữu hạn, muốn nhanh chóng nâng cao năng lực mô hình, công ty cần nhiều dữ liệu chất lượng cao hơn.

Nhưng việc xây dựng dữ liệu chất lượng cao cho các tác vụ phức tạp, dài hạn là rất khó, và dữ liệu huấn luyện có giá trị trong thế giới thực ngày càng khan hiếm. Vì vậy, một số công ty mô hình ngôn ngữ lớn dùng đủ cách để chưng cất các mô hình cao cấp hơn.

LatePost : Làm thế nào để moi ra chuỗi suy nghĩ và nhiều quỹ đạo tác vụ hơn?

劉藝: Có nhiều tổ hợp kỹ thuật khác nhau. Ví dụ thông qua mã hóa (encoding), vượt ngục (jailbreaking), tiêm prompt (prompt injection), rồi dùng đủ kiểu thôi miên, liên tục dựng nhân cách cho AI, khiến nó tin rằng mình là một nhà nghiên cứu đang làm một việc khó khăn nhưng rất ý nghĩa, khiến nó cần tập trung giải quyết tác vụ. Tôi không trao đổi nhiều với người trong nước, nhưng tôi biết những người làm AI ở nước ngoài đang khôi phục chuỗi suy nghĩ theo cách này — về cơ bản chỉ cần xem paper là bạn biết hướng tiếp cận của mọi người.

Ngoài việc trực tiếp lấy chuỗi suy nghĩ gốc, còn có thể thử tổng hợp chuỗi suy nghĩ trung gian dựa trên đầu vào và đầu ra. Nghe nói một số công ty dữ liệu chuyên bán chuỗi suy nghĩ cho tác vụ dài hạn, giá 800-1.000 nhân dân tệ một chuỗi.

LatePost : Trong số Anthropic, OpenAI, Google, ai bị chưng cất nhiều nhất?

劉藝: Theo các báo cáo công khai hiện nay, có lẽ là Anthropic. Nhưng tôi nghĩ khó nói. Tôi đã xem văn bản thực tế chuỗi suy nghĩ của DeepSeek, GLM, Kimi, Anthropic và OpenAI, phong cách ngôn ngữ thực ra không khác nhau nhiều. Khó nói ai chưng cất ai, có thể ban đầu họ còn chưng cất DeepSeek.

LatePost : Về mặt kỹ thuật, thường nhận diện tấn công chưng cất như thế nào? Từ "lô yêu cầu này rất giống chưng cất" đến "đây chính là chưng cất của một tổ chức nào đó", cần chuỗi bằng chứng ra sao?

劉藝: Anthropic chủ yếu dựa vào hành vi gọi API để phán đoán. Ví dụ, một số tài khoản đột ngột gửi lượng lớn yêu cầu, tập trung trích xuất một số bộ dữ liệu cố định.

Anthropic trước tiên định vị tài khoản bất thường, rồi tìm các mẫu hình chung giữa các tài khoản khác nhau, chẳng hạn cùng một system prompt. Vì mỗi bên dùng kiến trúc Agent (harness) khác nhau, system prompt cũng khác nhau, nên có thể nhận diện công ty đứng sau. Ví dụ nhờ bộ nhớ đệm tiền tố (prefix caching), Anthropic có thể phát hiện nhóm prompt nào dùng chung một bộ nhớ đệm, lại không khớp với các system prompt đã biết, từ đó dễ dàng định vị kẻ chưng cất.

LatePost : Sau khi nhận diện tài khoản bất thường, Anthropic có thể xác nhận chắc chắn dữ liệu của mình đã được huấn luyện vào một mô hình cụ thể nào đó không?

劉藝: Rất khó xác nhận 100%. Họ có thể cáo buộc một công ty nào đó cố gắng chưng cất Claude, nhưng rất khó chứng minh dữ liệu nào đó thực sự đã vào mô hình của đối phương.

GLM, Kimi, DeepSeek tuy đều là mô hình mã nguồn mở, nhưng chỉ mở trọng số, không mở bộ dữ liệu. Mà từ trọng số mô hình, rất khó có bằng chứng xác thực về chưng cất. Nếu không, Anthropic đã chẳng cần nói úp mở trong báo cáo, chỉ tập trung mô tả hoạt động của trạm trung chuyển — bản chất là vì không thể phân tích theo phương pháp hộp trắng.

Một ví dụ khác, bạn có thể hỏi mô hình ngôn ngữ lớn 100 từ đầu tiên của cuốn đầu tiên trong bộ "Harry Potter", khả năng cao nó sẽ trả lời. Nhưng điều đó không có nghĩa nó đã huấn luyện trực tiếp trên nguyên tác, mà có thể đến từ blog hoặc bài đánh giá sách trích dẫn nguyên văn.

LatePost : Nghĩa là "tấn công chưng cất" rất khó bị chứng minh hoàn toàn, cũng rất khó bị bác bỏ.

劉藝: Anthropic có thể tạo ra bằng chứng quy kết khá mạnh thông qua nhật ký gọi API phía nền tảng, liên kết tài khoản và thông tin hạ tầng, nhưng đó là hai vấn đề khác với việc chứng minh từ chính mô hình cuối cùng rằng một lô dữ liệu Claude nào đó thực sự đã vào huấn luyện. Vế sau khó hơn nhiều về mặt kỹ thuật.

Chống chưng cất làm tăng chi phí thu thập của đối thủ, cũng có thể "làm hại" người dùng thông thường

LatePost : Hiện nay các công ty AI tiên tiến của Mỹ có những phương pháp kỹ thuật cụ thể nào để ứng phó với tấn công chưng cất?

劉藝: Tôi cho rằng chia làm ba loại.

Thứ nhất, phát hiện nhúng bên trong. Anthropic chắc chắn có bộ phân loại (classifier) chuyên nhắm vào trích xuất chuỗi suy nghĩ, một khi phát hiện trạng thái liên quan đến chuỗi suy nghĩ bị kích hoạt, có thể ngăn chặn hành vi trích xuất;

Thứ hai, ẩn ở cấp kiến trúc sản phẩm. Mô hình không còn xuất ra chuỗi suy nghĩ gốc, mà nén, tóm tắt trước rồi mới xuất ra;

Thứ ba, phát hiện gắn ngoài. Ví dụ nó có thể xem nội dung đầu ra có trùng lặp (overlap) với chuỗi suy nghĩ của mình hay không, nếu đạt đến ngưỡng rò rỉ nào đó thì sẽ chặn đầu ra. Khi hành vi tương tự lặp lại nhiều lần, tài khoản sẽ bị khóa.

LatePost : Báo cáo của Anthropic không đề cập những chi tiết này, làm sao anh biết được?

劉藝: Đây là suy đoán của riêng tôi, vì đây là thao tác khá phổ biến. Vì sao Anthropic công bố chương trình tiền thưởng lỗ hổng để kiểm thử các biện pháp phòng thủ của mình? Họ muốn bỏ tiền để mua người jailbreak prompt của họ — một khi phát hiện thứ gì đó bị phá, họ lập tức huấn luyện vào bộ phân loại của mình, nên lần tấn công sau sẽ ngày càng khó hơn.

LatePost : Anh từng hai lần nhận tiền thưởng lỗ hổng bảo mật của Anthropic, lúc đó là quá trình như thế nào?

劉藝: Lúc đó tôi mất khoảng 2 đến 3 tuần, chủ yếu trong phạm vi chương trình tiền thưởng lỗ hổng được Anthropic ủy quyền, thực hiện kiểm thử đối kháng (Adversarial Testing) với bộ phân loại an ninh của họ, cố gắng tìm đầu vào có thể vượt qua tuyến phòng thủ hiện có. Vì phá được là zero or one, chỉ có thành công và không thành công, không có trạng thái 0,5. Mục tiêu của nhiệm vụ lúc đó là thu thập một số câu hỏi do Anthropic chỉ định, không trực tiếp liên quan đến khôi phục chuỗi suy nghĩ. Nhưng có một số logic tương tự.

LatePost : Các thao tác phòng chống tấn công chưng cất có làm hại người dùng đăng ký bình thường không?

劉藝: Người dùng đăng ký bình thường chắc vẫn ổn, thứ kích hoạt kiểm soát rủi ro chủ yếu là một số người dùng bất thường, chẳng hạn tài khoản trạm trung chuyển, hoặc tài khoản cố gắng tấn công Claude.

Tôi nhớ trong báo cáo của Anthropic còn tiết lộ 2 sinh viên đại học của một trường đại học ở Hồ Nam tự thiết kế một Agent làm an ninh mạng, dùng nó để tấn công đủ loại website, chuyện này cũng bị moi ra.

Về lý thuyết, mọi thông tin bạn tương tác với Anthropic, họ muốn tra là tra được.

LatePost : Vậy khi Anthropic cho rằng người dùng có thể là mối đe dọa với họ, họ có thể truy xuất và xem dữ liệu người dùng không?

劉藝: Việc này cần xem cụ thể điều khoản người dùng của từng công ty mô hình. Theo tôi biết, Anthropic, OpenAI, Google cung cấp một cơ chế Zero Data Retention (ZDR, không lưu giữ dữ liệu), cam kết sau khi xử lý xong tác vụ sẽ hủy ngay prompt khách hàng nhập vào và phản hồi do AI tạo ra, không lưu trữ, không giữ lại, cũng không dùng để huấn luyện mô hình. Tính năng này chủ yếu hướng đến khách hàng API hoặc doanh nghiệp đủ điều kiện, thường cần đăng ký hoặc cấu hình thêm. Người dùng thông thường khi dùng Claude, ChatGPT, Gemini, chính sách lưu giữ dữ liệu thực hiện theo thỏa thuận người dùng của từng bên, không đồng nghĩa với ZDR nghiêm ngặt.

Ví dụ, công ty mô hình viết lại dữ liệu của bạn một chút rồi dùng để huấn luyện, có tính là dùng dữ liệu của bạn không?

LatePost : Nghĩa là các mô hình tiên tiến một mặt để người dùng trả phí sử dụng, một mặt có thể dùng dữ liệu người dùng để tiếp tục mở rộng quy mô?

劉藝: Đúng. Ví dụ, người dùng sửa câu trả lời của mô hình trong Claude Code hoặc Codex, những phản hồi này chính là tín hiệu khen thưởng rất có giá trị, có thể cải thiện hậu huấn luyện.

Chưng cất cũng theo logic tương tự. Hậu huấn luyện của mô hình hiện nay chủ yếu dựa vào học tăng cường, mấu chốt là tín hiệu khen thưởng. Công ty mô hình lấy được chuỗi suy nghĩ của mô hình mạnh hơn, tương đương với việc có được "kết quả lớn", trực tiếp có được lộ trình giải quyết vấn đề chất lượng cao. Điều này có thể giảm bớt việc khám phá mù quáng, giúp mô hình hội tụ nhanh hơn đến trạng thái tốt, tiết kiệm thời gian và sức mạnh tính toán.

LatePost : Tiêu chuẩn thành công của các công ty mô hình tiên tiến Mỹ trong việc phòng chống tấn công chưng cất là gì?

劉藝: Một là ngăn được các công ty mô hình khác huấn luyện theo lối tắt, đảm bảo lợi thế dẫn đầu của mô hình mình. Hai là nâng cao chi phí chưng cất, chi phí thu thập dữ liệu của các công ty mô hình khác. Đồng thời cố gắng không ảnh hưởng đến việc sử dụng bình thường của người dùng.

LatePost : Có phòng được không?

劉藝: Tôi nghĩ phòng không xuể. Mô hình chỉ cần cho người dùng dùng, là có rủi ro rò rỉ.

Tuy nhiên gần đây tôi thấy OpenAI chính thức ra mắt bản beta công khai Agents API vào ngày 10 tháng 9. Không giống Responses API trước đây, người dùng đưa một đầu vào, mô hình ngôn ngữ lớn cho tôi một đầu ra, ở giữa thêm một chuỗi suy nghĩ. Logic của Agents API là người dùng giao tác vụ, nhận trực tiếp kết quả tác vụ. Chuỗi suy nghĩ ở giữa, quá trình Agents harness đều bị ẩn đi, tương đương với việc bán cả một môi trường thực thi. Người dùng không cần quản lý những chi tiết quá vụn vặt nữa, việc thực thi tác vụ tổng thể ngày càng trừu tượng. Trong kịch bản này, muốn tấn công chưng cất, chi phí có thể sẽ cao hơn.

Động cơ thực sự của chống chưng cất: chiếm lĩnh dư luận, bảo vệ định giá

LatePost : Anh có nghĩ chưng cất là giải pháp tối ưu để nâng cao năng lực mô hình không? Có vẻ tốc độ sao chép của người đến sau không bao giờ theo kịp tốc độ đổi mới tiên phong?

劉藝: Trước đây tôi có một quan điểm, vào năm 2024, trong ngắn hạn, đổi mới bản thân cấu trúc mô hình là một con hào. Tiếp theo, con hào có thể mở rộng sang sức mạnh tính toán. Rồi sau đó, con hào là hạ tầng (infrastructure) và năng lượng. Tôi quan sát hiện tại đại khái đang phát triển theo xu hướng này.

LatePost : Chưng cất có thể xếp vào phần nào trong suy luận con hào của anh?

劉藝: Tôi nghĩ có thể xếp vào sức mạnh tính toán. Về lý thuyết, thử nhiều cũng có thể thử ra, nhưng có thể thời gian không cho phép.

LatePost : Cuối cùng chống chưng cất bảo vệ điều gì?

劉藝: Chống chưng cất là một mệnh đề giả. Về lý thuyết, chưng cất là không thể phòng thủ — theo bản tính con người, chỉ cần hiệu quả chưng cất của tôi cao hơn hiệu quả tự xây dựng dữ liệu để huấn luyện mô hình, thì tôi chắc chắn sẽ chưng cất bạn trước.

LatePost : Anh cho rằng cuộc chống chưng cất của các công ty AI tiên tiến Mỹ là một trận chiến định trước sẽ thất bại?

劉藝: Đúng. Quan điểm của tôi là như vậy.

LatePost : Nếu về mặt kỹ thuật định trước sẽ thất bại, vì sao các công ty AI tiên tiến Mỹ vẫn kiên trì đến vậy?

劉藝: Họ muốn duy trì lợi thế công nghệ. Gần đây OpenAI cho biết họ đã dùng khoảng 10.000 tác nhân AI trong 88 giờ để hoàn thành chứng minh toán học của một trong bảy "bài toán Thiên niên kỷ". Ví dụ, giả sử cuối năm nay DeepSeek tuyên bố họ đã giải quyết toàn bộ bảy bài toán Thiên niên kỷ, còn viết trong báo cáo kỹ thuật: tôi chỉ dùng 1/10 chi phí của OpenAI để hoàn thành nhiệm vụ. Nhà đầu tư Mỹ có thể sẽ hỏi, vì sao anh cần nhiều tiền như vậy mà làm chưa tốt bằng người khác? Định giá của OpenAI có thể sẽ tụt xuống.

Vì vậy bản chất hành vi chống chưng cất của OpenAI và các công ty mô hình tiên tiến Mỹ vẫn là logic kinh doanh, chứ không chỉ là logic phát triển công nghệ:

Anthropic một mặt muốn thu dữ liệu, xây dựng bánh đà dữ liệu của riêng mình, mặt khác muốn làm cho ARR của mình đẹp hơn, chuẩn bị cho IPO.

Logic của OpenAI cũng tương tự. Vì sao OpenAI liên tục phát thẻ reset cho mọi người — chẳng phải tương đương với việc mỗi lần bấm là tặng tiền cho mọi người sao, chính là để thu dữ liệu, và khiến báo cáo tài chính đẹp hơn.

LatePost : Ngày 12 tháng 9, nhà sáng lập Anthropic Dario Amodei đăng bài kêu gọi toàn ngành giảm tốc độ lặp lại của các mô hình AI tiên tiến. Anh nghĩ sao?

劉藝: Tôi cho rằng họ hẳn đã nhìn thấy một số nút thắt cổ chai. Nút thắt có thể có ba yếu tố: một là dữ liệu, hai là sức mạnh tính toán, ba là hạ tầng / năng lượng. Nhưng cụ thể là nút thắt nào, hiện tôi khó nói, có thể cả ba yếu tố đều có.

Tư bản đều chạy theo lợi nhuận. Về lý thuyết, nếu tôi có thể tạo ra AGI, tôi có thể gặt hái toàn cầu, tôi không có lý do gì để dừng phát triển, cứ "xông xông xông" mà hiện thực hóa AGI là được. Khả năng cao họ đã gặp nút thắt, mới đội chiếc mũ an toàn AI, ra kêu gọi mọi người: AI quá nguy hiểm, chúng ta hãy ngồi xuống thảo luận cách hạn chế phát triển AI.

LatePost : Anh cho rằng nguyên nhân bản chất khiến các công ty mô hình tiên tiến chống chưng cất là gì?

劉藝: Nâng cao chi phí chưng cất của đối thủ, duy trì lợi thế dẫn đầu của mình. Có lẽ họ phán đoán rằng mô hình Trung Quốc sẽ sớm đuổi kịp họ, nhưng chưa nghĩ ra cách tốt hơn để duy trì lợi thế dẫn đầu, đành phải tăng cường hạn chế, trước tiên chiếm lĩnh cao điểm dư luận.

Từ góc độ đồng thuận mộc mạc của ngành, chưng cất là một vấn đề an ninh rất lớn, tương đương với việc đánh cắp sở hữu trí tuệ. Nhưng từ góc độ thực dụng, bản chất đây là một dạng bình quyền AI. Chưng cất là một cách nhanh chóng cân bằng thị trường. Chính vì có nhiều đối thủ cạnh tranh, một công ty mô hình nào đó mới không thể độc quyền, một mình thống trị, muốn định giá thế nào cũng được.

LatePost : Anh đã nhắc đến mặt giá trị tích cực của chưng cất, mặt khác, chưng cất có thể mang lại tác hại tiềm ẩn gì cho toàn ngành và người dùng thông thường?

劉藝: Đối với ngành, phong cách đầu ra của mọi người trở nên đồng nhất, mô hình sẽ kế thừa một số kiểu thất bại từ mô hình giáo viên. Đối với người dùng, sẽ có một số rủi ro rò rỉ quyền riêng tư.

LatePost : Anh cho rằng nhìn tổng thể, lĩnh vực an toàn AI bao gồm cả tấn công và phòng thủ chưng cất đang ở trạng thái nào, đối mặt với thách thức gì?

劉藝: Điều tôi quan tâm hơn là sự căng thẳng mang tính cấu trúc giữa an toàn AI và động lực thương mại.

Các công ty mô hình quả thực đã đầu tư nhiều nguồn lực cho an toàn, nhưng trong một số kịch bản, các biện pháp an toàn nghiêm ngặt hơn có thể ảnh hưởng đến năng lực mô hình, trì hoãn phát hành sản phẩm hoặc giảm trải nghiệm người dùng, nên mục tiêu an toàn và mục tiêu cạnh tranh không phải lúc nào cũng hoàn toàn nhất quán. Vì vậy, một vấn đề quản trị quan trọng là làm sao để đầu tư an toàn nhất quán hơn với động lực thương mại của công ty. Ít nhất trong ngắn hạn, rất khó tìm được một giải pháp thanh lịch vừa giải quyết được vấn đề an toàn, vừa không hy sinh hiệu năng mô hình.

LatePost : Anh cho rằng tấn công chưng cất sau này sẽ phát triển thế nào?

劉藝: Tấn công và phòng thủ sẽ tiếp tục, đạt đến một trạng thái cân bằng động. Có thể sẽ có mấy trường phái: một là không cần chuỗi suy nghĩ, trực tiếp bắt đầu chưng cất, khám phá xem có thể chưng cất một mô hình tiên tiến thành thế nào. Hai là trong trường hợp cần chuỗi suy nghĩ, thu thập chuỗi suy nghĩ gốc. Ba là tự tổng hợp chuỗi suy nghĩ.

LatePost : Để tránh rò rỉ dữ liệu riêng tư, anh có lời khuyên gì cho người dùng thông thường không?

劉藝: Đừng dùng trạm trung chuyển. Khi dùng một số mô hình, nếu có thể chọn có đồng ý cho dữ liệu của mình được huấn luyện hay không, đừng chọn đồng ý. Những việc khác bạn cũng không làm được nhiều. Dù sao thì người là dao thớt, ta là cá thịt mà.