Có một thứ mà mọi trợ lý AI hiện nay đều cần: internet. Mất mạng là mất luôn khả năng trả lời. Survival LLM giải quyết đúng chỗ đó, và nó làm theo cách khá cứng: model AI, thư viện tài liệu, toàn bộ câu trả lời nằm trên máy bạn, không gửi gì ra ngoài. Nghe như app sinh tồn trong phim, nhưng repo này là code thật, chạy thật, kèm bản build sẵn cho Mac và Windows.
Nó làm gì, cụ thể
Bạn hỏi nó cách giữ thức ăn an toàn khi mất điện, cách xử lý bỏng, cách lọc nước. Nó tìm trong một thư viện offline gồm bài y tế, hướng dẫn khẩn cấp, how-to và bách khoa, trả lời từ những gì tìm được, rồi chỉ ra đúng đoạn văn nguồn. Click vào nguồn là đọc được nguyên bài, đoạn được trích có highlight và kèm license của bài đó.
Phần “shows its reasoning” là thứ mình thích nhất. Dưới mỗi câu trả lời có nút mở ra quá trình AI nghĩ trước khi trả lời, từng bước, kèm các tìm kiếm và bài nó đã đọc ở giữa. Mặc định ẩn, không làm rối màn hình. Bạn chỉnh được ngân sách reasoning ngay cạnh nút Send: Off, 1.000, 4.000, 16.000 token, hoặc không giới hạn. Chạm trần thì nó ngừng nghĩ và trả lời bằng những gì đang có.
Vài thứ khác đáng để ý:
- Nút Instructions cho bạn xem và sửa instruction mà AI nhận trước khi bạn hỏi gì (app tự chèn ngày hôm nay, tên file của bạn và các ghi chú Memory vào sau). Sửa rồi Save là đổi cách nó trả lời, Reset để về gốc.
- Length limit cạnh Send giới hạn độ dài câu trả lời, hoặc tắt luôn giới hạn.
- Kéo PDF, Word, EPUB, trang web, file text vào cửa sổ là nó index luôn. Manual của máy phát điện, danh sách thuốc của nhà, kế hoạch ứng cứu của gia đình, tất cả nằm trong thư mục
Survival LLM Filestrong home folder và được cập nhật tự động nếu bạn sửa file ở đó. - Memory: nói với nó con gái dị ứng penicillin, nhà có máy phát Honda, nó lưu một ghi chú ngắn để các cuộc chat sau biết. Mỗi câu trả lời hiện ra những gì nó đã lưu, kèm Undo. Memory ở trên cùng liệt kê toàn bộ ghi chú, sửa được, và có switch tắt việc lưu (nó vẫn đọc ghi chú bạn giữ). Ghi chú nằm trong một file text thuần trên máy.
- Check for updates ở cuối cửa sổ, tự kiểm tra mỗi ngày một lần bằng cách tải một file nhỏ từ trang web dự án, không gửi gì về bạn. Update now tải bản mới, kiểm tra, restart, giữ nguyên model, thư viện, file và settings.
Vì sao repo này đang hút sao
589 sao sau vài ngày, với một repo tạo ngày 24/10/2026 và cập nhật ngày 28/10/2026. Con số đó không khổng lồ, nhưng tốc độ thì đáng để nhìn. Lý do khá rõ: nó rơi đúng vào nhu cầu “AI local, không cloud, không tracking” đang lên, cộng thêm một ngách ít ai chạm là tài liệu sinh tồn và ứng cứu. Dev quan tâm privacy thì thấy RAG offline, người lo xa thì thấy thư viện 1,5 triệu bài.
Điểm khác biệt nằm ở chỗ nó không phải chatbot local chung chung. Nó là một RAG pipeline đóng gói sẵn với corpus khổng lồ: khoảng 930.000 bài Wikipedia được đọc nhiều nhất, WikiMed, MedlinePlus, cẩm nang thuốc của Anh, WikEM, Ready.gov, CDC, manual sinh tồn và sơ cứu của quân đội Mỹ và FEMA, hướng dẫn đóng hộp USDA, tài liệu tham chiếu micromorts (bảng sống, tỷ lệ tử vong Mỹ), wikiHow, iFixit, Appropedia, Energypedia và Q&A thực dụng. Bản nhỏ có 500.000 bài, bản đầy đủ khoảng 1,5 triệu. Chi tiết trong SOURCES.md.
Mình thấy một điểm khá thông minh: nó tự chọn model theo RAM máy. Mac 128 GB trở lên được đề xuất Nemotron 3.5 Super (120b, 80 GB tải). Mac 32 đến 96 GB nhận Qwen3.8 27B (18 GB). Windows 32 GB trở lên nhận Nemotron 3.5 Lightning (25 GB). Máy 16 đến 31 GB nhận IBM Granite 4.2 8B (6 GB). Gemma 4 E4B (10 GB) là lựa chọn nhanh hơn cho máy 16 GB. Máy 8 GB vẫn search được, nhưng phần còn lại của README bị cắt nên mình không dám nói thêm.
Cài và chạy thử
Cài lúc còn mạng. Sau đó nó không cần mạng nữa. Setup mất 20 phút đến khoảng 2 tiếng rưỡi tùy máy và tốc độ mạng (model lớn nhất 80 GB), bạn chỉ phải click khoảng 5 phút.
Mac (Apple Silicon, macOS 14 Sonoma trở lên):
1. Download Survival-LLM-mac.zip và double-click để giải nén.
2. Double-click Survival LLM. Lần đầu macOS báo không xác minh được app.
Click Done, mở System Settings > Privacy & Security, kéo xuống mục
"Survival LLM was blocked", click Open Anyway, xác nhận bằng mật khẩu.
3. Chỉ làm một lần.Windows (10 hoặc 11, 64-bit):
1. Download Survival-LLM-windows.zip, chuột phải chọn Extract All.
(Chạy trực tiếp trong file zip không hoạt động.)
2. Mở thư mục Survival LLM vừa giải nén, double-click Survival LLM.bat.
3. Nếu Windows báo bảo vệ PC, click More info rồi Run anyway.Sau đó app mở trong cửa sổ riêng và dẫn qua setup: AI engine (trên Mac có sẵn trong app, trên Windows một click tải Ollama 1,6 GB), AI model (nó gợi ý theo RAM máy bạn), rồi thư viện. Chọn “Everything” (tải 8,8 GB) hoặc “Essentials” (1,3 GB, không có Wikipedia và iFixit).
Dung lượng đĩa cần: cỡ model cộng 5 GB, cộng khoảng 27 GB trong lúc cài thư viện đầy đủ (21 GB sau khi cài), hoặc khoảng 10 GB cho Essentials (3 GB sau khi cài).
Ai nên dùng
Người sống ở vùng hay mất điện, bão lũ. Người đi trekking dài ngày hoặc làm việc ở nơi không có sóng. Dev muốn có một RAG local để thử nghiệm mà không phải tự dựng pipeline từ đầu. Cả người làm y tế cộng đồng ở vùng xa, vì thư viện có WikiMed, MedlinePlus, WikEM và hướng dẫn sơ cứu. Mình nghĩ nhóm thứ hai và thứ ba là nhóm thực sự cần, mấy nhóm còn lại dùng cho biết.
Trường hợp dùng cụ thể: hỏi cách khử trùng nước khi không có thiết bị, hỏi liều sơ cứu bỏng, hỏi cách bảo quản insulin khi mất điện (bạn nạp file hướng dẫn của bác sĩ vào). Hoặc đơn giản là tra cách sửa một thứ trong nhà bằng tài liệu iFixit offline. Mấy câu này ChatGPT trả lời được, nhưng chỉ khi còn mạng và bạn chấp nhận gửi câu hỏi lên server.
So với lựa chọn khác
Mình chưa thử nghiệm đủ để so sánh thẳng với các stack như AnythingLLM hay LocalGPT. Về lý thuyết chúng cũng làm RAG offline, nhưng bạn phải tự mang corpus vào. Survival LLM khác ở chỗ corpus đã đóng gói sẵn và có sẵn lớp citation hiển thị license từng bài. Đó là điểm cộng cụ thể, không phải điểm cộng chung chung. Còn về chất lượng model thì tùy máy bạn, không có gì để so.
Ưu, nhược, và mấy chỗ cần để ý
Ưu: offline thật, có citation từng câu trả lời, reasoning hiển thị được, memory cục bộ bằng file text, tự chọn model theo RAM, cập nhật giữ nguyên dữ liệu. Cài đặt được đóng gói thành bản build sẵn, không phải clone repo rồi pip install lằng nhằng.
Nhược: dung lượng đĩa lớn (model 80 GB cộng thư viện 21 GB cho bản đầy đủ, tức hơn 100 GB trên máy khủng). Setup lần đầu lâu, tới 2 tiếng rưỡi. Không đọc được bản scan hay ảnh chụp trang giấy, đây là hạn chế thật nếu bạn muốn nạp tài liệu giấy. Chưa có bản Linux trong phần hướng dẫn mình đọc được, dù ngôn ngữ chính là Python.
Cần lưu ý: repo không ghi license. Đây là điểm mình không thích nhất. Không có license rõ ràng nghĩa là về mặt pháp lý bạn không biết mình được dùng, sửa, phân phối lại tới đâu. Với một app sinh tồn mà bạn định dựa vào trong tình huống khẩn cấp thì đây là điều nên hỏi tác giả trước khi tin tưởng lâu dài. README rõ ràng và chi tiết, phần uninstall ghi rõ từng thư mục cần xóa, đó là dấu hiệu tốt về độ trưởng thành. Nhưng repo mới vài ngày tuổi, cộng đồng chưa đông, bạn nên coi đây là bản thử nghiệm nghiêm túc chứ chưa phải thứ để giao phó tính mạng. Và nhớ: nó là công cụ tra cứu, không phải bác sĩ.
Nếu bạn có sẵn một máy Mac 32 GB RAM trở lên và thỉnh thoảng đi vào vùng không có mạng, đáng để cài thử một lần, mất khoảng 30 phút với bản Essentials. Còn nếu chỉ tò mò về cách làm RAG offline có citation thì đọc README và SOURCES.md cũng học được nhiều thứ. Repo ở đây: anonnerdfrenzy/survival-llm.
