LLM lokal hebat sampai percakapan kedua. Tanpa lapisan memori eksplisit, setiap sesi dimulai dari nol — tidak ada preferensi, tidak ada konteks proyek, tidak ada riwayat apa yang berhasil minggu lalu. Alat memori persisten memperbaiki hal ini dengan duduk di antara model dan prompt, memutuskan apa yang harus diingat, menampilkan fakta yang tepat pada saat yang tepat, dan bertahan dari restarts.
Kami menguji tujuh alat memori untuk setup yang dihosting sendiri yang menjalankan Ollama, LM Studio, atau vLLM di desktop. Pilihan kami mencakup stack aktif 2026: framework memori berdedikasi, runtime agen yang memasukkan memori, backend grafik pengetahuan, dan lapisan memori yang pengguna Open WebUI paling mungkin aktifkan terlebih dahulu.
Apa yang harus dicari dalam alat memori LLM lokal
Sebelum memilih satu, putuskan bentuk memori apa yang Anda cari.
- Ekstraksi pasif vs penulisan yang didorong agen. Sistem pasif (Mem0) mengekstrak memori dari pesan tanpa model melakukan apa pun. Sistem yang didorong agen (Letta) membiarkan model memutuskan apa yang harus disimpan. Pasif dapat diprediksi; didorong agen menangkap niat lebih baik saat berfungsi.
- Vektor vs grafik vs hibrida. Pengambilan vektor adalah standar dan cepat. Memori berbasis grafik (Cognee) lebih baik untuk alasan lintas hubungan. Hibrida lebih mahal tetapi menjawab pertanyaan “siapa, kapan, mengapa” dengan bersih.
- Lokal-first vs cloud-default. Mem0, Letta, Cognee, MemOS, dan LangMem semuanya dapat dihosting sendiri. Jalur cloud nyaman dan bukan apa yang Anda inginkan ketika tujuannya menyimpan data di kotak Anda sendiri.
- Penguncian kerangka kerja. Beberapa alat mengasumsikan LangChain atau LlamaIndex. Yang lain berjalan mandiri melalui API HTTP atau SDK Python yang dapat dipukul klien apa pun.
- Biaya di batas. Bahkan sepenuhnya lokal, pembuatan embedding dan pembangunan grafik menggunakan komputasi. Model 30B dengan ribuan memori yang tersimpan membutuhkan hardware nyata.
Perbandingan cepat
| Aplikasi | Terbaik untuk | Platform | Paket gratis | Harga awal/bulan | Penilaian |
|---|---|---|---|---|---|
| Mem0 | Memori plug-and-play untuk chatbot apa pun | Linux, macOS, Windows | Ya (self-host) | Gratis self-host | 4.7 |
| Letta | Runtime agen dengan memori yang dapat disunting sendiri | Linux, macOS, Windows | Ya (self-host) | Gratis self-host | 4.6 |
| Cognee | Memori jangka panjang grafik pengetahuan | Linux, macOS, Windows | Ya (self-host) | Gratis self-host | 4.5 |
| Zep | Memori temporal percakapan | Linux, Docker | Ya (komunitas) | Komunitas gratis | 4.4 |
| Open WebUI memory | Memori terikat pada UI yang akrab | Linux, macOS, Windows, Docker | Ya, sepenuhnya | Gratis | 4.3 |
| MemOS | Memori berlapis seperti OS | Linux, Docker | Ya, sepenuhnya | Gratis | 4.2 |
| LangMem | Primitif memori asli LangChain | Linux, macOS, Windows | Ya, sepenuhnya | Gratis | 4.0 |
Aplikasi
1. Mem0 — Memori plug-and-play terbaik untuk chatbot apa pun
Mem0 adalah lapisan memori yang paling banyak diterapkan di 2026 untuk satu alasan: API-nya kecil, self-host-nya mudah, dan Anda dapat menambahkannya ke chatbot dalam satu sore. Ekstraksi pasif berarti Anda memanggil add() dengan percakapan, Mem0 memutuskan fakta apa yang penting, dan search() nanti membawa konteks yang tepat kembali ke prompt berikutnya.
Di mana itu jatuh pendek: Ekstraksi otomatis memiliki pendapat. Jika Anda menginginkan model itu sendiri untuk memutuskan apa yang harus diingat, ini adalah bentuk yang salah. Produk cloud Mem0 adalah jalur yang dipasarkan, tetapi versi open-source mencakup sebagian besar penggunaan rumah.
Harga:
- Gratis: Mem0 OSS yang dihosting sendiri gratis.
- Berbayar: Tingkat cloud diskalakan menurut memori tersimpan dan pengambilan; biasanya $50–$500/bulan pada skala produksi, tidak relevan untuk penggunaan pribadi.
Platform: Python SDK, REST API. Berjalan di mana pun Python berjalan.
Unduh: Mem0
Garis bawah: Pilihan pertama default. Jika Anda tidak yakin kemana harus memulai, mulai dari sini.
2. Letta — Terbaik untuk runtime agen dengan memori yang dapat disunting sendiri
Letta adalah MemGPT yang diberi merek ulang — runtime agen di mana memori adalah metafora sistem operasi. Model menulis ke inti, recall, dan tier memori arsip selama loop penalaran bawaan mereka sendiri. Sistem menangani sisanya, termasuk mempertukarkan konteks masuk dan keluar sehingga sesi panjang tidak meledak jendela.
Di mana itu jatuh pendek: Letta adalah runtime, bukan hanya perpustakaan — Anda mengadopsi seluruh platform. Paling cocok untuk agen otonom dan tugas-tugas horizon panjang, kurang begitu untuk “saya hanya ingin chatbot saya mengingat nama saya.”
Harga:
- Gratis: Letta OSS yang dihosting sendiri gratis.
- Berbayar: Letta Cloud untuk deployment terkelola, harga menurut aplikasi.
Platform: Python, Docker. Self-host di Linux, macOS, Windows melalui Docker.
Unduh: Letta
Garis bawah: Terbaik untuk agen penelitian otonom dan eksekutor tugas horizon panjang. Overkill untuk chatbot.
3. Cognee — Terbaik untuk memori jangka panjang grafik pengetahuan
Cognee adalah platform memori AI open-source yang menempatkan grafik pengetahuan di pusat. Ambil dokumen, percakapan, atau data terstruktur dalam format apa pun dan Cognee membangun grafik yang bertahan dari restart dan tumbuh dengan penggunaan. Pengambilan sadar grafik, yang berarti pertanyaan hubungan (“kapan kita setuju pada X?”) mengembalikan lebih baik daripada toko vektor saja.
Di mana itu jatuh pendek: Biaya setup lebih tinggi daripada Mem0. Database grafik (NetworkX, Memgraph, atau Neo4j tergantung config) adalah bagian yang bergerak lagi untuk dipertahankan.
Harga:
- Gratis: Cognee OSS yang dihosting sendiri gratis.
- Berbayar: Cognee Cloud untuk hosting grafik terkelola, harga menurut aplikasi.
Platform: Python, Docker. Bekerja di Linux, macOS, Windows.
Unduh: Cognee
Garis bawah: Pilihan yang tepat ketika memori Anda relasional — pertemuan, keputusan, proyek dengan referensi silang — bukan hanya fakta.
4. Zep — Terbaik untuk memori temporal percakapan
Zep adalah lapisan memori yang dirancang di sekitar obrolan: ringkasan sesi, profil pengguna, pengingat berbasis episode, dan kueri seperti “apa yang dikatakan pengguna dua sesi yang lalu?” Penyimpanan jangka panjang yang didukung grafik menangani penalaran temporal dengan baik, dan SDK ramah terhadap LangChain dan penyambungan langsung OpenAI / Ollama.
Di mana itu jatuh pendek: Build komunitas open-source lebih terbatas daripada produk cloud. Self-hosters melaporkan beberapa fitur tertinggal dari versi yang dihosting.
Harga:
- Gratis: Zep Community Edition adalah self-host gratis.
- Berbayar: Zep Cloud dimulai dengan biaya bulanan sederhana untuk hosting terkelola dan kepatuhan SOC 2.
Platform: Docker, Python SDK. Linux, macOS, Windows melalui Docker.
Unduh: Zep
Garis bawah: Pilihan ketika memori spesifik chat (sesi, ringkasan, kueri sadar waktu) adalah kasus penggunaan utama.
5. Open WebUI memory — Terbaik untuk memori yang terikat pada UI yang akrab
Open WebUI adalah apa yang sebagian besar pengguna LLM lokal buka setiap hari, dan fitur memori built-in adalah cara paling mudah untuk menambahkan konteks persisten ke setup yang sudah Anda gunakan. Aktifkan dalam pengaturan, UI menampilkan panel “Memories”, dan model dapat menulisnya melalui panggilan alat.
Di mana itu jatuh pendek: Ini adalah fitur di dalam aplikasi yang lebih besar, bukan framework mandiri. Akses terprogram melalui API Open WebUI daripada SDK memori khusus.
Harga:
- Gratis: Sepenuhnya gratis dan open source.
- Berbayar: Tidak ada.
Platform: Linux, macOS, Windows, Docker. Berpasangan dengan Ollama, API yang kompatibel dengan OpenAI, dan vLLM.
Unduh: Open WebUI
Garis bawah: Alat memori paling sedikit gesekan jika Open WebUI sudah front-end Anda.
6. MemOS — Terbaik untuk memori berlapis seperti OS
MemOS adalah pendatang baru dari MemTensor. Ini memperlakukan memori dalam lapisan — memori kerja lokal, memori arsip, memori keterampilan — dengan jalur pengambilan yang didorong umpan balik yang tim laporkan memotong kira-kira sepertiga token dibandingkan dengan setup vektor saja.
Di mana itu jatuh pendek: Proyek lebih baru, komunitas lebih kecil. Dokumentasi meningkat tetapi tidak pada level Mem0.
Harga:
- Gratis: Sepenuhnya gratis dan open source.
- Berbayar: Tidak ada.
Platform: Python, Docker. Self-host di Linux.
Unduh: MemOS di GitHub
Garis bawah: Layak diperhatikan. Pilih ketika Anda menginginkan model memori berlapis dan Anda nyaman menjadi pengguna awal.
7. LangMem — Terbaik untuk primitif memori asli LangChain
LangMem adalah modul memori yang dirancang untuk hidup di dalam agen LangChain atau LangGraph. Ini mengekspos API memori jangka pendek, jangka panjang, dan semantik yang berjalan dengan bagian lain dari LangChain, yang membuatnya pilihan yang jelas jika stack Anda sudah LangChain.
Di mana itu jatuh pendek: Di luar LangChain itu canggung. Ini juga masih matang dibandingkan dengan Mem0 dan Letta.
Harga:
- Gratis: Sepenuhnya gratis dan open source sebagai bagian dari LangChain.
- Berbayar: LangSmith / LangGraph Platform untuk hosting terkelola, harga terpisah.
Platform: Python. Linux, macOS, Windows.
Unduh: LangMem (melalui LangChain)
Garis bawah: Default untuk pengguna LangChain. Lewati jika Anda belum berada di stack.
Cara memilih yang tepat
Jika Anda menginginkan opsi paling sederhana: Mem0 dengan Python SDK terhadap server lokal yang kompatibel dengan OpenAI.
Jika Anda memerlukan runtime agen penuh, bukan hanya perpustakaan: Letta.
Jika memori Anda relasional, bukan hanya faktual: Cognee dengan backend grafik yang dihosting sendiri.
Jika memori spesifik chat (sesi, ringkasan, waktu) adalah kebutuhan utama: Zep.
Jika Anda sudah tinggal di Open WebUI: aktifkan memori Open WebUI bawaan sebelum menambahkan apa pun.
Jika Anda menginginkan model memori berlapis terbaru dan akan menoleransi tepi kasar: MemOS.
Jika Anda sudah merupakan toko LangChain: LangMem.
Pertanyaan yang sering diajukan
Dapatkah alat-alat memori ini berjalan sepenuhnya offline? Ya. Mem0, Letta, Cognee, Open WebUI, MemOS, dan LangMem semua berjalan dengan model embedding lokal dan LLM lokal. Pembuatan embedding adalah biaya tersembunyi — pilih model embedding kecil jika hardware Anda sederhana.
Apakah saya memerlukan database vektor? Sebagian besar pilihan membawa milik mereka sendiri. Mem0 dilengkapi dengan default yang masuk akal (Chroma, Qdrant, atau PGVector). Cognee menggunakan DB grafik plus vektor. Open WebUI menangani penyimpanan secara internal. Anda hanya perlu memilih database secara eksplisit jika Anda ingin berbagi satu di seluruh beberapa alat memori.
Berapa alat memori terbaik untuk pengganti ChatGPT yang dihosting sendiri? Open WebUI dengan memori bawaan adalah awal paling sedikit gesekan. Lapisi Mem0 di atas jika Anda tumbuh di luar apa yang ditawarkan alat bawaan.
Berapa banyak penyimpanan memori yang “banyak”? Penggunaan pribadi jarang melewati beberapa ratus MB di disk bahkan dengan ribuan memori. Penyimpanan embedding mendominasi; pilih model embedding lebih kecil untuk menjaganya tetap ketat.
Dapatkah saya memindahkan memori antar alat? Sebagian besar tidak. Skemanya berbeda, dan embedding spesifik untuk model. Pilih alat dan berkomitmen padanya selama setahun sebelum mempertimbangkan migrasi.
