# Menggunakan RAG sebagai Otak Kedua: Tiada Penyelesaian Terbaik, Hanya Senario Paling Sesuai Dalam dua tahun lepas, hampir semua pasukan yang membangunkan model besar melakukan perkara yang sama: menambah RAG pada model mereka. Sebabnya mudah. Model besar mempunyai dua kelemahan semula jadi—pengetahuan mempunyai tarikh luput, dan ia boleh mereka-reka maklumat. RAG diharapkan dapat menyelesaikan kedua-dua masalah ini serentak: memberikan bahan luaran terkini, dan membiarkannya menjawab berdasarkan bahan tersebut. Maka lahirlah satu salah faham umum: **RAG ialah satu teknologi. Pilih yang betul, maka menang.** Namun realitinya: RAG bukan satu teknologi. **RAG ialah istilah umum untuk satu kelas seni bina.** Senario berbeza memerlukan pilihan seni bina yang sama sekali berbeza. Sama seperti model besar mempunyai kegunaan masing-masing—model ringan 4B bukanlah tidak berguna, ia lebih praktikal dalam senario inferens hujung, kependaman rendah, dan kos rendah berbanding model berbilion parameter. Model trilion parameter kuat dalam inferens, tetapi syarikat tidak mampu untuk menggunakan. Masing-masing ada tempatnya. Perbezaan yang sama wujud antara penyelesaian RAG. Tiada penyelesaian yang sememangnya terbaik. Hanya yang paling sesuai untuk senario semasa. **Artikel ini ingin mengatakan: dalam senario khusus 'nota + dokumen + RAG'—iaitu menggunakan AI untuk membina otak kedua—apakah penyelesaian optimum. Dan mengapa.** --- ## Satu: Di Mana Cabaran Sebenar RAG pada 2025 Demo RAG hanya memerlukan satu petang. Tetapi masalah yang didedahkan oleh persekitaran pengeluaran tertumpu pada tiga dimensi: ### Pengindeksan Bukan Kerja Sekali, Beban Jangka Panjang 'Benamkan semua dokumen ke dalam pangkalan vektor' kedengaran mudah. Tetapi apabila berjalan: apabila model dinaik taraf, 10 juta dokumen perlu diproses semula kira-kira 5 bilion token, yuran antara muka sahaja $300-650. Apabila dokumen dipadam, entri lapuk yang tertinggal dalam pangkalan vektor mungkin tidak dibersihkan selama berhari-hari. Apabila kebenaran berubah, dokumen pekerja yang telah berhenti kerja jika indeks tidak dikemas kini tepat pada masanya, wujud tingkap keselamatan selama beberapa jam. Apabila platform mengehadkan, alat seperti Slack, Notion sudah mengehadkan pihak ketiga daripada mengumpul data secara pukal. ### Kependaman Ialah Rantaian Berbilang Peringkat Setiap pertanyaan melalui: memahami soalan → carian vektor → menyusun keputusan → cantuman konteks → penjanaan jawapan AI. Mana-mana peringkat lambat, keseluruhan menjadi lambat. Inferens LLM mengambil 60-80% daripada masa hujung ke hujung. ### Kos Meningkat Seiring Pertumbuhan Data Lebih banyak dokumen, lebih banyak pemprosesan. Ketiga-tiga peringkat mengembang bersama. **Punca bersama: dokumen mesti diindeks dahulu sebelum pertanyaan boleh dimulakan.** Inilah RAG 'berpusatkan carian'. --- ## Dua: Dua Jenis Penyelesaian Utama ### Penyelesaian Satu: Pangkalan Vektor + Indeks Statik Dokumen dipotong, diubah, dan disimpan dalam pangkalan vektor terlebih dahulu. Apabila pertanyaan dibuat, kandungan paling serupa dicari daripada pangkalan. **Kelebihan:** dokumen yang banyak, kandungan tetap. **Kelemahan:** kandungan kerap berubah, setiap suntingan memerlukan pembinaan semula indeks. ### Penyelesaian Dua: Aliran Data Masa Nyata + Didorong Peristiwa Perubahan data mencetuskan kemas kini, indeks disegerakkan masa nyata. **Kelebihan:** kesegaran tahap saat. **Kelemahan:** infrastruktur kompleks, memerlukan lapisan cache, mekanisme peristiwa, dua lapisan storan. ### Ada Satu Senario, Kedua-dua Laluan Tidak Dapat Dilayan Seorang peguam sedang menyediakan ringkasan kes. 200 nota kes, 50 dokumen peraturan. Dia menulis sambil merujuk—'Bagaimana kes berkaitan larangan persaingan dahulu dihujahkan?' Selepas menulis satu perenggan, dia mengubah kandungan, dan beberapa saat kemudian merujuk semula. Kandungan baharu sepatutnya sudah ada dalam hasil carian. Ciri senario ini: **kandungan kerap berubah** (bukan pangkalan statik), **carian dan penulisan bercampur** (menulis sambil merujuk), **pengguna adalah orang biasa** (tidak menulis kod, tidak faham pangkalan vektor), **data dan privasi adalah garis merah**. **Ini bukan keperluan 'kerumitan teknikal yang lebih tinggi'. Ini adalah keperluan 'penyelesaian teknikal tidak sepatutnya seberat ini'.** --- ## Tiga: Daripada Search-centric kepada Memory-centric Penyelesaian utama menganggap **pangkalan pengetahuan adalah statik**. Pertanyaan adalah tingkah laku carian sekali. Paradigma ini dipanggil **RAG berpusatkan carian (Search-centric RAG)**. Model: pangkalan pengetahuan = koleksi dokumen, RAG = carian pintar. Tetapi membina otak kedua memerlukan paradigma lain. Anda menulis nota, mengubah nota, memadam nota, mengimport dokumen baharu setiap hari. Pengetahuan terus berkembang dan berubah. Anda mahu AI bukan 'cari sekali', tetapi **terus 'mengingat' pengetahuan anda, dan memanggilnya secara semula jadi apabila diperlukan.** Inilah **RAG berpusatkan ingatan (Memory-centric RAG)**. Model: pangkalan pengetahuan = ingatan yang terus berkembang, RAG = akses semula jadi. | | Search-centric RAG | Memory-centric RAG | | --- | --- | --- | | Pemahaman tentang pengetahuan | Koleksi dokumen statik | Ingatan yang terus berkembang | | Kesegaran data | Bergantung pada kekerapan kemas kini indeks | Masa nyata, diingat sebaik ditulis | | Cara pertanyaan | Carian aktif | Perbualan semula jadi | | Hubungan penulisan | Carian dan penulisan terpisah | Bercampur—suntingan adalah kemas kini ingatan | | Senario tipikal | Carian perusahaan, soalan jawab dasar | Pengurusan pengetahuan peribadi, otak kedua | **Kedua-dua paradigma bukan saling menggantikan. Ia melayani senario yang sama sekali berbeza.** Sama seperti enjin carian dan pembantu peribadi. --- ## Empat: Apakah Seni Bina Yang Diperlukan Memory-centric RAG? Empat keperluan untuk seni bina: **1. Tidak bergantung pada pra-indeks.** Setiap suntingan membina semula indeks, masa nyata mustahil. Sistem carian mesti berkongsi data dengan editor—kandungan berubah, pertanyaan saat berikutnya mencerminkannya. **2. Penggunaan konteks minimum.** Nota adalah data peribadi, tidak boleh dimuat naik sepenuhnya. Tetapi AI perlu melihat maklumat untuk menjawab. Titik keseimbangan: hantar hanya beberapa ayat paling relevan, mampatkan cebisan, padam selepas dihantar. **3. Keupayaan penjanaan menggunakan model awan terbaik.** Pengguna tidak perlu bersusah payah, pelayan hanya melihat konteks minimum. **4. Suntingan adalah kemas kini ingatan.** Pengubahsuaian serta-merta memasuki ingatan, pertanyaan seterusnya sudah mencerminkannya. --- ## Lima: Amalan Memory-centric RAG NoteRich ### Nota Sentiasa di Tempatan, Data Penuh Tidak Dimuat Naik Nota disimpan dalam penyemak imbas tempatan. Tidak dibenarkan (kos meletup), dan tidak sepatutnya (privasi pengguna). ### Semasa Pertanyaan, Hanya Hantar Konteks Minimum Perlu Hanya hantar beberapa ayat paling relevan yang dicari, mampatkan cebisan. Selepas diproses di pelayan, ia dipadam—tidak disimpan, tidak direkod, tidak dilatih. **Muat naik sedikit tidak dapat dielakkan, muat naik penuh boleh dielakkan sepenuhnya.** ### Tiada Pra-indeks, Suntingan Adalah Ingatan Tidak membina pangkalan vektor terlebih dahulu. Semasa menulis nota, sistem carian sudah dalam talian. Perubahan kandungan dicerminkan masa nyata. ### Penilaian Pelbagai Dimensi + Tepat Kepada Ayat + Pelayan Tanpa Keadaan Bukan hanya bergantung pada persamaan semantik. Kembalikan tepat kepada ayat, buang pendua dan gabung. Bahagian belakang tidak menyimpan, tidak merekod, tidak melatih. --- ## Enam: Empat Lapisan Otak Kedua **Lapisan Pertama: Ingatan.** Semua nota yang pernah ditulis, AI 'ingat'. **Lapisan Kedua: Bantuan Penulisan.** Jana kandungan baharu berdasarkan nota lama. **Lapisan Ketiga: Maklum Balas Masa Nyata.** Selepas menulis satu perenggan, AI serta-merta merasainya. **Lapisan Keempat: Suntingan Adalah Ingatan.** Ubah suai kandungan yang dijana AI, serta-merta memasuki ingatan. Gelung tertutup persekitaran pengetahuan. --- ## Tujuh: Akui Sempadan, Kemudian Lintasinya ### Sempadan Satu: Had Keupayaan Penyemak Imbas Versi dalam talian berjalan sepenuhnya dalam penyemak imbas. Ujian dengan puluhan ribu teks, berpuluh juta aksara, sangat lancar. **Dalam lingkungan puluhan ribu dokumen tiada masalah, melebihi jumlah itu prestasi menurun.** Ini adalah had fizikal penyemak imbas. Tetapi pengguna peribadi hampir tidak pernah mencapai had ini. Jika benar-benar mencapainya—anda sudah mempunyai keperluan peringkat perusahaan. Dalam penyelesaian penggunaan luar talian, seni bina yang sama berjalan di pelayan, boleh dikembangkan mengikut keperluan. ### Sempadan Dua: Sokongan Multimodal Fokus semasa pada teks. OCR imej, transkripsi audio, analisis video—versi dalam talian terhad oleh kuasa pengiraan penyemak imbas. Penggunaan luar talian perusahaan boleh disesuaikan dan diintegrasikan di pelayan. **Ingatan teks adalah asas, ingatan multimodal adalah peningkatan.** ### Sempadan Tiga: Penaakulan Kompleks Merentas Dokumen Penaakulan berbilang langkah adalah tugas peringkat penjanaan, bukan tugas peringkat carian. Carian hanya bertanggungjawab 'mencari', bukan 'menderivasi'. NoteRich membolehkan model peringkat pengguna menjalankan kesan praktikal melalui konteks berkualiti tinggi. ### Sempadan Empat: Luar Talian Sepenuhnya Model besar teratas tidak boleh berjalan pada komputer biasa—ini adalah hukum fizik. Penyelesaian penggunaan luar talian boleh menyambung model tempatan yang digunakan sendiri oleh perusahaan. --- ## Lapan: Penyelesaian Luar Talian Firma guaman, hospital, institusi kewangan—data tidak boleh keluar dari rangkaian dalaman. Penggunaan luar talian membungkus seni bina Memory-centric sebagai komponen belakang tunggal, penggunaan satu klik, sepanjang proses tidak meninggalkan rangkaian perusahaan. --- ## Sembilan: Visi Akhir **Search-centric RAG menyelesaikan masalah 'mencari'.** Memory-centric RAG menyelesaikan masalah 'mengingat'. Kedua-duanya bukan hubungan persaingan. Apa yang NoteRich lakukan hanyalah, di jalan Memory-centric RAG, membuat beberapa pilihan yang lebih langsung. **Cepat, murah, berkualiti tinggi.** Membolehkan orang biasa mula menggunakan AI untuk mengurus pengetahuan dalam masa 30 saat, dan juga membolehkan perusahaan mempercayai sepenuhnya dalam tembok api. **[Cuba NoteRich →](https://noterich.com/app/)** *Projek konsep sumber terbuka [github.com/Lisanoterich/memory-centric-rag](https://github.com/Lisanoterich/memory-centric-rag)*