寫 RAG 唔使再煩 Vector DB?試下 Gemini API 嘅 File Processing

· AI 模型, 程式開發, 數據與 RAG

最近用咗 Gemini API 嘅 File Search / Document Processing 功能,發現真係慳力好多。

以往我們要寫 RAG,通常都要經歷: ❌ Parse PDF/Docs ❌ 做 Chunking (切分文字) ❌ 生成 Embeddings 再存入 Vector Database ❌ 寫 Logic 做 Semantic Search

而家利用 Gemini API 嘅 File capability 配合佢超大嘅 Context Window (Flash 都有 1M tokens),成個流程簡化咗好多。

幾點觀察:\

  • 開發速度極快:幾行 Code 搞掂,不用維護額外的 Database。\
  • 理解力強:因為模型讀晒全文 (Full context),比起傳統 RAG 只抽幾段文字 (Chunks) 出嚟,佢更少出現斷章取義嘅情況。\
  • Cost-effective:對於中小型項目,比起養一個 Vector DB 更划算。

如果你仲苦惱緊點樣快速砌個 Demo 俾客睇,強烈建議試下呢條路!🚀

💻 Code Example:

# 1. Upload File
doc = genai.upload_file(“spec.pdf”)

# 2. Init Model (Flash 1.5)
model = genai.GenerativeModel(“gemini-1.5-flash”)

# 3. Ask with Context (Native RAG)
response = model.generate_content([doc, “Summarize the key points.”])

print(response.text)

寫 RAG 唔使再煩 Vector DB?試下 Gemini API 嘅 File Processing

原文發佈於 LinkedIn →

← 網誌