ארכיטקטורת GraphRAG / RAG

הפער בין "מקטעים דומים סמנטית" לבין "תשובות נכונות ומלאות" הוא המקום שבו מרבית פריסות ה-RAG הארגוניות נשברות. מעבדת ה-AI של סטנפורד מצאה כי 40% מתגובות ה-RAG מכילות הזיות אפילו כאשר המסמכים הנכונים מאוחזרים. האחזור עבד. הביסוס נכשל.

מדוע RAG מאחזר מסמכים, ולא תשובות

זה קורה משום שדמיון וקטורי סטנדרטי אינו יכול להבחין בין פסקה שהיא רלוונטית מבחינה נושאית לבין פסקה שלמעשה עונה על השאלה. כאשר צוות הציות שלכם שואל "מהן דרישות ההודעה על הפרת נתונים המשפיעה על תושבי האיחוד האירופי מתחת לגיל 16?" והמערכת שלכם מחזירה שלושה מקטעים על הודעת הפרת GDPR ללא ההוראות הספציפיות לגיל, התשובה נראית נכונה אך היא חלקית באופן מסוכן.

הגישה שלנו היא לבנות מערכות אחזור שנועדו לסגור פער זה. הארכיטקטורה שאנו בוחרים תלויה במסמכים שלכם, בשאילתות שלכם ובסבילות שלכם לתשובות שגויות. לעיתים מדובר באחזור היברידי של BM25 + אחזור צפוף עם מדורג מחדש מסוג cross-encoder. לעיתים זהו צינור GraphRAG מלא עם חילוץ ישויות וסיכום קהילות. לעיתים זוהי לולאת אחזור סוכנית המפרקת שאלות מורכבות, מאחזרת באופן איטרטיבי ומתקנת את עצמה לפני היצירה. איננו בוחרים באפשרות המורכבת ביותר כברירת מחדל — אנו בוחרים בזו שפותרת את בעיית האחזור שלכם בעלות שתוכלו לעמוד בה.

שלוש ארכיטקטורות אחזור, הנבחרות לפי דפוסי השאילתות שלכם

אנו מתאימים את הארכיטקטורה לדפוסי השאילתות שלכם במקום לבחור במורכבות כברירת מחדל. שלושת הדפוסים שלהלן עונים על מרבית צורכי הייצור.

אחזור היברידי עם דירוג מחדש

זהו המקום שבו מרבית מערכות ה-RAG בסביבת ייצור צריכות להתחיל. BM25 מטפל בהתאמת מילות מפתח מדויקת (קודי שגיאה, מק"טים של מוצרים, מספרי ציטוט רגולטוריים) בעוד ששיכוצים צפופים לוכדים כוונה סמנטית. איחוד דירוג הדדי (RRF, k=60) ממזג את שתי קבוצות התוצאות ללא בעיות נרמול הציונים המאפיינות גישות איחוד נלמדות.

מעל שכבה זו פועל מדורג מחדש מסוג cross-encoder: BGE-reranker-v2-m3 על גבי GPU מספק חביון של 50–100ms ללא עלות API שוטפת, או Cohere Rerank עבור צוותים המעוניינים בתשתית מנוהלת. מבחני ביצועים בסביבת ייצור מראים כי צינור דו-שלבי זה עולה בביצועיו על כל השיטות החד-שלביות. אחזור הקשרי של Anthropic מתווסף כשכבה מעל, ומפחית כשלי אחזור ב-49% (67% עם דירוג מחדש) על ידי הקדמת הקשר ברמת המסמך לכל מקטע לפני השיכוץ.

אחזור מועשר-גרף (GraphRAG)

כאשר השאלות שלכם דורשות סינתזה של מידע על פני מסמכים מרובים או היסק על פני קשרים בין ישויות, דמיון וקטורי בלבד אינו מספיק. צוות משפטי השואל "אילו חברות בת של AcquiringCo מתמודדות עם הליכים רגולטוריים תלויים ועומדים בתחומי שיפוט שבהם TargetCo פועלת?" זקוק ליישוב ישויות, מעבר על קשרים והיסק רב-שלבי.

אנו בונים גרפי ידע מהמסמכים שלכם, תוך שימוש בחילוץ מבוסס-תלויות המשיג 94% מהביצועים מבוססי-LLM בשבריר מעלות הטוקנים (כמפורט ב- מחקר שלנו על GraphRAG באכיפת ציטוטים). הגישה של GraphRAG מבית מיקרוסופט (צימוד Leiden + סיכום קהילות) עובדת עבור שאילתות הבנת משמעות ברמת הקורפוס, אך עלויות האינדוקס שלה גבוהות פי 4–8 מ-RAG סטנדרטי. אנו משתמשים בה באופן סלקטיבי:

• סיכומי קהילות עבור שאילתות גלובליות.
• מעבר על גרף מאפיינים עבור שאלות על קשרי ישויות.
• אחזור וקטורי סטנדרטי עבור כל השאר.

עבור שכבת אחסון הגרף, FalkorDB מטפל בעומסי עבודה של RAG עתירי קריאה ב-6,693 QPS עם זמני התנעה קרה של פחות ממילי-שנייה, בעוד ש- Neo4j נותר הבחירה הנכונה כאשר אתם זקוקים ל-RBAC בשל, אשכולות (clustering) ואגרגציה מורכבת.

אחזור סוכני

הדפוס בעל היכולות הגבוהות ביותר בשנת 2026, והיקר ביותר ליישום מדויק. לולאת אחזור סוכנית מפרקת שאילתות מורכבות לתת-שאילתות, מנתבת כל אחת לאסטרטגיית האחזור המתאימה (וקטור, גרף או מסד נתונים מובנה), מעריכה האם התוצאות מספקות, ומבצעת איטרציות עד להשגת ספי ביטחון.

אנו מיישמים זאת על גבי LangGraph, שבו הפשטת מכונת המצבים מעניקה לכם הסתעפות מותנית, צומתי עצירה למעורבות אנושית (human-in-the-loop) ויכולת ביקורת דטרמיניסטית. שכבות RAG מתקן מוסיפות חביון של 100–800ms לכל שאילתה, אך לוכדות שגיאות אחזור לפני שהן מגיעות ל-LLM. דפוס זה מוכן לסביבת ייצור ב- Morgan Stanley, PwC ו-ServiceNow. הוא אינו מתאים לצוותים ללא קיבולת ML ops ייעודית לניטור וכוונון לולאות האחזור.

מה קורה לפני השיכוץ: חלוקה נכונה למקטעים

חלוקה למקטעים היא המקום שבו מערכות RAG נכשלות באופן שקט. חלוקה נאיבית לגודל קבוע מניבה ציוני נאמנות של 0.47–0.51. חלוקה סמנטית מגיעה ל- 0.79–0.82, אך כרוכה בעלות שיכוץ של כל משפט בקורפוס שלכם. האסטרטגיה הנכונה תלויה במסמכים שלכם:

• הגשות רגולטוריות מובנות — ניתוח תחבירי מודע-פריסה משמר את היררכיית הסעיפים.
• קובצי PDF בעלי תוכן מעורב עם טבלאות ותרשימים — חלוקה למקטעים מונחית-ראייה (התייחסות לכל עמוד כתמונה לצורך זיהוי פריסה, ולאחר מכן חילוץ אזורי טקסט) משפרת את דיוק האחזור ב-8–15% בהשוואה לניתוח טקסט בלבד.
• מסמכים סיפוריים ארוכים — חלוקה מאוחרת למקטעים (late chunking) מעבירה תחילה את המסמך המלא דרך הטרנספורמר כך שכל שיכוץ טוקן משקף הקשר דו-כיווני, ולאחר מכן מחילה גבולות מקטעים לאחר ה-forward pass.

אנו בודקים שלוש עד ארבע אסטרטגיות חלוקה למקטעים מול קבוצת השאילתות הממשית שלכם לפני בחירת האסטרטגיה המתאימה. רתמת ההערכה (מדדי נאמנות ודיוק הקשר של RAGAS, שיפוטי רלוונטיות ספציפיים לתחום) מסופקת כחלק מצינור העבודה, ולא כתוספת מאוחרת. 60% מפריסות ה-RAG החדשות כוללות כעת הערכה שיטתית מהיום הראשון, עלייה מפחות מ-30% בתחילת 2025. אנו מטמיעים את ההערכה בתוך ה-CI/CD שלכם כך שאיכות האחזור נמדדת בכל פריסה, ולא מתגלה כאשר משתמשים מתלוננים.

כמה עולה להפעיל מערכת RAG ארגונית?

חברת ייצור הוציאה $400,000 על פריסת מערכת RAG, ולאחר מכן גילתה שהפעילות השוטפת עולה $18,000 לחודש — יותר מכפול מהתחזית שלהם. מודל העלויות שהם פספסו: דירוג מחדש. ממשקי API של שיכוצים עולים $20–120 למיליארד טוקנים. אחסון מסד נתונים וקטורי בהיקף של 10 מיליון וקטורים עולה פי 1.5–3 יותר בשירותים מנוהלים (Pinecone, Weaviate Cloud) לעומת אירוח עצמי (Qdrant, pgvector). אך דירוג מחדש בהיקף שאילתות של סביבת ייצור הוא המקום שבו תקציבים מתנפחים: Cohere Rerank עולה $2 ל-1,000 שאילתות, בעוד ש-BGE-reranker-v2-m3 באירוח עצמי על גבי GPU בודד מגיע לאותו חביון בעלות של אפס לכל שאילתה — אם כי אתם משלמים על מופע ה-GPU.

GraphRAG מוסיף שכבת עלות נוספת. בניית גרף ידע צורכת פי 4–8 יותר טוקנים מטקסט המקור עבור חילוץ ישויות וסיכום קהילות. תחזוקה צורכת 40–60% מתקציב ההנדסה בשנה הראשונה משום שיישוב ישויות, מניעת כפילויות ועדכוני אונטולוגיה הם עבודה מתמשכת, ולא הגדרה חד-פעמית. חילוץ מבוסס-תלויות (NLP קלאסי במקום קריאות ל-LLM) מקצץ את עלויות הבנייה בכ- 90% תוך שימור 94% מאיכות החילוץ. אנו מגדירים את היקף כל התקשרות עם תחזיות קצב הוצאה חודשי מפורשות המכסות שיכוץ, אחסון, אחזור, דירוג מחדש ותחזוקת גרף.

מתי GraphRAG משתלם (ומתי לא)

אתם זקוקים לאחזור מועשר-גרף כאשר השאילתות שלכם דורשות היסק רב-שלבי על פני ישויות וקשרים:

• בדיקת נאותות (due diligence) בעסקאות מיזוגים ורכישות (M&A) המתפרסת על פני מאות הגשות של חברות בת.
• סינתזת ראיות קליניות על פני מסדי נתונים של אינטראקציות בין תרופות.
• ניתוח סיכוני שרשרת אספקה המחבר בין רשתות ספקים לפעולות רגולטוריות.

GraphRAG מספק את דיוק החיפוש הגבוה ביותר שלו בשאילתות תאגידיות מורכבות ומרובות שכבות במבחני ביצועים (ראו הדגמה פעילה של אחזור משפטי מאומת-ציטוטים). אינכם זקוקים לו כאשר השאילתות שלכם הן איתור במסמך בודד, תשובות בסגנון שאלות ותשובות (FAQ), או חיפושים מונחי מילות מפתח — אחזור היברידי BM25 + אחזור צפוף עם מדורג מחדש מטפל באלה בשבריר מהעלות והמורכבות. אם הקורפוס שלכם קטן מ- 5 מיליון וקטורים והשאלות שלכם אינן חוצות גבולות של מסמכים, pgvector עם אינדוקס HNSW בהחלט מספיק. אנו מעריכים זאת לפני המלצה על ארכיטקטורה, ונודיע לכם מתי האפשרות הפשוטה יותר היא הנכונה.

גם השאלה "האם אנו בכלל זקוקים ל-RAG?" חשובה. עם חלונות הקשר המגיעים ל-1M+ טוקנים (Gemini 3 Pro ב-10M), צוותים מסוימים שוקלים לדחוס קורפוסים שלמים לתוך הפרומפט. הבעיה: שאילתה בודדת של 1M טוקנים עולה $2–10, סכום שאינו בר-קיימא בהיקף שאילתות ארגוני. איכות ההקשר מדרדרת מעבר לספים מסוימים אפילו בתוך המגבלות המפורסמות. RAG נותר הארכיטקטורה הנכונה לכל מערכת המטפלת בשאילתות חוזרות ונשנות מול מערכי מסמכים גדולים ומשתנים.

מהו משטח התקיפה של צינור RAG?

מחקר PoisonedRAG (כנס USENIX Security 2025) הוכיח כי חמישה מסמכים מהונדסים בקפידה שהוחדרו לקורפוס של מיליון מסמכים יכולים להטות תגובות AI ביותר מ-90% הצלחה. צינור האחזור שלכם הוא נתיב קליטה לתוכן עוין. OWASP מכיר כעת רשמית בחולשות וקטורים ושיכוצים (LLM08:2025) ובהזרקת פרומפטים דרך מסמכים מאוחזרים (LLM01:2025) כסיכוני אבטחה מובילים של מודלי שפה גדולים.

אנו בונים מעקב אחר מקור המסמכים, זיהוי אנומליות ברמת השיכוץ, ושכבות חיטוי קלט לתוך צינור האחזור. כל קטע מאוחזר נושא מטא-נתוני מקור וציון מהימנות. שכבת היצירה מוגבלת לצטט קטעים ספציפיים, וטענות שאינן ניתנות לביסוס בתוכן המאוחזר מסומנות במקום לעבור הלאה. זהו אינו עניין של בחירה עבור כל מערכת RAG הנפרסת בסביבות מוסדרות, כפי שמפורט ב- מחקר שלנו על אבטחת מודלי שפה גדולים (LLMs) ארגוניים פרטיים.

מה אנו מספקים

כל התקשרות מניבה:

• ארכיטקטורת אחזור הנבחרת עבור דפוסי השאילתות וסוגי המסמכים הספציפיים שלכם.
• אסטרטגיית חלוקה למקטעים ושיכוץ שנבדקה במבחני ביצועים מול השאילתות הממשיות שלכם.
• רתמת הערכה ברמת ייצור עם מדדי RAGAS ומקרי מבחן ייעודיים לתחום.
• תחזיות עלות מפורשות המכסות שיכוץ, אחסון, אחזור, דירוג מחדש וכל תחזוקת גרף.
• הקשחת אבטחה כנגד מתקפות מבוססות אחזור.
• מערך ניטור הלוכד הידרדרות באיכות האחזור לפני שהמשתמשים מבחינים בה.

אנו גם מבהירים לכם מתי התצורה הנוכחית שלכם מספקת וההשקעה באחזור מורכב יותר לא תשתלם.