למה הפסקתי לסמוך על AI והתחלתי לבנות אורקלים במקומו
המייל הגיע ב-11:47 בלילה, ביום שלישי. יצרן סוללות שאיתו שוחחנו זה זמן־מה בדיוק הוריד מקו הייצור משלוח של תאים. לא מפני שהם נכשלו בבדיקה — אלא מפני שכלי סינון החומרים הנתמך ב-AI שלהם אישר אלקטרוליט מועמד אשר, כשכימאי אנושי סוף־סוף עשה את החישובים, התברר כבלתי־יציב תרמודינמית מעל 150°C. החומר היה מתפרק בתוך מארז סוללה. הפירוק היה משחרר חום. החום היה מצית את מה שהתעשייה מכנה בעדינות "בריחה תרמית" — ואת מה שכל שאר האנשים קוראים לו: שרפה.
איש לא נפגע. אבל ישבתי ליד שולחני, בוהה במייל הזה וחושב על המילה "סביר". ה-AI לא טעה באף דרך מובהקת. המבנה המולקולרי שהוא המליץ עליו נראה הגיוני. אנרגיית ההיווצרות שהוא חזה הייתה בטווח הנכון. זה היה סביר. זה פשוט לא היה אמת.
ההבחנה הזו — בין סביר לאמת — היא קו השבר החוצה את כל תעשיית ה-AI כרגע. וזו הסיבה שבניתי את Veriprajna.
לכלכלת המעטפות יש בעיה עם האמת
הנה מה שרוב האנשים אינם מבינים לגבי הגל הנוכחי של מוצרי AI: הרוב המכריע שלהם הם שכבות ממשק דקות — "מעטפות" — היושבות על גבי מודלי שפה גדולים לכל מטרה. ה-LLM חוזה את הטוקן הבא הסביר ביותר. המעטפת גורמת לזה להיראות כמו אפליקציה. המשתמש מניח שהוא מקבל תשובות. הוא מקבל הסתברויות.
לכתיבת תוכן שיווקי או סיכום פרוטוקולים של פגישות, זה בסדר. הסתברויות הן טובות דיין. אבל לחברות שאיתן אני עובד אין את הפריווילגיה של "טוב דיו". הן מייצרות סוללות שנכנסות לרכבים חשמליים. הן מפיקות תוכן שמע שמשודר ברחבי העולם. עבורן, תשובה שהיא 99% סבירה אך 1% בלתי־אפשרית פיזיקלית אינה שגיאת עיגול. היא אירוע תרמי או תביעת הפרת זכויות יוצרים.
כשה-AI שלך אחראי על משהו שיכול לעלות באש או לגרור אותך לתביעה, "סביר סטטיסטית" אינו זהה ל"נכון".
התחלתי לקרוא לזה ההתפצלות של ה-AI. בצד אחד, כלכלת המעטפות — מהירה, נגישה, בנויה על חיזוי סטוכסטי. בצד השני, מה שאנחנו עושים ב-Veriprajna: AI עמוק, שבו כל פלט מאומת מול חוקים בלתי־ניתנים לשינוי לפני שאדם בכלל רואה אותו. פיזיקה. לוגיקה. מקור (provenance). הדברים שלא אכפת להם מהתפלגות נתוני האימון שלך.
מה קורה כשה-AI חוזה כימיה שהוא אינו מבין?
הרשו לי להמחיש זאת באמצעות בעיית הסוללה, כי היא רודפת אותי.
סוללות ליתיום־יון כושלות דרך רצף דטרמיניסטי של פירוקים כימיים. זה מתחיל סביב 80–100°C כאשר השכבה המגִנה על האנודה — הנקראת מִמְשק אלקטרוליט מוצק (Solid Electrolyte Interphase) — מתפרקת. עד 110–135°C, המפריד נמס והאלקטרוליט מתחיל להתפרק לגזים דליקים. מעל 200°C, הקתודה קורסת, משחררת חמצן, ומתקבלת בעירה.
האלקטרוליט הוא המשתנה הקריטי. אלקטרוליטים נוזליים מסורתיים — בדרך כלל ליתיום הקסאפלואורופוספט המומס בממסים קרבונטיים — אינם יציבים כימית בטמפרטורות גבוהות. הם, פשוטו כמשמעו, מקור הדלק באירוע הבעירה. כדי למנוע בריחה תרמית, במיוחד ביישומים במתח גבוה או בטמפרטורה גבוהה, אנו זקוקים לאלקטרוליטים בעלי אנרגיות פירוק ששומרות עליהם יציבים הרבה מעבר לסף 200°C ההוא.
הבעיה היא למצוא אותם. המרחב הכימי של גבישים אנאורגניים אפשריים מכיל כ-10^100 צירופים משוערים. במשך עשורים, מדעני חומרים חקרו מרחב זה בדרך שבה אדיסון בחן נימי להט: להעלות השערה על מבנה, לסנתז אותו במעבדה, לבחון אותו, ולחכות חודשים לתוצאות. והאינטואיציה האנושית מטה אותנו לעבר שינויים של משפחות מוכרות — גַרנֶטים, פֶּרוֹבסקיטים — במקום להעז אל שטח קומפוזיציוני חדשני באמת.
אז התעשייה פנתה ל-AI. הגיוני. אבל כאן הדברים השתבשו עבור צוותים רבים: הם הפנו LLM אל הבעיה. LLM ש"קרא" מיליוני מאמרי כימיה יכול היה לחזות מבנים מולקולריים — אבל הוא חוזה טוקנים, לא צפיפויות אלקטרונים. אין לו מושג בכללי ערכיות, אין לו הבנה של כוחות קוונטיים־מכניים. הוא יכול להזות מבנה גבישי שנראה נכון על הנייר אך מפר את חוקי הפיזיקה בדרכים שמתגלות רק כשמנסים לבנות אותו.
זה מה שקרה עם המייל ההוא של אמצע הלילה. ה-AI הציע מועמד. המועמד היה סביר. הוא לא היה אמיתי.
ארכיטקטורת האורקל: כיצד אנו באמת פותרים זאת
לאחר התקרית ההיא, אני והצוות שלי ניהלנו שיחה ארוכה ולא־נוחה על מה שאנו באמת בונים. האם אנו בונים AI שמייצר תשובות? או AI שמגלה אמת?
בחרנו באמת. והאמת דורשת אורקל.
הארכיטקטורה שלנו לגילוי חומרים משלבת את GNoME של Google DeepMind — Graph Networks for Materials Exploration — עם אימות קפדני של תורת הפונקציונל של הצפיפות (Density Functional Theory). התובנה המרכזית היא זו: אנו לא משתמשים ב-AI כדי לענות על השאלה. אנו משתמשים ב-AI כדי להציע מועמדים ממרחב חיפוש עצום, ואז אנו מאמתים כל אחד ואחד מהם מול חוקי הפיזיקה לפני שהוא מגיע לאנשהו.
GNoME מתייחס למבני גבישים כאל גרפים — אטומים הם צמתים, קשרים כימיים הם קשתות. בשונה מ-LLM המעבד טקסט לינארי, GNoME מבין גאומטריה וטופולוגיה תלת־ממדית. הוא בנוי להיות מה שהפיזיקאים מכנים E(3)-שקול (E(3)-equivariant), כלומר תחזיותיו אינן משתנות אם מסובבים את הגביש במרחב. זו אינה תכונה שמוסיפים מבחוץ. זהו אילוץ מתמטי הצרוב בארכיטקטורה. המודל אינו יכול להפר סימטריה סיבובית.
אבל אפילו GNoME הוא הסתברותי. הוא חוזה אנרגיות היווצרות — האנרגיה הנדרשת להרכיב גביש מן היסודות שלו — אך תחזיות אלו נושאות אי־ודאות. גביש עשוי להיראות יציב עבור הרשת הנוירונית ועדיין להיות בלתי־תחרותי תרמודינמית מול פאזות אפשריות אחרות.
אז בנינו את שכבת האורקל.
מדוע אימות DFT חשוב לבטיחות סוללות?
תורת הפונקציונל של הצפיפות (Density Functional Theory) היא שיטה קוונטית־מכנית המקרבת את הפתרון למשוואת שרדינגר. היא מחשבת צפיפות אלקטרונים ואנרגיה כוללת בדיוק גבוה. היא יקרה חישובית — חישוב יחיד עשוי לארוך מאות שעות CPU — אבל היא אינה מהזה. היא פותרת משוואות. התשובה היא או נכונה, או שהיא שגיאה נומרית שאתה יכול לכמת ולתחום.
אנו מפעילים אסטרטגיית אימות מדורגת. שדות כוח מבוססי למידת מכונה מטפלים ברפיון הגאומטרי הראשוני — מסננים החוצה מועמדים שבבירור שבורים. לאחר מכן חישובים ברמת PBE מבצעים סינון בתפוקה גבוהה. השורדים מאומתים באמצעות r²SCAN, פונקציונל meta-GGA החוזה במדויק קבועי סריג ואנרגיות היווצרות עבור מערכות קשורות חזק. מתכות מעבר מקבלות תיקון Hubbard U נוסף כדי לטפל בשגיאות אינטראקציה־עצמית באורביטלי d.
אני מבין שזה עתה זרקתי עליך המון ז'רגון פיזיקלי. הנקודה פשוטה יותר מהפרטים: יש לנו שכבות רבות של סימולציה פיזיקלית יקרה ומדויקת יותר ויותר, וכל מועמד חייב לשרוד את כולן לפני שנמליץ עליו אי־פעם עבור סוללה.
המדד החשוב ביותר הוא מה שאנו מכנים "מרחק למעטפת" (Distance to Hull). דמיינו שרטוט של כל חומר אפשרי במרחב קומפוזיציוני נתון על גבי גרף — קומפוזיציה על ציר אחד, אנרגיה על השני. החומרים היציבים יוצרים גבול תחתון, "מעטפת קמורה". כל דבר מעל אותה מעטפת יתפרק באופן ספונטני לחומרים שעליה. חומר עם מרחק אפס למעטפת הוא מצב היסוד התרמודינמי. חומר עם מרחק גדול מ-100 meV/atom כמעט בוודאות יתפרק — ובסוללה, להתפרק פירושו לשחרר חום.
למעטפת הקמורה לא אכפת מציון הביטחון של הרשת הנוירונית שלך. חומר הוא או יציב תרמודינמית, או שאינו.
גלגל התנופה שנעשה חכם יותר בן־לילה
מה שהופך את זה ליותר מצינור חד־פעמי הוא לולאת הלמידה האקטיבית. GNoME מייצר אלפי מבנים מועמדים. אנו בוחרים את אלה שהמודל חושב שהם המבטיחים ביותר וגם את אלה שלגביהם הוא הכי לא בטוח — ניצול וחקירה בו־זמנית. אלה עוברים לאשכול ה-DFT. האנרגיות האמיתיות חוזרות ומוזנות אל תוך מערך האימון של GNoME. המודל מתאמן מחדש. הפיזיקה הפנימית שלו מתוקנת.
אני זוכר את הפעם הראשונה שבה צפינו בשיעור הפגיעה מטפס — אחוז החומרים שהוצעו על ידי ה-AI ואשר בפועל התבררו כיציבים לאחר אימות DFT. חיפוש אקראי מסורתי יושב מתחת ל-1%. למידת מכונה סטנדרטית מביאה אותך אולי ל-50%. לאחר מספר מחזורי למידה אקטיבית, הצינור מונע ה-GNoME שלנו עבר את ה-80%.
המייסד־השותף שלי הביט בלוח הבקרה ואמר, "זה כבר לא מנחש. זה לומד מה יציבות אומרת." זה היה הרגע שבו ידעתי שיש לנו משהו. לא מפני שהמספר היה מרשים כשלעצמו, אלא מפני שהמערכת התכנסה אל המציאות הפיזיקלית דרך איטרציה, לא שינון.
כתבתי על הארכיטקטורה הזו בהרחבה רבה יותר בגרסה האינטראקטיבית של המחקר שלנו, אם ברצונך לראות את זרימת העבודה המלאה.
הסוג האחר של פיצוץ: זכויות יוצרים באודיו גנרטיבי
כעת הרשו לי לספר לכם על תחום שונה לחלוטין שבו אותה פילוסופיה ארכיטקטונית — להציע, ואז לאמת — הצילה אותנו מסוג אחר של אסון.
חברת מדיה פנתה אלינו בנוגע לייצור תוכן שמע בהיקף נרחב. הייתה להם ספרייה עצומה של מוזיקה והקלטות קול מורשות. הם רצו להשתמש ב-AI כדי ליצור תוכן חדש מהספרייה הזו — קריינות מותאמת־מקום, פסקולים ממוקסים מחדש, מהסוג הזה. הם התנסו בכלי אודיו גנרטיביים מדף.
שאלתי שאלה אחת: "האם תוכלו להוכיח, עבור כל פלט נתון, אילו מקורות מורשים בדיוק תרמו לו?"
שתיקה.
זו בעיית הקופסה השחורה במדיה גנרטיבית. מודלי דיפוזיה — הארכיטקטורה מאחורי רוב מחוללי האודיו והתמונות של ה-AI — מאומנים על מערכי נתונים עצומים שנאספו מהאינטרנט. כשהם מייצרים פלט, הם חוצים מרחב סמוי רב־ממדי כדי לסנתז משהו חדש. הפלט הוא מיזוג מתמטי של נתוני האימון. אינך יכול להתחקות אחר אילו דוגמאות אימון השפיעו על אילו חלקים מהתוצאה.
עבור צרכן שמשחק עם כלי מוזיקת AI, זו סקרנות. עבור חברת מדיה גלובלית, זהו סיכון משפטי קיומי. אם רצועת אודיו שנוצרה מכילה לולאה בת ארבע תיבות הזהה לשיר מוגן בזכויות יוצרים, החברה אחראית להפרה — גם אם איש לא התכוון לכך. בתי המשפט דנים באופן פעיל בשאלה האם אימון על נתונים מוגנים בזכויות יוצרים מהווה שימוש הוגן (Andersen v. Stability AI, New York Times v. OpenAI). ארגון שצינור התוכן שלו תלוי בכלים אלה עלול להתעורר בוקר אחד ולגלות שכל ספריית הנכסים שלו מזוהמת מבחינה משפטית.
חברת מדיה שאינה יכולה להוכיח את מקורו של התוכן שיוצר על ידי ה-AI שלה בונה על חול — חול משפטי שנע בכל פעם שבית משפט מוציא פסיקה.
כיצד בונים אודיו AI שיכול להוכיח את חפותו שלו?
דחינו לחלוטין את פרדיגמת ה"ייצור מרעש". במקום זאת, בנינו את מה שאני תופס כ-Retrieval-Augmented Generation עבור אודיו — אותו מהלך רעיוני ש-RAG הביא לטקסט, אך מיושם על צליל.
לצינור שני שלבים: פירוק ושחזור.
לפירוק, אנו משתמשים ב-Hybrid Transformer Demucs — מודל הפרדת מקור שלוקח אודיו מעורבב ומבודד אותו לסטמים בודדים: ווקאל, תופים, בס, כלים אחרים. הארכיטקטורה היא U-Net עם חיבורי דילוג (המשמרים פרטי תדר גבוה שאחרת היו אובדים בדחיסה) ומקודד Transformer בצוואר הבקבוק המשתמש בקשב־עצמי (self-attention) כדי לנתח את כל רצף האודיו. הוא מעבד אודיו בו־זמנית במרחב הזמן ובמרחב התדר, וממזג מידע משניהם.
הרצנו את Demucs על פני כל הארכיון המורשה של הלקוח. אלפי שעות של אודיו מעורבב, מופרדות לסטמים נקיים ומבודדים, כל אחד מתויג ומאונדקס לפי מאפייני אודיו — גוון צליל, גובה צליל, מקצב. הפכנו את הקטלוג הישן שלהם מאוסף של שירים מוגמרים לספרייה עצומה של אבני בניין.
לשחזור — במיוחד עבור תוכן קולי — אנו משתמשים ב-Retrieval-Based Voice Conversion. זה שונה מהותית מטקסט־לדיבור או מייצור קול מבוסס־דיפוזיה. RVC הוא דיבור־לדיבור: הוא לוקח הקלטת קלט (נניח, מנהל יצירתי הקורא תסריט בטלפון שלו) וממיר את גוון הצליל כך שיתאים לקול יעד מורשה, תוך שמירה על האינטונציה והמקצב של הביצוע המקורי.
המנגנון הקריטי טמון בשם: אחזור. אנו משתמשים ב-HuBERT כדי לחלץ מאפייני תוכן בלתי־תלויי־דובר מהקלט. לאחר מכן, עבור כל פריים, אנו מבצעים שאילתה על אינדקס FAISS של וקטורי מאפיינים הנגזרים מהקלטות של שחקן הקול המורשה. אנו מאחזרים את פרטי האקוסטיקה התואמים ביותר — הנשיפתיות, התהודה, האיכות הקולית הספציפית — מהקלטות מורשות בפועל. הפלט נשמע כמו קול היעד מפני שמשכנו נקודות נתונים ספציפיות מהאינדקס המורשה שלהם, לא מפני שרשת נוירונית חלמה קירוב.
אינני יכול להפריז בחשיבות המשפטית של הדבר. במודל דיפפייק, קול היעד מתקיים כמשקלים אטומים של רשת נוירונית. במערכת שלנו, כל פרט אקוסטי מתחקה בחזרה אל הקלטה ספציפית, חתומת־זמן ומורשית. שרשרת הבעלות אינה נשברת.
הניירת שנוסעת יחד עם הצליל
ייצור אודיו נקי־מקור הוא הכרחי אך אינו מספיק. הנכס צריך לשאת את ההוכחה שלו עצמו. אנו מיישמים את תקן C2PA — Coalition for Content Provenance and Authenticity — המטמיע נתוני מקור עמידים־בפני־חבלה ישירות בתוך קובצי מדיה באמצעות קריפטוגרפיה של מפתח ציבורי.
כל קובץ אודיו שאנו מייצרים נשלח עם מניפסט חתום: ה-hash של רצועת ההנחיה בקלט, המזהה של מודל הקול המורשה, הרצף המלא של פעולות העיבוד, וגרסת הכלי. כל משתמש במורד הזרם — פלטפורמת סטרימינג, גוף שידור — יכול לאמת את החתימה ולוודא שהנכס נבנה כולו ממקורות מורשים.
התאמנו גם את מדד הדמיון המבני (Structural Similarity Index) לבקרת איכות אודיו. באמצעות השוואת ספקטרוגרמות של הנחיית הקלט והפלט, אנו תופסים מקרים שבהם ה-AI עיוות את הביצוע — דילג על מילה, שינה את המקצב, הזה הפסקה. כל דבר מתחת לסף SSIM של 0.95 מסומן לבדיקה אנושית באופן אוטומטי.
לפירוט הטכני המלא של ארכיטקטורות החומרים והאודיו כאחד, ראו מאמר המחקר שלנו.
ומה לגבי פשוט שימוש בפרומפטים טובים יותר?
אנשים מתנגדים לגישה הזו. הם אומרים לי שאנחנו מהנדסים־יתר את הבעיה. "פשוט השתמשו במודל טוב יותר." "פשוט כווננו על נתוני התחום שלכם." "פשוט הוסיפו כתב ויתור."
משקיע אחד אמר לי, ישירות ובלי כחל וסרק, "פשוט השתמש ב-GPT עם system prompt טוב וחסוך לעצמך את עלות התשתית." שאלתי אותו אם היה מושיב את משפחתו ברכב חשמלי שאלקטרוליט הסוללה שלו נבחר על ידי system prompt. הוא שינה את הנושא.
ההתנגדות העמוקה יותר נוגעת לעלות ולמורכבות. כן, הרצת חישובי DFT על אשכול HPC יקרה יותר מקריאה ל-API. כן, בניית מסד נתוני סטמים מאונדקס־FAISS עם חתימת C2PA קשה יותר מהפניית מודל דיפוזיה אל פרומפט טקסט. אבל השאלה אינה האם אימות דטרמיניסטי יקר יותר מייצור הסתברותי. השאלה היא האם הוא יקר יותר מריקול של סוללות. או מתביעת זכויות יוצרים שמבטלת את כל ספריית התוכן שלך.
אחרים שואלים אם הגישה הזו ניתנת להרחבה. היא כן — לשם כך נועד גלגל התנופה של הלמידה האקטיבית. המערכת נעשית יעילה יותר בכל מחזור. שיעור הפגיעה מטפס. העלות למועמד מאומת יורדת. מסד נתוני הסטמים גדל. אתה לא רק פותר את בעיית ההווה; אתה בונה מנוע שמצטבר.
סוף עידן תיירות ה-AI
אני חושב שאנו בנקודת מפנה. עידן ההתנסות ב-AI — צ'טבוטים בלובי, קו־פיילוטים בסרגל הצד, מעטפות על הכול — מגיע לקצו. לא מפני שהכלים האלה אינם שימושיים, אלא מפני שהארגונים החשובים ביותר מנסים כעת להכניס את ה-AI אל הליבה של הפעילות שלהם. אל מעבדת המו"פ. אל אולפן ההפקה. אל המערכות שבהן לכישלון יש השלכות הנמדדות באירועים תרמיים ובהתדיינות משפטית, לא בתגובות צ'טבוט מביכות.
בסביבות אלה, הסובלנות להזיה היא אפס. לא נמוכה. אפס.
הארכיטקטורה שבנינו ב-Veriprajna — עבור סוללות, עבור אודיו, עבור כל תחום שבו האמת אינה ניתנת למשא ומתן — נשענת על עיקרון אחד: הכוח הגנרטיבי של הרשת הנוירונית חייב להיות כפוף לחלוטין לכוח המאמת של האורקל. ה-AI מציע. הפיזיקה מכריעה. ה-AI מרכיב. המקור מוכיח. היכולת היצירתית של המודלים האלה יוצאת דופן. אך יצירתיות ללא אחריותיות היא רק ניחוש מתוחכם.
עבור יצרן הסוללות, הזיה היא שרפה. עבור חברת המדיה, הזיה היא תביעה. הארכיטקטורה הברת־קיימא היחידה מרסנת את הייצור באמצעות אימות — בכל פעם, ללא יוצא מן הכלל.
אני לא חושב שעתיד ה-AI שייך למודלים שמייצרים את הפלטים המשכנעים ביותר. אני חושב שהוא שייך למערכות שיכולות להוכיח שהפלטים שלהן אמיתיים. אילוצים אינם מגבילים אינטליגנציה. הם יוצרים מציאות.