שאלתי את GPT-4 אם מרפסת בטוחה. הוא אמר כן. הפיזיקה אמרה שהיא תקרוס.
על שולחני מונחת הדמיה — למען האמת תדפיס, כי רציתי להביט בה בלי מסך שיפריד בינינו — של מרפסת קונזולית. קווים נקיים, מעקה פרמטרי, מהסוג שהיית רואה בכתבת מגזין אדריכלות על "עתיד המחיה העירונית". הזנתי את התמונה ל-GPT-4V ושאלתי שאלה פשוטה: האם המבנה הזה בטוח?
התשובה הייתה רהוטה, בטוחה בעצמה ומפורטת. היא ציינה את גובה המעקה הנראה לעין, התייחסה לתנאי התמיכה הגלויים, וסיכמה שהתכנון "נראה תקין מבחינה מבנית עם תמיכה מספקת".
אחר כך מסרתי את אותו שרטוט למהנדסת הקונסטרוקציה שלי. היא הביטה בו אולי חמש-עשרה שניות. "אין כאן חיזוק במפתח האחורי," היא אמרה. "המומנט בקצה המקובע חורג מכושר הנשיאה של החתך. זה קורס."
ה-AI ראה פיקסלים. היא ראתה פיזיקה. והפער הזה — בין מה שנראה בטוח לבין מה שבאמת בטוח — היא הסיבה שבגללה הקמתי את VeriPrajna.
הפיתוי של "מספיק טוב"
אני חייב להיות כן לגבי משהו. כשמודלי LLM מולטימודליים החלו לראשונה לעבד שרטוטים הנדסיים, הייתי נרגש. נרגש באמת. אני זוכר את עצמי יושב במשרד הקטן שלנו מאוחר בערב, מריץ שרטוט אחר שרטוט דרך גישה מוקדמת ל-GPT-4V, וצופה בו מתאר אלמנטים מבניים באוצר מילים מפתיע. "קורת I מפלדה," הוא היה אומר. "עמוד בטון מזוין." הוא נשמע כאילו הוא הבין.
ההתרגשות הזאת נמשכה כשלושה שבועות.
נקודת המפנה הייתה מבחן שערכנו על פרטי חיבורים — הצמתים שבהם קורות נפגשות עם עמודים, שם מתרחשת העברת העומס בפועל. נתנו למודל סדרת שרטוטים שבהם חלק מהחיבורים פורטו כראוי ולאחרים היו פגמים עדינים אך קריטיים: לוחות מקשיחים חסרים, ריתוכים בחתך קטן מדי, נתיבי עומס לא רציפים. מהסוג שמבדיל בין מבנה שעומד לבין מבנה שאינו עומד.
דיוק המודל בזיהוי הפגמים האלה היה למעשה אקראי. הוא יכול היה לנקוב בשם הרכיבים. הוא יכול היה לתאר את מה שראה. אבל הוא לא יכול היה להסיק אם הכוחות יזרמו בפועל מנקודה A לנקודה B. זה היה כמו לבקש ממישהו ששינן בעל פה את שמות כל עצם בגוף האדם לבצע ניתוח.
בינה מלאכותית שיודעת לנקוב בשם כל אלמנט מבני אך אינה יכולה לעקוב אחר נתיב עומס אינה כלי הנדסי. היא מפגע עם קול בטוח בעצמו.
מדוע מודלי LLM רואים שרטוטים כמרק פיקסלים?
הנה מה שקורה בפועל מתחת למכסה המנוע, וזה חשוב גם אם אתם לא אנשים טכניים.
כש-GPT-4V או Gemini "מביט" בשרטוט מבני, הוא משתמש במשהו שנקרא Vision Transformer. המודל חותך את התמונה לרשת של מקטעים קטנים — בדרך כלל 16×16 פיקסלים כל אחד — ומעבד אותם כרצף, בדומה לאופן שבו הוא מעבד מילים במשפט. הוא לומד קשרים סטטיסטיים בין מקטעים. מקטע עם קו אנכי (עמוד) נוטה להופיע בסמוך למקטע עם קו אופקי (קורה). על פני מיליוני תמונות אימון, הקורלציות האלה נצרבות פנימה.
אבל הנה ההבחנה הקריטית: קורלציה אינה סיבתיות. המודל לומד שעמודים וקורות נוטים להופיע יחד. הוא אינו לומד שהקורה נתמכת על ידי העמוד. הוא אינו יודע שאם תסיר את העמוד, הקורה נופלת. אין לו מנוע פיזיקה פנימי. יש לו סטטיסטיקת תבניות.
מחקר מ-NeurIPS הדגים משהו שאמור להדאיג כל מי ששוקל להפעיל את המודלים האלה לעבודה קריטית לבטיחות: כאשר מערבבים את מקטעי הפיקסלים של תמונה — פשוטו כמשמעו טורפים אותם כמו חפיסת קלפים — Vision Transformers לרוב שומרים על דיוק סיווג גבוה. הם אינם קוראים את המבנה המרחבי. הם קוראים מרקם ותבניות מקומיות.
בהנדסה, המבנה המרחבי הוא הכול. פרט חיבור ש"כמעט קיים" אך חסר בו נתיב עומס קריטי אינו בטוח ב-90%. הוא 100% לא-בטוח.
מה קורה כשבאמת מודדים בבנצ'מרק מודלי LLM על היגיון מבני?
המשכתי לקוות שמדדי הביצועים יוכיחו שאני טועה. הם לא.
מחקר DSR-Bench העריך עשרה מודלי LLM מתקדמים על פני 4,140 מופעי בעיה שתוכננו לבחון היגיון מבני — היכולת להבין ולתמרן יחסים מורכבים בין ישויות. זה בדיוק מה שנדרש כדי לנתח שלד מבנה: לעקוב אחר יחסים דרך צמתים מרובים, לעמוד באילוצים נוקשים, ולהסיק לגבי תצורות מרחביות.
המודל החזיתי הטוב ביותר קיבל ציון של 0.498 מתוך 1.0 במופעים מאתגרים. בעצם הטלת מטבע.
אופני הכשל היו ספציפיים ומרשיעים. היגיון רב-קפיצה — מעקב אחר יחס דרך כמה צמתים מתווכים, שזה בדיוק מה שניתוח נתיב עומס דורש — היה חולשה עקבית. והביצועים הידרדרו כשהבעיות תוארו בשפה טבעית בהשוואה לקוד פורמלי, מה שמרמז שהמודלים ביצעו התאמת תבניות של תחביר מנתוני האימון שלהם במקום להסיק באמת.
אני זוכר את ישיבת הצוות שבה סקרנו את המספרים האלה. אחד המהנדסים שלי, שהיה אופטימי בזהירות לגבי שימוש במודלי LLM ככלי סינון ראשוני, השתתק לזמן רב. ואז הוא אמר: "אז כשמהנדס מתאר בעיה מבנית לא-סטנדרטית באנגלית פשוטה, המודל בעצם מנחש בחצי מהמקרים." זה היה הרגע שבו החדר השתנה. לא בהדרגה — הכול בבת אחת.
בנפרד, מדד הביצועים DesignQA מצא שמודלי LLM מולטימודליים יכלו לענות על "מהי השקיעה המרבית המותרת?" (חילוץ מספר מתיעוד) אך נכשלו ב"האם תכנון הקורה הספציפי הזה עומד בשקיעה המרבית המותרת?" (יישום אותו מספר על ייצוג חזותי). חילוץ לעומת יישום. ידיעת הכלל לעומת אכיפתו.
כתבתי על אופן הכשל הזה לעומק רב הרבה יותר בגרסה האינטראקטיבית של המחקר שלנו, כולל הטיות בחירת החומרים המוזרות שמצאנו — מודלי LLM ממליצים על טיטניום וסיבי פחמן להקשרים שברור שדרשו פלדה מבנית סטנדרטית, פשוט משום שחומרים אקזוטיים שולטים בפינות ה"היי-טק" של נתוני האימון שלהם.
הרגע שבו הפסקנו לנסות לתקן מודלי LLM
הייתה פגישת משקיעים — לא אומר איזו חברה — שבה מישהו הביט במחקר המוקדם שלנו ואמר, "למה שלא פשוט תכווננו את GPT להנדסת קונסטרוקציה? נראה כמו המסלול המהיר יותר."
הבנתי את ההיגיון. קח את הפרדיגמה השלטת, התמחה בה, שלח אותה לשוק. אבל בהיתי בבעיה הזאת מספיק זמן כדי לדעת שכיוונון עדין של מודל הסתברותי לביצוע עבודה דטרמיניסטית הוא כמו כיוונון עדין של משורר לביצוע חשבון. אפשר לגרום להם להפיק מספרים. אי אפשר לגרום להם להבטיח שהמספרים נכונים.
חוקי הפיזיקה אינם הסתברותיים. אם סכום הכוחות על אלמנט מבני אינו שווה לאפס, האלמנט מאיץ. אין כאן שום "בדרך כלל". אין רווח בר-סמך. משוואת הקורה של אוילר-ברנולי לא מתעניינת בהתפלגות נתוני האימון שלך.
אז קיבלנו החלטה שהרגישה נוגדת את הזרם באותה עת ומרגישה מובנת מאליה כעת: נטשנו לחלוטין את התמונה.
לא את ה-AI — את התמונה. הפסקנו לנסות לגרום לרשתות עצביות להבין שרטוטים כתמונות. במקום זאת, התחלנו להמיר מבנים למה שהם באמת: גרפים מתמטיים.
מבנה אינו תמונה. הוא רשת של כוחות. ברגע שאתה מתייחס אליו כאל פיקסלים, כבר איבדת את הפיזיקה.
כיצד הופכים מבנה לגרף?
גרף, במובן המתמטי, הוא פשוט צמתים וקשתות. צמתים הם דברים; קשתות הן חיבורים בין דברים.
במערכת שלנו, כל רכיב מבני — קורה, עמוד, לוח, קיר — הופך לצומת. אך בשונה מפיקסל, שנושא רק נתוני צבע, כל אחד מהצמתים שלנו נושא וקטור תכונות עשיר: מודול יאנג (עד כמה החומר קשיח), מומנט התמד (עד כמה החתך מתנגד לכפיפה), חוזק כניעה (מתי החומר נשבר). הפרמטרים הפיזיקליים הממשיים שנדרשים כדי לחשב אם משהו עומד או קורס.
כל חיבור פיזי בין רכיבים הופך לקשת. קשת בין קורה לעמוד לוכדת את קשיחות החיבור — האם זהו חיבור מומנט קשיח או פין פשוט? — ואת ההתמצאות היחסית. אלה אינם קירובים נלמדים. הם מחולצים ישירות מנתוני BIM (מידול מידע בנייה), שבהם הקישוריות מוגדרת במפורש.
לייצוג הזה יש תכונה שחשובה עד מאוד: אי-שינוי תחת תמורה. הפיזיקה של מבנה אינה משתנה אם משנים את סדר רשימת הקורות במסד הנתונים. רשתות עצביות גרפיות מכבדות זאת. מודלי LLM מבוססי Transformer, שמעבדים רצפים, רגישים לסדר הקלט. זה נשמע כמו פרט טכני, אבל זהו ההבדל בין ארכיטקטורה שמתואמת לבעיה לבין כזו שנאבקת בה.
בנינו צינור שמקבל קובצי IFC — הפורמט הסטנדרטי לנתוני BIM — וממיר אותם לגרפי חישוב. במקום שבו מודל LLM היה מנסה "לקרוא" את תמונת השרטוט ולנחש חיבורים, המפענח שלנו לוכד קישוריות בנאמנות של 100% משום שסכמת ה-IFC מגדירה אותה במפורש. בלי ניחושים. בלי "נראה שהאלמנטים האלה מחוברים". הם או מחוברים או שלא.
החלק שבו לימדנו רשתות עצביות פיזיקה
כאן זה נעשה מעניין, וכאן אני חושב שאנחנו עושים משהו שונה באמת.
למידת מכונה סטנדרטית עובדת כך: מציגים למודל הרבה דוגמאות, נותנים לו ללמוד תבניות, מקווים שהוא יכליל. הבעיה בהנדסת קונסטרוקציה היא ש"מקווים שהוא יכליל" אינו תקן בטיחות מקובל.
רשתות עצביות מונחות-פיזיקה — PINNs — נוקטות גישה שונה מהיסוד. במקום לבקש מה-AI לגלות פיזיקה מתוך נתונים, אנחנו מטמיעים את משוואות היסוד ישירות בפונקציית ההפסד של הרשת. פונקציית ההפסד היא הדבר שהרשת מנסה למזער במהלך האימון — היא ההגדרה של "שגוי" שמניעה את הלמידה.
ברשת עצבית סטנדרטית, "שגוי" פירושו "התחזית שלך אינה תואמת את נתוני האימון". ב-PINN, אנו מוסיפים הגדרה שנייה של "שגוי": "התחזית שלך מפרה את חוקי הפיזיקה".
קחו את משוואת הקורה של אוילר-ברנולי, השולטת באופן שבו קורה נכפפת תחת עומס. כשהרשת שלנו חוזה צורת שקיעה עבור אלמנט מבני, אנו משתמשים בגזירה אוטומטית כדי לחשב את השארית הפיזיקלית — בעצם שואלים, "האם השקיעה החזויה הזאת מקיימת את המשוואה הדיפרנציאלית של שיווי משקל סטטי?" אם לא, איבר ההפסד הפיזיקלי מזנק, והרשת נאלצת לתקן את עצמה.
הרשת פשוטו כמשמעו אינה יכולה ללמוד פתרון שמפר את חוקי ניוטון. לא "כנראה לא תעשה זאת". אינה יכולה.
אני זוכר את הפעם הראשונה שהצלחנו להריץ את זה על מבנה לא טריוויאלי. נאבקנו במשך שבועות בבעיות התכנסות — ההפסד הפיזיקלי והפסד הנתונים נאבקו זה בזה, והרשת התנודדה. מהנדס ה-ML הראשי שלי ישן במשרד (אמרתי לו לא לעשות זאת; הוא התעלם ממני). ואז בוקר אחד הוא קרא לי אל המסך שלו. עקומות השקיעה החזויות ננעלו בהתאמה לפתרון ה-FEM (שיטת האלמנטים הסופיים). לא בקירוב. ערך ה-R² היה 0.9999.
בנינו משהו שהיו לו המהירות של AI והדיוק של פותרנים הנדסיים מסורתיים. מחקר עדכני על Graph-Structured Physics-Informed DeepONets — מחלקת הארכיטקטורה שעליה אנו בונים — הדגים האצות של פי 7–8 על פני FEM מסורתי תוך שמירה על אותה רמת דיוק. עבור הפירוק הטכני המלא של הארכיטקטורה ומדדי הביצועים שלנו, כולל המתמטיקה שמאחורי מסגרת העברת ההודעות שלנו, פרסמתי מאמר מחקר מפורט.
האם אפשר באמת לראות היכן מבנה ייכשל?
זו השאלה שהמהנדסים אכפת להם ממנה יותר מכול, וזהו המקום שבו ניתוח מבוסס-גרף נעשה עוצמתי באופן קרביי.
במערכת שלנו, אנחנו לא רק בודקים אם מבנה עובר או נכשל כמכלול. אנחנו עוקבים אחר נתיב העומס הראשי — המסלול שהכוחות עוברים בו מנקודת ההפעלה (נניח, אנשים העומדים על מרפסת) דרך המבנה אל היסוד.
אנו עושים זאת באמצעות מדד הנקרא מדד U*, הממפה העברת אנרגיית עיבור פנימית וקשיחות יחסית בין נקודות. באמצעות אינטגרציית רונגה-קוטא על גרדיאנט ה-U*, אנו משרטטים "קווי זרימה" של כוח דרך המבנה — כמו מפת מזג אוויר, אך לעומסים במקום לרוח.
כשמבנה בטוח, קווי הזרימה זורמים ברציפות מהאלמנט העמוס אל היסוד. כשהוא לא — כשיש חיבור חסר, אלמנט בחתך קטן מדי, נתיב עומס לא רציף — קווי הזרימה מסתיימים בפתאומיות או מתפצלים בפראות.
בחזרה להדמיית המרפסת ההיא על שולחני. כשהרצנו אותה דרך צינור הגרף שלנו, קו הזרימה של נתיב העומס מלוח הקונזול פשוט... נעצר. לא היה חיבור מפתח אחורי שיישא את המומנט אל המבנה התומך. קו המתאר של U* הראה ריכוז עצום של אנרגיית עיבור בקצה המקובע ללא מקום ללכת אליו. ההמחשה החזותית הפכה את אופן הכשל לברור באופן ששום כמות של ניתוח פיקסלים לא יכלה אי פעם.
קו זרימה של נתיב עומס שמסתיים הוא משפט שהמבנה כותב על מותו שלו. פשוט צריך לדעת כיצד לקרוא את הגרף.
אנו יכולים גם לדמות קריסה מתקדמת — מה קורה כשמסירים עמוד ושואלים "האם שאר המבנה מחזיק?" — על ידי מחיקה שיטתית של צמתים מהגרף והערכה מחדש של הקישוריות. באמצעות מדדים כמו מרכזיות תיווך (Betweenness Centrality), אנו מזהים אשכולות קריטיים של רכיבים שכשלונם היה מפצל את הגרף לחלקים מנותקים. סימולציית "התקפת גרף" זו רצה בשניות. ניתוח קריסה שקול של FEM לא-לינארי אורך שעות. אנו יכולים לסרוק אלפי תרחישי כשל לפני שמהנדס מסיים את הקפה שלו.
למה לא פשוט להשתמש בשניהם? שכבת המאמת
אנשים תמיד מתנגדים לנקודה הזאת. "אשוטוש, בינה מלאכותית יוצרת היא מדהימה לתכנון בשלב מוקדם. אי אפשר פשוט להתעלם ממנה." והם צודקים — אני לא רוצה להתעלם ממנה. אדריכלים המשתמשים בכלים כמו Midjourney או מחוללים פרמטריים כדי לחקור מושגים יצירתיים זה באמת מרגש. הבעיה אינה היצירה. אלא האימות.
מה שבנינו הוא שכבת מאמת. המודל היוצר מציע תכנון. VeriPrajna ממירה אותו לגרף, בודקת קישוריות טופולוגית, עוקבת אחר נתיב העומס, ומריצה את התחזית מונחית-הפיזיקה. אם בדיקת הפיזיקה נכשלת, אנו מחזירים אילוץ קשיח — לא הצעה, אילוץ: "הגדל את גובה הקורה ב-200 מ"מ" או "הוסף חיבור מפתח אחורי". המודל היוצר יוצר מחדש בתוך הגבולות האלה.
יצירתיות המרוסנת על ידי פיזיקה. דמיון המאומת על ידי מתמטיקה. זהו זרם העבודה.
ומשום שהמודלים שלנו מרוסנים על ידי משוואות פיזיקה במקום להיות מאומנים על כל האינטרנט, הם יעילים בנתונים באופן יוצא דופן. PINN שאומן על שלדי פלדה מכליל אל שלדים חדשים העשויים פלדה משום שחוק הוק אינו משתנה בין פרויקטים. זה גם אומר שהמודלים קטנים מספיק כדי להיפרס באתר הלקוח. אף לקוח אינו צריך לשלוח שרטוטים של תשתית רגישה ל-API ציבורי.
הקופסה השקופה מול הקופסה השחורה
יש עוד דבר אחד שמדיר שינה מעיניי בנוגע לכלים הנדסיים מבוססי-LLM, וזה לא הדיוק — זו יכולת ההסבר.
כשרשת עצבית גרפית עושה תחזית לגבי אלמנט מבני, אנו יכולים להמחיש בדיוק אילו צמתים שכנים השפיעו על התחזית הזאת באמצעות משקלי קשב. "העמוד סומן משום שהעומס המשולב שהועבר מקורה A ומקורה B חרג מכושר הנשיאה שלו." זוהי שרשרת הסקה ניתנת למעקב ולביקורת. מהנדס יכול להביט בה ולומר, "כן, זה נכון" או "לא, ספרת בטעות את שטח ההשפעה". הם יכולים להתווכח עם המודל.
נסו להתווכח עם ההיגיון של GPT-4 בנוגע להערכה מבנית. שאלו אותו מדוע הסיק שהמרפסת בטוחה. תקבלו פסקה רהוטה שנשמעת סבירה אך אינה מתמפה לשום דבר שתוכלו לאמת. ההיגיון מבוזר על פני מיליארדי פרמטרים באופנים שאף אדם אינו יכול לבחון.
בתוכנה, קופסה שחורה היא בחירת תכנון. בהנדסת קונסטרוקציה, קופסה שחורה היא התנערות מאחריות.
שאלת היסוד
הייתי במספיק חדרי ישיבות ופגישות משקיעים כדי לדעת שהמהומה הנוכחית סביב AI בענף הבנייה עוסקת כמעט כולה במודלים יוצרים. מצגות הגיוס מרהיבות. ההדגמות מרשימות. ההנחה שבבסיס — שאפשר לחזות פיקסלים בדרך אל בטיחות מבנית — שגויה.
ענף הבנייה ייחודי מבין כל הענפים בדרך קריטית אחת: הבאגים שלנו הורגים אנשים. באג תוכנה הוא טלאי. באג מבני הוא חקירת קריסה, תביעה משפטית, אנדרטה. שולי ה"כנראה נכון" הם אפס.
בנינו את VeriPrajna על תורת הגרפים, למידה עמוקה גאומטרית, ומשוואות דיפרנציאליות משום שאלה הן היסודות היחידים שמציעים תשובות דטרמיניסטיות לשאלות בטיחות. לא "זה נראה בטוח". לא "בהתבסס על מבנים דומים בנתוני האימון שלנו, זה ככל הנראה מספק". אלא: השארית הפיזיקלית היא אפס, נתיב העומס רציף, המאמץ בתוך כושר הנשיאה.
GPT-4 אמר לי שהמרפסת ההיא בטוחה משום שהוא ראה אלפי תמונות של מרפסות, ובאותן תמונות, הפיקסלים של הרצפה נותרו בדרך כלל מעל הפיקסלים של הקרקע. הפיזיקה אמרה לי שהיא תקרוס משום שמומנט הכפיפה בקצה המקובע חרג מכושר המומנט של החתך.
אני יודע על מי מהם אני בונה.