בילינו חודשים בבניית בינה מלאכותית שחוזה חומרים לפני שמסנתזים אותם — והנה מדוע מעבדת העתיד לא תתחיל בכלל מבחנה

יש רגע אחד שאני חוזר אליו שוב ושוב. זה היה מאוחר ביום חמישי, ובהיתי בגיליון נתונים שמישהו שלח אליי — יומן של כל תרכובת שצוות פארמה בגודל בינוני סינתז ובדק פיזית במהלך שמונה-עשר החודשים הקודמים. אלפי שורות. עלויות ריאגנטים, שעות סינתזה, תוצאות אפיון. ולצד כל שורה, עמודה שכותרתה "תוצאה". הרוב המכריע אמר את אותו הדבר: כישלון.

לא "תוצאה שלילית מעניינת". לא "מבוי סתום מלמד". פשוט: כישלון. התרכובת לא נקשרה. החומר לא היה יציב. התגובה לא הניבה תוצר. אלפי ניסויים, מיליוני דולרים, והצוות היה למעשה חזרה בנקודת ההתחלה — אלא שעכשיו הם ידעו מה לא עבד. וזה משהו, אני מניח, אם רושמים את זה. רוב הצוותים אפילו לא עושים את זה.

אותו גיליון נתונים גיבש משהו שסובבתי סביבו זמן מה ב-VeriPrajna. האופן שבו רוב מעבדות המו"פ מגלות חומרים ומולקולות חדשים שבור מיסודו — לא משום שהמדענים אינם מבריקים, אלא משום שהשיטה עצמה נתקלה בקיר שאף מידה של גאונות אינה יכולה להתגבר עליו בקנה מידה. מרחב החיפוש למולקולות דמויות-תרופה מוערך בין 10⁶⁰ ל-10¹⁰⁰. מספר האטומים ביקום הנצפה הוא בערך 10⁸⁰. אנחנו מבקשים מבני אדם למצוא מחטים בערמות שחת שהן פשוטו כמשמעו גדולות מהקוסמוס, ומושיטים להם פינצטה.

אני עומד לספר לכם מדוע בנינו את מה שבנינו, במה טעינו לאורך הדרך, ומדוע אני מאמין שעידן המדע של ניחוש-ובדיקה — מה שמכונה לעתים קרובות "הגישה האדיסונית" — מגיע לסופו. לא בהדרגה. בפתאומיות.

מדוע שיטת אדיסון עדיין ברירת המחדל במו"פ?

תומאס אדיסון בדק אלפי חוטי פחמן לפני שמצא אחד שלהט מספיק זמן כדי להיות שימושי. הסיפור הזה מסופר כמשל על התמדה. מה שמושמט הוא שאפילו ניקולה טסלה, בן זמנו של אדיסון, ציין ש"מעט תיאוריה וחישוב" יכלו לחסוך 90% מהעבודה. אדיסון בסופו של דבר עצמו התקרב לשיטות מובנות יותר. אך המורשת שלו — ניסוי וטעייה בכוח גס — הפכה איכשהו למתודולוגיה היסודית של המחקר הפרמצבטי והחומרי המודרני.

סקירה בתפוקה גבוהה, או HTS, הייתה אמורה לתעש את זה. לאוטמט את הניחוש. לבדוק מיליון תרכובות במקום אלף. ולזמן מה, זה עבד — או לפחות, זה הרגיש כאילו זה עובד. אך שיעורי הפגיעה המשיכו לרדת. התוצאות החיוביות השגויות המשיכו לטפס. התרכובות ש"עבדו" בסקירה התגלו כרעילות, בלתי מסיסות, או בלתי אפשריות לייצור בקנה מידה. מסע HTS סטנדרטי עשוי לבדוק 10⁶ תרכובות. אפילו אם היית מרחיב את זה למיליארד — 10⁹ — היית חוקר בקירוב 0.000000000000000000000000000000000000000000000000001% מהמרחב הכימי הזמין.

שיטת אדיסון בכימיה המודרנית היא כמו לנסות למפות את האוקיינוס השקט על ידי טבילת כפית במים במרווחי זמן אקראיים.

ההשלכות הכלכליות אכזריות. עלות פיתוח תרופה חדשה הגיעה לבערך 2.23 מיליארד דולר לנכס ב-2024. שיעור התשואה הפנימי על מו"פ פארמה צנח ל-1.2% ב-2022 לפני שהתאושש ל-5.9% ב-2024 — והתאוששות זו הונעה בעיקר על ידי מחלקה בודדת של תרופות (אגוניסטים של GLP-1), ולא על ידי שיפור מערכתי כלשהו באופן שבו הגילוי עובד. לירידה הזו יש אפילו שם: חוק אירום. חוק מור באיות הפוך. בכל עשור, גילוי תרופות נעשה איטי ויקר יותר.

אני זוכר שיחה עם מדען חומרים — אדם שאני מכבד עמוקות — שאמר לי, בצורה חד-משמעית, "אנחנו יודעים שאנחנו מבזבזים את רוב התקציב שלנו. אבל אנחנו לא יודעים אילו ניסויים לדלג עליהם". המשפט הזה רדף אותי. כי התשובה הכנה היא: אתה יכול לדעת. אתה פשוט זקוק לסוג אחר של מכשיר. לא פיפטה טובה יותר. מפה טובה יותר.

הלילה שבו הסימולציה חלקה על המעבדה

כשהצוות שלי התחיל לראשונה לבנות מודלים מבוססי-פיזיקה לחיזוי חומרים, חווינו חוויה מצניעה. אימנו מודל לחזות את היציבות של מחלקה של תרכובות אנאורגניות. המודל סימן הרכב מסוים כבלתי יציב תרמודינמית — למעשה, הוא אמר "אל תטרח לסנתז את זה". אך הספרות רמזה אחרת. מאמר שפורסם טען שהרכב זה מבטיח.

התווכחנו על זה במשך יומיים. חצי מהצוות רצה לבטוח במודל. החצי השני אמר שאנחנו מתנהגים ביהירות — מי אנחנו שנבטל תוצאות ניסוי שפורסמו? בסופו של דבר חפרנו עמוק יותר במאמר וגילינו שהתוצאה ה"מבטיחה" התבססה על פאזה מטא-יציבה שהתפרקה תוך שעות בתנאי הפעלה אמיתיים. המודל צדק. גם המאמר צדק מבחינה טכנית — החומר התקיים — אך הוא היה חסר תועלת לכל יישום מעשי.

זה היה הרגע שבו הבנתי את ההבדל בין למידת מכונה מבוססת-פיזיקה לבין סוג הבינה המלאכותית ששולט בכותרות. רוב הבינה המלאכותית בשוק כרגע — הדברים הבנויים על גבי מודלי שפה גדולים — לומדת מקורלציות בנתונים. זו התאמת תבניות בקנה מידה. וזה יוצא דופן עבור משימות רבות. אך מולקולות אינן משפטים. הן גרפים תלת-ממדיים עם אילוצים גיאומטריים, אורביטלים אלקטרוניים, כיראליות, וגבולות תרמודינמיים שלא אכפת להם אילו תבניות GPT-4 ראה בקורפוס האימון שלו.

למידת מכונה מבוססת-פיזיקה משבצת את חוקי הפיזיקה בפועל — שימור מסה, משוואות תרמודינמיות, אילוצים קוונטים-מכניים — ישירות בארכיטקטורה של המודל. במקום להזדקק למיליוני נקודות נתונים כדי ללמוד שאנרגיה נשמרת, המודל יודע זאת מלכתחילה. משמעות הדבר שלושה דברים שחשובים עצומות בפועל:

הוא זקוק להרבה פחות נתוני אימון. הוא יכול לבצע אקסטרפולציה מעבר להתפלגות האימון שלו מבלי לייצר תוצאות בלתי אפשריות פיזיקלית. והוא אינו הוזה מולקולות המפרות כימיה בסיסית.

כתבתי על ההבחנה הזו בהרבה יותר עומק בגרסה האינטראקטיבית של המחקר שלנו, אך התובנה המרכזית פשוטה: אם הבינה המלאכותית שלך יכולה להציע מולקולה המפרה את שימור המסה, היא אינה עוסקת במדע. היא עוסקת בהשלמה אוטומטית.

מה קורה כשסוגרים את הלולאה?

כאן הדברים נעשים מעניינים — וכאן השקענו את רוב מאמץ ההנדסה שלנו. חיזוי חומרים חישובית הוא הצעד הראשון. אך חיזוי לבדו הוא עדיין לולאה פתוחה. אתה מדמה, אתה מקבל תוצאה, אדם מפרש אותה, אדם אחר מתכנן את הניסוי הבא, מישהו מזמין זמן על המסנתז, וכעבור שבועות יש לך נקודת נתונים אחת. צוואר הבקבוק אינו הבינה המלאכותית. זה האדם שבאמצע.

השינוי האמיתי מתרחש כאשר אתה סוגר את הלולאה: הבינה המלאכותית חוזה, רובוט מסנתז, חיישנים מאפיינים את התוצאה, הנתונים מוזנים בחזרה למודל, והבינה המלאכותית בוחרת את הניסוי הבא. אין אדם באמצע. תכנון-ייצור-בדיקה-ניתוח, פועל ברציפות.

ה-A-Lab במעבדה הלאומית לורנס ברקלי הדגים זאת בקנה מידה. המערכת האוטונומית שלהם סינתזה 41 תרכובות אנאורגניות חדשניות ב-17 ימים — תפוקה שהייתה לוקחת לחוקרים אנושיים חודשים. כשסינתזה נכשלה, הבינה המלאכותית ניתחה את דפוס עקיפת קרני הרנטגן, התאימה יחסי חומרי מוצא ופרופילי חימום, וניסתה שוב. שיעור הצלחה של 71% עבור חומרים חדשניים, שהושג על ידי מערכת המתקנת את שגיאותיה שלה בזמן אמת.

אך המנוע המתמטי שמתחת לכל זה — החלק שגורם לכל העניין לעבוד — הוא משהו שנקרא למידה אקטיבית עם אופטימיזציה בייסיאנית. וכדאי להבין זאת, כי זו הסיבה שמעבדות בלולאה סגורה אינן רק מהירות יותר ממעבדות המובלות על ידי בני אדם, אלא יעילות יותר מיסודן.

מדוע אופטימיזציה בייסיאנית מנצחת סקירה אקראית?

סקירה מסורתית היא אקראית. אתה בוחר תרכובות מספרייה, בודק אותן, ומקווה. אופטימיזציה בייסיאנית עושה משהו שונה מהותית: היא בונה מודל הסתברותי של כל מרחב החיפוש, כולל מה שהיא לא יודעת, ואז בוחרת אסטרטגית את הניסוי שילמד אותה את הכי הרבה.

המודל חוזה שני דברים עבור כל נקודה שלא נבדקה: ערך צפוי (עד כמה החומר הזה עשוי להיות טוב) ואי-ודאות (עד כמה המודל בטוח בחיזוי הזה). ואז פונקציית רכישה — חשבו עליה כאסטרטגיית קבלת ההחלטות של הבינה המלאכותית — מאזנת בין חקירה (בדיקת אזורים לא ודאיים) לבין ניצול (זיקוק אזורים שנראים מבטיחים).

כאן זה נעשה אלגנטי. פוטנציאל למידת המכונה ANI-1x השיג דיוק ברמת DFT — זו תורת הצפיפות הפונקציונלית, סטנדרט הזהב של הכימיה החישובית — תוך שימוש רק ב10% מהנתונים שדגימה אקראית תמימה הייתה דורשת. ואופטימיזציה בייסיאנית מודעת-עלות יכולה להפחית עלויות ריאגנטים בעד 90% על ידי שקלול מחיר כל ניסוי בעת ההחלטה מה לבדוק הבא. אם שני ניסויים מציעים מידע דומה, אך אחד עולה 5,000 דולר בריאגנטים והשני עולה 50 דולר, המערכת בוחרת את הזול.

למידה אקטיבית לא רק מוצאת תשובות מהר יותר. היא שואלת שאלות טובות יותר.

דבר אחד שמפתיע אנשים באופן עקבי: במסגרת הזו, ניסויים שנכשלו הם חלק מהנתונים היקרים ביותר שאתה יכול לייצר. במודל האדיסוני, תוצאה שלילית נקברת במחברת מעבדה. בלמידה אקטיבית, כל כישלון מחדד את הבנת המודל היכן נמצאים הגבולות. הוא ממפה את מבואות הסתום של הכימיה — לצמיתות — כך שהארגון לעולם אינו מבזבז משאבים על אותם נתיבים שוב. ידע טופולוגי זה של נוף הכישלונות הוא קניין רוחני שמתרבה עם הזמן.

בעיית "פשוט תשתמש ב-GPT"

אני צריך לטפל במשהו ישירות, כי אני שומע את זה כל הזמן. משקיעים, לקוחות פוטנציאליים, אפילו כמה מדענים אומרים: "למה לא פשוט להשתמש ב-GPT-4 בשביל זה? הוא יודע כימיה".

הוא לא. לא באופן שחשוב.

מודלי שפה גדולים מייצגים מולקולות כמחרוזות טקסט — בדרך כלל סימון SMILES, שהוא קידוד ליניארי של מבנה תלת-ממדי. זה כמו לתאר בניין על ידי הקראת כתובתו בקול ולצפות שמישהו יבין את תוכנית הקומה. מודלי שפה גדולים הם "רגישים לתמורות" (סדר התווים חשוב), בעוד שמולקולות הן בלתי משתנות לתמורות (הסדר שבו אתה מונה את האטומים אינו רלוונטי). מדדים מראים באופן עקבי שרשתות עצביות גרפיות, המדמות מולקולות כגרפים תלת-ממדיים בפועל עם צמתים וקשתות, עולות על מודלי שפה גדולים במשימות חיזוי תכונות הכרוכות במבנה גיאומטרי.

הארכיטקטורה הנכונה — זו שאנחנו תומכים בה ובונים — היא היברידית. מודלי שפה גדולים הם מתזמרים מבריקים. הם יכולים לנתח ספרות מדעית, לחלץ מתכוני סינתזה, לייצר פרוטוקולי ניסוי, ולהסיק אסטרטגיה ברמה גבוהה. אך עבור העבודה הכבדה של תכנון מולקולרי, ניתוח יציבות, וחיזוי תכונות, אתה זקוק לרשתות עצביות גרפיות המוגבלות על ידי פיזיקה. מודל השפה הגדול הוא מנהל הפרויקט. הרשת העצבית הגרפית היא המהנדס. אתה זקוק לשניהם, ואתה צריך לדעת במי לבטוח עבור איזו משימה.

רבים מהיצעי הבינה המלאכותית הנוכחיים במדע הם עוטפות סביב ממשקי API ציבוריים של מודלי שפה גדולים. עוטפת אינה יכולה לאכוף שימור מסה. היא אינה יכולה לנווט במרחב חיפוש של 10¹⁰⁰ בקפדנות בייסיאנית. היא אינה יכולה להשתלב עם החומרה הרובוטית שסוגרת את הלולאה.

לפירוט הטכני המלא של החלטות ארכיטקטוניות אלה — כולל כיצד אופטימיזציה רב-נאמנותית ממזגת נתוני סימולציה זולים עם תוצאות ניסוי יקרות — ראו את מאמר המחקר המפורט שלנו.

האינסטלציה שאיש אינו מדבר עליה

יש סוד מלוכלך במחקר מעבדות אוטונומיות: הבינה המלאכותית היא לעתים קרובות החלק הקל. החלק הקשה הוא לגרום לספקטרומטר לדבר עם מטפל הנוזלים כדי לדבר עם הצלחת החמה כדי לדבר עם הבינה המלאכותית. מכשירי מעבדה מיצרנים שונים מדברים בשפות קנייניות שונות. ללא שכבת תרגום אוניברסלית, המעבדה האוטונומית שלך היא מוח בצנצנת.

זו הסיבה שתקן SiLA 2 — סטנדרטיזציה באוטומציה של מעבדות — חשוב כל כך, ומדוע השקענו כמות זמן לא-זוהרת אך קריטית על תוכנת ביניים. SiLA 2 מתייחס לכל מכשיר כמיקרו-שירות. הבינה המלאכותית שולחת פקודה ברמה גבוהה ("מזוג 5 מ"ל") מבלי להזדקק לדעת את פרוטוקול היציאה הטורית של זרוע הרובוט הספציפית. הוא פועל על פרוטוקולי אינטרנט מודרניים, תומך בקישוריות ענן, ו — באופן מכריע — יכול לעטוף מכשירים מדור קודם. HPLC בן עשרים שנה יכול להפוך לחלק מלולאה אוטונומית.

לפני שרובוט פיזי כלשהו זז, אנחנו מדמים את הניסוי כולו בתאום דיגיטלי — עותק וירטואלי של המעבדה המאמת תזמון, נתיבי התנגשות, ולוגיסטיקה. כשהניסוי האמיתי פועל, אנחנו משווים נתוני חיישנים מול חיזויי התאום כדי לתפוס אנומליות: פיפטה סתומה, חיישן טמפרטורה נודד. התאום הוא רשת הביטחון שהופכת את האוטונומיה לאמינה.

אהיה כן: זה החלק בעבודה שאיש אינו כותב עליו הודעות לעיתונות נשימה עוצרת. אך זה החלק שקובע אם מעבדה בלולאה סגורה באמת עובדת בייצור או רק עובדת בהדגמה.

המספרים ששינו את דעתי

נכנסתי לעבודה הזו כספקן של יחסי ציבור מנופחים. בינה מלאכותית בגילוי תרופות הייתה "חמש שנים מרחוק" במשך עשרים שנה. מה ששינה את דעתי לא הייתה תיאוריה. אלה היו תוצאות ספציפיות.

Exscientia הכניסה מולקולות קטנות מעוצבות-בינה-מלאכותית לניסויים קליניים בשלב I בערך תוך 12 חודשים, לעומת ממוצע תעשייתי של 4–5 שנים. Insilico Medicine העבירה מועמד לפיברוזיס מגילוי מטרה למועמד פרה-קליני תוך פחות מ-18 חודשים, בשבריר מהעלות הרגילה. 41 התרכובות של ה-A-Lab ב-17 ימים. מודלי הרעילות החזויים של מכון ברוד המסננים תרכובות מסוכנות לפני הסינתזה, וחוסכים מיליונים בעלויות כישלון במורד הזרם.

אלה אינן תחזיות. אלה תוצאות. והן חולקות ארכיטקטורה משותפת: סימולציה לפני סינתזה, מודלים מבוססי-פיזיקה, לולאות משוב סגורות, ולכידה שיטתית של נתונים שליליים.

אנשים לפעמים שואלים אותי אם זה מבטל את הצורך במעבדות רטובות לחלוטין. זה לא. המעבדה הרטובה היא עדיין המקום שבו האמת חיה — היכן שחיזויי המודל פוגשים את המציאות. מה שמשתנה הוא היחס. במקום להריץ עשרת אלפים ניסויים כדי למצוא פגיעה אחת, אתה מריץ חמישים. המעבדה הרטובה הופכת למכשיר אימות, לא למנוע חיפוש.

אחרים חוששים מתזוזת משרות — האם זה יחליף מדענים? מניסיוני, ההפך קורה. המדענים שעבדתי איתם שמאמצים את הכלים האלה אינם נעשים פחות חשובים. הם נעשים אסטרטגיים יותר. הם מבלים את זמנם על הבעיות הדורשות שיפוט אנושי — פירוש תוצאות בלתי צפויות, תכנון פרדיגמות ניסוי חדשות, שאילת שאלות שהבינה המלאכותית לא אומנה לשאול — במקום לפפט את דרכם דרך ספרייה של תרכובות שהם כבר חושדים שלא יעבדו.

האמנות הפכה להנדסה

אני חושב על אותו גיליון נתונים לעתים קרובות. כל אותן שורות של "כישלון". כל אחת מהן ייצגה השערה של מישהו, אחר צהריים של מישהו, תקציב של מישהו. במודל האדיסוני, אותם כישלונות היו העלות של עשיית עסקים — בלתי נמנעים, צפויים, ובלתי נראים במידה רבה בחשבונאות הסופית.

במודל שאנחנו בונים, כל אחד מאותם כישלונות היה נחזה. לא כולם — אני לא טוען ליודעות-כל. אך מספיק מהם כך שהגיליון היה שבריר מאורכו, ועמודת ה"תוצאה" הייתה נראית שונה מאוד.

מרחב החיפוש למולקולות וחומרים חדשים עצום עד בלתי נתפס. שום מידה של אינטואיציה אנושית, שום צי של מטפלי נוזלים, שום מסע HTS במיליארד דולר אינם יכולים לחקור אותו באופן משמעותי דרך ניסוי פיזי בלבד. המתמטיקה פשוט אינה מאפשרת זאת. מה שהמתמטיקה כן מאפשרת הוא ניווט אינטליגנטי — שימוש במודלים המוגבלים על ידי פיזיקה כדי לדמות לפני סינתוז, אופטימיזציה בייסיאנית כדי לשאול את השאלות הנכונות בסדר הנכון, ואוטומציה רובוטית כדי לסגור את הלולאה בין חיזוי למציאות.

העידן האדיסוני הפיק דברים יוצאי דופן. אך זו הייתה מתודולוגיה שנולדה מזמן שבו התיאוריה לא יכלה להדביק את הניסוי. אנחנו כבר לא חיים בזמן ההוא. התיאוריה כאן. כוח החישוב כאן. הרובוטיקה כאן. הדבר היחיד שנותר הוא הנכונות המוסדית להפסיק להתייחס למו"פ כאמנות המתורגלת על ידי יחידים מחוננים ולהתחיל להתייחס אליו כאל דיסציפלינה הנדסית המונעת על ידי מערכות דטרמיניסטיות.

אל תנחש ותבדוק. דמה ובחר.

זו אינה סיסמה. זו הכרח כלכלי. כל חומר שנבדק פיזית שיכול היה להיפסל חישובית הוא כסף שהועלה באש. והארגונים שמבינים זאת ראשונים לא רק ינועו מהר יותר — הם יהפכו את הדרך הישנה של עבודה לבלתי בת-קיימא כלכלית עבור כל השאר.