AI가 소재를 합성하기 전에 예측하도록 몇 달을 쏟았습니다 — 미래의 실험실이 비커에서 시작하지 않을 이유

제가 자꾸만 되돌아가게 되는 순간이 하나 있습니다. 어느 목요일 늦은 밤이었고, 저는 누군가 보내온 스프레드시트를 들여다보고 있었습니다 — 어느 중견 제약 팀이 지난 18개월 동안 실제로 합성하고 시험한 모든 화합물의 기록이었죠. 수천 개의 행. 시약 비용, 합성 시간, 특성 분석 결과. 그리고 각 행 옆에는 "결과"라고 적힌 열이 있었습니다. 그 대다수가 똑같은 말을 하고 있었죠: 실패.

"흥미로운 음성 결과"가 아니었습니다. "유익한 막다른 길"도 아니었죠. 그냥: 실패. 화합물이 결합하지 않았다. 소재가 안정적이지 않았다. 반응이 수율을 내지 못했다. 수천 번의 실험, 수백만 달러, 그리고 그 팀은 사실상 출발점으로 되돌아와 있었습니다 — 다만 이제 그들은 무엇이 통하지 않았는지 알게 되었다는 점만 빼면 말이죠. 뭐, 적어 두기라도 한다면 그것도 의미는 있겠죠. 대부분의 팀은 그것조차 하지 않지만요.

그 스프레드시트는 제가 Veriprajna에서 한동안 맴돌던 어떤 생각을 또렷하게 만들어 주었습니다. 대부분의 R&D 연구실이 새로운 소재와 분자를 발견하는 방식은 근본적으로 망가져 있습니다 — 과학자들이 뛰어나지 않아서가 아니라, 방법 그 자체가 그 어떤 뛰어남으로도 확장할 수 없는 벽에 부딪혔기 때문입니다. 약물 유사 분자의 탐색 공간은 10⁶⁰에서 10¹⁰⁰ 사이로 추정됩니다. 관측 가능한 우주의 원자 수는 대략 10⁸⁰입니다. 우리는 인간에게 말 그대로 우주보다 더 큰 건초더미에서 바늘을 찾으라고 요구하면서, 그들에게 핀셋 하나를 쥐여 주고 있는 셈입니다.

저는 우리가 왜 지금의 것을 만들었는지, 그 과정에서 무엇을 잘못했는지, 그리고 왜 추측하고 확인하는 방식의 과학 — 흔히 "에디슨식 접근법"이라 불리는 것 — 의 시대가 저물고 있다고 믿는지 말씀드리려 합니다. 서서히가 아니라. 급작스럽게요.

왜 에디슨식 방법이 여전히 R&D의 기본값인가?

토머스 에디슨은 유용할 만큼 오래 빛나는 필라멘트 하나를 찾기까지 수천 개의 탄소 필라멘트를 시험했습니다. 이 이야기는 끈기에 관한 우화로 전해집니다. 빠지는 대목은, 에디슨과 동시대를 살았던 니콜라 테슬라조차 "약간의 이론과 계산"이면 그 수고의 90%를 아낄 수 있었을 것이라고 지적했다는 사실입니다. 에디슨 자신도 결국에는 더 체계적인 방법으로 돌아섰습니다. 하지만 그의 유산 — 무차별적인 시행착오 — 은 어쩌다 보니 현대 제약 및 소재 연구의 근간이 되는 방법론이 되고 말았습니다.

고속 대량 스크리닝, 즉 HTS는 이것을 산업화하기로 되어 있었습니다. 추측을 자동화하는 것이죠. 천 개가 아니라 백만 개의 화합물을 시험하는 것. 그리고 한동안은 효과가 있었습니다 — 적어도, 효과가 있는 것처럼 느껴졌죠. 하지만 적중률은 계속 떨어졌습니다. 위양성은 계속 치솟았고요. 스크리닝에서 "통했던" 화합물들은 알고 보니 독성이 있거나, 녹지 않거나, 대규모로 제조하는 것이 불가능했습니다. 표준적인 HTS 캠페인은 10⁶개의 화합물을 시험할 수 있습니다. 그것을 10억 개 — 10⁹ — 로 늘린다 해도, 이용 가능한 화학 공간의 약 0.000000000000000000000000000000000000000000000000001%밖에 탐색하지 못한 셈이 됩니다.

현대 화학에서의 에디슨식 방법은, 무작위한 간격으로 물에 찻숟가락을 담가 가며 태평양을 지도로 그리려는 것과 같습니다.

재정적 결과는 참혹합니다. 새로운 약물 하나를 개발하는 비용은 2024년 자산당 약 $2.23 billion에 이르렀습니다. 제약 R&D의 내부 수익률은 2022년 1.2%로 곤두박질쳤다가 2024년 5.9%로 반등했습니다 — 그리고 그 회복은 발견 방식의 체계적 개선이 아니라, 대체로 단일 계열의 약물(GLP-1 작용제)이 이끌어 낸 것이었습니다. 이 쇠퇴에는 이름까지 붙어 있습니다: 이룸의 법칙(Eroom's Law). 무어의 법칙(Moore's Law)을 거꾸로 쓴 것이죠. 10년마다 신약 발견은 더 느려지고 더 비싸집니다.

제가 깊이 존경하는 어느 소재 과학자와 나눈 대화가 기억납니다. 그는 담담하게 말했죠. "우리는 예산의 대부분을 낭비하고 있다는 걸 압니다. 하지만 어느 실험을 건너뛰어야 할지는 모릅니다." 그 말이 제 머릿속을 떠나지 않았습니다. 왜냐하면 솔직한 답은 이렇기 때문입니다: 당신은 알 수 있다. 그저 다른 종류의 도구가 필요할 뿐입니다. 더 나은 피펫이 아니라. 더 나은 지도 말입니다.

시뮬레이션이 실험실과 맞서던 밤

제 팀이 소재 예측을 위한 물리 정보 기반 모델을 처음 만들기 시작했을 때, 우리는 겸손해질 수밖에 없는 경험을 했습니다. 우리는 어떤 무기 화합물 계열의 안정성을 예측하도록 모델을 훈련시켰습니다. 그 모델은 특정 조성을 열역학적으로 불안정하다고 표시했습니다 — 본질적으로 "이건 합성하려 애쓰지 마라"라고 말한 셈이죠. 그런데 문헌은 그 반대를 시사하고 있었습니다. 발표된 어느 논문은 이 조성이 유망하다고 주장했거든요.

우리는 이틀 동안 그것을 두고 논쟁했습니다. 팀의 절반은 모델을 믿고 싶어 했습니다. 나머지 절반은 우리가 오만하다고 말했죠 — 우리가 뭔데 발표된 실험 결과를 뒤엎는단 말인가? 결국 우리는 그 논문을 더 깊이 파고들었고, 그 "유망한" 결과가 실제 작동 조건에서 몇 시간 안에 분해되어 버리는 준안정 상(相)에 기반한 것임을 알아냈습니다. 모델이 옳았습니다. 논문도 엄밀히는 옳았고요 — 그 소재는 존재했으니까요 — 다만 어떤 실용적 응용에도 쓸모가 없었을 뿐입니다.

바로 그때 저는 물리 정보 기반 머신러닝과 헤드라인을 장식하는 부류의 AI 사이의 차이를 이해하게 되었습니다. 지금 시장에 나와 있는 대부분의 AI — 대규모 언어 모델 위에 지어진 것들 — 는 데이터 속의 상관관계로부터 학습합니다. 대규모로 이뤄지는 패턴 매칭이죠. 그리고 그것은 많은 작업에서 놀라운 성능을 발휘합니다. 하지만 분자는 문장이 아닙니다. 분자는 기하학적 제약, 전자 궤도, 카이랄성, 그리고 GPT-4가 훈련 말뭉치에서 어떤 패턴을 봤든 아랑곳하지 않는 열역학적 경계를 지닌 3차원 그래프입니다.

물리 정보 기반 ML은 실제 물리 법칙 — 질량 보존, 열역학 방정식, 양자역학적 제약 조건 — 을 모델의 아키텍처에 직접 새겨 넣습니다. 수백만 개의 데이터 포인트를 통해 배워야 하는 대신 — 즉 에너지가 보존된다는 사실을 말이죠 — 이 모델은 처음부터 그것을 압니다. 이는 실무에서 대단히 중요한 세 가지를 의미합니다:

훨씬 적은 훈련 데이터만 있으면 됩니다. 물리적으로 불가능한 결과를 만들어 내지 않으면서 훈련 분포 너머로 외삽할 수 있습니다. 그리고 기본적인 화학 법칙을 위반하는 분자를 환각으로 지어내지 않습니다.

이 구분에 대해서는 우리 연구의 인터랙티브 버전에서 훨씬 더 깊이 다뤘지만, 핵심 통찰은 단순합니다: 당신의 AI가 질량 보존을 위반하는 분자를 제안할 수 있다면, 그것은 과학을 하는 것이 아닙니다. 자동 완성을 하고 있는 것이죠.

루프를 닫으면 무슨 일이 벌어지는가?

여기서부터 흥미로워집니다 — 그리고 우리가 엔지니어링 노력의 대부분을 쏟은 지점이기도 하죠. 소재를 계산으로 예측하는 것은 첫 단계입니다. 하지만 예측만으로는 여전히 개방 루프에 불과합니다. 시뮬레이션을 하고, 결과를 얻고, 사람이 그것을 해석하고, 또 다른 사람이 다음 실험을 설계하고, 누군가 합성 장비 사용 시간을 예약하고, 몇 주가 지나서야 하나의 데이터 포인트를 얻습니다. 병목은 AI가 아닙니다. 중간에 낀 사람입니다.

진정한 변화는 루프를 닫을 때 일어납니다: AI가 예측하고, 로봇이 합성하고, 센서가 결과의 특성을 분석하고, 데이터가 다시 모델로 피드백되고, AI가 다음 실험을 선택합니다. 중간에 낀 사람이 없습니다. 설계-제작-시험-분석이 끊임없이 돌아가는 것이죠.

로런스 버클리 국립연구소의 A-Lab은 이것을 대규모로 입증했습니다. 그들의 자율 시스템은 17일 만에 41종의 새로운 무기 화합물을 합성했습니다 — 인간 연구자라면 몇 달이 걸릴 처리량이죠. 합성이 실패하면, AI는 X선 회절 패턴을 분석하고, 전구체 비율과 가열 프로파일을 조정한 뒤 다시 시도했습니다. 성공률은 71%였는데, 이는 새로운 소재에 대한 것으로, 실시간으로 자신의 실수를 바로잡는 시스템이 이뤄낸 결과입니다.

하지만 이 모든 것의 밑바탕에 있는 수학적 엔진 — 전체를 작동하게 만드는 부분 — 은 바로 베이지안 최적화를 활용한 능동 학습이라고 불리는 것입니다. 그리고 이것은 이해해 둘 가치가 있습니다. 폐쇄 루프 실험실이 인간 주도 실험실보다 단지 더 빠른 것이 아니라, 근본적으로 더 효율적인 이유가 바로 여기에 있기 때문입니다.

왜 베이지안 최적화가 무작위 스크리닝을 이기는가?

전통적인 스크리닝은 무작위입니다. 라이브러리에서 화합물을 골라, 시험하고, 기대를 겁니다. 베이지안 최적화는 근본적으로 다른 일을 합니다. 전체 탐색 공간에 대한 확률 모델을 구축하는데, 여기에는 자신이 알지 못하는 부분까지 포함됩니다. 그런 다음 자신을 가장 많이 가르쳐 줄 실험을 전략적으로 선택합니다.

이 모델은 시험되지 않은 모든 지점에 대해 두 가지를 예측합니다: 기대값(이 소재가 얼마나 좋을 수 있는지)과 불확실성(그 예측에 대해 모델이 얼마나 확신하는지)입니다. 그런 다음 획득 함수(acquisition function) — AI의 의사결정 전략이라고 생각하면 됩니다 — 가 탐험(불확실한 영역을 조사하기)과 활용(유망해 보이는 영역을 다듬기) 사이의 균형을 맞춥니다.

여기서부터 우아해집니다. ANI-1x 머신러닝 퍼텐셜은 DFT 수준의 정확도 — DFT란 밀도 범함수 이론으로, 계산화학의 황금 표준입니다 — 를 달성했습니다. 그것도 데이터의 10%만으로 말이죠. 순진한 무작위 샘플링이었다면 요구했을 데이터의 극히 일부입니다. 그리고 비용 정보를 반영한 베이지안 최적화는 시약 비용을 최대 90%까지 줄일 수 있습니다. 다음에 무엇을 시험할지 결정할 때 각 실험의 가격을 반영함으로써 말이죠. 두 실험이 비슷한 정보를 제공하지만 하나는 시약 비용이 $5,000이고 다른 하나는 $50라면, 시스템은 저렴한 쪽을 고릅니다.

능동 학습은 단지 답을 더 빨리 찾는 데 그치지 않습니다. 더 나은 질문을 던집니다.

사람들이 한결같이 놀라는 점이 하나 있습니다: 이 프레임워크에서는 실패한 실험이야말로 여러분이 만들어 낼 수 있는 가장 가치 있는 데이터에 속합니다. 에디슨식 모델에서는 음성 결과가 실험 노트 속에 묻혀 버립니다. 능동 학습에서는 모든 실패가 경계가 어디에 있는지에 대한 모델의 이해를 더 날카롭게 벼립니다. 화학의 막다른 길들을 — 영구적으로 — 지도로 그려 내어, 조직이 다시는 그 경로들에 자원을 낭비하지 않게 합니다. 실패 지형에 대한 그 위상적 지식은 시간이 갈수록 복리로 불어나는 지적 재산입니다.

"그냥 GPT 쓰면 되잖아"라는 문제

제가 계속해서 듣는 이야기라, 한 가지를 정면으로 다뤄야겠습니다. 투자자, 잠재 고객, 심지어 일부 과학자들까지 말합니다: "이건 그냥 GPT-4를 쓰면 되지 않나요? 화학을 아는데요."

모릅니다. 적어도 중요한 방식으로는 모릅니다.

대규모 언어 모델은 분자를 텍스트 문자열로 표현합니다 — 대개는 3차원 구조를 선형으로 부호화한 SMILES 표기법이죠. 이는 건물의 주소를 소리 내어 읽어 주고서 상대가 평면도를 이해하기를 기대하는 것과 같습니다. LLM은 "순열 민감(permutation sensitive)"합니다(문자의 순서가 중요합니다). 반면 분자는 순열 불변(permutation invariant)입니다(원자를 나열하는 순서는 무관합니다). 벤치마크들은, 분자를 노드와 엣지를 갖춘 실제 3D 그래프로 모델링하는 그래프 신경망(Graph Neural Networks)이 기하학적 구조가 관여하는 특성 예측 작업에서 LLM을 능가한다는 것을 한결같이 보여 줍니다.

올바른 아키텍처 — 우리가 옹호하고 실제로 구축하는 것 — 는 하이브리드입니다. LLM은 뛰어난 오케스트레이터입니다. 과학 문헌을 파싱하고, 합성 레시피를 추출하고, 실험 프로토콜을 생성하고, 고차원적 전략을 추론할 수 있습니다. 하지만 분자 설계, 안정성 분석, 특성 예측이라는 무거운 짐을 지려면 물리 법칙에 제약된 그래프 신경망이 필요합니다. LLM은 프로젝트 매니저입니다. GNN은 엔지니어입니다. 둘 다 필요하며, 어느 작업을 어느 쪽에 맡겨야 할지 알아야 합니다.

과학 분야의 현행 AI 제품 상당수는 공개된 LLM API를 감싼 래퍼에 불과합니다. 래퍼는 질량 보존을 강제할 수 없습니다. 베이지안적 엄밀함으로 10¹⁰⁰ 규모의 탐색 공간을 항해할 수도 없습니다. 루프를 닫는 로봇 하드웨어와 통합될 수도 없습니다.

값싼 시뮬레이션 데이터와 값비싼 실험 결과를 다중 충실도 최적화가 어떻게 융합하는지를 포함해, 이러한 아키텍처 결정에 대한 전체 기술적 분석은 다음에서 확인하실 수 있습니다: 우리의 상세 연구 논문.

아무도 이야기하지 않는 배관 작업

자율 실험실 연구에는 지저분한 비밀이 하나 있습니다: AI는 오히려 쉬운 쪽인 경우가 많다는 것입니다. 어려운 부분은 분광계가 액체 취급 장치와 대화하고, 그것이 다시 핫플레이트와 대화하고, 또 그것이 AI와 대화하게 만드는 일입니다. 서로 다른 공급업체의 실험 장비들은 저마다 다른 독점 언어를 씁니다. 보편적인 번역 계층이 없다면, 당신의 자율주행 실험실은 병 속에 든 뇌에 불과합니다.

바로 이 때문에 SiLA 2 표준 — 실험실 자동화 표준화(Standardization in Lab Automation) — 이 그토록 중요하며, 우리가 화려하지는 않지만 결정적인 시간을 미들웨어에 쏟은 것입니다. SiLA 2는 모든 장비를 마이크로서비스로 취급합니다. AI는 특정 로봇 팔의 시리얼 포트 프로토콜을 알 필요 없이 상위 수준의 명령("5ml를 분주하라")을 보냅니다. 이는 현대적인 웹 프로토콜 위에서 돌아가고, 클라우드 연결을 지원하며 — 결정적으로 — 레거시 장비를 감쌀 수 있습니다. 20년 된 HPLC도 자율 루프의 일부가 될 수 있는 것이죠.

어떤 물리적 로봇이 움직이기 전에, 우리는 전체 실험을 디지털 트윈 — 타이밍, 충돌 경로, 물류를 검증하는 실험실의 가상 복제본 — 안에서 시뮬레이션합니다. 실제 실험이 진행될 때는, 센서 데이터를 트윈의 예측과 비교해 이상 징후를 잡아냅니다: 막힌 피펫, 값이 흘러가는 온도 센서 같은 것들이죠. 트윈은 자율성을 신뢰할 수 있게 만들어 주는 안전망입니다.

솔직히 말하겠습니다: 이 부분은 아무도 숨 가쁜 보도자료를 써 주지 않는 작업입니다. 하지만 폐쇄 루프 실험실이 프로덕션 환경에서 실제로 작동하는지, 아니면 데모에서만 작동하는지를 가르는 부분입니다.

내 마음을 바꾼 숫자들

저는 과장된 열광에 회의적인 태도로 이 일에 발을 들였습니다. 신약 발견에서의 AI는 20년째 "5년 뒤면 온다"는 말을 들어 왔습니다. 제 마음을 바꾼 것은 이론이 아니었습니다. 구체적인 결과였죠.

Exscientia는 AI가 설계한 저분자 물질을 임상 1상 시험에 진입시키는 데 대략 12개월이 걸렸습니다 — 업계 평균인 4~5년과 대비되는 수치죠. Insilico Medicine은 섬유증 후보 물질을 표적 발견에서 전임상 후보까지 18개월 미만에, 통상 비용의 극히 일부로 진척시켰습니다. A-Lab의 17일 만의 41개 화합물. Broad Institute의 예측 독성 모델은 위험한 화합물을 합성 전에 걸러내어 다운스트림 실패 비용에서 수백만 달러를 절약합니다.

이것들은 전망이 아닙니다. 결과입니다. 그리고 이들은 공통된 아키텍처를 공유합니다: 합성에 앞선 시뮬레이션, 물리 정보 기반 모델, 폐쇄된 피드백 루프, 그리고 음성 데이터의 체계적 수집입니다.

사람들은 이따금 이것이 습식 실험실(wet lab)의 필요성을 완전히 없애는 것이냐고 제게 묻습니다. 그렇지 않습니다. 습식 실험실은 여전히 진실이 머무는 곳입니다 — 모델의 예측이 현실과 만나는 곳이죠. 바뀌는 것은 바로 그 비율입니다. 하나의 히트를 찾기 위해 만 번의 실험을 돌리는 대신, 쉰 번을 돌립니다. 습식 실험실은 검색 엔진이 아니라 검증 도구가 됩니다.

또 어떤 이들은 일자리 대체를 걱정합니다 — 이것이 과학자를 대체할까요? 제 경험상, 정반대의 일이 벌어집니다. 이 도구들을 받아들인, 제가 함께 일해 온 과학자들은 덜 중요해지지 않았습니다. 오히려 더 전략적인 존재가 됩니다. 그들은 이미 효과가 없을 거라 짐작하는 화합물 라이브러리를 피펫으로 하나하나 훑는 대신 — 예상치 못한 결과를 해석하고, 새로운 실험 패러다임을 설계하고, AI가 묻도록 훈련받지 못한 질문을 던지는 — 인간의 판단이 필요한 문제에 시간을 씁니다.

예술이 공학이 되다

저는 그 스프레드시트를 자주 떠올립니다. "실패"라고 적힌 그 모든 행들. 하나하나가 누군가의 가설, 누군가의 오후, 누군가의 예산을 의미했습니다. 에디슨식 모델에서 그런 실패들은 사업을 하는 데 드는 비용이었습니다 — 불가피하고, 예상되며, 최종 회계에서는 대체로 보이지 않는 것이었죠.

우리가 만들고 있는 모델에서라면, 그 실패들 하나하나가 예측되었을 것입니다. 전부는 아닙니다 — 제가 전지전능을 주장하는 건 아니니까요. 하지만 그 스프레드시트가 길이의 극히 일부로 줄어들고, "결과" 열이 아주 달라 보일 만큼은 충분히요.

새로운 분자와 소재의 탐색 공간은 헤아릴 수 없을 만큼 광대합니다. 그 어떤 인간의 직관도, 그 어떤 액체 취급 장치 부대도, 그 어떤 수십억 달러짜리 HTS 캠페인도 물리적 실험만으로 그 공간을 의미 있게 탐색할 수는 없습니다. 수학이 그것을 허락하지 않습니다. 수학이 정말로 허락하는 것은 지능적인 항해입니다 — 물리 제약 모델로 합성에 앞서 시뮬레이션하고, 베이지안 최적화로 올바른 질문을 올바른 순서로 던지며, 로봇 자동화로 예측과 현실 사이의 루프를 닫는 것이죠.

에디슨의 시대는 비범한 것들을 만들어 냈습니다. 하지만 그것은 이론이 실험을 따라잡지 못하던 시대에서 태어난 방법론이었습니다. 우리는 더 이상 그 시대에 살고 있지 않습니다. 이론은 여기 있습니다. 연산 능력도 여기 있습니다. 로봇공학도 여기 있습니다. 남은 것은 오직, R&D를 재능 있는 개인이 펼치는 예술로 취급하기를 멈추고 결정론적 시스템으로 구동되는 공학 분야로 취급하기 시작하려는 제도적 의지뿐입니다.

추측하고 확인하지 말라. 시뮬레이션하고 선택하라.

이것은 슬로건이 아닙니다. 경제적 명령입니다. 계산으로 배제할 수 있었는데도 물리적으로 시험한 모든 소재는 불태워 버린 돈입니다. 그리고 이것을 가장 먼저 이해하는 조직은 단지 더 빨리 나아가는 데 그치지 않을 것입니다 — 그들은 낡은 방식의 작업이 다른 모든 이에게 경제적으로 존속 불가능하도록 만들어 버릴 것입니다.