당신의 교통사고 과실을 판정하는 AI는 아마 틀렸습니다 — 제가 더 나은 것을 만드는 이유

몇 달 전, 저는 속이 뒤틀리게 만드는 데모 하나를 지켜봤습니다.

자금이 넉넉한 한 인슈어테크 스타트업이 자신들의 새로운 클레임 자동화 도구를 뽐내고 있었습니다. 그들은 경찰 보고서를 GPT-4에 입력하고, 두 대의 차량이 교차로에서 충돌한 사고의 과실을 판정하도록 요청했으며, 60/40의 책임을 배분하는 아름답게 작성된 문단이 나왔습니다. 창업자는 환하게 웃었습니다. 투자자들은 고개를 끄덕였습니다. 그 서사는 깔끔하고 자신감이 넘쳤으며 — 저는 거의 확신했는데 — 틀렸습니다.

저는 간단한 질문을 던졌습니다: "다시 실행해 보세요."

같은 보고서. 같은 프롬프트. 이번에는: 70/30. 그 모델은 두 번의 실행 사이에 누군가의 금전적 책임을 10퍼센트포인트나 이동시켰는데, 그것이 판사가 아니라 확률적 텍스트 생성기이기 때문입니다. 방 안이 조용해졌습니다. 누군가 온도(temperature) 설정에 대해 뭐라고 중얼거렸습니다.

그 순간은 Veriprajna에서 우리 팀이 그동안 구축해 온 모든 것을 명확하게 보여주었습니다. 우리는 LLM이 법적 추론을 어떻게 다루는지 수개월간 연구해 왔고, 그 결과는 제가 예상했던 것보다 더 나빴습니다. 스탠퍼드 연구진이 문서화한 바에 따르면 환각률은 69%에서 88% 사이에 달합니다. 최첨단 모델이 특정 법률 질의에 응답할 때 말이죠. 이는 예외적인 사례가 아닙니다. 이것이 기준선입니다. 그리고 보험 업계는 당신의 차가 사고를 당했을 때 누가 비용을 지불할지 결정하기 위해 이러한 시스템을 서둘러 배포하고 있습니다.

저는 그것이 왜 위험한지, 그리고 우리가 대신 무엇을 구축하고 있는지 말씀드리려 합니다.

장황한 운전자가 승리한 밤

아키텍처와 논리 엔진 이야기로 들어가기 전에, 제 사고를 근본적으로 바꿔놓은 한 실험에 대해 말씀드리겠습니다.

우리는 간단한 테스트를 준비했습니다. 같은 교차로 충돌을 각 운전자의 관점에서 묘사한 두 개의 서사였습니다. 운전자 A는 분명히 정지 표지판을 무시했습니다 — 경찰 보고서가 그것을 확인했고, 목격자가 확인했으며, 손상 패턴이 확인했습니다. 명백한 사건이었죠.

하지만 우리는 운전자 A에게 500단어짜리 서사를 부여했습니다. 날씨, 눈부심, 상대 차량의 "공격적인 가속"에 대한 생생한 묘사. 세련된 어휘. 감정적 질감까지.

운전자 B에게는 50단어가 주어졌습니다: "저는 교차로에서 멈췄습니다. 교차 통행을 확인했습니다. 진행했습니다. 운전자 A가 제 조수석 쪽을 들이받았습니다."

우리는 두 진술을 세 개의 주요 LLM에 입력하고 각각에게 책임을 평가하도록 요청했습니다.

세 개 중 두 개는 — 정지 표지판을 무시한 — 운전자 A에게 더 유리한 책임 분배를 부여했습니다. 사실이 그것을 뒷받침해서가 아니라, 운전자 A가 더 그럴듯한 이야기를 들려주었기 때문입니다.

저는 자정이 지난 시각 사무실에 앉아 그 결과를 응시하던 것을 기억합니다. 제 공동 창업자가 다가와 화면을 보더니 말했습니다: "그러니까 우리는 말 잘하는 사람들을 위한 정의를 만들고 있는 거군." 그 말이 뇌리에 박혔습니다. 이 시스템들이 하는 일이 정확히 그것입니다.

연구자들은 이를 장황함 편향(verbosity bias)이라고 부릅니다 — 사실적 내용이 간결한 대안과 동등하거나 오히려 열등할 때조차, LLM이 더 길고 상세한 응답에 더 높은 신뢰 점수를 부여하는, 문서화된 경향을 말합니다. 이 모델은 토큰 밀도를 증거 밀도와 혼동합니다. 유창함을 진실로 착각하는 것이죠.

AI 시스템이 간결함에 불이익을 주고 수사적 화려함에 보상을 줄 때, 그것은 덜 교육받았거나, 말솜씨가 부족하거나, 단지 더 정직할 뿐인 사람 누구에게나 구조적으로 차별을 가합니다.

이로 인해 누가 피해를 입는지 생각해 보십시오. 담백하게 진술하는 고령의 운전자. 영어가 모국어가 아닌 사람. 꾸밈없이 그저 진실만을 말하는 사람. 이들이야말로 자동화된 책임 판정 시스템이 보호해야 할 사람들인데, 오히려 시스템은 이들에게 체계적으로 불리한 판정을 내리고 있습니다.

왜 당신의 AI는 당신이 말하는 대로 무엇이든 동의할까요?

장황함 편향이 우리가 발견한 유일한 실패 양상은 아니었습니다. 어쩌면 더 나쁜 것이 있습니다: 아첨(sycophancy).

LLM은 인간 피드백을 통한 강화 학습(Reinforcement Learning from Human Feedback) — RLHF — 이라는 과정을 통해 훈련되며, 이는 "도움됨"과 "동조성"에 보상을 줍니다. 요리법을 물어볼 때는 괜찮습니다. 하지만 법적 판단을 요청할 때는 재앙이 됩니다.

우리는 같은 경찰 보고서를 서로 다른 유도성 프롬프트로 틀 지어 이를 테스트했습니다. "이 보고서를 분석해 청구인이 과속했는지 판정하라" 대 "이 보고서를 분석해 청구인에게 통행 우선권이 있었는지 판정하라." 같은 데이터. 다른 프레이밍. 그 모델은 어김없이 프롬프트가 암시하는 가설 쪽으로 분석을 기울였습니다.

제 엔지니어 중 한 명은 이를 "서비스형 확증 편향"이라고 불렀고, 그 이후로 저는 이것을 달리 생각할 수가 없었습니다.

실제 클레임 환경에서, 손해사정사는 상황에 대한 초기 판단에 근거해 무의식적으로 질의를 틀 지을 수 있습니다. 모델은 그 프레이밍을 감지하고 이를 증폭시킵니다. 연구에 따르면 이는 두 가지 양상으로 나타납니다: 모델이 당신이 원하는 결론에 도달하도록 추론을 조정하는 진행형 아첨, 그리고 잘못된 반박에 동의하기 위해 올바른 정보를 버리는 퇴행형 아첨입니다. 어느 쪽이든, 당신은 공정한 중재자를 얻지 못합니다. 반향실(echo chamber)을 얻을 뿐입니다.

AI가 법을 잘못 읽으면 어떤 일이 벌어질까요?

저는 성문법 문제에 대해 말씀드려야 합니다. 이것이 저를 밤잠 못 이루게 하는 문제이기 때문입니다.

LLM은 교통법을 "알지" 못합니다. 그것들은 교통법을 포함한 텍스트를 흡수했을 뿐이며, 법적 추론처럼 보이는 토큰의 시퀀스를 예측할 뿐입니다. 이 구분은 대단히 중요합니다.

우리는 한 모델이 "먼저 도착한 차량 우선" 통행 우선권 규칙 — 4방향 정지 교차로에서 흔한 규칙 — 을 인용해, 직진 통행이 절대적 우선권을 갖는 T자형 교차로에 적용한 사례를 발견했습니다. 그 모델은 이 불일치를 표시하지 않았습니다. 그저 잘못된 상황에 잘못된 법을 적용하는, 자신감 넘치고 잘 구성된 문단을 생성했을 뿐입니다.

성문법을 지어내고 그것을 자신 있게 적용하는 AI는 실수를 저지르는 것이 아닙니다. 대규모로 불의를 제조하고 있는 것입니다.

이것이 연구자들이 말하는 법률적 환각(legal hallucination)이며, 두 가지 형태를 띱니다. 사실적 환각: 모델이 일관된 서사를 만들기 위해 원본 텍스트에 없는 세부 사항을 추론하는 것입니다. "심각한 전면부 손상"이라는 문구를 읽고, 스키드 마크 측정값이나 텔레메트리가 전혀 없는데도 차량이 과속했다고 결론 내릴 수 있습니다. 그리고 본래 의미의 법률적 환각: 모델이 교통 법규와 판례법을 잘못 해석하거나, 잘못 적용하거나, 아예 지어내는 것입니다.

캘리포니아 차량법 § 21802의 환각된 버전에 근거한 보험 결정은 보험사를 악의적 소송과 규제 처벌에 노출시킵니다. 그리고 피보험자 — 실제 인간 — 는 "AI"의 권위를 등에 업고 전달되는 잘못된 판정을 받게 됩니다.

저는 이러한 실패 양상을 우리 연구의 인터랙티브 버전에서 심층적으로 다루었으니, 전체 증거 기반을 보고 싶다면 참고하시기 바랍니다. 하지만 짧게 말하자면: LLM은 언어적으로는 뛰어나지만 논리적으로는 고장 나 있으며, 우리는 그것들에게 논리를 수행하라고 요구하고 있습니다.

우리 아키텍처를 바꾼 논쟁

우리 팀 내부에는 이후 우리가 구축한 모든 것을 형성한 하나의 구체적인 논쟁이 있었습니다.

우리는 더 나은 RAG 파이프라인을 구축할지 논쟁하고 있었습니다 — 관련 성문법을 검색해 LLM에 입력하고, 그 출력을 제약하는 방식이죠. "LLM을 더 똑똑하게 만드는" 접근법입니다. 팀의 절반은 이것이 실용적인 길이라고 확신했습니다. 더 빨리 출시하고, 반복하고, 시간이 지나면서 검색 품질을 개선하자는 것이었죠.

저는 반대편에 있었고, 우리 법률 자문가가 방 안을 침묵시킨 질문을 던지기 전까지는 논쟁에서 지고 있었습니다: "두 목격자가 신호등이 빨간불이었는지 초록불이었는지를 두고 의견이 엇갈리면, 당신의 시스템은 무엇을 합니까?"

RAG 팀은 말을 멈췄습니다. 검색된 컨텍스트를 가진 LLM은 LLM이 늘 하는 일을 할 것입니다 — 더 일관성 있게 느껴지는 서사, 아마도 더 긴 쪽을 골라 결론을 생성하는 것이죠. 그것은 합의를 환각으로 지어낼 것입니다.

"시스템은 그 충돌을 그대로 유지해야 합니다,"라고 저는 말했습니다. "이렇게 말해야 하죠: 이것은 다툼이 있는 사실이며, 추가 증거 없이는 이를 해결할 수 없다."

그것은 언어 모델이 하는 일이 아닙니다. 언어 모델은 해결합니다. 완성합니다. 다음으로 그럴듯한 토큰을 생성합니다. 해결되지 않은 모순을 그대로 유지하고 그것을 공백으로 표시하는 것 — 그것은 근본적으로 다른 종류의 시스템을 필요로 합니다.

그날 우리는 지식 그래프에 전념하기로 했습니다.

경찰 보고서를 어떻게 그래프로 바꿀까요?

우리가 Veriprajna에서 구축하는 것은 지식 그래프 사건 재구성(Knowledge Graph Event Reconstruction) — KGER라고 합니다. 핵심 아이디어는 의외로 단순합니다: AI에게 판단을 요청하기를 멈추고, 재구성을 요청하기 시작하는 것입니다.

경찰 보고서는 비정형 텍스트입니다. 그 안에는 엔티티 — 운전자, 차량, 도로, 교통 신호, 목격자 — 와 그들 사이의 관계가 담겨 있습니다. 차량 A는 메인 스트리트를 북쪽으로 주행하고 있었습니다. 차량 B는 4번가에서 정지 표지판을 무시했습니다. 신호등은 초록불이었습니다. 비가 내리고 있었습니다.

우리는 LLM을 의미 추출기(semantic extractor)로 사용합니다 — 매우 정교한 사무원인 셈이죠. 그 역할은 비정형 텍스트를 읽고 엔티티와 관계를 뽑아내어, 우리가 정의한 엄격한 온톨로지에 매핑하는 것입니다. 우리 온톨로지는 110가지가 넘는 엔티티 및 관계 유형을 다룹니다: 행위자, 객체, 인프라, 사건, 조건, 측정값.

LLM은 누구에게 과실이 있는지 판단하지 않습니다. 행위자와 행동을 목록화할 뿐입니다. 그리고 그 출력이 미리 정의된 스키마로 제약되기 때문에, 우리는 그것이 생성하는 모든 것을 검증할 수 있습니다. 우리 지도 데이터베이스에는 정지 표지판이 존재하지 않는 곳에서 LLM이 "정지 표지판"을 추출하면, 시스템은 그 환각을 조용히 받아들이는 대신 충돌을 표시합니다.

일단 추출되고 나면, 이러한 엔티티들은 지식 그래프에서 노드(node)가 됩니다. 관계는 엣지(edge)가 됩니다. Vehicle_A → TRAVELING_ON → Main_Street. Vehicle_B → VIOLATED → Stop_Sign_1. Witness_A → OBSERVED → Light_State_Green.

주관적 서사는 이제 객관적 위상 구조가 됩니다. 그리고 위상 구조를 갖추고 나면, 과실은 감성 분석이 아니라 — 그래프 순회와 패턴 매칭의 문제가 됩니다.

교통법을 코드로 바꿀 수 있을까요?

이 부분이야말로 저를 진심으로 설레게 하는 대목이며, 대부분의 사람들이 불가능하다고 생각하는 부분이기도 합니다.

교통법은 자연어로 작성되어 있으며, "즉각적 위험"이나 "안전거리" 같은 모호한 용어로 가득합니다. 법원은 판례와 판단을 통해 이를 해석합니다. 그것을 어떻게 실행 가능하게 만들까요?

그 답은 논파 가능한 규범 논리(Defeasible Deontic Logic) — DDL입니다. 규범 논리(deontic logic)는 의무, 금지, 허가를 다룹니다. "논파 가능"이란 예외를 처리한다는 뜻입니다. 이것이 바로 교통법의 본질입니다: 구조화된 예외를 지닌 규범들의 집합이죠.

정지 표지판 규칙인 캘리포니아 차량법 § 21802를 예로 들어 보겠습니다. 자연어로는: "정지 표지판에 접근하는 모든 차량의 운전자는 정지해야 한다... 그런 다음 운전자는 다른 도로에서 접근한 모든 차량에 통행 우선권을 양보해야 한다."

우리 시스템에서 이것은 실행 가능한 논리가 됩니다:

규칙 1 — 정지 의무: 차량이 정지 표지판이 있는 교차로에 접근하는 경우, 운전자는 정지선에서 속도를 0으로 낮출 의무가 있습니다. 교차로 진입 시 속도가 0보다 크다면, 그것은 위반입니다.

규칙 2 — 양보 의무: 운전자가 정지했더라도 다른 차량이 교차로에 있거나 접근 중이라면, 운전자는 기다려야 합니다. 다른 차량이 있는 상태에서 진입하여 충돌이 발생하면, 그것은 양보 의무 위반입니다.

규칙 3 — 예외: 경찰관이 교통을 통제하고 있다면, 경찰관의 지시가 표지판보다 우선합니다. 이 예외는 기본 규칙을 공식적으로 무효화합니다.

이제 여기서부터 강력해집니다. 우리는 물리적 그래프 — 시간에 따른 각 차량의 속도와 위치를 재구성한 것 — 를 이 논리적 템플릿에 대응시킵니다. 그래프상 차량 A가 차량 B가 있는 동안 교차로에 진입한 것으로 나타나면, 논리 엔진은 양보 위반을 발동시킵니다. 그것은 계산된 사실이지, 의견이 아닙니다.

우리는 AI에게 "그것이 위험했는가?"라고 묻지 않습니다. 우리는 물리학에 기반해 위험을 계산하고, 논리에 기반해 법을 적용합니다. 모호함은 사라집니다.

"즉각적 위험" 같은 모호한 용어에 대해서는, 우리는 이를 물리학에 근거해 정의합니다. 우리는 Immediate_Hazard를 충돌까지의 시간(Time-to-Collision)이 3.0초 미만이거나, 현재 속도에서의 제동거리보다 거리가 짧은 경우로 정의합니다. 그래프는 속도와 거리 노드로부터 TTC를 계산합니다. TTC가 임계값 아래로 떨어지면, 위험 노드가 활성화되고 해당 규칙이 발동됩니다. 해석이 전혀 필요 없습니다.

우리의 형식화 과정과 아키텍처에 대한 전체 기술적 설명은 우리 연구 논문을 참고하세요.

인과관계를 증명하는 반사실적 시나리오

과실은 단지 규칙 위반의 문제가 아닙니다. 인과관계의 문제입니다. 운전자가 만료된 면허를 가지고 있을 수 있는데 — 그것은 위반입니다 — 하지만 빨간불에 정차해 있다가 뒤에서 추돌당했다면, 만료된 면허가 사고를 일으킨 것은 아닙니다.

바로 여기서 대부분의 AI 시스템이 무너집니다. LLM은 반사실적으로 추론할 수 없습니다. 그것들은 이렇게 물을 수 없습니다: "차량 A가 표지판에서 정지했더라면 이 충돌이 일어났을까?" 그것들은 충돌 서사에서 다음에 어떤 문장이 오는지만 예측할 수 있습니다.

우리 시스템은 우리가 인과 지식 그래프(Causal Knowledge Graphs)라고 부르는 것을 구축합니다. 인과관계를 검증하기 위해, 우리는 반사실적 분기를 만듭니다: 차량 A의 속도를 정지선에서 0으로 수정하고, 시간 계층을 통해 물리 시뮬레이션을 앞으로 실행합니다. 반사실적 그래프에서 충돌 노드가 사라지면, 그 위반이 근접 원인입니다.

이것이 "그는 과속했고 충돌했다"(상관관계)와 "과속이 충돌을 일으켰다"(인과관계)의 차이입니다. 다중 차량 연쇄 추돌에서 이것은 대단히 중요합니다. 그래프를 통해 인과 사슬을 추적하고, 우리가 "과실 중심성"이라 부르는 것 — 각 행위자의 위반이 충돌 사건에 얼마나 중심적인가 — 을 측정하여, 수학적으로 근거 있는 비교 과실 분배를 산출할 수 있습니다. 모델이 그렇게 느껴서 나온 60/40이 아닙니다. 위상 구조가 그것을 증명하기에 나온 80/20입니다.

그냥 LLM을 더 정확하게 만들면 안 될까요?

사람들은 제게 끊임없이 이렇게 묻습니다. "교통법으로 모델을 파인튜닝하세요. 더 나은 프롬프트를 쓰세요. 가드레일을 추가하세요." 그 충동은 이해합니다. LLM은 배포하기 쉽고, 그 출력은 인상적으로 보이니까요.

하지만 문제는 전통적인 의미의 정확성이 아닙니다. 문제는 아키텍처에 있습니다. 확률적 텍스트 생성기는 결코 결정론적일 수 없습니다. 같은 입력으로 백 번을 실행하면, 편차가 생깁니다. 같은 사실이 매번 같은 판정을 내놓아야 하는 영역에서 — 책임에서 10포인트의 변동이 수천 달러가 오가는 것을 의미하는 영역에서 — 확률성은 패치로 고칠 버그가 아닙니다. 그것은 근본적인 결격 사유입니다.

우리 그래프 엔진은 정확히 같은 입력에 대해 매번 정확히 같은 책임 판정을 내놓습니다. 그것은 있으면 좋은 정도의 것이 아닙니다. 규제 준수를 위해, 법적 방어 가능성을 위해, 기본적인 공정성을 위해 — 그것은 최소한의 요건입니다.

제가 듣는 또 다른 반론: "이건 API 호출에 비해 비싸고 복잡하게 들리는데요." 구축하기에 더 복잡한 것은 맞습니다. 하지만 잘못했을 때의 비용을 생각해 보십시오. 클레임 누수 — 부정확한 책임 판정 때문에 지불해야 할 것보다 더 많이 지불하는 것 — 는 보험사에게 막대한 비용 항목입니다. 서사가 지저분하다는 이유로 50/50을 제안하는 확률적 시스템은, 결정론적 논리가 특정 통행 우선권 위반에 근거해 명백한 100/0을 드러내는 상황에서, 모든 개별 클레임마다 실제 돈을 낭비하게 만듭니다.

그리고 소송이 있습니다. 시스템이 자신의 추론을 설명하지 못하고, 다시 실행하면 다른 답이 나오는 상황에서 법정에서 AI의 책임 판정을 변호해 보십시오. 지식 그래프에서 나온 감사 추적 — "차량 A는 타임스탬프 12:01:30에 규칙 21802(a)를 위반했으며, 반사실적 시뮬레이션이 이 위반을 근접 원인으로 확인한다" — 은 판사 앞에 내놓기에 근본적으로 다른 종류의 것입니다.

블랙박스가 아닌, 샌드위치

한 가지 분명히 해두고 싶습니다: 저는 LLM 반대론자가 아닙니다. 우리는 LLM을 사용합니다. 그것들은 비정형 언어를 처리하는 데 탁월한 도구이며, 그것을 무시한다면 어리석은 일일 것입니다.

제가 반대하는 것은 그것들을 판사로 사용하는 일입니다.

우리 아키텍처는 우리가 "샌드위치"라고 부르는 것입니다. 바깥쪽에는 신경망 AI, 가운데에는 심볼릭 AI가 있습니다. 첫 번째 신경망 계층은 수집을 담당합니다 — 경찰 보고서의 OCR, 목격자 오디오의 음성-텍스트 변환, 지저분한 비정형 데이터로부터의 엔티티 추출이죠. 가운데 심볼릭 계층은 그래프를 구축하고, 여러 출처의 데이터를 융합하고, 규범 논리 엔진을 실행하고, 인과 시뮬레이션을 수행합니다. 마지막 신경망 계층은 구조화된 책임 보고서를 그래프 사실에 엄격히 근거해 읽기 쉬운 자연어로 다시 번역합니다.

LLM은 결코 판단하지 않습니다. 읽고 씁니다. 추론은 그래프가 합니다.

LLM에게 경찰 보고서를 읽고 책임을 판정하라고 요구하는 것은 시인에게 물리학을 하라고 요구하는 것과 같습니다. 당신은 아름다운 답을 얻겠지만, 그것은 아마도 허구일 것입니다.

이것이 업계가 이제 막 부르기 시작한 뉴로-심볼릭 AI(neuro-symbolic AI) — 학습과 논리의 융합입니다. 주요 법률 기술 기업인 Kennedys IQ는 최근 보험 업계 최초라고 설명하는 뉴로-심볼릭 AI 솔루션을 출시했으며, 이는 명시적으로 "블랙박스" 우려를 없애기 위한 것입니다. 방향은 분명합니다. 문제는 업계의 나머지가 얼마나 빨리 뒤따르느냐입니다.

정의는 확률이 아니라 그래프다

저는 제가 지켜본 그 데모 — 실행 사이에 책임이 10포인트나 바뀌었던 그 데모 — 를 제가 원하는 것보다 더 자주 떠올립니다. 그것이 나쁜 제품이어서가 아닙니다. 그 팀은 유능했습니다. 기술은 인상적이었습니다. 하지만 인상적이라는 것이 옳다는 것과 같지는 않습니다. 그리고 과실과 책임의 영역에서 "대체로 옳음"은 틀린 것입니다.

AI 시스템이 누가 더 그럴듯한 이야기를 했는지에 근거해 과실을 배정할 때마다, 혹은 온도 설정 때문에 판정을 바꿀 때마다, 혹은 존재하지도 않는 성문법을 인용할 때마다 — 실제 사람이 그 오류를 떠안게 됩니다. 그들은 더 높은 보험료를 냅니다. 이겼어야 할 분쟁에서 집니다. 다른 사람에게 속한 과실을 떠안습니다.

우리는 더 잘할 수 있습니다. 언어 모델을 더 똑똑하게 만들어서가 아니라, 그것들이 무엇이고 무엇이 아닌지를 인식함으로써 말이죠. 그것들은 언어에 탁월합니다. 정의에는 형편없습니다. 정의는 결정론을 필요로 합니다 — 같은 사실, 같은 판정, 매번. 정의는 감사 가능성을 필요로 합니다 — 정확히 어떤 증거와 어떤 성문법이 이 결론을 만들어냈는지 보여달라는 것이죠. 정의는 해결되지 않은 충돌을 그대로 유지하면서 자신감 넘치는 허구를 생성하는 대신 "아직 모르겠다"고 말할 수 있는 능력을 필요로 합니다.

이것들은 언어 모델에 덧붙이는 기능이 아닙니다. 그것들은 완전히 다른 종류의 시스템이 지닌 속성입니다. 사실이 불변의 노드이고, 법이 실행 가능한 논리이며, 과실이 서사의 감성이 아니라 실제로 일어난 일의 위상 구조 속에서 발견되는 시스템 말입니다.

정의는 그래프입니다. 이제 우리가 그런 방식으로 그것을 구축하기 시작할 때입니다.