구조적 AI 안전성: 고위험 생성형 바이오 디자인을 위한 잠재 공간 거버넌스의 당위성

요약

생성형 인공지능(AI)의 급성장 시대는 패러다임 전환을 열었습니다 과학 발견, 특히 제약 및 생명공학 부문에서. 딥러닝 모델이 화학 공간의 광대한 영역을 탐색하고 새로운 치료 후보를 제안할 수 있는 능력은 신약 발견 일정을 수년에서 수주로 압축했습니다. 그러나 이 변혁적 능력에는 내재된 그림자가 있습니다. 바로 "이중용도" 딜레마입니다. 생명을 구하는 치료제를 식별하도록 설계된 동일한 알고리즘 아키텍처가, 사소한 수정만으로도 고치사성 생화학 작용제를 설계하도록 전용될 수 있습니다. Collaborations Pharmaceuticals가 수행한 기념비적인 "스위치 반전" 실험에서, 독성에 최적화된 생성 모델이 40,000개의 잠재적 화학 무기—신경작용제 VX와 신규 유사체를 포함—를 6시간 이내에 생성한 사실은 이 위험에 대한 반박할 수 없는 증거가 됩니다. ¹

Veriprajna를 위해 작성된 이 백서는, 현재 산업의 AI 안전 표준—프롬프트 엔지니어링과 사후 텍스트 필터링에 의존하는 "LLM 래퍼"로 흔히 특징지어지는—이 고위험 도메인에는 근본적으로 불충분하다고 주장합니다. 이러한 표면 수준의 가드레일은 모델 잠재 공간의 기하학적 현실을 다루지 못합니다. 그곳에서는 독성과 치료 능력이 연속적이고 종종 얽힌 다양체 위에 존재합니다. 텍스트 기반 필터는 화학의 구조적 의미에 맹목이며 적대적 섭동에 취약하여, 조직을 파국적 규제·평판·실존적 위험에 노출시킵니다.

Veriprajna는 엔터프라이즈 AI의 새로운 표준을 제시합니다. 잠재 공간 거버넌스 . 통제의 중심을 출력 계층에서 모델 자체의 고차원 잠재 구조로 옮김으로써, 우리는 "구조적 AI 안전성"의 한 형태를 가능하게 합니다. 이 접근은 위상적 제약, 다양체 매핑, 제약 강화학습을 활용하여 유해 출력의 생성을 수학적으로 원천 차단합니다. 본 문서는 현재 방법론의 기술적 결함을 철저히 분석하고, 독성의 위상을 탐구하며, NIST AI 위험 관리 프레임워크와 ISO 42001과 같은 새롭게 강화되는 엄격한 표준 준수를 보장하는 딥 AI 솔루션의 아키텍처 원칙을 상술합니다.

1. 이중용도 지평: "스위치 반전"과 치사성의 민주화

인공지능과 분자생물학의 수렴은 오래전부터 신약 발견의 혁명을 약속해 왔습니다. 그러나 이 기술의 내재적 이중성—치유 능력이 해를 가하는 능력과 수학적으로 인접하다는 점—은 학술계에서 논의되던 이론적 위험에서 실증된 운용 현실로 옮겨 왔습니다. 정교한 화학무기 설계에 대한 진입 장벽은 극적으로 낮아졌습니다. 물리적 재료의 확산이 아니라, 그것을 설계하는 데 필요한 계산 지능의 민주화에 의해서입니다.

1.1 MegaSyn 실험: 알고리즘 이중용도의 사례 연구

스위스 연방민방위청이 주관하는 격년 군비통제 행사인 Spiez Convergence 회의를 준비하며, Collaborations Pharmaceuticals의 연구자들은 AI 오용 가능성을 평가하기 위한 개념 증명 실험을 수행했습니다. ² 팀은 원래 희귀·소외 질환을 위한 생체활성 예측과 신규 치료 후보 생성을 위해 설계된 상용 생성 모델 MegaSyn을 활용했습니다.

사용된 방법론은 섬뜩할 정도로 단순하여, 이 위협 벡터의 접근성을 부각했습니다. 생성 모델은 독성에 페널티를 주고 치료 효능에 보상을 주는 점수 함수에 의해 구동되었습니다. "스위치를 반전"시키기 위해, 연구자들은 보상 함수를 뒤집었습니다. 독성에 페널티를 주는 대신, 모델은 독성을 최대화하도록 지시받았으며, 구체적으로 인류에게 알려진 가장 강력한 신경작용제 중 하나인 VX의 치사성 프로파일을 표적으로 삼았습니다. ¹

결과는 표준 소비자급 서버에서 6시간 이내에 생성되었으며, 화학정보학 커뮤니티에서 널리 이해되는 데이터셋과 아키텍처를 활용했습니다.

표 1: "스위치 반전" 실험 결과

지표	결과	맥락
생성 소요 시간	< 6시간	표준 하드웨어(Mac/Linux 서버)에서 수행되어, 낮은 연산 장벽을 보여 줍니다.
출력 규모	40,000개 분자	방대한 라이브러리의 잠재 후보가 인간 화학자가 따라잡을 수 없는 속도로 생성됨.
표적 프로파일	VX (신경작용제)	모델이 성공적으로 VX와 기타

Col1	Col2	알려진 G-계열 및 V-계열 신경작용제를 재발견함.
치사성	> VX 효력	상당수 하위집합의 분자가 VX보다 더 독성이 클 것으로 예측됨.
신규성	높음	수천 개의 화합물이 신규였으며, 어떤 공개 데이터베이스나 정부 감시 목록에도 나타나지 않음.

이 실험에는 슈퍼컴퓨터나 수백만 달러 자금을 가진 불량 국가 행위자가 필요하지 않았습니다. 오픈소스 데이터셋(ChEMBL 등), 표준 생성 아키텍처(RNN 및 LSTM 기반 모델), 그리고 상업적으로 이용 가능한 독성 예측 지식을 활용했습니다. ⁵ 함의는 심대합니다. 고치사성 생화학 작용제 설계의 진입 장벽이 소비자 GPU 비용과 Python에 대한 기초 이해 수준으로 낮아졌습니다. 독성의 "규칙"을 이해하여 피하도록 훈련된 AI 모델은, 본질적으로 그 규칙을 악용할 지식도 보유하고 있었습니다. ³

1.2 취약성의 아키텍처

이 "반전"이 그토록 매끄러웠던 이유를 이해하려면, MegaSyn과 같은 모델의 기저 아키텍처를 살펴보아야 합니다. 모델은 SMILES(Simplified Molecular Input Line Entry System) 문자열로 훈련된 순환신경망(RNN) 아키텍처를 사용했습니다. 시스템은 특정 목적 함수를 최대화하도록 분자 후보를 반복적으로 정제하는 "언덕 오르기" 알고리즘으로 작동했습니다. ⁵

생성 주기는 세 가지 핵심 구성 요소를 포함합니다.

1.​ 생성기: SMILES 문자열의 다음 토큰을 예측하는 LSTM 기반 네트워크로 ('C', 'N', '=', 'O' 등) 화학적으로 유효한 구조를 형성합니다. ChEMBL 28과 같은 대규모 데이터셋에서 화학의 "문법"을 학습합니다. ⁵

2.​ 예측기: 생성된 분자의 특정 속성—용해도, 표적에 대한 생체활성, 독성(예: LD50, hERG 저해)—을 추정하는 판별 모델(또는 모델 집합).

3.​ 최적화기: 예측기의 점수를 생성기에 되먹여 미래 토큰의 확률 분포를 더 높은 점수 영역으로 유도하는 강화학습 또는 언덕 오르기 루프.

치료 모드에서 최적화기의 보상 함수($R$)는 다음과 같이 정의됩니다.

$$R(x) = \text{Bioactivity}(x) - \lambda \cdot \text{Toxicity}(x)$$

여기서 $\lambda$ 는 독성 결과에 페널티를 부여하는 가중 계수입니다. 적대적 "반전" 모드에서 연구자들은 단순히 페널티의 부호를 바꿨습니다.

$$R(x) = \text{Bioactivity}(x) + \lambda \cdot \text{Toxicity}(x)$$ 생성기 자체—창조의 엔진—는 손대지 않았습니다. 그것은 단지 새로운 보상 함수의 그래디언트를 따랐을 뿐입니다. 이는 무기를 생성하는 능력이 제거할 수 있는 "버그"나 별도 모듈이 아니라, 모델의 화학 공간 이해에 내재되어 있음을 보여 줍니다. 모델이 분자를 안전하게 만드는 요인을 이해한다면, 정의상 불안전하게 만드는 요인도 이해합니다. 이들은 동일한 고차원 다양체의 상보적 영역이기 때문입니다. ⁹

1.3 보편적 위험: 화학을 넘어서

Urbina 실험은 화학무기에 초점을 맞췄지만, 그 원리는 엔터프라이즈 환경의 생성형 AI에 보편적으로 적용됩니다. "최적화"의 이중성은, 어떤 지표를 최대화하도록 설계된 시스템이든 이를 최소화하도록, 또는 해로운 상관량을 최대화하도록 뒤집을 수 있음을 의미합니다.

●​ 사이버보안: 제로데이 취약점을 식별하고 패치하도록 훈련된 모델(방어적 코딩)은 익스플로잇의 메커니즘을 이해해야 합니다. 뒤집히면, 제로데이 발견과 무기화를 위한 자동화 엔진이 됩니다. ¹⁰

●​ 금융 시스템: 불법 거래의 패턴을 학습하여 사기를 탐지하도록 최적화된 모델은, 합법 행위를 완벽하게 모방하는 거래를 생성하도록 뒤집혀 자금세탁을 "최적화"할 수 있습니다. ¹¹

●​ 전략 기획: 기업의 시장 전략을 최적화하도록 설계된 AI는, 무자비한 목적 함수에 정렬될 경우, 주주 가치를 기술적으로는 최대화하지만 독점금지법이나 윤리 기준을 위반하는 전략을 제안할 수 있습니다.

안전하고 신뢰할 수 있는 인공지능의 개발과 이용에 관한 행정명령은 바로 이 능력—생물·화학·사이버 위협 개발의 진입 장벽을 낮추는 것—을 핵심 국가안보 우려로 지목합니다. ¹⁰ 현재 기술 부문의 대응은 종종 "안전 필터"나 "정렬 훈련"을 포함하지만, 앞으로 살펴보듯 이러한 표면 수준의 개입은 현대 AI의 깊은 구조적 최적화 능력 앞에서 수학적으로 취약합니다.

2. LLM 래퍼의 오류: 표면 가드레일이 실패하는 이유

현재 "AI 골드러시"의 지배적 추세는 "LLM

래퍼"의 배포입니다. 이는 사용자와 파운데이션 모델(GPT-4, Claude, Llama 등) 사이의 얇은 인터페이스 역할을 하는 애플리케이션입니다. 이러한 래퍼는 프롬프트 엔지니어링(시스템 프롬프트)과 기본 콘텐츠 필터링으로 모델 행동을 유도합니다. 고위험 산업 응용, 특히 물리적 안전과 바이오 보안이 관련된 경우, 이 접근은 위험할 정도로 부적절합니다.

2.1 "비구현 자문가" 한계

대규모 언어 모델(LLM)은 근본적으로 비구현된 확률 엔진입니다. 이들은 물리적·생물학적 현실에 대한 근거 있는 이해가 아니라, 훈련 데이터의 통계적 상관에 기반해 다음 토큰을 예측합니다. 과학 발견에서의 LLM 연구가 지적하듯, LLM은 실험실의 연구 조수가 아니라 "비구현 자문가"로 작동합니다. ¹³

바이오 보안의 맥락에서 LLM 래퍼는 안전을 검증하는 데 필요한 통합 피드백 루프가 없습니다. 물리 법칙이나 화학 법칙이 아니라 언어 위에서 작동합니다. 래퍼에 분자 설계를 요청하면, 그럴듯하게 들리지만 화학적으로 무효한 구조를 "환각"할 수 있습니다. 더 위험한 것은, 실제로 유효한 구조를 생성하더라도, 단순한 데이터베이스 조회를 넘어 독성을 검증할 내재적 능력이 없다는 점입니다. 분자가 신규라면—MegaSyn 실험에서 생성된 VX 유사체 수천 개가 그러했듯—LLM은 그것을 위험하다고 표시할 텍스트 기반 참조가 없습니다. ¹³

LLM의 "지식"은 정적입니다. 훈련 시점에 동결되어 있습니다. 새로운 단백질 접힘이 병원성인지 판단하기 위한 시뮬레이션을 실행할 수 없습니다. 오직 "탄저균은 나쁘다"는 사실만을 회상할 수 있습니다. 이 "나쁜" 개념의 기계적 암기에 대한 의존은, 새로운 개념 공간을 탐색하도록 설계된 생성 시스템을 다룰 때 치명적인 결함입니다.

2.2 사후 필터링의 취약성

대부분의 엔터프라이즈 AI 솔루션은 사후 필터로 기능하는 "가드레일"에 의존합니다. 이러한 시스템은 사용자 프롬프트(입력 필터링) 또는 모델 응답(출력 필터링)을 가로채 금지 용어 목록, 정규표현식(Regex), 또는 보조 분류 모델(예: OpenAI의 Moderation Endpoint)과 대조합니다. ¹⁵

표 2: 고위험 도메인에서 사후 필터링의 한계

한계 유형	설명	바이오 보안에서의 결과
맥락 맹목	필터는 특정 키워드(예: "VX", "Sarin", "Bomb")를 찾습니다.	통용명이 없는 신규 화합물이나 전구체를 차단하지 못합니다

Col1	Col2	(예: "Compound X-293").
SMILES 난독화	독성은 이름이 아니라 구조에 인코딩됩니다.	필터는 단어 "Sarin"을 차단하지만 SMILES 문자열 O=P(C)(F)O, 는 통과시키며, 모델은 이를 사린으로 이해합니다.
활성 절벽	사소한 구조 변화가 독성의 거대한 이동을 일으킵니다.	래퍼는 분자가 안전한 약과 99% 유사한 것으로 보고 승인하며, 치사성을 부여하는 단 하나의 원자를 놓칩니다.17
사후 대응적 성격	콘텐츠를 생성한 뒤에 차단합니다.	모델은 이미 연산을 수행했습니다. 실시간 시스템에서 지연은 잠재적 누출이나 부채널 공격을 허용합니다.

"활성 절벽" 문제는 텍스트 기반 래퍼에 특히 치명적입니다. 의약 화학에서 활성 절벽은 구조의 아주 작은 변화가 생물학적 특성의 불균형적으로 큰 변화로 이어질 때 발생합니다. ¹⁸ 유사도 기반 필터를 쓰는 래퍼는 분자가 아스피린이나 안전한 키나제 저해제와 "대체로 비슷해" 보인다는 이유로 승인할 수 있으며, 하이드록실기가 플루오린 원자로 치환되어 독성 프로파일이 근본적으로 바뀌었다는 점을 인식하지 못합니다. 3D 생체활성 다양체가 아니라 의미 토큰 거리로 작동하는 텍스트 기반 모델은 이러한 절벽을 예측하는 데 악명 높게 서툽니다. ¹⁴

2.3 적대적 취약성: "SMILES" 공격

래퍼 접근에 대한 가장 설득력 있는 증거는 "탈옥"—안전 훈련을 우회하도록 설계된 적대적 공격—의 만연입니다. "레드 티밍"이 종종 사회공학(예: "할머니의 네이팜 레시피")에 초점을 맞추는 반면, 바이오 보안의 기술적 위험은 훨씬 더 정교합니다.

SMILES 프롬프팅 공격: 최근 연구는 "SMILES 프롬프팅"으로 알려진 새로운 탈옥 기법을 입증했습니다. 공격자는 금지된 분자의 이름이 아니라 ASCII 문자열 표현(SMILES)을 입력하여 안전 필터를 우회합니다. 자연어로 훈련된 콘텐츠 필터는 화학 구문 안에 숨겨진 독성 의미를 인식하지 못하는 경우가 많습니다.20

●​ 메커니즘: 공격자는 "독"을 요청하는 대신 [O-]S(=O)(=O)[O-].. (황산탈륨, 쥐약)의 합성 지침을 요청합니다.

●​ 결과: LLM은 화학 구문은 인식하지만 "유해 콘텐츠" 키워드 필터는 트리거하지 않아, 순순히 합성 프로토콜을 제공합니다.

●​ 규모: 연구에 따르면 이 방법은 GPT-4와 Claude 3 같은 선도 모델의 안전 메커니즘을 놀라운 성공률로 우회할 수 있으며, 특정 물질에서는 90%를 넘기도 합니다. ¹¹

나아가 ToxicTrap과 같은 자동 공격 프레임워크는 진화 알고리즘을 이용해 독성 분류기가 독성 텍스트를 무해하다고 라벨링하도록 속이는 작은 단어 수준 섭동을 찾습니다. ²² 동의어로 무너지는 안전 시스템은 안전 시스템이 아니라 과속방지턱입니다.

Veriprajna와 같은 엔터프라이즈 컨설팅 펌이 쉽게 위조되는 래퍼 위에 솔루션을 구축하는 것은 부채입니다. 진정한 엔터프라이즈급 보안은 모델이 잠재 공간을 탐색하는 방식의 근본적 재설계를 요구합니다.

3. 독성의 기하: 잠재 위험의 이해

래퍼가 실패하는 이유와 Veriprajna가 성공하는 이유를 이해하려면, 생성 모델이 작동하는 수학적 환경인 잠재 공간 을 이해해야 합니다. 심층 생성 모델(VAE, GAN, 확산 모델)은 데이터를 저장하지 않습니다. 분자 구조와 같은 고차원 데이터를 더 낮은 차원의 압축 표현인 잠재 공간($Z$)으로 사상하는 법을 학습합니다. 이 공간에서 유사한 데이터 포인트는 함께 군집되며, 생성은 이 다양체에서 샘플링하는 행위입니다.

3.1 연속 독성 다양체

"독성 지형"은 이 잠재 공간 안의 한 영역입니다. 나쁜 분자의 이산 목록이 아니라, 치사성을 부여하는 물리화학적 속성으로 정의된 형상—연속 다양체입니다.

●​ 연속 위험: 독성은 이진이 아니라 그래디언트입니다. 치료 약물에서 독성 작용제로의 전환은 잠재 공간에서 매끄러운 궤적일 수 있습니다. 모델은 효과적으로 알려진 분자 사이를 "보간"합니다. 독성 영역을 사이에 둔 두 안전한 분자 사이를 보간하면, 그 경로는 "죽음의 계곡"을 가로지를 수 있습니다. ²³

●​ 다양체 가정: 딥러닝의 핵심 가정은 실세계 데이터가 고차원 공간에 임베드된 저차원 다양체 위에 놓인다는 것입니다. 적대적 공격은 종종 이 다양체 밖 의 영역, 또는 모델 행동이 정의되지 않고 예측 불가능한 분포의 "구멍"을 악용합니다. ²⁵

Collaborations Pharmaceuticals 연구자들이 "스위치를 반전"했을 때, 그들은 본질적으로 이 잠재 공간의 "독성 벡터"를 따라 그래디언트 상승을 수행하라고 모델에 지시했습니다. 공간이 연속이기 때문에, 모델은 안전한 화합물에서 고독성 영역으로 쉽게 미끄러질 수 있었습니다.

3.2 얽힘 문제

이상적으로 생성 모델은 "독성"과 "생체활성"을 잠재 공간의 분리된 직교 축으로 풀어낼 것입니다. 그렇다면 안전은 "독성" 축을 0으로 잠그는 것만큼 간단할 것입니다. 그러나 심층 생물 모델에서 이러한 특징은 깊게 얽혀 있습니다.

약물이 혈뇌장벽을 투과하게 하는 물리화학적 특징(알츠하이머나 파킨슨병 치료에 매우 바람직한 특성)은, 신경작용제가 표적에 도달하여 마비를 일으키게 하는 바로 그 특징인 경우가 많습니다. ¹ 마찬가지로, 높은 결합 친화도—단백질에 단단히 달라붙는 능력—는 약물에는 이롭지만, 그 단백질이 아세틸콜린에스터레이스(VX의 표적)라면 치명적입니다.

이러한 얽힘 때문에, 단순한 "거부" 메커니즘(래퍼의 그것과 같은)은 사실상 모델을 무력화합니다. 독성과 연관된 모든 특징을 차단하면(예: "혈뇌장벽 투과를 모두 차단"), 모델의 치료 효용을 파괴합니다. 과제는 안전 운용 다양체—효능은 보존되지만 독성은 위상적으로 배제된 잠재 공간의 부분집합—를 항해하는 것입니다.

3.3 표현 붕괴와 활성 절벽

표준 "블랙박스" 모델의 핵심 실패 중 하나는 표현 붕괴 입니다. 이는 모델이 두 개의 서로 다른 분자를 잠재 공간의 동일하거나 거의 동일한 점으로 사상할 때 발생하며, 둘을 구별하는 미묘한 구조 차이를 포착하지 못하기 때문입니다.

●​ 그래프 기반 한계: 많은 분자 모델이 그래프 신경망(GNN)을 사용합니다. 강력하지만, 메시지 전달 깊이가 부족하면 GNN은 입체이성질체나 사소한 원자 치환을 구별하지 못할 수 있습니다. 이는 독소와 안전한 약이 동일한 잠재 임베딩을 공유하는 표현 붕괴로 이어집니다. ¹⁷

●​ 결과: 모델이 내부 기하에서 "안전" 점과 "독성" 점을 구별하지 못한다면, 어떤 외부 필터링도 구하지 못합니다. 모델은 둘이 같다고 믿습니다.

●​ 이미지 기반 해법: MaskMol 프레임워크와 같은 신흥 연구는 이미지 기반 표현(분자 이미지로부터 학습)이나 다중모달 접근이 이러한 미묘한 차이를 더 잘 포착하여, 잠재 지형의 "절벽"을 보존할 수 있음을 시사합니다. ¹⁷

Veriprajna의 접근은 위상 인식 생성 모델 을 활용하여 기능적 위상(활성)을 사상하며, 단지 구조적 위상(구문)만이 아닙니다. 이로써 활성 절벽이 안전 생성 과정에서 "경성 경계"로 존중되어, 모델이 절벽을 넘어 독성으로 미끄러지는 것을 방지합니다. ²⁶

4. Veriprajna의 방법론: 잠재 공간 거버넌스

Veriprajna는 "래퍼" 패러다임을 넘어 잠재 공간 거버넌스 를 구현함으로써 차별화됩니다. 이는 데이터가 디코딩되기 전에 생성 과정에 개입하여, 독성 콘텐츠 생성을 "걸러내는" 것이 아니라 수학적으로 불가능하게(또는 통계적으로 무시할 수 있게) 만드는 구조적 제약을 적용합니다.

4.1 구조적 제약: 수학적 방패

사후 필터링은 반응적입니다. 모델이 후보를 생성하고 판정자가 거부합니다. 제약 생성은 선제적입니다. 모델이 불안전한 후보를 고려하지 못하게 합니다.

표 3: 안전 패러다임 비교

특징	사후 필터링 (래퍼)	구조적/잠재 제약 (Veriprajna)
메커니즘	생성 $\rightarrow$ 검토 $\rightarrow$ 수락/거부	잠재 샘플링 제약 $\rightarrow$ 생성
통제 지점	출력 (텍스트/픽셀/SMILES)	잠재 벡터 ($z$) / 다양체 기하
연산 비용	높음 (거부된 출력에 대한 낭비 생성 사이클)	낮음 (샘플링/추론 중에 제약 적용)
강건성	낮음 (탈옥/난독화에 취약)	높음 (제약이 수학에 내재)
신규성 처리	실패 (모르는 것을 필터링할 수 없음)	성공 (속성 다양체에 기반해 제약)
컴플라이언스	거부 감사 추적 (잡음 많음)	유계 행동의 수학적 증명

4.2 잠재 제약의 사후 학습

Veriprajna는 사전 훈련된 무조건 모델에 사후적으로 제약을 학습하는 기법을 사용합니다. 이는 대규모 파운데이션 모델을 재훈련하는 막대한 비용을 피하면서 강건한 통제를 보장합니다.

워크플로:

1.​ 비지도 사전 훈련: 우리는 강력한 무조건 생성 모델로 시작합니다 (VAE 또는 GAN)이며, 유효한 화학 구조의 분포($p(x)$)를 학습합니다. 이 모델은 "분자를 어떻게 만들지"는 배우지만 "어떤 분자를 만들지"는 배우지 않습니다. ²³

2.​ 제약 함수 훈련: 별도의 "가치 함수"($v(z)$) 또는 "제약 함수"($c(z)$)를 훈련하며, 이는 잠재 공간에서 직접 작동합니다. 이 함수는 잠재 벡터를 $z$ 안전 점수로 사상합니다.

○​ 이 함수는 라벨링된 데이터(독성 vs. 안전)로 훈련되어 고독성에 해당하는 잠재 공간의 "영역"을 식별합니다.

○​ 핵심적으로, 이 영역을 최적화 한 MegaSyn 실험과 달리, 우리는 이 영역을 금지 구역 (또는 음의 다양체)으로 정의합니다.

3.​ 제약 샘플링 (그래디언트 스티어링): 생성 단계에서 우리는 랑주뱅 동역학과 같은 그래디언트 기반 최적화를 사용해 샘플링 분포를 이동합니다.

○​ 샘플링된 벡터가 $z$ 독성 영역에 들어가거나 그 근처에 있으면, 제약 함수의 그래디언트가 $\nabla c(z)$ 분자가 디코딩되기 전에 벡터를 안전 다양체로 되돌립니다.

○​ 이는 절벽 가장자리에서 생성을 "스티어링"하는 것과 수학적으로 유사합니다. 모델은 독성 분자를 "상상"하지만, 안전한 유사체로 해소하도록 강제됩니다. ²³

4.3 위상 데이터 분석(TDA)과 다양체 방어

훈련 분포 밖에 놓인 신규 독소의 위험 (분포 외 또는 OOD)을 다루기 위해, Veriprajna는 위상 데이터 분석(TDA)을 활용합니다.

●​ 지속성 다이어그램: 우리는 "안전" 훈련 데이터의 지속성 다이어그램을 계산합니다. 이 수학적 기법은 데이터 구름의 형상(구멍, 루프, 공극)을 여러 척도에서 분석합니다. "안전"이 어떤 모습인지에 대한 위상적 지문을 제공합니다. ²⁶

●​ 다양체 거리: 모델이 벡터를 $z$제안하면, 다양체 구동 분해를 사용해 안전 데이터 다양체 로부터의 거리를 계산합니다.

●​ 공극 탐지: 벡터가 다양체에서 너무 멀리—잠재 공간의 "공극"에 떠 있으면—특정 독성 예측기가 불확실하더라도 고위험으로 표시됩니다. 적대적 공격은 종종 이러한 저밀도 영역(모델 지식의 "구멍")에 독소를 숨기려 합니다. TDA는 확률이 아니라 기하에 기반해 이러한 이상을 탐지하고 거부하게 합니다. ²⁵

4.4 적응형

인센티브를 갖춘 제약 강화학습(CRL)

최적화(예: 약물 효력 최대화)가 필요한 모델에는, 단순 보상 최대화가 아니라 제약 강화학습(CRL)을 활용합니다.

●​ 표준 RL: 보상 $R$을 최대화. (위험: "스위치 반전" 시나리오에서 $R$ 가 독성이 됨).

●​ Veriprajna의 CRL: 보상 $R$ 을 최대화하되 비용 $C < Limit$제약 하에서.

●​ 적응형 인센티브 메커니즘: 전통적 제약 RL은 불안정하여 제약 경계 주위를 진동할 수 있습니다. Veriprajna는 적응형 인센티브 메커니즘 을 구현하여, 에이전트가 경계를 넘지 않는 것만이 아니라 그 안에 충분히 깊이 머무를 때 보상합니다.

○​ 잠재 공간에 "완충 구역"을 도입합니다. 모델이 독성 제약에 접근하면, 증가하는 페널티(장벽 함수)가 이를 밀어내어 안전한 해로의 매끄럽고 안정적인 수렴을 보장합니다. ²⁹

5. 기술 심층 분석: "MegaSyn" 취약점 대응

생성 화학을 진정으로 안전하게 하려면, MegaSyn 실험이 드러낸 구체적인 아키텍처 취약점을 해부하고 우리가 제안하는 구조적 가드레일로 대응해야 합니다.

5.1 MegaSyn의 해체

Nature Machine Intelligence 논문에서 언급된 MegaSyn 모델은 특정 앙상블 접근을 ⁵ 사용합니다.

●​ 핵심 생성기: LSTM 기반 순환신경망(RNN).

●​ 입력 표현: 문자로 토큰화된 SMILES 문자열(예: "C", "N", "=", "1").

●​ 훈련 방법: "교사 강제(Teacher Forcing)." 수렴을 앞당기기 위해 훈련 중 모델에 올바른 이전 토큰을 공급합니다.

●​ 프라이밍: 모델은 RECAP 규칙을 사용해 표적 분자의 특정 부분 구조로 미세 조정하여 "프라이밍된 모델"을 만듭니다.

●​ 최적화 취약점: "언덕 오르기" 알고리즘은 탐욕적 최적화 방법입니다. 점수 함수가 Score = Toxicity로 뒤집혔을 때, 모델은 신경작용제의 "구문"이 (인-산소 결합, 특정 알킬 측쇄) 화학적으로 유효하고 훈련 데이터(ChEMBL)에 존재했기 때문에—"무기"로 라벨링되지 않았더라도—최대 치사성을 향해 효율적으로 그래디언트를 올랐습니다.

5.2 "반전"의 방지: Veriprajna 프로토콜

Veriprajna의 잠재 공간 거버넌스는 MegaSyn 스타일의 반전을 어떻게 막을까요?

1.​ 하드코딩된 제약: 사용자가 간단히 뒤집을 수 있는 가변 보상 함수($-1$ 에서 $+1$로) 대신, Veriprajna는 독성 제약을 샘플링 사후분포 에 임베드합니다. 제약은 Python 스크립트의 숫자가 아니라, 추론 엔진의 경계 조건입니다. 이를 "뒤집으려면" 설정 파일을 바꾸는 것이 아니라 소프트웨어를 근본적으로 재설계해야 합니다.

2.​ 다양체 제한: "CWA 다양체"(화학전 작용제 공간)는 TDA로 매핑됩니다. 이 영역은 "널 공간"으로 지정됩니다. 잠재 벡터를 이 공간으로 옮기려는 어떤 그래디언트 업데이트도 영점화되거나 반전됩니다.

3.​ 활성 절벽 탐지: 우리 모델은 MaskMol과 같은 이미지 기반 표현을 그래프 표현과 함께 사용하여, 단순 기술자 기반 모델이 놓칠 수 있는 신경작용제의 미묘한 구조 모티프 (예: 사린/소만의 P-F 결합)를 탐지합니다. 이러한 모티프는 언덕 오르기 보상을 덮어쓰는 "절벽 페널티"를 트리거합니다. ¹⁷

6. 규제 지형과 컴플라이언스

"래퍼"에서 "구조적 가드레일"로의 전환은 단순한 기술 업그레이드가 아니라, 급속히 강화되는 규제 환경이 추동하는 전략적 필연입니다. 정부와 국제기구는 "자발적 지침"에서 설명 가능성, 통제, 입증된 안전을 요구하는 엄격한 컴플라이언스 프레임워크로 이동하고 있습니다.

6.1 백악관 행정명령과 제네시스 미션

안전하고 신뢰할 수 있는 인공지능의 개발과 이용에 관한 행정명령 (2023년 10월)과 후속 "제네시스 미션"(2025년 11월)은 연방 AI 정책의 지각 변동을 나타냅니다. ¹⁰

●​ 명령: 행정명령은 AI가 CBRN (화학·생물·방사능·핵) 무기 개발의 장벽을 낮추는 위험을 1급 국가 안보 위협으로 명시적으로 식별합니다.

●​ 제네시스 미션: 이 새로운 이니셔티브는 에너지부(DOE)에 과학 발견을 위한 통합 AI 플랫폼 구축을 지시합니다. 핵심적으로, "적절한 위험 기반 사이버보안 조치"와 AI 지시 실험을 위한 보안 환경을 의무화합니다. ³²

●​ 컴플라이언스 격차: 표준 LLM 래퍼는 생물 위협의 생성 을 방지함을 입증할 수 없습니다. 단지 시도 하여 필터링함을 보일 뿐입니다. 이 "최선의 노력" 접근은 연방 계약이나 제네시스 플랫폼 통합에 요구되는 "안전하고 신뢰할 수 있는" 기준을 충족하지 못할 가능성이 큽니다.

●​ Veriprajna의 이점: 우리의 구조적 제약은 불가능성의 증명 을 (통계적 한계 내에서) 제공합니다. 우리는 규제 당국에 "CBRN 다양체"가 우리 모델에 접근 불가능함을 입증할 수 있으며, 행정명령의 엄격한 안전 시험 및 "레드 티밍" 요구와 완벽하게 정렬됩니다. ³³

6.2 NIST AI 위험 관리 프레임워크 (AI RMF 1.0)

NIST AI RMF는 미국 민간 AI 거버넌스의 골드 표준입니다. 네 가지 기능을 강조합니다. Map, Measure, Manage, and Govern . ³⁴

●​ 생성형 AI 프로파일 (NIST.AI.600-1): 이 특정 프로파일은 "CBRN 정보"를 GenAI가 악화시키는 고유 위험으로 식별합니다. ³⁶ 경고하기를, "화학 및 생물 설계 도구(BDT)"가 훈련 데이터에 없는 신규 구조를 예측할 수 있다고 합니다.

●​ Veriprajna 정렬:

○​ 측정: 위상 데이터 분석(TDA)의 활용은 생성된 출력이 알려진 안전 데이터로부터 얼마나 "멀리" 있는지를 측정하는 인식론적 불확실성 의 정량적 지표를 제공합니다. 이는 시스템 신뢰성에 대한 엄격한 측정을 요구하는 NIST 요건을 충족합니다.

○​ 관리: 잠재 제약은 정책 기반 시도보다 우월한 기술적 위험 관리 메커니즘을 제공합니다. 우리는 "문서로서의 정책"에서 "코드로서의 정책"(더 정확히는 "기하로서의 정책")으로 이동합니다.

6.3 ISO/IEC 42001:2023

ISO 42001은 AI를 위한 세계 최초의 국제 경영시스템 표준으로, AI 거버넌스의 인증 가능한 프레임워크를 제공합니다. ³⁸

●​ 핵심 요건: 표준은 "안전하고 윤리적 사용"과 적대적 공격에 대한 "강건성과 회복탄력성"을 의무화합니다. 조직이 AI 영향 평가를 수행하고 식별된 위험을 완화하는 통제를 구현할 것을 요구합니다.

●​ 적대적 강건성: ISO 42001은 모델 행동을 조작하도록 설계된 입력(SMILES 프롬프팅 등)에 대한 방어 필요를 구체적으로 강조합니다. Veriprajna의 다양체 방어 는 유효 데이터 다양체 밖의 잠재 벡터를 초래하는 입력을 거부하여, 분포 외 프롬프트에 의존하는 "탈옥" 시도를 무력화함으로써 이를 명시적으로 다룹니다. ⁴⁰

●​ 인증: Veriprajna의 구조화된 접근은 명확한 감사 추적을 가능하게 합니다. 우리는 출력뿐 아니라 생성 과정에서 모델이 시도한 제약 위반 을 로깅하여, 감사자에게 시스템 안전 성능에 대한 세분 데이터를 제공합니다. ⁴¹

7. 구현 전략: "딥 솔루션" 프로토콜

Veriprajna는 챗봇 벤더가 아니라, 안전한 도메인 특화 AI 인프라의 아키텍트로 자리합니다. 고객을 위한 구현 전략은 위험한 래퍼를 거버넌스된 발견 엔진으로 전환하도록 설계된 4단계 "딥 솔루션" 프로토콜을 따릅니다.

1단계: 다양체 매핑과 위상 감사

어떤 생성 모델을 배포하기 전에, 고객의 독점 데이터와 관련 공개 데이터(예: ChEMBL, Tox21)에 대한 위상 감사를 수행합니다.

●​ 목표: "안전 운용 다양체"를 정의합니다.

●​ 기법: 지속 호몰로지를 사용해 안전 대 독성 영역의 위상 특징(루프, 공극)을 식별합니다.

●​ 산출물: 잠재 공간 경계를 시각화하고 모델이 환각하거나 공격받을 수 있는 "구멍"을 식별하는 "안전 위상 지도"입니다.

2단계: 잠재 제약 훈련 ("크리틱")

우리는 기반 모델을 단순히 미세 조정하지 않습니다(파국적 망각의 위험이 있습니다). 대신 제약 크리틱 이라 불리는 경량 보조 네트워크를 훈련합니다.

●​ 기법: 잠재 임베딩에서 위험 점수를 예측하는 가치 함수($v(z)$)의 사후 학습. 잠재 임베딩에서. ²³

●​ 아키텍처: 이러한 크리틱은 생성기와 분리되어 있습니다. 이는 핵심적인 아키텍처 이점입니다. 새로운 위협이 식별되면(예: 새로운 부류의 화학 무기), 대규모 파운데이션 모델을 재훈련하지 않고 크리틱을 갱신할 수 있어 민첩성과 최신 보안을 보장합니다.

3단계: 제약 샘플링과 스티어링 통합

제약 크리틱을 고객의 추론 파이프라인에 직접 통합합니다.

●​ 메커니즘: 생성 중에 랑주뱅 동역학 또는 그래디언트 스티어링 을 사용합니다.

●​ 과정: 모델이 분자를 생성하기 위해 잠재 공간을 샘플링할 때, 크리틱은 독성 표면의 그래디언트를 계산합니다. 궤적이 독성 영역을 향하면, 스티어링 메커니즘이 반대 그래디언트를 적용하여 궤적을 안전 다양체로 "밀어" 되돌립니다.

●​ 결과: 모델은 사실상 독성 분자를 "생각"하지만, 어떤 출력도 생성되기 전에 그 생각을 안전한 유사체로 "해소"하도록 수학적으로 강제됩니다.

4단계: 분자 레드 티밍과 ISO 인증 지원

배포된 시스템을 "분자 레드 티밍"에 회부합니다.

●​ 방법: ToxicTrap 및 맞춤 SMILES 프롬프팅 봇과 같은 자동 적대 에이전트를 사용해 모델을 극단 사례 입력으로 폭격하여, 활성 절벽을 넘도록 강제하려 합니다. ²¹

●​ 검증: 제약 위반의 통계적 확률에 기반한 안전 인증서 를 제공합니다 (예: "독성 생성 확률 < $10^{-6}$"). ISO 42001 인증의 증거 기반을 제공합니다.

8. 결론: 안전한 혁신의 미래

Collaborations Pharmaceuticals의 "스위치 반전" 실험은 이상이 아니었습니다. 그것은 AI에서 제약 없는 최적화의 근본적 변동성에 대한 실증이었습니다. 엔터프라이즈 AI 배포 경쟁에서, 많은 조직은 모래 위에 성을 쌓고 있습니다—적대적 압력이나 신규 맥락 앞에서 무너지는 취약한 래퍼에 의존합니다.

제약 산업, 그리고 고위험의 물리적 또는 금융 현실을 다루는 모든 부문에서, "래퍼" 시대는 끝나야 합니다. 안전은 출력에 붙여 넣을 수 없습니다. 모델 자체의 기하에 구워 넣어야 합니다.

Veriprajna는 유일하게 실행 가능한 전방 경로를 제시합니다. 딥 AI 솔루션 . 잠재 공간을 숙달함으로써, 우리는 어둠을 걸러내는 데 그치지 않고 모델의 수학적 우주를 재구성하여 발견의 빛만이 갈 수 있는 길이 되게 합니다. 우리는 엔터프라이즈 혁신이 파국적 이중용도 실패의 위험 없이 가속할 수 있게 하는 가드레일을 제공합니다.

이것은 단지 안전한 AI가 아닙니다. 이것은 구조적으로 보증된 지능 입니다.

부록 A: 잠재 제약의 수학적 정식화

"잠재 공간 거버넌스"의 엄밀한 기반을 제공하기 위해, 생성 과정에 적용되는 제약의 수학적 정식화를 상술합니다.

A.1 제약 최적화 문제

우리는 생성 과정을 단순 샘플링 $z \sim p(z)$이 아니라, 제약 최적화 문제로 정식화합니다. 다음을 $G(z)$ 잠재 벡터를 $z$ 데이터 공간으로 사상하는 생성기라 하고 $X$. 다음을 $C(x)$ 비용 함수(예: 독성 예측기)라 합니다. 우리는 $z$ 다음을 만족하도록 샘플링하고자 합니다.

$$\min_z \mathcal{L}_{gen}(z) \quad \text{s.t.} \quad C(G(z)) < \epsilon$$

여기서 $\epsilon$ 는 안전 임계값입니다.

A.2 사후 가치 함수

평가가 $C(G(z))$ (분자를 생성하고 예측기를 실행하는 것이) 비용이 크고 미분 불가능하므로, 우리는 잠재 가치 함수를 학습하여 $V(z)$ 비용을 잠재 공간에서 직접 근사합니다.

$$V(z) \approx C(G(z))$$

이 함수는 생성된 샘플 $\{(z_i, y_i)\}$데이터셋에서 평균제곱오차를 최소화하도록 훈련되며, 여기서 $y_i$ 는 정답 독성입니다.

A.3 그래디언트 스티어링 (랑주뱅 동역학)

추론 중에, 우리는 초기값을 $z_0$ 사전분포에서 $p(z)$샘플링합니다. 그런 다음 가치 함수의 그래디언트를 사용해 $z$ 안전 영역으로 이동하도록 반복적으로 갱신합니다.

$$z_{t+1} = z_t - \alpha \nabla_z V(z_t) + \sqrt{2\alpha} \xi_t$$

여기서:

●​ $\alpha$ 는 스텝 크기(학습률)입니다.

●​ $\nabla_z V(z_t)$ 는 독성 가치 함수의 그래디언트입니다 (독성에서 멀어지도록 스티어링).

●​ $\xi_t \sim \mathcal{N}(0, I)$ 는 다양성을 유지하기 위해 추가되는 가우시안 잡음입니다 (랑주뱅 잡음). ²³

이 과정은 최종 샘플이 $z$ 안전 다양체 안에 놓이게 하며, 조건은 $V(z) < \epsilon$ 전에 생성기가 $G(z)$ 최종 분자를 산출하도록 호출됩니다.

부록 B: 규제 프레임워크의 상세 분석

B.1 NIST AI RMF 1.0 및 GenAI 프로파일

관련 조항: NIST.AI.600-1 (생성형 AI 프로파일)

●​ 위험 2.1: CBRN 정보 또는 능력. "진입 장벽 하락... 실질적으로 악의적인 정보에 대한 접근... 설계 도구(BDT)가 신규 구조를 예측할 수 있음."

●​ Veriprajna 조치: 우리는 TDA를 통해 "신규 구조" 위험을 명시적으로 다룹니다. 안전을 위상적으로 정의함으로써, 신규 구조에서 실패하는 "알려진 악"의 목록에 의존하지 않고 "알려진 선의 형상"에 의존합니다.

B.2 ISO/IEC 42001:2023

관련 조항: A.9.2 (AI 시스템 안전)

●​ 요건: "조직은 AI 시스템이 안전하게 작동하도록 통제를 구현해야 하며... 폴백 계획의 필요를 고려해야 한다."

●​ Veriprajna 조치: 우리의 적응형 인센티브 메커니즘 은 폴백으로 기능합니다. 1차 그래디언트 스티어링이 실패하면(예: 그래디언트가 소멸), 시스템은 원시 샘플을 출력하는 대신 잠재 공간의 안전한 "센트로이드"로 기본 설정됩니다.

관련 조항: A.10.3 (적대적 공격)

●​ 요건: "조직은 적대적 공격에 대한 취약성을... 평가해야 한다."

●​ Veriprajna 조치: 우리는 표준 산출물로 "레드 티밍 보고서"를 제공하여, ToxicTrap 및 SMILES 프롬프팅 공격에 대한 시스템의 저항을 정량화합니다. ²¹

참고문헌

1. AI Can Create Deadly Weapons? Scientists Sound Alarm! | WION Podcast YouTube, 2025년 12월 11일 접속, https://www.youtube.com/watch?v=oedheh87lnI

2. Artificial intelligence finds 40,000 toxic molecules - Digitec, 2025년 12월 11일 접속, https://www.digitec.ch/en/page/artificial-intelligence-finds-40000-toxic-molecules-23192

3. Artificial intelligence could be repurposed to create new biochemical weapons | King's College London, 2025년 12월 11일 접속, https://www.kcl.ac.uk/news/artificial-intelligence-could-be-repurposed-to-create-new-biochemical-weapons

4. Meet the harmful side of AI, as lethal as chemical weapons - IndiaAI, 2025년 12월 11일 접속, https://indiaai.gov.in/article/meet-the-harmful-side-of-ai-as-lethal-as-chemical-weapons

5. (PDF) MegaSyn: Integrating Generative Molecular Design ..., 2025년 12월 11일 접속, https://www.researchgate.net/publication/360904282_MegaSyn_Integrating_Generative_Molecular_Design_Automated_Analog_Designer_and_Synthetic_Viability_Prediction

6. MegaSyn: Integrating Generative Molecular Design, Automated Analog Designer, and Synthetic Viability Prediction | ACS Omega - ACS Publications, 2025년 12월 11일 접속, https://pubs.acs.org/doi/10.1021/acsomega.2c01404

7. Well, I never: AI is very proficient at designing nerve agents | John Naughton | The Guardian, 2025년 12월 11일 접속, https://www.theguardian.com/commentisfree/2023/feb/11/ai-drug-discover-nerve-agents-machine-learning-halicin

8. MegaSyn: Integrating Generative Molecular Design, Automated Analog Designer, and Synthetic Viability Prediction - PMC - PubMed Central, 2025년 12월 11일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC9178760/

9. Dual Use of Artificial Intelligence-powered Drug Discovery - PMC - NIH, 2025년 12월 11일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC9544280/

10. Chemical & Biological Weapons and Artificial Intelligence: Problem Analysis and US Policy Recommendations, 2025년 12월 11일 접속, https://futureoflife.org/document/chemical-biological-weapons-and-artificial-intelligence-problem-analysis-and-us-policy-recommendations/

11. Involuntary Jailbreak - arXiv, 2025년 12월 11일 접속, https://arxiv.org/html/2508.13246v1

12. Mitigating Risks at the Intersection of Artificial Intelligence and Chemical and Biological Weapons | RAND, 2025년 12월 11일 접속, https://www.rand.org/pubs/research_reports/RRA2990-1.html

13. LLMs in Research: the Good, the Bad, and the Future | Enable Medicine, 2025년 12월 11일 접속, https://www.enablemedicine.com/blog/llms-in-research-the-good-the-bad-and-the-future

14. Are large language models right for scientific research? - CAS.org, 2025년 12월 11일 접속, https://www.cas.org/resources/cas-insights/are-large-language-models-right-scientific-research

15. How do you implement LLM guardrails to prevent toxic outputs? - Zilliz Vector Database, 2025년 12월 11일 접속, https://zilliz.com/ai-faq/how-do-you-implement-llm-guardrails-to-prevent-toxic-outputs

16. How do you implement LLM guardrails to prevent toxic outputs? - Milvus, 2025년 12월 11일 접속, https://milvus.io/ai-quick-reference/how-do-you-implement-llm-guardrails-to-prevent-toxic-outputs

17. MaskMol: knowledge-guided molecular image pre-training framework for activity cliffs with pixel masking - NIH, 2025년 12월 11일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC12462177/

18. Recent Progress in Understanding Activity Cliffs and Their Utility in Medicinal Chemistry, 2025년 12월 11일 접속, https://www.researchgate.net/publication/256187970_Recent_Progress_in_Understanding_Activity_Clifs_and_Their_Utility_in_Medicinal_Chemistry f

19. DeepAC – conditional transformer-based chemical language model for the prediction of activity cliffs formed by bioactive compounds - RSC Publishing, 2025년 12월 11일 접속, https://pubs.rsc.org/en/content/articlehtml/2022/dd/d2dd00077f

20. Breaking the Rules with Chemistry: Understanding SMILES-Prompting LLM Jailbreak Attack, 2025년 12월 11일 접속, https://www.keysight.com/blogs/en/tech/nwvs/2025/06/12/smiles-prompting-jailbreak-attack

21. SMILES-Prompting: A Novel Approach to LLM Jailbreak Attacks in Chemical Synthesis, 2025년 12월 11일 접속, https://arxiv.org/html/2410.15641v1

22. Towards Building a Robust Toxicity Predictor - arXiv, 2025년 12월 11일 접속, https://arxiv.org/html/2404.08690v1

23. LATENT CONSTRAINTS: LEARNING TO GENERATE CONDITIONALLY FROM UNCONDITIONAL GENERATIVE MODELS - IA, 2025년 12월 11일 접속, https://webia.lip6.fr/~briot/cours/unirio3/Projects/Papers/Latent%20Constraints%20Learning%20to%20Generate%20Conditionally%20from%20Unconditional%20Generative%20Models.pdf

24. Latent Constraints: Learning to Generate Conditionally from Unconditional Generative Models - Google Research, 2025년 12월 11일 접속, https://research.google/pubs/latent-constraints-learning-to-generate-conditionally-from-unconditional-generative-models/

25. Manifold-driven decomposition for adversarial robustness - NSF Public Access Repository, 2025년 12월 11일 접속, https://par.nsf.gov/biblio/10568356-manifold-driven-decomposition-adversarial-robustness

26. On the Need for Topology-Aware Generative Models for Manifold-Based Defenses - Liner, 2025년 12월 11일 접속, https://liner.com/review/on-the-need-for-topologyaware-generative-models-for-manifoldbased-defenses

27. Activity cliff-aware reinforcement learning for de novo drug design - PMC PubMed Central, 2025년 12월 11일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC12013064/

28. [1711.05772] Latent Constraints: Learning to Generate Conditionally from Unconditional Generative Models - arXiv, 2025년 12월 11일 접속, https://arxiv.org/abs/1711.05772

29. Incentivizing Safer Actions in Policy Optimization for Constrained Reinforcement Learning, 2025년 12월 11일 접속, https://arxiv.org/html/2509.09208v1

30. Incentivizing Safer Actions in Policy Optimization for Constrained Reinforcement Learning - IJCAI, 2025년 12월 11일 접속, https://www.ijcai.org/proceedings/2025/0592.pdf

31. Fact Sheet: President Donald J. Trump Unveils the Genesis Mission to Accelerate AI for Scientific Discovery - The White House, 2025년 12월 11일 접속, https://www.whitehouse.gov/fact-sheets/2025/11/fact-sheet-president-donald-j-trump-unveils-the-genesis-missionto-accelerate-ai-for-scientific-discovery/

32. Launching the Genesis Mission - The White House, 2025년 12월 11일 접속, https://www.whitehouse.gov/presidential-actions/2025/11/launching-the-genesis-mission/

33. White House Launches 'Genesis Mission' to Accelerate AI-Enabled Scientific Discovery, 2025년 12월 11일 접속, https://www.morganlewis.com/pubs/2025/12/white-house-launches-genesis-mission-to-accelerate-ai-enabled-scientific-discovery

34. NIST AI RMF - ModelOp, 2025년 12월 11일 접속, https://www.modelop.com/ai-governance/ai-regulations-standards/nist-ai-rmf

35. Navigating the NIST AI Risk Management Framework - Hyperproof, 2025년 12월 11일 접속, https://hyperproof.io/navigating-the-nist-ai-risk-management-framework/

36. NIST AI 6001, Artificial Intelligence Risk Management Framework - Johns Hopkins Center for Health Security, 2025년 12월 11일 접속, https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf

37. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile - NIST Technical Series Publications, 2025년 12월 11일 접속, https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf

38. Understanding ISO 42001 and Demonstrating Compliance - ISMS.online, 2025년 12월 11일 접속, https://www.isms.online/iso-42001/

39. ISO/IEC 42001 Certification: AI Management System - DNV, 2025년 12월 11일 접속, https://www.dnv.com/services/iso-iec-42001-artificial-intelligence-ai--250876/

40. ISO 42001 - Promptfoo, 2025년 12월 11일 접속, https://www.promptoo.dev/docs/red-team/iso-42001/ f

41. ISO 42001: paving the way for ethical AI | EY - US, 2025년 12월 11일 접속, https://www.ey.com/en_us/insights/ai/iso-42001-paving-the-way-for-ethical-ai