합성 워크스루 | AI 책임 통제

$480k 은퇴 자금에 대한 질문. 모델은 자신의 답변을 스스로 승인할 수 없었습니다.

스크립트된 요청은 $480k의 은퇴 자금 전액을 단일 암호화폐 토큰으로 이전해야 하는지 묻습니다. ForenChain은 결정론적 정책 게이트를 통해 구체적인 권고를 보류하고, 일반적인 정보만을 릴리스하며, 그 사유를 기록합니다.

의사결정 과정 따라가기 증거 검토하기

설명이 포함된 워크스루를 시청하세요. 표시된 모든 요청과 기록은 합성 데이터입니다.

28/28

예상 조치 일치

고정 합성 라벨 세트

18/18

커버리지 내 고위험 사례 변환 또는 차단

동일한 고정 합성 세트

2/2

커버리지 외 사례 인적 검토로 라우팅

동일한 고정 합성 세트

이는 로컬 규칙 세트 회귀 결과이며, 실제 환경에서의 정확도나 배포 성능, 또는 법적 결론을 의미하지 않습니다.

검토의 문제점

답변이 나간 후에야 질문이 제기됩니다

고객 대면 AI 응답은 전송된 후 오랜 시간이 지난 뒤에 문제가 제기될 수 있습니다. 출력 전용 로그는 텍스트만 보여줄 뿐, 어떤 통제가 요청을 평가했는지, 릴리스가 허용된 이유가 무엇인지, 또는 보관된 의사결정 기록이 변경되었는지는 보여주지 못합니다.

ForenChain은 자문형 분류와 승인을 분리하고, 정책 결정을 응답과 함께 보존하며, 로컬 증거 기록의 한계를 투명하게 공개합니다.

자문과 릴리스 사이의 정책 게이트

합성 은퇴 자금 요청을 통해 이 경계가 명확히 드러납니다.

분류

자문형 신호

분류기는 의도, 위험 등급, 신뢰도를 제안합니다. 원시 입력 검사는 로드된 대표 정책 팩에 따라 독립적으로 명시적 신호를 탐색합니다.

승인

결정론적 조치

금융 가이드라인 팩 반환 결과: TRANSFORM. 코드는 구체적인 배분 권고를 보류하고 일반적인 정보로 대체합니다. 분류기 단독으로는 릴리스를 승인할 수 없습니다.

기록

검증 가능한 결정

조치와 정책은 로컬 SQLite 원장에 추가됩니다. 각 SHA-256 레코드 해시는 이전 해시와 표준 레코드 필드를 결합합니다.

하나의 합성 시나리오 · 두 개의 의사결정 레코드

릴리스 과정을 살펴본 후, 원장을 테스트합니다.

처음 두 프레임은 로컬 합성 decision #7과 해당 증거 서랍을 보여줍니다. 세 번째 프레임은 동일한 스크립트 은퇴 자금 요청에 대해 별도로 시드된 record #3을 테스트합니다. 이는 decision #7을 변경하지 않습니다.

01 / 릴리스

구체적인 자문은 외부로 전달되지 않습니다

금융 정책 팩 반환 결과: TRANSFORM. 코드는 응답이 릴리스되기 전에 일반 정보와 면책 조항으로 대체합니다.

추적을 통해 분류, 정책, 승인 및 확정 내역을 확인할 수 있습니다.

응답 및 추적 내용을 확인하려면 전체 크기 프레임 열기

02 / 증거

승인 내역을 검토할 수 있습니다

의사결정 서랍은 스크립트된 요청을 변환된 조치 및 적용된 통제와 연결합니다. 이는 법적 판단이 아닌 검토를 위한 기술적 사실을 제공합니다.

사후 검토자는 릴리스된 텍스트를 생성한 경로를 조사할 수 있습니다.

의사결정 세부 정보를 검토하려면 전체 크기 프레임 열기

03 / 위변조 확인

기존 조치가 변경되었습니다

시뮬레이션된 편집으로 시드 record #3을 기존 TRANSFORM 에서 ALLOW 로 해시 재계산 없이 변경합니다. 로컬 검증기는 손상된 첫 번째 링크를 가리킵니다.

이를 통해 표시된 로컬 편집을 감지할 수 있습니다. 독립적인 증거 보관(custody)은 별도의 작업입니다.

손상된 링크 표시기를 확인하려면 전체 크기 프레임 열기

네 가지 릴리스 경로, 단 하나의 권한 경계

표시된 합성 요청에 대해 자문형 분류기가 아닌 구성된 게이트가 이러한 조치 중에서 최종 결정을 내립니다.

조치	시연된 경로
ALLOW	고위험 신호가 없는 일반적인 요청은 릴리스될 수 있습니다.
TRANSFORM	은퇴 자산 배분 요청은 구체적인 권고 대신 일반적인 정보를 수신합니다.
BLOCK	개인 주소 요청은 로드된 개인 데이터 팩에 따라 보류됩니다.
HUMAN_REVIEW	약물 관련 요청은 정책이 로드되지 않은 영역임을 드러내며 에스컬레이션 결정을 기록합니다.

이 데모가 수행하지 않는 작업: 고객 시스템을 대상으로 실행되지 않으며, 독립적인 증거 보관을 확립하지 않고, 법적 결과를 판단하지도 않습니다.

검토 팀이 물어볼 질문들

모델이 요청을 무해하다고 라벨링하면 위험한 답변을 릴리스할 수 있나요?

이 시연에서 분류기는 자문 역할을 할 뿐 릴리스를 승인하지 않습니다. 일반 코드 검사는 로드된 대표 정책 팩에 따라 원시 입력 신호를 검사하며, 결정론적 게이트가 최종 조치를 설정합니다. 이는 표시된 팩에 대한 제한적인 통제이며, 모든 위험한 요청이 감지된다는 보장은 아닙니다.

게이트가 답변을 변환(TRANSFORM)할 때 무엇이 기록되나요?

로컬 원장은 요청, 분류, 일치된 통제, 릴리스 조치 및 응답을 해시 연결된 의사결정 레코드에 저장합니다. 합성 은퇴 자금 사례에서 금융 가이드라인 팩은 TRANSFORM을 반환하고 릴리스된 텍스트에는 구체적인 배분 권고 대신 일반 정보가 포함됩니다. 이 기록은 검토자가 시연된 결정 경로를 재구성하는 데 도움이 됩니다.

해시 체인이 증거가 결코 변경되지 않았음을 입증할 수 있나요?

아닙니다. 로컬 검증기는 시연된 record #3 편집을 감지하고 손상된 첫 번째 링크를 식별합니다. 하지만 독립적인 보관을 확립하거나 데이터베이스 전체의 대체를 방지하지는 못하며, 그 자체로 법적 진정성을 입증하지는 않습니다.

내보낸 증거 패키지를 법적 소송 절차에 바로 사용할 수 있나요?

아닙니다. HTML 내보내기는 의사결정 행, 해시 체인 매니페스트, 합리적 대안 설계(Reasonable Alternative Design) 주장 프레임워크를 갖춘 기술적 증거 비계(scaffold)입니다. 증거 보존, 진정성, 법리 및 증거능력은 법률 자문이 직접 평가해야 하며, 본 데모는 이러한 문제를 판단하지 않습니다.

요청이 로드된 정책 범위를 벗어나면 어떻게 되나요?

이 시연에서는 정책 팩이 로드되지 않은 인식된 주제는 HUMAN_REVIEW로 라우팅됩니다. 합성 약물 사례는 이러한 커버리지 공백을 드러내고 에스컬레이션을 기록합니다. 이는 의료진에게 연락하거나 의학적 조언을 제공하지 않습니다.

28/28이라는 수치가 프로덕션 환경에서도 게이트가 정확하다는 것을 의미하나요?

아닙니다. 로컬 회귀 테스트는 고정된 28개의 라벨링된 합성 사례 중 28개에서 예상된 조치와 일치했습니다. 커버리지 내 18개 고위험 사례는 모두 변환되거나 차단되었으며, 커버리지 외 2개 사례는 인적 검토로 전달되었습니다. 이러한 수치는 고정된 세트에 대한 설명일 뿐, 개방형 환경에서의 탐지율, 배포 성능 또는 법적 규정 준수를 입증하지 않습니다.

기술 연구

본 시연에 대한 더 넓은 맥락을 파악하려면 관련 연구를 살펴보세요.

The Sovereign Risk of Generative Autonomy: Post-Section 230 AI Product Liability (인터랙티브 백서)

전체 솔루션

AI Product Liability Defense 솔루션 알아보기 →

워크플로를 확장하기 전에 릴리스 결정을 먼저 검토하세요

유의미한 논의는 하나의 요청, 하나의 정책, 그리고 검토자가 조사할 수 있는 기록에서 시작됩니다.

시연된 통제 경로를 귀사의 실제 정책 커버리지, 검토 워크플로 및 증거 보관 요건과 비교해 드릴 수 있습니다. 이러한 프로덕션 환경의 과제들은 이 로컬 시연에서는 아직 다루어지지 않은 상태로 남아 있습니다.

통제 검토

✓ 고위험 요청 카테고리 매핑
✓ 누락된 정책 커버리지 식별
✓ 릴리스 및 에스컬레이션 결정 정의
✓ 법률 자문이 필요로 하는 기록 검토

아키텍처 논의

✓ 승인 권한을 모델 외부에 배치
✓ 정책 팩 소유권 범위 정의
✓ 인적 검토 라우팅 계획
✓ 보관 및 보존 통제 명시

WhatsApp으로 연결하기 저희 팀에 이메일 보내기