측정 정밀도에는 이론적 '바닥'이 있다 — Fisher 정보량·크라메르–라오 한계, 그리고 양자계측이 그 바닥을 낮추는 법

2026년 7월 · 불확도·신뢰성 — AI·반도체·광학계측

측정 정밀도에는 이론적 '바닥'이 있다 — Fisher 정보량·크라메르–라오 한계, 그리고 양자계측이 그 바닥을 낮추는 법

불확도를 줄이는 데는 렌즈나 알고리즘의 영리함보다 먼저 정해지는 한계가 있다 — 데이터가 품은 '정보의 양'. 그 바닥을 재는 도구(Fisher 정보량·CRLB)와, 양자계측이 그 바닥을 1/√N에서 1/N로 낮추는 이야기.

오늘의 한 줄 — 측정을 아무리 잘해도, 데이터가 품은 정보의 양이 정밀도의 바닥을 정합니다. Fisher 정보량과 크라메르–라오 한계(CRLB)는 "이 측정으로 도달 가능한 최선의 불확도"를 알려주고, 양자계측은 그 바닥 자체를 1/√N에서 1/N로 낮춥니다 — 자원 N=1000이면 약 32배 이득입니다.

① "이 값을 얼마나 정밀하게 잴 수 있나?" — 한계는 도구가 아니라 정보가 정한다

측정불확도의 표준 지침 GUM은 온도·정렬·잡음 같은 오차원(源)을 하나씩 모델링해 불확도를 쌓아 올립니다(상향식 예산). 그런데 반대 방향의 질문이 하나 남습니다 — "가장 이상적인 분석을 해도 도달할 수 없는 바닥은 어디인가?" 이 바닥을 못 박는 것이 크라메르–라오 한계(CRLB, Cramér–Rao Lower Bound)입니다. 고전 추정이론에서, 편향 없는(unbiased) 어떤 추정기라도 그 분산이 CRLB 아래로는 내려가지 못합니다.

핵심은 그 바닥을 정하는 것이 렌즈 성능이나 알고리즘의 영리함이 아니라, 측정 데이터가 파라미터에 대해 품은 '정보의 양'이라는 점입니다. 우리가 아는 "반복 측정을 N번 하면 평균의 표준편차가 1/√N로 준다"는 익숙한 사실도 이 바닥의 특수한 경우입니다. 광학계측에서도 정밀도의 궁극 한계는 흔히 오해하는 회절한계가 아니라 측정 잡음이며, 그 한계를 수식으로 고정한 것이 바로 CRLB입니다.

📎 Fisher Information & Cramér–Rao Lower Bound for Experimental Design (PMC) · Improving Optical Metrology by Engineering the Target Environment (arXiv 2026)

② Fisher 정보량과 CRLB — 로그가능도의 '뾰족함'이 바닥을 정한다

Fisher 정보량 I(θ)는 직관적으로 로그가능도(log-likelihood) 곡선의 곡률입니다. 관측 데이터가 주어졌을 때, 추정하려는 값 θ를 조금 바꾸면 가능도가 얼마나 급하게 떨어지는가 — 봉우리가 뾰족할수록(곡률 큼) 데이터가 θ에 민감하다는 뜻이고, 그만큼 정보가 많아 불확도의 바닥이 낮아집니다. 봉우리가 완만하면 그 반대입니다. 수식으로 CRLB는 Var(θ̂) ≥ 1/I(θ), 독립 측정 N개면 정보가 더해져 표준편차 ≥ 1/√(N·I₁)가 됩니다.

그림1. (왼쪽) Fisher 정보량 = 로그가능도 봉우리의 뾰족함 · (오른쪽) CRLB는 N을 늘려도 못 뚫는 불확도의 바닥 (본인 작성, 개념 시뮬레이션)

이 틀은 추상이 아니라 분광·현미경의 실제 정밀도 한계를 계산하는 데 그대로 쓰입니다. 비탄성 광산란(라만·브릴루앙) 분광에서 스펙트럼 피크 위치·폭을 얼마나 정밀하게 뽑을 수 있는지의 하한이 Fisher 정보량으로 계산되고, 단분자 국소화 현미경에서 형광점의 위치 정밀도 한계도 같은 방식으로 얻습니다. "이 측정으로 더 짜낼 정밀도가 남았는가"에 수치로 답하는 잣대인 셈입니다.

📎 Precision and Informational Limits in Inelastic Optical Spectroscopy (PMC) · Fisher Information & CRLB in Localization Microscopy (JOSA A)

③ 정보를 '설계'한다 — 최적 실험설계와 스캐터로메트리

CRLB가 바닥을 알려주면, 엔지니어의 다음 질문은 자연스럽습니다 — "그 바닥을 낮추려면 어떻게 측정해야 하나?" 답은 Fisher 정보 행렬을 키우는 측정조건을 고르는 것이고, 이것이 최적 실험설계(optimal experimental design, D-최적성)입니다. 파장·입사각·편광 같은 측정 노브를, 관심 파라미터의 정보가 가장 많이 담기는 쪽으로 맞추는 일입니다.

반도체 스캐터로메트리(OCD)가 정확히 이 문제를 풉니다. 회절 스펙트럼에서 선폭(CD)·깊이를 역산할 때, 18nm급의 고립 라인은 파장을 150~200nm까지 낮추고 각도를 넓게 스캔해야 충분한 민감도가 나옵니다 — 정보가 거기 있기 때문입니다. 최신 이중대역 스캐터로메트리는 DUV(250~450nm)가 트렌치 깊이를, SWIR(980~1640nm)가 측방 간격을 분리해 각 파라미터의 정보를 나눠 담고, 그렇게 서브나노미터 불확도에 도달합니다. 측정을 '더 세게'가 아니라 '정보가 있는 곳으로' 설계하는 것 — 이미징 시스템 전체를 정보량 기준으로 설계하는 흐름도 같은 발상입니다.

📎 Dual-band Scatterometry for CD Metrology (IOP Meas. Sci. Technol., 2025) · Information-Driven Design of Imaging Systems (arXiv)

④ 양자계측 — 그 바닥을 다시 낮추다 (SQL → 하이젠베르크)

고전 CRLB가 주는 1/√N 스케일링에는 이름이 있습니다 — 표준양자한계(SQL). 독립적인 프로브 N개(광자·원자)를 쓰면 여기까지가 한계입니다. 그런데 양자 얽힘·스퀴징을 쓰면 양자 Fisher 정보(QFI)가 커져, 바닥이 1/N(하이젠베르크 한계)까지 내려갑니다. 같은 자원으로 √N배 — N=1000이면 약 32배 더 정밀해지는 셈입니다.

그림2. 양자계측이 낮추는 바닥 — SQL(1/√N)에서 하이젠베르크(1/N)로. 점선은 스퀴징이 SQL을 부분적으로 통과하는 실증 (본인 작성, 개념 시뮬레이션)

이건 실험실 안의 이야기만이 아닙니다. 중력파 검출기 LIGO는 4차 관측(O4)에서 각 검출기에 300m 필터공동을 더한 주파수의존 스퀴징으로 양자 잡음전력을 최대 5~6 dB 줄여, 검출 거리를 약 20%, 검출률을 최대 70%까지 끌어올렸습니다 — SQL을 부분적으로 통과한 실측 사례입니다(그림2 점선). 2025년은 UN이 정한 세계 양자 과학기술의 해(IYQ)였고, 2025년 6월 Physical Review Letters에는 복잡한 상태 준비 없이 단순한 초기 상태로 하이젠베르크 한계를 달성하는 프로토콜이 보고돼 양자센싱 실용화의 문턱을 낮췄습니다.

📎 Broadband Quantum Enhancement of LIGO with Frequency-Dependent Squeezing (Phys. Rev. X) · Heisenberg-Limited Precision Protocol (PRL, 2025.6) · BIPM — 세계 양자 과학기술의 해 2025

계측하는 사람의 관점 — "이 숫자를 얼마나 믿나"에 답하는 도구는 세 개의 삼각형을 이룹니다. GUM 불확도 예산은 오차원을 모델링해 쌓아 올리는 상향식, 컨포멀 예측은 분포를 가정하지 않고 데이터로 커버리지를 보증하는 하향식, 그리고 오늘의 CRLB는 정보이론이 정하는 근본적 하한입니다. CRLB가 특별한 이유는 효율(efficiency)이라는 잣대를 주기 때문입니다 — 효율 = CRLB ÷ 실제 분산 ≤ 1. 내 측정이 이론 바닥에 얼마나 근접했는지를 숫자로 말해 주고, 최대가능도(MLE) 추정은 표본이 커지면 이 바닥에 점근합니다. AI 계측에도 직결됩니다. CD를 추정하는 CNN이나 두께를 예측하는 OCD 대리모델이 CRLB에 근접하면 정보를 거의 다 짜낸 것이라 더 나은 정밀도는 측정조건(파장·각도)을 바꿔야 나오고, 멀면 알고리즘이 정보를 흘리고 있다는 신호입니다. 다만 두 가지는 냉정히 못 박습니다. 첫째, CRLB는 불편·정칙 가정 아래의 하한입니다 — 정칙화(regularized) 추정기는 약간의 바이어스를 감수하고 그 아래 분산을 얻기도 하므로, "바닥을 뚫었다"가 아니라 "질문을 바꿨다"로 읽어야 합니다. 둘째, 양자 이득은 공짜가 아닙니다 — 얽힘·스퀴즈 상태는 결어긋남(잡음)에 취약해, 현실 잡음 아래선 하이젠베르크 스케일링이 다시 SQL로 무너집니다. LIGO가 하이젠베르크가 아니라 5~6 dB에 머무는 것도 그 때문입니다. "바닥이 있다"와 "그 바닥에 닿았다"는 다른 문장입니다.

편집 원칙
수치·주장은 원문 링크에서 확인 가능합니다. 도표는 직접 작성했으며(그림1·2 모두 수식을 설명하기 위한 개념 시뮬레이션이고, 특정 장비·제품의 실측 성능치가 아닙니다), 논문 figure·언론 사진은 저작권상 옮기지 않고 원문 링크로 대신합니다. CRLB·양자 스케일링은 명시된 가정(불편·정칙성·교환가능한 자원) 아래 성립하며, 수치·전망은 투자 판단의 근거가 아닙니다.

#Fisher정보량 #CramerRao #CRLB #측정불확도 #양자계측 #하이젠베르크한계 #표준양자한계 #스캐터로메트리 #OCD #UncertaintyQuantification #GUM