[4부] NISQ 시대와 한계 이해

[4부] NISQ 시대와 한계 이해

요약 설명: 큐빗 수가 수십~수백 개인 NISQ(Near‐Term Intermediate‐Scale Quantum) 기기의 특징과 이 시기에 가능한 응용 분야를 살펴봅니다. NISQ 장비는 완전한 오류정정이 어려운 상태에서 노이즈가 존재하지만, 여전히 유용한 실험 및 시뮬레이션을 수행할 수 있습니다.

1. 디코히어런스(Decoherence) 및 노이즈 이해

양자 시스템은 외부 환경과 상호작용하면서 에너지가 손실되거나 위상이 무작위로 변질되는 디코히어런스 현상을 겪습니다. 이로 인해 큐빗은 원래의 상태를 유지하지 못하고 고전적 확률 분포처럼 동작하게 됩니다.

주요 원인:

• 열적 잡음(Thermal noise): 큐빗이 위치한 극저온 환경에도 미세한 열에너지가 남아 있어 상태 변질을 초래합니다.
• 전기/자기 잡음(Electromagnetic noise): 주변 회로, 전자기파 간섭으로 인해 위상 오류(Phase error)가 발생합니다.
• 재료 불완전성(Material imperfections): 초전도 회로나 이온 트랩 내 미세한 구조 결함이 코히어런스 시간을 제한합니다.

결과: 디코히어런스가 일어나면 큐빗 간 얽힘(Entanglement)이 사라지고, 연산 도중 오류율(Error rate)이 급격히 증가합니다. 따라서 NISQ 기기에서는 게이트 수(특히 깊이 깊은 회로)와 실험 시간을 제한할 필요가 있습니다.

2. 샷(Shot) 수와 통계적 에러

실제 양자 컴퓨터에서 측정(Measurement)은 확률적으로 이루어지기 때문에, 원하는 통계적 정확도를 얻기 위해서는 여러 번의 반복 실행, 즉 샷 수(Shots)가 필요합니다. 예를 들어, 간단한 회로를 실행해 특정 상태 $|0⟩$가 나올 확률을 얻고자 할 때, 1000 샷을 수행해 $|0⟩$이 530번 측정되었다면 확률은 0.53로 추정할 수 있습니다.

통계적 에러: 샷 수가 적으면 확률 추정값의 분산이 커집니다. 샷 수 $N$일 때, 이항 분포의 표준 오차는 $$\sigma =\sqrt{\frac{p(1-p)}{N}}$$ 여기서 $p$는 실제 확률입니다. NISQ 실험에서는 이 표준 오차와 하드웨어 노이즈가 결합되어 측정 정확도를 제한합니다.

실무 팁:

• 중요한 결과는 최소 수백~수천 샷 이상을 수행하여 통계적 에러를 억제합니다.
• 노이즈 특성을 파악하기 위해 아이들링 곡선(Idle time) 실험 등으로 큐빗의 디코히어런스 시간을 측정합니다.
• 결과 보정(Error mitigation) 기법(예: 제로 노이즈 엑스트라폴레이션, 디폴트 샷 보정)을 적용해 정확도를 높일 수 있습니다.

3. NISQ 환경에서 가능한 간단한 시뮬레이션·실험 예시

NISQ 기기에서는 완전한 대규모 양자 알고리즘 실행이 불가능하므로, 얕은 회로(Shallow circuits)나 하이브리드 알고리즘(Hybrid quantum-classical algorithms)을 활용한 실험이 주를 이룹니다.

3.1 변분 양자 고유치 문제(Variational Quantum Eigensolver, VQE)

VQE는 고전 최적화 기법과 얕은 양자 회로를 결합해 분자 해밀토니언(Hamiltonian)의 기저 상태 에너지를 근사합니다.

• 고전 컴퓨터가 매개 변수 $\overrightarrow{\theta }$를 조정
• 양자 회로는 Ansatz(\vec{\theta}) 상태를 준비하고 에너지(expectation value)를 측정
• 측정값을 고전 최적화기에 피드백하여 $\overrightarrow{\theta }$를 업데이트

이 반복 과정을 통해 비교적 적은 큐빗(수십 개)으로도 작은 분자(예: H₂ 분자)의 에너지를 근사 가능합니다.

3.2 양자 근사 최적화 알고리즘(Quantum Approximate Optimization Algorithm, QAOA)

QAOA는 조합 최적화 문제(예: Max-Cut)를 풀기 위해 얕은 깊이의 파라미터화된 회로를 사용합니다. 간단한 예로 3개 정점 그래프의 Max-Cut 문제는 3개의 큐빗으로 표현하고, p 라운드만큼 반복하면서 최대 컷 값을 근사합니다.

• 문제 해밀토니언 $H_C$와 믹싱 해밀토니언 $H_M$ 정의
• 파라미터 $(\gamma ,\beta )$를 조정하며 상태 $|\psi (\gamma ,\beta )⟩$ 준비
• 측정값을 고전 최적화기에 보내 최적 $(\gamma ,\beta )$를 찾음

얕은 회로 깊이(예: $p=1$ 또는 2)에서도 유의미한 근사해를 얻을 수 있습니다.

3.3 단일 큐빗 벨 상태 생성 및 간단 측정

가장 단순한 예시는 2개의 큐빗을 사용해 벨 상태 ${\displaystyle \frac{|00⟩+|11⟩}{\sqrt{2}}}$를 생성하고, 얽힘 특성을 측정하는 실험입니다.

      ┌───┐         
  |0⟩─┤ H ├─●───   → (1/√2)(|00⟩ + |11⟩)
      └───┘ │       
           │       
  |0⟩──────X─────
    

이 회로를 1000 샷 실행하여 측정 결과가 $|00⟩$과 $|11⟩$ 각각 약 50%씩 나오는지 확인합니다.

확인 포인트:

• 실제 분포가 50:50에 근접하지 않으면 디코히어런스 또는 게이트 오류가 크다고 판단할 수 있습니다.
• 다양한 딜레이(Idle time)를 삽입하여 얽힘 유지 시간을 실험할 수 있습니다.

4. 결론 및 다음 단계 안내

NISQ 시대의 양자컴퓨터는 디코히어런스와 노이즈로 인해 얕은 회로만 실행 가능하지만, VQE, QAOA 등 하이브리드 알고리즘이나 얕은 얽힘 실험을 통해 유의미한 결과를 얻을 수 있습니다. 샷 수와 측정 정확도를 적절히 조절하고, 오류 완화(Error Mitigation) 기법을 적극 활용하는 것이 중요합니다.

다음 5부에서는 양자오류정정(Quantum Error Correction, QEC)을 다룹니다. 양자 시스템의 디코히어런스 및 잡음을 보정하기 위한 대표적 오류정정 코드와 결함 허용(Fault‐Tolerance) 설계 개념을 학습하게 됩니다.