오류를 통해 학습하는 양자 컴퓨터를 향하여

양자 컴퓨터는 아날로그 제어 신호의 드리프트 때문에 장시간 계산 중에도 지속적인 재보정이 필요하며, 기존 방식은 계산을 완전히 중단해야 한다는 한계가 있다. Google Quantum AI는 양자 오류 검출 데이터를 강화학습의 학습 신호로 활용해, 계산을 수행하는 동안 수천 개의 제어 매개변수를 자동 조정하는 방법을 제시했다. Willow 프로세서 실험과 대규모 시뮬레이션에서 이 방식은 논리적 안정성과 오류율을 개선해, 장시간 안정적인 양자 계산에 한 걸음 다가섰다.

양자 컴퓨터에서 지속적인 보정이 필요한 이유

• 양자 컴퓨터는 주파수, 진폭, 위상 같은 아날로그 제어 신호로 큐비트를 조작한다.
• 하드웨어와 환경의 미세한 변화로 제어 매개변수가 드리프트하면 오류가 증가한다.
• 기존에는 성능을 회복하려면 양자 계산을 완전히 종료한 뒤 전체 시스템을 재보정해야 했다.
• 유용한 양자 알고리즘이 수일에서 수개월 동안 실행되어야 한다는 점에서, 계산과 보정의 분리는 큰 병목이다.

양자 오류 정정과 오류 검출 데이터

• 큐비트를 직접 측정하면 중첩 상태가 붕괴하므로, 여러 물리 큐비트로 논리 큐비트를 구성하는 양자 오류 정정(QEC)을 사용한다.
• 물리 큐비트의 패리티 검사는 아날로그 잡음을 이진 오류 검출 이벤트로 변환한다.
• 검출 이벤트는 오류가 특정 시공간 영역에서 발생했다는 사실은 알려주지만, 정확한 위치까지 알려주지는 않는다.
• AlphaQubit 같은 신경망 디코더와 Tesseract 같은 알고리즘 디코더가 검출 데이터를 분석해 오류 위치를 추정하고 논리 정보를 복원한다.
• 그러나 디코더는 오류를 수정할 뿐, 오류의 원인이 제어 불량인지 환경적 요인인지까지 해결하지는 못한다.

물리 모델 중심 보정의 한계

• 기존 양자 보정은 물리 법칙과 수작업으로 설계한 모델에 의존했다.
• 실제 하드웨어에서는 복잡한 상호작용과 드리프트를 정확히 모델링하기 어렵기 때문에 성능에 한계가 생긴다.
• 환경과의 상호작용으로 인한 결맞음 상실은 완전히 제거할 수 없지만, 부정확한 보정과 하드웨어 드리프트는 개선할 여지가 있다.
• AlphaQubit이 기존 알고리즘 디코더를 능가한 것처럼, 양자 제어에서도 데이터 기반 학습이 기존 모델의 한계를 넘을 수 있다는 관점이 제시된다.

오류를 강화학습의 피드백으로 활용

• 강화학습 에이전트는 명시적인 제어 규칙 대신 행동 결과를 관찰하며 전략을 개선한다.
• QEC에서 이미 생성되는 오류 검출 이벤트를 오류 수정뿐 아니라 학습 신호로도 활용한다.
• 에이전트는 검출 이벤트의 변화를 관찰하면서 수천 개의 제어 매개변수를 동적으로 조정한다.
• 제어 시스템은 새로운 오류를 줄이고, 계산 중 발생하는 드리프트를 지속적으로 상쇄한다.
• 즉, 오류를 단순히 사후에 수정하는 것이 아니라 오류 패턴에서 원인을 학습해 제어 자체를 개선한다.

Willow 프로세서 실험 결과

• Google의 Willow 초전도 프로세서에 의도적인 제어 매개변수 드리프트를 주입해 방법을 검증했다.
• 강화학습 제어는 오류 정정 코드의 논리적 안정성을 3.5배 향상시켰다.
• 프로세서가 신뢰할 수 있는 양자 메모리로 동작하는 시간이 그만큼 연장됐다.
• 전문가가 수행한 기존 보정 이후에도 강화학습 미세 조정을 적용하자 논리 오류율이 추가로 20% 감소했다.
• 최종적으로 표면 코드에서는 오류 정정 주기 1,000회당 1회 미만, 색상 코드에서는 100회당 1회 수준의 논리 오류율을 기록했다.

대규모 시스템으로의 확장 가능성

• 연구진은 수백 개의 큐비트와 수만 개의 제어 매개변수를 포함한 수치 시뮬레이션을 수행했다.
• 초기에는 보정되지 않은 시스템의 물리 오류율이 높았지만, 강화학습 에이전트가 학습하면서 오류율을 점진적으로 낮췄다.
• QEC를 적용하면 물리 큐비트 수가 증가할수록 논리 오류율이 지수적으로 억제되는 양상이 나타났다.
• 중요한 점은 강화학습이 물리 오류율을 낮추는 속도가 시스템 크기에 크게 의존하지 않았다는 것이다.
• 따라서 향후 더 큰 양자 컴퓨터에서도 학습 반복 횟수가 시스템 규모에 비례해 폭증하지 않을 가능성을 보여준다.

실용적인 의미

양자 오류 정정은 오류를 복구하는 역할을 넘어, 제어 시스템을 계속 학습시키는 센서로도 활용될 수 있다. 강화학습 기반 자동 보정이 실제 대규모 하드웨어에서 안정적으로 확장된다면, 계산을 중단하지 않고 드리프트에 대응하는 장시간·고신뢰성 양자 컴퓨터 구현에 기여할 수 있다.