24일 '퀀텀 AI, 양자와 AI의 융합' 주제 강연에서 콴텔라코리아 김유석 대표가 강연을 하고 있다. 김기용 기자파괴적 혁신을 이끌 신기술로 꼽히는 양자와 인공지능(AI)의 융합에 대한 관심이 커지고 있다. 이제 AI와 양자의 결합은 선택이 아닌 구조적 흐름으로 자리 잡는 분위기다.
양자가 AI의 계산 한계를 보완하고, AI가 양자 시스템의 불안정성을 제어하는 상호 의존 구조가 형성되면서 산업 경쟁의 초점이 '더 많은 데이터를 학습한 거대 AI'에서 '계산 방식을 바꾸는 기술'로 옮겨갈 수 있다는 분석도 나온다.
양자 기술은 '속도' 아닌 '우위'가 핵심
IBM 코리아 표창희 상무. 김기용 기자24일 과학기술정보통신부가 주최하고 정보통신기획평가원과 미래양자융합포럼이 주관한 '퀀텀 AI, 양자와 AI의 융합' 주제 강연에서 IBM코리아 표창희 상무는 양자컴퓨터 논의의 출발점은 단순한 '속도'가 아니라고 강조했다.
표 상무는 '양자 우위(Quantum Advantage)'를 언급하며 "양자 하드웨어에서 수행한 결과가 엄밀히 검증 가능해야 하고, 고전적 방법 대비 효율·비용·정확성 측면에서 우월함이 확인돼야 한다"고 말했다.
단순히 계산이 더 빠른 수준을 넘어 비용과 에너지까지 절감해야 양자 우위로 인정받을 수 있다는 설명이다.
표 상무는 IBM과 HSBC의 협업 사례도 소개했다. 회사채 거래 집행 전략을 최적화하는 과정에서 양자 하드웨어 기반 모델이 고전 컴퓨팅 대비 최대 약 34%의 상대적 개선을 보였다는 것이다. 같은 시장 데이터를 활용하더라도 '어떤 가격을 제시해야 거래가 실제로 체결될지'를 양자 기반 모델이 더 정확히 예측했다는 의미다.
이는 양자컴퓨팅이 범용 대체 기술이라기보다 특정 영역에서 성능 우위를 입증하는 단계에 들어섰음을 보여주는 사례로 평가된다. 표 상무는 "2026년은 양자 우위를 입증하는 해가 될 것"이라고 전망했다.
화학·소재 분야에 우선 적용 가능성
양자컴퓨팅의 초기 적용 분야로는 화학과 소재 산업이 가장 먼저 거론된다. 계산 복잡도가 매우 높기 때문이다.
파스칼코리아 이우준 책임연구원은 "중간 정도 복잡한 분자의 양자 상태를 정확히 표현하려면 상태벡터 차원이 10의 60제곱에 가깝다"며 "이를 저장하려면 전 지구를 데이터센터로 채워도 부족할 수준"이라고 설명했다. 분자와 재료 세계는 본질적으로 양자역학적 문제이기 때문에 고전 컴퓨팅으로는 정밀 계산이 어렵다는 취지다.
분자 수가 조금만 늘어나도 필요한 메모리 용량이 기하급수적으로 증가해 현재 슈퍼컴퓨터로는 근사치 계산에 그치는 경우가 많다. 반면 양자컴퓨터는 상태 자체를 직접 표현할 수 있어 문제 해결 방식이 근본적으로 달라진다는 설명이다.
소재 개발 역시 경우의 수가 폭발적으로 늘어나는 분야다. 퀀텀인텔리전스 최근수 수석연구원은 "40개 금속 중 5개를 선택하는 경우에만 65만 8008가지 조합이 나온다"며 "비율과 공정 조건까지 포함하면 전수 조사는 사실상 불가능하다"고 말했다.
그는 "새 합금 하나를 검증하는 데 수개월에서 수년이 걸리고 원소 간 비선형 상호작용 때문에 직관만으로 예측하기 어렵다"며 "AI와 양자컴퓨팅이 탐색 도구로 활용될 수 있다"고 덧붙였다.
양자 단독은 한계…하이브리드 구조 필연
다만 양자컴퓨터 단독으로 모든 문제를 해결하기는 어렵다. 실제 구현은 AI와 결합한 '하이브리드 구조'에서 이뤄진다는 설명이다.
현실에서는 AI 서버가 양자칩에 연산 조건을 설정하고, 양자칩이 계산 결과를 다시 AI로 전달하는 과정을 수백·수천 차례 반복한다. 이 과정에서 신호 지연이 발생하면 전체 성능이 저하되기 때문에 양자칩 자체 성능뿐 아니라 두 시스템을 연결하는 구조가 경쟁력의 핵심이 된다.
SDT 김은성 최고기술책임자(CTO)는 "VQE(변분 양자 고유값 알고리즘)·QAOA(양자 근사 최적화 알고리즘)·QML(양자 머신러닝) 같은 하이브리드 알고리즘은 GPU(AI 연산 장치)와 QPU(양자 연산 장치)를 수백에서 수만 회 반복 호출한다"며 "매 반복마다 인터커넥트 지연이 누적돼 전체 성능을 좌우한다"고 설명했다.
오류 정정도 중요한 변수다. 양자컴퓨터는 잡음에 취약해 오류가 쉽게 발생하므로 안정적인 계산 단위를 확보하기 위한 보정 과정이 필요하다. 이 과정은 고전 HPC(고성능 컴퓨팅)와 FPGA(재구성 가능 반도체)가 실시간으로 처리한다.
현재 양자칩은 불안정한 상태에 가까워 실제로 사용할 수 있는 1개의 '논리 큐비트'를 구현하려면 수백~수천 개의 물리 큐비트를 묶어 오류를 서로 감시·수정해야 한다. 김 CTO는 "논리 1큐비트를 구현하려면 물리 큐비트가 수백~수천 개 필요하다"며 "결국 하이브리드 아키텍처는 선택이 아닌 구조적 필연"이라고 강조했다.
커지는 시장 기대감…경계 목소리도
파스칼코리아 이우준 책임연구원. 김기용 기자
양자와 AI 융합에 대한 시장 기대도 확대되고 있다. 콴델라코리아 김유석 대표는 양자 기술이 2035년까지 7천억 달러 규모의 시장 기회를 창출할 수 있다고 전망했다.
다만 경계의 목소리도 있다. 메가존클라우드 김동호 최고양자책임자(CQO)는 "킬러 애플리케이션은 갑자기 등장하지 않는다"며 "실제 적용 사례를 축적하고 검증·확장하는 조직만이 시장을 선점할 수 있다"고 말했다.
그는 "경쟁의 축은 물리 큐비트 수가 아니라 논리 큐비트와 오버헤드 효율(오류 보정에 추가로 들어가는 자원을 얼마나 줄이느냐)로 이동하고 있다"며 "얼마나 효율적으로 오류를 보정해 실사용 가능한 계산 단위를 확보하느냐가 핵심"이라고 설명했다.
결국 스마트폰처럼 대중화된 '국민 양자 서비스'가 단기간에 등장하기보다는 금융·화학·물류 등 계산 복잡도가 높은 틈새 분야에서 검증 사례가 점진적으로 축적될 가능성이 크다는 전망이 나온다.