[문송천의 디지털 산책] 빛의 속도 양자컴 .. 그런데 어디다 쓰지

[문송천 카이스트 경영대학원 교수]

창작과 비평은 인간 고유의 몫이다. 기계가 결코 대신할 수 없는 영역이다. 아무리 인공지능(AI)이 현란해 보여도 자연지능을 넘어설 수는 없다. 알파고가 이세돌에게 4승 1패로 이긴 것으로 인해 AI가 인간을 능가할 수 있을 것으로 인식되기 시작했으나 단지 착각에 불과한 것이다. 마치 자동차 속도를 사람이 못 따라가듯이 그랬다. 컴퓨터는 계산을 빨리 하는 기계에 불과하다. 1초에 수십조 번 계산을 쉽게 하니 상상이 되겠나. 그럼에도 불구하고 ‘컴퓨터가 일일이 다시 계산하려면 시간이 좀 걸릴 테니까 중간 결과를 내가 대신 어딘가에 저장해놔야 마음이 놓이지, 그래야 나중에 얼른 가져다 쓰지’라는 무식한 생각을 하는 게 보통이다. 이런 중간 결과 저장이 일으키는 파장은 크다. 이 글에선 논할 바 아니지만 중간 결과는 가급적 또는 아예 없을수록 데이터 정확성에 기여한다. 기계에 대한 중간 결과류의 통상적 배려가 완전히 틀리다는 것을 인정하기 싫은 것이 인간의 자존감에서 나오는 것일까. 기계를 다스리는 인간 자부심의 본질은 창작과 비평 능력에 있다. 기계는 해본들 거의 표절급이다. 그래서 윤리 문제가 바로 등장하는 것이다. 창작 능력이 없으면 비평하는 능력 자체도 불가능하다는 점 역시 자명하다. 생성AI가 표절 혹은 단순 검색 일변도의 문장을 쏟아낼 수밖에 없는 것도 이유는 알고 보면 그래서다. 기계 대 인간 간 게임에 대해 정교히 알기 위해서는 컴퓨터라는 기계가 어떤 구조하에 어떻게 작동하는지 알지 않으면 안 된다. 이런 작동 원리에 대해 자세히 모른 채 내놓은 생각과 판단은 단지 착각에 불과할 따름이다. 따라서 응용전산학자, 즉 기초전산학자에 속하지 않는 이들이 내놓은 판단은 대개 과장이 많고 틀린 경우도 적지 않다. 최근에는 양자 컴퓨터에 대한 이야기가 많다(아주경제 2025년 2월 20일자). 거슬러 올라가면 사실상 작년 이맘때쯤부터 화제로 등장했다. '미래 산업 만능 열쇠 양자컴퓨터, 산업계 난제 한 방에 풀릴 것'란 본제의 뉴스가 떴다(매일경제 2024년 4월 1일자).

양자 컴퓨터란 정보 저장 능력을 기존 컴퓨터에 비해 증가시키기 위해 기존 컴퓨터에 비해 색다른 방법을 쓴다. 기존에는 정보를 표현하는 비트 한 자리에 0이나 1 둘 중 하나가 들어가지만 양자 컴퓨터에서는 그 한 자리(‘큐비트’라고 칭함·원어는 퀀텀 비트)만 가지고도 한 순간에 0과 1을 동시에 갖기도 한다. 즉 기존 컴퓨터에서는 0과 1을 동시에 갖는 일은 불가능하단 뜻이다. 이게 무슨 이야기인지는 비트 두 자리를 놓고 기존 컴퓨터와 양자 컴퓨터를 비교해봐야 실감이 난다. 기존에는 두 비트가 있을 때 어느 한 특정 순간에 가질 수 있는 값은 00, 01, 10, 11 중 단 하나만 된다. 즉 00과 01을 동시에 나타낼 수는 없단 뜻이다. 또한 두 비트에서 이 네 값을 같은 한 순간에 동시에 갖는 일이 불가능하다. 그런데 양자 컴퓨터에서는 00, 01, 10, 11이라는 4개 값을 한 순간에 동시에 갖는 일이 특이하고 희한하게 가능하다. 즉 기존 비트에는 2의 n(n은 비트 수)승의 1이라는 경우의 수 중에서 오로지 단 한 가지 경우만을 값으로 갖지만 큐비트에서는 2의 n승의 경우의 수 전체를 한꺼번에 모두 갖는 게 가능하다는 뜻이다. 양자 컴퓨터의 표현 능력은 기존 컴퓨터에 비해 커지는데 n이 증가할수록 표현 능력은 기하급수로 늘어나게 된다.

그렇다면 왜 이렇듯 같은 비트 자리 수를 가지고도 기존 방식과 양자 방식 간에 이렇게 현저히 다른 표현이 나오는 것일까. 이를 이해하려면 자석과 빛의 성질 차이를 생각해보면 된다. 강자성을 띤 자석은 한번 자화가 일어나면 외부 자기장이 사라져도 잔류 자화가 남아 있는 물질이다. 이런 식으로 N극 혹은 S극 중 한쪽 방향으로 자화시킨 게 바로 한 비트의 0과 1에 해당한다. 이게 기존 컴퓨터의 작동 원리다. 반면 양자란 것 자체가 양자 컴퓨터는 빛과 파동의 원리로 작동한다. 유리 같은 물체에 빛이 비치면 외부에서 보는 각도의 차이에 따라 각양각색의 다른 무지개 색깔 모양으로 눈에 보이게 된다. 광전효과란 빛이 갖는 입자의 성질을 이용한 현상으로 금속 판에 일정한 진동수 이상의 빛을 비추면 표면에서 전자가 튀어나오는 현상이다. 이때 튀어나오는 전자의 패턴이 각양각색으로 달라질 수 있단 말이다. 이걸 어디다 응용할 수 있을지 알아보기 위해 미로 찾기 게임을 연상해보자. 기존 비트로는 한 번에 하나의 미로 경로를 시도한다면 큐비트로는 한 번에 여러 경로를 동시에 시도하는 게 가능해질 것이라는 말이다.

양자 컴퓨터를 다룬 기사 중에는 다음과 같은 내용도 있다. '슈퍼컴 능가하는 양자 컴퓨터 전 세계 전쟁 중' '1만번 해야 할 실험, 한 방에 해결' '신약개발 등 AI가 연구실 풍경 바꿔놔' 같은 류의 장밋빛 전망으로 일관된 내용들이다. 과연 그럴까. 이에서 더 진전하여 'AI와 결합할 경우 인간 지능을 넘어서는 초지능도 가능, AI 학습에 필요한 막대한 양의 데이터를 양자 컴퓨터가 처리해 줄 수 있을 것'이라는 내용도 있다. 그러나 세상에 존재하는 오늘날 기업이나 공공 조직 내 데이터 중 절반이 값의 부정확성 내지 불필요한 누더기 같은 중복으로 인해 쓸모없는 것이라는 사실을 안다면 양자 컴퓨터가 제 아무리 막대한 계산을 순식간에 해 낸다고 해서 AI 성능이 상상할 수 없을 정도로 향상될 것이라는 주장은 완전히 틀렸다는 점을 지적하지 않을 수 없다. 문제는 데이터 아닌 것들이 데이터로 둔갑한 경우가 허다하다는 점이다. 예를 들면 2+3=5에서 계산 과정 초기 인자 2와 3은 데이터지만 5는 계산 결과지 계산 데이터(data)는 아니라는 사실을 한번 간파해봐야 한다. 여기서 5를 계산 결과로 나온 정보(information)로 부를 수 있으나 초기 조건으로서 주어진 데이터는 결코 아니다. 이게 데이터와 정보의 현저한 차이점이다. 이걸 큰 차이로 받아들이지 않는다면 컴퓨터 작동 원리나 컴퓨터를 사용하여 만들어져서 돌아가는 기업(공공조직 포함) 정보시스템의 작동 원리에 관해 별로 알고 싶은 생각이 없다는 방증이다.

'미국은 양자 컴퓨터 상용화에 근접, 중국 일본 맹추격, 한국은 세계시장 점유율 1.8%'라는 내용도 나온다. 그러나 중국과 일본이 국가 자체, 즉 국내산 운영체계(OS) 없이 추격을 해본들 무슨 소용이 있겠나. 아마존이나 메타(페이스북) 등도 AI 대전에 참전하는 배경은 그들은 자체 OS를 이미 보유하고 있기 때문이라는 사실을 반드시 알아야 한다. 그들이 기존 원도즈나 안드로이드를 채택하여 AI 대전에 뛰어든다면 누가 결과적 승자가 될지 그 결과는 뻔한 것 아니겠는가. 남 좋은 일을 아마존과 메타가 할 필요가 있을까. 기존 OS 의존 없이 자신만의 신규 OS를 만들지 않으면 사상누각이 되기 때문이다. 우리나라가 특히 약한 부분이 바로 여기다. 요즘 잘하는 희망 섞인 말로 한국어와 한국 문화에 능한 토종 챗GPT 또는 AI로 인한 연구실 풍경 변화 운운하는 내용의 기사가 심심치 않게 눈에 들어온다. 그러나 과연 그럴 수 있을까.  토종 AI가 토종 OS 위에서 돌아간다면 말이 되는 것이지만 그런 게 아니라면 남 좋은 일만 하는 결과를 불러일으킬 게 뻔한 것에 대해 번지수 잘못 짚은 일임을 알아야 한다.

양자 컴퓨터에 대한 전망으로 '신약·우주·군사무기 패권 결정할 게임체인저'라는 내용도 나온다. 그러나 자연현상 분석, 신약 개발, 금융 투자 분석, 통신 암호 분석 등 분야에서는 그럴 수 있겠지만 재무회계 수치의 정확성이 요구되는 기업 부문에서는 양자 컴퓨터가 설 땅은 별로 없다. 그 이유는 큐비트의 한계인 계산의 오류다. 현재 기술 수준으로 1000번 계산 중 한 번 오류는 큐비트가 지닌 매우 심각한 문제다. 기존 비트로는 수조 번을 계산해도 오류가 한 번도 나지 않는다. 빠르다고 무조건 좋은 건 아니다. 1억번에 걸쳐 해야 할 실험을 단 한 방에 깨끗이 해결한다는 말은 예측력이 중시되는 특수 영역에서는 의미가 있을 일이지만 데이터의 정확성에 대해 타협의 여지를 허용하지 않는 대부분 일반 재무 중심의 기업 부문에는 별로 도움이 되지 않는 내용이기 때문이다. 최근에는 CES 2025에서 엔비디아의 젠슨 황 회장이 기조연설을 하면서 그리고 연설 후 시간이 수주 지난 시기에 양자 컴퓨터에 대한 실용화 시기에 대해 오락가락하는 전망을 내놔 세상을 떠들썩하게 만들기도 하고 양자 관련 주식 투자자들의 심기를 불유쾌하게 건드린 일이 있었다. 이를 보면 양자 컴퓨터의 미래에 관한 전망치는 응용 분야에 따라 크게 좌우될 수 있다고 이해해도 무방하다.

연구 분야 중에 예측 분야가 있다. 그들의 연구 결과는 기상예보를 비롯해 다양한 용도로 쓰인다. 그런 분야를 관찰하다 보면 딱 들어 맞는 경우보다는 오히려 틀리는 게 정상이라는 판단도 얼핏 든다. 틀려도 용납 가능한 수준에서 약간의 오차로 틀린다면 쓸 만한 일이기도 하다. 기상예보 주기가 길어 본들 1주 단위로 나오는 건 잘 아는 사실이다. 그런데 양자 컴퓨터의 계산 속도에 힘입어 만일 5년 치 혹은 10년 치 기상예측이 비교적 정확하게 가능하다면 여러 산업과 여러 사람에게 영향력을 발휘할 것이다. 주가 예측도 그렇고 교통 상황 예측도 그런 쪽에 해당한다. 태양계는 보통 1광년 내에 속한다. 지금은 화성·목성까지만 가지만(거리로는 10억㎞ 이내) 나중에는 양자 컴퓨터의 성능으로 지구에서 가장 멀다고 하는 135억 광년(거리로는 10조㎞-목성까지 거리의 1만배) 떨어진 은하계를 후손들이 왔다 갔다 할 날도 올 것이다. 그러니까 기존 컴퓨터보다 수천 배 이상의 성능을 지금 당장 기대한다면 양자 컴퓨터를 그런 쪽에 쓸 수 있단 뜻이다. 하지만 기존 컴퓨터 발전 속도를 감안하면 1000배 성능 정도는 통상 10년 내에 가능한 일인 바, 생각하기에 따라 양자 컴퓨터의 쓸모가 정해질 것이다. 얼마 전 90세를 일기로 스위스에서 존엄사를 택한 노벨상 경제학상 수상자 대니얼 카너먼의 말처럼 관점에 따른 선택의 폭과 자유는 생활 속에서 무척 많이 주어질 전망이다.



문송천 필자 이력

▷카이스트 경영대학원 교수 ▷미국 일리노이대(어바나 샴페인) 전산학 박사 ▷유럽IT학회 아시아 대표이사 ▷대한적십자사 친선홍보대사 ▷카이스트·케임브리지대·에든버러대 전산학과 교수