의식의 미스터리: 뇌와 양자역학의 놀라운 만남
수술실에서 마취제를 맞는 순간, 당신의 의식은 어디로 사라질까요? 뇌는 그대로인데 왜 ‘나’라는 느낌은 꺼지는 걸까요? 이 질문은 인류가 오랫동안 풀어내지 못한 가장 근본적인 수수께끼 중 하나입니다. 1994년 호주 철학자 데이비드 차머스는 이를 ‘의식의 어려운 문제(Hard Problem of Consciousness)’라고 명명했습니다. 뇌 과학이 뉴런의 작동 방식을 설명할 수는 있지만, 왜 그 전기 신호들이 ‘나는 존재한다’는 주관적인 느낌을 만들어내는지에 대해서는 여전히 침묵하고 있습니다. 그런데 최근, 이 미스터리에 양자 역학이 새로운 실마리를 제공하고 있습니다. 이번 시간에는 의식의 미스터리: 뇌와 양자역학의 놀라운 만남 에 대해 알아보겠습니다. 과연 의식은 양자 현상일까요?
뇌과학의 한계: 왜 ‘나’를 설명하지 못하는가?
서울대병원 신경과 김교수는 20년 넘게 뇌 수술을 집도하며 수많은 환자의 두개골을 열고 뇌 조직을 직접 보아왔습니다. 그는 뇌의 특정 부분이 손상되면 언어 능력이 사라지고, 어느 부분을 자극하면 과거 기억이 떠오른다는 사실을 누구보다 잘 알고 있습니다. 하지만 정작 의식 그 자체가 어디에 있는지는 여전히 미스터리라고 고백합니다. 우리 뇌에는 약 860억 개의 뉴런이 초당 수백 번씩 전기 신호를 주고받으며 우리의 모든 생각과 감정을 처리합니다.
뇌 과학자들은 fMRI(기능적 자기공명영상)와 뇌파 측정 장비로 뉴런의 활동 패턴을 실시간으로 관찰하며, 어떤 생각을 할 때 어느 영역이 활성화되는지, 감정 변화가 어떤 화학 물질의 분비와 연관되는지 밝혀냈습니다. 그러나 여기서 차머스가 말한 근본적인 ‘어려운 문제’에 봉착합니다. 뇌의 전기 신호와 화학 반응은 관찰할 수 있지만, 왜 그 물리적 과정이 빨간색을 본다는 ‘주관적 경험’을 만들어내는지 설명할 수 없습니다. 왜 고통은 단순한 신경 신호가 아니라 ‘아프다는 느낌’으로 다가오는 걸까요? 철학자들은 이것을 ‘감각질(Qualia) 문제’라고 부릅니다. 딸기 향을 맡을 때의 그 특별한 느낌, 모차르트 음악을 들을 때의 전율, 사랑하는 사람을 떠올릴 때의 따뜻함. 이 모든 주관적 경험은 뉴런의 발화 패턴만으로는 환원되지 않습니다.
아무리 복잡한 프로그램을 컴퓨터에 넣어도 그 컴퓨터가 정말로 느끼고 있다고 말할 수 있을까요? 차머스는 ‘철학적 좀비’라는 사고 실험을 제시했습니다. 당신과 물리적으로 완전히 똑같은 존재가 있다고 상상해보세요. 같은 뉴런 구조, 같은 화학 반응, 같은 행동 패턴을 보입니다. 하지만 그 존재는 아무것도 느끼지 못합니다. 커피를 마시지만 쓴맛을 경험하지 않고, 웃지만 기쁨을 느끼지 않습니다. 이런 존재가 가능하다면, 의식은 물리적 법칙만으로는 설명되지 않는다는 뜻이 됩니다.
KIST 학 연구센터는 2023년 의식과 관련된 신경망 연구를 발표했습니다. 전전두엽 피질과 시상이 복잡하게 연결된 네트워크가 의식 경험에 관여한다는 증거를 찾았지만, 연구진 스스로 의식이 ‘어디서 일어나는지’는 알 수 있어도 ‘왜 일어나는지’는 모른다고 인정했습니다.
가장 당혹스러운 사례는 마취제입니다. 프로포폴 같은 마취제를 투여하면 몇 초 만에 의식이 꺼집니다. 뇌는 여전히 작동하고 심장도 뛰고 호흡도 유지됩니다. 단지 ‘나’라는 느낌만 사라지는 것이죠. 마취제가 정확히 무엇을 차단하는 걸까요? 어떤 스위치가 꺼지는 걸까요? 서울 아산병원 마취통증의학과 이교수는 말합니다. “마취제는 뇌의 특정 수용체에 결합해서 신경 신호 전달을 방해합니다. 하지만 왜 그것이 의식을 끄는지, 의식이 뭐길래 꺼지는지는 여전히 미스터리입니다.” 마취에서 깨어나는 순간도 신비롭습니다. 갑자기 내가 여기 있다는 느낌이 돌아옵니다. 마치 꺼진 불이 켜지듯이요.
양자역학, 의식의 새로운 지평을 열다
전통적인 뇌 과학은 의식을 ‘복잡성의 창발(Emergence)’로 설명하려 했습니다. 뉴런들이 충분히 많이, 충분히 복잡하게 연결되면 의식이 저절로 나타난다는 거죠. 하지만 이 설명은 만족스럽지 않습니다. 아무리 복잡한 컴퓨터 회로도 느끼지는 못합니다. 복잡성과 경험 사이에는 설명할 수 없는 간극이 존재합니다. 그래서 일부 과학자들은 다른 곳에서 답을 찾기 시작했습니다. 뉴런의 전기 신호보다 더 깊은 층위, 세포 안쪽의 미시세계, 즉 우리가 익히 아는 물리 법칙과는 다른 법칙이 작동하는 ‘양자 역학’입니다.
1989년 옥스포드 대학의 수학자 로저 펜로즈는 놀라운 주장을 펼쳤습니다. 의식은 단순한 계산이 아니며, 양자 역학적 과정을 통해서만 설명할 수 있다는 것이었습니다. 당시 대부분의 과학자들은 이 주장을 무시했습니다. 뇌는 섭씨 37도의 따뜻하고 물기 많은 환경인데, 양자 현상은 절대 영도(섭씨 영하 273도) 근처의 극저온에서나 관찰되는 현상이기 때문입니다. 그러나 펜로즈는 포기하지 않았고, 미국 애리조나 마치과 의사인 스튜어트 해머로프와 협력했습니다. 해머로프는 마취제가 뇌의 어디에 작용하는지 연구하다가 흥미로운 사실을 발견했습니다. 마취제는 뉴런 간의 신호 전달을 차단하는 것이 아니라, 뉴런 안쪽에 미세한 구조물인 ‘미세 소관(Microtubule)’에 작용한다는 것이었습니다. 지름이 고작 25나노미터에 불과한 이 원통형 단백질 구조물이 바로 세포 안에서 골격 역할을 하는 핵심 요소입니다.
펜로즈와 해머로프는 이 미세한 공간에서라면 양자 현상이 일어날 수 있을 것이라고 주목했습니다. 그들은 이 이론을 ‘조화된 객관적 수축(Orchestrated Objective Reduction, Orch-OR)’ 이론이라고 명명했습니다. 핵심 아이디어는 이렇습니다. 미세 소관 안에서 전자들이 양자 중첩 상태를 유지하며 여러 가능성이 동시에 존재하다가, 특정 임계점에 도달하면 하나의 상태로 붕괴됩니다. 바로 이 순간이 의식적 경험이 일어나는 순간이라는 것이죠. 뇌파로 측정되는 초당 40회의 감마파 진동이 이 양자 붕괴의 리듬과 일치한다고 주장했습니다.
비판과 놀라운 발견들: 생명체 속 양자 현상
물론 비판도 거셌습니다. MIT의 물리학자 맥스 태그마크는 2000년 뇌의 따뜻한 환경에서는 양자 결맞음이 1조 분의 1초도 유지되지 못할 것이라는 계산 결과를 발표했습니다. 의식이 형성되려면 적어도 100분의 1초는 유지되어야 하는데, 이는 100억 배나 짧은 시간이었습니다. 이 계산이 맞다면 Orch-OR 이론은 불가능합니다.
그러나 놀라운 일이 벌어졌습니다. 2007년 UC 버클리의 연구팀이 광합성을 연구하다가 식물 세포 안에서 양자 결맞음이 상온에서 관찰된 것입니다. 녹색 유황 세균의 엽록소 복합체에서 빛 에너지가 전달될 때, 전자가 여러 경로를 동시에 탐색하는 양자 현상이 일어났습니다. 마치 양자 컴퓨터처럼 모든 가능한 경로를 한 번에 계산해서 가장 효율적인 길을 찾아내는 것이죠. 이는 생명체가 양자 효과를 실제로 활용하고 있다는 첫 번째 확실한 증거였고, 과학계를 충격에 빠뜨렸습니다. 식물이 30억 년 동안 진화하면서 양자 역학을 생존 도구로 만들었다면, 우리 뇌도 비슷한 일을 할 수 있지 않을까요? 이후 철새의 자기장 감지, 후각 수용체의 작동 원리 등에서도 양자 효과가 발견되었습니다. 생명은 우리가 생각했던 것보다 훨씬 더 양자적이었습니다.
2014년 일본 국립 재료 과학 연구소의 반디오파디아 연구팀은 미세 소관에서 양자 진동을 직접 관찰했다고 발표했습니다. 해머로프는 이를 Orch-OR 이론의 증거라고 주장했지만, 관찰된 진동이 정말 양자 현상인지 단순한 고전적 진동인지에 대한 논쟁은 여전히 계속되고 있습니다. 2022년 캐나다 앨버타 대학 연구팀은 뇌 조직에서 양자 얽힘 신호를 측정하려는 더 직접적인 실험을 시도했습니다. 아직 완전히 증명하지는 못했지만, 양자 효과가 뇌에서 일어날 가능성을 보여주는 간접 증거들이 나왔습니다. 특히 마취제가 미세 소관의 양자 결맞음을 방해한다는 사실이 확인되었습니다. 마취제는 미세 소관의 구조를 미세하게 변형시켜 양자 효과를 무너뜨리고, 그 결과 의식이 꺼진다는 것이죠. 서울대 물리학과 양자 정보 연구실도 2023년부터 양자 센서를 이용해 뉴런 내부의 자기장 변화를 나노미터 수준에서 측정하며 뇌의 양자 현상을 연구하고 있습니다.
의식은 양자 현상일까? 격렬한 논쟁의 중심
이제 가장 중요한 질문입니다. 뇌에서 양자 현상이 일어난다는 증거가 쌓이고 있다면, 의식 자체가 양자 현상일까요? 아니면 단지 양자 효과를 활용하는 고전적 계산 시스템일까요? 이 질문을 둘러싸고 과학계는 2025년 현재까지도 격렬하게 논쟁하고 있습니다.
찬성 측 주장: 통합 정보 이론과 양자 얽힘
위스콘신 메디슨 대학의 신경 과학자 줄리우 토니는 2004년 ‘통합 정보 이론(Integrated Information Theory, IIT)’이라는 획기적인 의식 이론을 제안했습니다. 이 이론의 핵심은 의식을 ‘통합된 정보의 양’으로 측정할 수 있다는 것입니다. 시스템이 정보를 얼마나 통합하느냐에 따라 의식의 정도가 결정된다는 거죠. 토니는 뇌의 후방 피질이 의식을 만드는 핵심 영역이라고 주장했습니다. 실제로 전전두엽이 손상되어도 사람들은 의식을 유지하지만, 후방 피질이 손상되면 의식을 잃습니다. 그리고 이 영역의 뉴런들은 서로 촘촘하게 연결되어 정보가 고도로 통합됩니다. 일부 과학자들은 이 통합 과정에서 ‘양자 얽힘’이 중요한 역할을 할 수 있다고 봅니다. 양자 얽힘이란 두 입자가 아무리 멀리 떨어져 있어도 한쪽의 상태를 측정하면 다른 쪽도 즉시 영향을 받는 현상입니다. 아인슈타인이 ‘유령 같은 원격 작용’이라고 부르며 불편해했던 바로 그 현상이죠. 만약 뇌의 뉴런들이 양자 얽힘으로 연결되어 있다면, 여러분이 빨간 장미를 보며 향기를 맡고 따스함을 느끼는 그 통합된 경험을 설명하는 데 도움이 될 수 있습니다.
2022년 더블린 트리니티 대학의 연구팀은 뇌에서 양자 얽힘의 간접 증거를 포착했다고 발표했습니다. 연구진은 뇌척수액의 양성자 스핀을 관찰할 수 있는 특수 MRI 장비를 사용했는데, 양자 얽힘이 없다면 특정 신호가 나타나지 않아야 할 곳에서 실제로 그 신호가 관찰되었습니다. 이는 완전한 증명은 아니지만, 뇌가 고전 물리만으로 작동하지 않을 가능성을 보여주는 흥미로운 실험이었습니다.
자유 의지와 양자 불확정성
또 다른 흥미로운 증거는 ‘자유 의지’와 관련이 있습니다. 독일의 뇌 과학자 벤자민 리벳은 1980년대에 유명한 실험을 통해 사람들이 의식적으로 손가락을 움직이기로 결정하기 수백 밀리초 전에 이미 뇌에서 준비 신호가 나타난다는 것을 보여주었습니다. 자유 의지는 환상일까요? 여기서 양자 역학이 등장합니다. 양자 역학의 핵심 원리 중 하나는 ‘불확정성’입니다. 입자의 위치와 운동량을 동시에 정확히 알 수 없다는 하이젠베르크의 불확정성 원리 말입니다. 만약 의식이 양자 과정이라면, 뇌의 결정 또한 근본적으로 불확정적일 수 있습니다. 완전히 결정된 미래가 아니라 여러 가능성이 열려 있는 것이죠. 이것이 진정한 자유 의지의 근거가 될 수 있다는 주장이 제기됩니다.
회의론과 미해결 과제
하지만 회의론자들의 반박도 만만치 않습니다. 옥스퍼드 대학의 막스 태그마크는 뇌가 너무 따뜻하고 습하다고 지적합니다. 양자 컴퓨터는 절대 영도 근처에서 작동해야 양자 얽힘이 유지되는데, 섭씨 37도의 뇌에서 어떻게 양자 효과가 유지될 수 있겠느냐는 겁니다. MIT의 신경 과학자들도 비슷한 지적을 합니다. 뇌는 매우 ‘시끄러운’ 환경입니다. 수천억 개의 뉴런이 끊임없이 전기 신호를 주고받고, 화학 물질이 이리저리 떠다니고, 혈액이 흐르며 열을 만들어냅니다. 이런 환경에서 섬세한 양자 상태가 유지되기는 거의 불가능하다는 것이죠. 광합성이나 철새의 나침반은 특수하게 보호된 단백질 구조 안에서 일어나는 현상이지, 뇌 전체에서 일어날 수 있는 현상이 아니라는 겁니다.
게다가 더 근본적인 문제가 있습니다. 설령 뇌에서 양자 현상이 일어난다 해도 그것이 의식을 설명하는 걸까요? 오픈AI의 O1 버전 같은 AI 시스템이 엄청난 계산을 수행하지만, 아무도 양자 컴퓨터나 고성능 AI가 의식을 가진다고 생각하지 않습니다. 마찬가지로 뇌에서 양자 효과가 관찰된다 해도 그것이 왜 주관적 경험을 만드는지는 여전히 미스터리입니다. 차머스의 ‘하드 프라블럼’은 여전히 남아 있는 것이죠.
2023년 140명의 신경 과학자와 철학자들이 공개 서한을 발표했습니다. 통합 정보 이론을 포함한 일부 의식 이론들이 충분한 증거 없이 과학적 사실처럼 받아들여지고 있다는 비판이었습니다. 이론이 너무 포괄적이어서 반증할 방법이 없다는 거죠. 이는 ‘모든 것을 설명하는 이론은 사실 아무것도 설명하지 못한다’는 칼 포퍼의 비판과 맥을 같이 합니다.
이번시간에는 의식의 미스터리: 뇌와 양자역학의 놀라운 만남 에 대해 알아보았습니다. 서울대 뇌과학 연구소의 한 연구원은 이렇게 말합니다. “양자 효과가 뇌에서 일어날 가능성은 열려 있습니다. 하지만 그것이 의식의 원인인지, 아니면 단지 뇌가 정보를 처리하는 도구 중 하나인지는 아직 모릅니다. 마치 컴퓨터가 전기를 사용하지만, 전기 자체가 소프트웨어를 설명하지 못하는 것처럼요.”
미래를 향한 질문: 의식의 본질은 무엇인가?
2025년 UN은 올해를 ‘세계 양자 과학 기술의 해’로 지정했습니다. 양자 역학 탄생 100주년을 기념하는 해입니다. 한 세기 동안 양자 역학은 반도체, 레이저, MRI, GPS 등 우리의 세계를 완전히 바꿔 놓았습니다. 그리고 이제 우리는 ‘의식이란 무엇인가?’라는 새로운 질문 앞에서 있습니다. 양자 역학은 이 오래된 수수께끼에 새로운 언어를 제공하고 있지만, 명확한 답은 아직 모릅니다. 어쩌면 그것이 과학이 가진 겸손한 태도일 것입니다. 우리는 질문을 멈추지 않을 것이며, 그 질문의 끝에 인류의 존재를 뒤흔들 무언가가 있을 것이라고 믿습니다.
