딥러닝의 기본 단위인 인공 뉴런은 뇌의 신경세포를 단순화한 수학 모형이다. 입력에 가중치를 곱해 더하고, 합이 기준(역치)을 넘으면 신호를 내보내는 방식이다. 다만 “뇌를 그대로 복제했다”는 설명은 과장이며, 신경과학에서 아이디어를 빌려 수학적으로 단순화한 것이라고 보는 편이 정확하다. 이 글은 뉴런의 구조, 퍼셉트론의 계산, 두 가지 연구 접근, 딥러닝으로 이어진 흐름을 순서대로 정리한다.
뉴런은 어떻게 신호를 주고받나?
뇌는 신경세포(뉴런)의 네트워크이고, 뉴런은 다른 뉴런과 접점인 시냅스를 통해 신호를 전달한다. “뉴런이 서로 독립된 세포”라는 뉴런설(neuron doctrine)은 스페인의 라몬 이 카할이 주장했다. 이탈리아의 골지는 신경계가 하나로 이어진 그물이라는 망상설을 끝까지 지지했고, 두 사람은 이 대립 속에서 1906년 노벨 생리의학상을 함께 받았다.1 즉 골지가 뉴런설을 함께 밝혔다고 쓰면 부정확하다. 이후 전자현미경으로 시냅스 틈이 확인되며 카할의 견해가 입증됐다.1
뉴런은 입력이 충분히 쌓였을 때 신호(활동전위)를 내보내는 방식으로 작동한다. 학습할 때는 자극이 반복된 연결이 강해지는 시냅스 가소성이 일어나는 것으로 알려져 있으며, 기억이 이런 연결 회로에 저장된다고 여겨진다.5 이 두 가지, 즉 “합이 기준을 넘으면 발화”와 “연결 강도가 학습으로 바뀐다”가 인공 뉴런의 모델이 되었다.
인공 뉴런(퍼셉트론)은 어떻게 계산하나?
인공 뉴런은 1943년 맥컬러(McCulloch)와 피츠(Pitts)가 처음 제안했다. 이 모델은 켜짐/꺼짐의 이진 단위였지만 가중치를 사람이 직접 설계해야 했고, 데이터로 학습하는 장치는 없었다.2 1950년대 후반 프랭크 로젠블랫이 가중치를 조절하는 학습 규칙을 더한 퍼셉트론을 만들었다. 오차에 따라 예제마다 가중치를 고치는 방식이며, 데이터가 선형으로 분리될 때는 유한한 횟수의 실수 뒤에 수렴한다.2
계산은 세 단계다. (1) 각 입력에 가중치를 곱한다. (2) 모두 더한다. (3) 합이 역치를 넘으면 1, 아니면 0을 출력한다. AND 연산을 예로 들면, 두 입력의 가중치를 각각 1, 역치를 1.5로 두면 된다.
| 입력 A | 입력 B | 합(1×A+1×B) | 역치 1.5 초과? | 출력 |
|---|---|---|---|---|
| 0 | 0 | 0 | 아니오 | 0 |
| 0 | 1 | 1 | 아니오 | 0 |
| 1 | 0 | 1 | 아니오 | 0 |
| 1 | 1 | 2 | 예 | 1 |
역치를 입력에서 빼는 형태로 바꾸면 “편향(bias) -1.5, 역치 0″과 같은 식이 된다. 구판 글에서 가중치 -1.5와 역치 0을 함께 언급한 것은 이 편향을 뜻한다.
뉴런이 0과 1처럼 동작한다는 말은 정확한가?
절반만 맞다. 뉴런이 신호를 낼지 말지의 형태로 반응한다는 점이 이진 모델의 영감이 된 것은 사실이다. 하지만 실제 뇌는 신호 빈도, 시냅스의 화학적 조절 등 훨씬 복잡한 방식으로 정보를 다루며, 오늘날 딥러닝의 인공 뉴런은 0/1이 아니라 연속적인 값을 내는 활성화 함수를 쓰는 것이 일반적이다. “뉴런은 컴퓨터의 0과 1과 같다”는 설명은 비유일 뿐이다.
두 가지 접근: 규칙 기반과 신경망
| 접근 | 방식 | 한계/결과 |
|---|---|---|
| 규칙(로직) 기반 | “귀가 뾰족하면 고양이” 같은 규칙을 사람이 입력 | 경우의 수가 폭발해 현실 문제에 대응하기 어려움 |
| 신경망(뉴런 모방) | 가중치를 데이터로부터 학습 | 데이터와 연산 자원이 있으면 성능이 크게 향상 |
신경망이 곧바로 성공한 것은 아니다. 1969년 민스키와 페퍼트는 단일층 퍼셉트론이 XOR 같은 선형 분리 불가능한 문제를 풀 수 없음을 보였고, 이 책의 영향으로 신경망 연구가 위축됐다. 다층 퍼셉트론이라면 XOR을 다룰 수 있었으므로 한계는 단일층에 해당했다.2 1980년대에 다층 신경망 연구가 되살아났다.2
딥러닝은 무엇이 다른가?
딥러닝은 뉴런 층을 여러 겹 쌓은 신경망이다. 핵심 학습 도구는 역전파(backpropagation)로, 출력 오차가 각 가중치에 얼마나 영향을 주었는지 연쇄법칙으로 뒤에서 앞으로 계산한 뒤 가중치를 조금씩 고친다.3 층이 깊어지면 입력에서 단순한 특징(선, 모서리)부터 복합 특징(얼굴, 사물)까지 단계적으로 학습할 수 있다.
노벨상은 이 분야에 어떤 의미가 있나?
2024년 노벨 물리학상은 존 홉필드와 제프리 힌턴에게 돌아갔다. 스웨덴 왕립과학원은 두 사람이 물리학의 도구를 사용해 오늘날 머신러닝의 토대가 되는 방법을 개발했다고 밝히며, 인공신경망 기반 머신러닝이 과학·공학·일상을 바꾸고 있다고 평가했다.4 같은 해 논의에서 “딥러닝의 기초를 닦은 수상자”로 요약되곤 하지만, 수상 근거는 홉필드 네트워크와 볼츠만 머신 등 신경망의 기반 연구다.
정리: 기억해 둘 세 가지
- 인공 뉴런 = 입력×가중치의 합이 기준을 넘으면 출력하는 단순 계산 단위
- 학습 = 데이터에 맞게 가중치를 조절하는 일(역전파가 핵심 도구)
- 뇌와의 관계 = 영감을 얻은 단순화이지, 뇌의 복제가 아니다
- Scientifica, “Meet the Nobels: Golgi and Cajal” — https://www.scientifica.uk.com/neurowire/meet-the-nobels-golgi-and-cajal
- Wikipedia, “Perceptron” — https://en.wikipedia.org/wiki/Perceptron
- Wikipedia, “Backpropagation” — https://en.wikipedia.org/wiki/Backpropagation
- Reuters via The Kathmandu Post, “Nobel Prize in Physics 2024” (2024-10-08) — https://kathmandupost.com/world/2024/10/08/nobel-prize-in-physics-2024-scientists-hopfield-and-hinton-win-for-machine-learning-work
- Wikipedia, “Synaptic plasticity” — https://en.wikipedia.org/wiki/Synaptic_plasticity