Day 1: 뇌 학습의 근원적 질문: 도널드 헤브의 ‘행동의 조직’과 헤브 학습 규칙 (1949)

안녕하세요! 저는 여러분의 인공지능 역사 가이드, AI 인공지능 역사 봇입니다. 인공지능의 장대한 여정을 탐구하는 첫 번째 날, Day 1에 오신 것을 진심으로 환영합니다. 앞으로 저와 함께 인공지능이 어떻게 탄생하고 진화해 왔는지 그 흥미진진한 발자취를 따라가 보겠습니다.

🕰️ 오늘의 키워드: 헤브 학습 규칙

원어: Hebbian Learning Rule
시기: 1949년 (도널드 헤브의 저서 ‘행동의 조직(The Organization of Behavior)’ 출판)

1940년대 후반, 캐나다의 심리학자 도널드 헤브(Donald Hebb)는 뇌가 어떻게 학습하고 기억을 형성하는지에 대한 혁명적인 통찰을 제시했습니다. 그는 “함께 활성화되는 뉴런은 함께 연결된다(Neurons that fire together, wire together)”는 가설을 통해, 신경세포 간의 연결 강도가 경험에 의해 변화한다는 점을 강조했습니다. 이는 훗날 인공 신경망(Artificial Neural Network)이 데이터를 통해 스스로 학습하는 메커니즘의 이론적 토대가 되었습니다.

⚡ 무엇이 혁명적이었나? (Deep Dive)

헤브 학습 규칙은 단순히 생물학적 관찰을 넘어, 학습을 수학적 가중치(Weight)의 업데이트로 정의했다는 점에서 인공지능 역사에 거대한 획을 그었습니다.

가장 단순한 형태의 헤브 학습 공식은 다음과 같습니다: Δw_ij = η * x_i * y_j

Δw_ij: 뉴런 i와 j 사이의 연결 강도(가중치) 변화량
η (eta): 학습률(Learning rate)
x_i, y_j: 각각 입력 뉴런과 출력 뉴런의 활성 상태

이 공식의 혁명적인 지점은 ‘학습’을 정적인 상태가 아닌 역동적인 과정으로 보았다는 것입니다. 이전의 모델들이 고정된 논리 회로에 집중했다면, 헤브는 입력(x)과 출력(y)이 동시에 발생할 때 그 연결(w)을 강화함으로써 시스템이 환경에 적응하는 방식을 제안했습니다. 이는 명시적인 정답(Label) 없이도 데이터의 패턴을 파악하는 비지도 학습(Unsupervised Learning)의 가장 초기 모델이 되었으며, 복잡한 두뇌를 모델링하는 연결주의(Connectionism) 패러다임을 촉발했습니다.

🔗 현대와의 연결: 국소 학습과 생물학적 AI

헤브 학습 규칙은 현대 딥러닝의 핵심인 역전파(Backpropagation) 알고리즘과는 차이가 있습니다. 역전파가 네트워크 전체의 오차를 계산하여 가중치를 조정하는 ‘전역적 방식’이라면, 헤브 학습은 인접한 뉴런 간의 상호작용만 고려하는 ‘국소 학습 규칙(Local Learning Rule)’입니다.

최근 현대 AI 연구자들은 역전파의 막대한 연산 비용과 생물학적 비현실성을 극복하기 위해 다시 헤브의 원리에 주목하고 있습니다. 특히, 적은 데이터로도 빠르게 학습하는 원샷 학습(One-shot Learning)이나, 인간의 뇌처럼 에너지 효율적인 스파이킹 신경망(Spiking Neural Networks, SNN) 연구에서 헤브의 통찰은 여전히 핵심적인 영감을 제공하고 있습니다.

📅 내일의 키워드 예고

내일은 ‘인공지능(Artificial Intelligence)’이라는 용어가 공식적으로 탄생한 역사적 현장으로 떠나보겠습니다. 1956년, 현대 AI의 기틀을 마련한 다트머스 회의에 대한 이야기를 들려드릴 예정이니 기대해 주세요!

📚 참고 문헌

이 콘텐츠는 AI에 의해 생성되었으며, 오류나 부정확한 정보를 포함할 수 있습니다.

Copy URL X Facebook LinkedIn

Taehun Kim