연합학습과 인지학습

1. 학습을 보는 큰 지도

학습 연구는 관찰하려는 변화에 따라 크게 세 갈래로 정리할 수 있다. 비연합학습은 하나의 자극이 반복될 때 반응이 어떻게 달라지는지, 연합학습은 단서·행동·결과 사이의 관계를 어떻게 익히는지, 인지학습은 주의·기억·표상·추론을 어떻게 사용하는지 다룬다. 실제 행동에서는 이 과정들이 함께 작동할 수 있다.

2. 연합 이론은 무엇을 설명하는가

연합 이론은 경험을 통해 한 사건이 다른 사건을 얼마나 잘 예측하게 되는지를 설명한다. 여기서 사건은 소리나 불빛 같은 단서, 개의 행동, 간식이나 산책 같은 결과가 될 수 있다. 현대 이론에서 “표상”은 물건 하나를 담는 머릿속 칸이 아니라, 대상·행동·결과와 그 관계에 대해 신경계가 보존한 정보를 뜻한다.

뿌리 — 영국 경험론의 연합주의

• 17~19세기 일부 영국 경험론자는 복잡한 생각이 감각 경험과 관념의 결합에서 형성된다고 봤다. 이들을 모두 같은 강도의 “백지설”로 묶을 필요는 없다.
• 흄은 관념이 붙는 원리를 유사·시공간적 근접·인과의 셋으로 정리했다. 하틀리와 밀 부자는 이것을 마음 전체의 작동 원리로 확장했다. 이 입장을 연합주의라고 부른다.
• 여기서 경험한 사건 사이의 관계가 지식을 만든다는 생각이 학습 이론으로 넘어왔다. 초기에는 근접성과 반복을 강조했지만 현대 모형은 예측성, 놀라움, 주의도 함께 본다.

실험실 번역 — 자극과 반응

• 20세기 초 이 틀이 실험실 언어로 옮겨졌다. 원자가 관념에서 자극과 반응으로 바뀐 것이 핵심이다. 머릿속을 보지 않아도 되므로 측정할 수 있다.
• 손다이크는 상황과 반응의 결합, 헐은 강화된 횟수가 쌓여 커지는 습관 강도라는 값을 놓았다. 학습을 누적 횟수의 함수로 본 것이다.
• 자극-반응(S–R) 이론은 이 계보의 한 갈래다. 모든 연합 이론이 행동을 단순한 S–R 결합으로 설명하는 것은 아니다.

지금의 연합 이론

• 레스콜라–와그너 모형은 실제 결과와 예상 결과의 차이인 예측 오차가 클수록 더 많이 학습한다고 본다. 그러나 주의를 바꾸는 모형, 자극 전체의 구성을 배우는 모형 등 다른 연합 모형도 있다.
• 인공신경망의 가중치는 연합 강도를 이해하는 비유로 쓸 수 있다. 다만 신경망에는 다양한 구조와 학습 규칙이 있고, 역전파와 동물의 연합학습 모형은 서로 다른 수준의 설명이다.

3. 조건화 안에서도 여러 관계를 배운다

고전적 조건화와 조작적 조건화는 보통 연합학습의 대표 유형으로 분류한다. 그러나 “고전적은 자극-자극, 조작적은 행동-결과”라고 한 줄로 끝내면 중요한 차이를 놓친다. 조작적 행동도 목표를 고려하는 단계와 반복 뒤 굳어진 습관 단계가 다를 수 있다.

핵심은 단순히 함께 나온 횟수가 아니다. 단서가 있을 때와 없을 때 결과 확률이 얼마나 달라지는지, 행동이 결과를 실제로 바꾸는지, 결과가 지금도 가치 있는지, 다른 단서가 결과를 이미 예측하는지가 모두 행동을 바꾼다.

4. 연구 결과를 읽는 다섯 가지 기준

겉으로 같은 행동도 서로 다른 과정을 거쳐 나올 수 있다. 연구자는 보상의 유무만 보거나 행동에 이름을 붙이는 데서 끝내지 않고, 조건을 하나씩 바꾸어 어떤 정보가 행동을 이끄는지 확인한다.

• 직접 보상이 없어도 사건 사이의 관계를 배울 수 있다. 고전적 조건화의 무조건자극은 행동 뒤에 주는 보상과 역할이 다르다. 감각 사전조건화와 통계학습에서도 학습자는 정답 보상 없이 사건의 순서와 규칙성을 익힌다.
• 시간적 근접성과 함께 예측성을 본다. 두 사건이 가까이 일어나는 것은 중요하지만, 단서가 결과의 확률을 실제로 높이는지도 중요하다. 단서의 두드러짐, 주의, 맥락, 종마다 다른 감각과 행동 성향도 학습의 방향을 바꾼다.
• 새 조합에서 전이를 검사한다. 비슷한 자극으로의 일반화, 이미 배운 요소의 조합, 자극 전체에 대한 표상은 모두 새 상황의 성공에 기여할 수 있다. 체이서 연구는 명령과 사물 이름을 새롭게 조합해, 한 문장을 통째로 외운 경우와 구별했다.
• 행동 자료와 생리 자료를 함께 해석한다. 선택, 반응시간, 침 분비, EEG, 뇌영상은 서로 다른 측정값이다. 연구자는 여러 조건에서 이 값이 어떻게 달라지는지 비교해 그 뒤의 학습 과정과 표상을 추론한다.
• 한 대상에 연결된 여러 정보의 구조를 본다. 현대 연합 이론은 한 결과를 예고하는 여러 단서, 대상의 여러 속성, 자극의 구성과 위계를 다룬다. 공 하나에도 고유 이름, ball, toy 같은 여러 범주의 이름이 연결될 수 있다.

5. 연합 이론이 학습 연구의 토대를 만들었다

1890년대부터 1940년대까지 특히 미국의 실험심리학은 관찰하고 반복 측정할 수 있는 행동을 앞세웠다. 오늘날 훈련에서 쓰는 효과의 법칙, 조건반사, 조작적 행동, 강화 스케줄 같은 기본 어휘도 이 시기에 구체화됐다.

6. 표상과 문제 해결을 연구하기 시작하다

표상이나 문제 장면의 구조를 말하는 설명은 1950년대에 갑자기 생기지 않았다. 쾰러와 톨먼은 행동주의가 영향력을 넓히던 시기부터 점진적 S–R 결합만으로 충분한지 물었다. 다만 이 고전 실험에도 대안 설명과 재현성 한계가 있다.

7. 1950~60년대에 설명의 폭이 넓어졌다

이 시기는 흔히 인지혁명이라고 불린다. 정보 처리, 언어, 생물학적 제약을 다루는 연구가 늘면서 학습 연구의 질문과 방법이 넓어졌다. 브렐런드 부부와 가르시아의 연구는 같은 조건화 절차도 종의 행동 성향과 단서·결과의 종류에 따라 다르게 나타난다는 점을 보여 줬다.

8. 현대 학습 연구: 연합·예측·표상

현대 연합 이론은 머릿속의 연결 하나가 반복할수록 굵어진다는 설명보다 훨씬 넓다. 어떤 결과가 예상 밖이었는지, 어떤 단서에 주의가 배분되는지, 개별 요소와 장면 전체 가운데 무엇을 표상하는지, 맥락이 기억을 어떻게 불러오는지, 행동이 특정 결과와 연결됐는지를 각각 다른 모형으로 다룬다.

현대 연합 이론이 묻는 여섯 가지

이 모형들은 하나만 골라 나머지를 버리는 후보 목록이 아니다. 예측 오차가 결과의 가치를 갱신하는 동시에 단서에 쏟는 주의를 바꿀 수 있고, 그 변화가 맥락에 따라 다른 기억을 불러올 수 있다. 그래서 최근 이론은 여러 계산을 결합한 혼합 모형과, 연합 과정이 실제 행동 선택 체계 안에서 어떻게 작동하는지를 설명하는 처리 구조를 함께 연구한다. 도파민의 순간적 변화도 예측 오차와 관련되지만, 도파민 신호 하나를 학습 전체와 같은 것으로 보지는 않는다. 주의·맥락·행동 선택에는 여러 뇌 회로가 관여한다.

목표지향 행동과 모델 기반 학습, 습관과 모델 프리 학습은 서로 가까운 개념이지만 같은 뜻으로 고정해서 쓰면 안 된다. 전자는 결과 가치와 행동–결과 관계를 바꾼 뒤 행동이 달라지는지를 검사해 정의하고, 후자는 환경 모형을 사용해 선택값을 계산하는지 보상 이력을 바로 누적하는지를 계산 모형으로 구분한다. 실제 연구에서는 두 구분의 측정값이 약하게만 일치하거나, 목표지향 통제와 습관 통제가 동시에 작동하는 결과도 나온다.

이 변화가 만들어진 연구의 흐름

9. 인지학습은 어떻게 일어나는가

인지학습은 하나의 별도 스위치가 켜지는 현상이 아니다. 학습자가 필요한 정보에 주의를 기울이고, 경험의 요소와 관계를 기억에 묶고, 그 안의 규칙과 구조를 찾아 표상을 만들고, 목표에 맞게 기억을 꺼내 재조합하는 여러 과정의 묶음이다. 이 과정은 의식적으로 문제를 풀 때도, 반복되는 순서를 특별한 지시 없이 익힐 때도 나타난다.

직접 경험, 관찰, 언어는 서로 다른 입력 경로다

직접 해 보고 결과를 겪는 것만이 인지학습의 입력은 아니다. 다른 개체의 선택과 결과를 관찰하면 그 사회적 정보가 파블로프식·공간·조작적 학습에 쓰이는 회로에 들어가 직접 경험을 보완할 수 있다. 이때 관찰자는 동작 자체를 복사할 수도 있고, 시범자가 주목한 장소나 물건만 알아낸 뒤 자기 방식으로 해결할 수도 있다.

사람은 언어 지시를 통해 아직 겪지 않은 관계도 빠르게 세울 수 있다. 반면 영아와 동물의 통계학습처럼 명시적 설명 없이 규칙성이 쌓이는 과정도 있다. 따라서 인지학습을 곧바로 의식적 사고와 같은 말로 쓰기보다, 어떤 입력을 받았고 어떤 표상이 생겼으며 새 문제에서 어떻게 사용했는지를 구체적으로 적는 편이 정확하다.

10. 사람은 어떻게 배우는가

저절로 돌아가는 기제

아기는 직접 가르치거나 정답 보상을 주지 않아도 규칙성을 배운다. 아래 연구들은 통계, 화자의 시선, 타인의 행동 같은 서로 다른 정보를 어떻게 쓰는지 보여 준다. 이 결과들을 곧바로 “비연합학습”이라고 부르면 각 과정의 차이를 놓친다.

의도적으로 배울 때 — 반복해서 재현된 것들

아래는 사람의 기억과 숙련 연구에서 반복적으로 다뤄진 현상들이다. 사람에게서 재현됐다는 이유만으로 개 훈련에 그대로 적용할 수는 없다. 개에게 옮길 때는 개 대상 연구와 과제의 차이를 따로 확인해야 한다.

11. 동물은 어떻게 배우는가

연합학습은 여러 종에서 관찰되지만, 어떤 단서에 주목하고 어떤 결과를 빨리 배우는지는 종의 감각, 진화사, 발달 경험과 현재 동기에 따라 달라진다. 아래 연구들은 발달 시기, 생물학적 성향, 도구 사용, 기억, 사회적 학습, 사람의 신호 읽기를 서로 다른 과제로 살폈다.

12. 언어는 어떻게 배우는가

언어는 이 논쟁의 최전선이었다. 촘스키가 스키너의 설명 범위를 비판한 자리도 여기고, 지금도 입력의 양·통계학습·사회적 상호작용·선천적 편향의 몫을 두고 논쟁이 이어진다. 아래는 서로 다른 연구가 확인한 범위다. 음운에서 화용까지의 층위 전체와 개가 어디까지 올라왔는지는 강아지에게 언어를 가르치기에 정리해 두었다.

13. 개를 가르칠 때 이 구분이 하는 일

훈련에서는 “조건화로 행동을 만들고 그 위에 인지를 얹는다”는 2층 그림보다,개가 지금 무엇을 단서로 삼고 무엇을 결과로 예상하는지를 확인하는 편이 실용적이다. 같은 “앉아”도 말소리, 손짓, 사람의 자세, 장소 가운데 무엇이 실제로 행동을 통제하는지는 별도 검사 없이는 알 수 없다.

• 행동과 이름을 나눠 가르친다 — 물어오기 동작과 물건 이름은 서로 다른 정보를 요구한다. 체이서 연구도 각 이름을 오랜 차별강화로 가르친 뒤, 명령과 이름을 새롭게 조합해 별도 검사했다.
• “뜻을 안다”는 주장에는 전이 검사가 필요하다 — 익숙한 순서만 반복하지 말고 명령과 물건의 새 조합, 새 위치, 훈련자와 다른 사람, 냄새 단서 통제 조건에서 검사한다. 한 번 성공한 것과 장기 기억도 구분한다.
• 안 되면 반복 횟수만 늘리지 않는다 — 단서가 감지하기 쉬운지, 결과가 지금 가치 있는지, 환경의 다른 단서가 더 눈에 띄는지, 종 고유 행동과 충돌하는지부터 확인한다. 감각과 행동 성향에 맞는 단서와 과제를 고르면 학습 조건을 더 분명하게 만들 수 있다.
• 새 말과 기존 손짓을 동시에 내지 않는다— 둘을 늘 동시에 내면 더 두드러진 손짓만 배우는 차폐가 생길 수 있다. 큐를 바꿀 때는 “새 말 → 짧은 간격 → 이미 아는 손짓 → 행동 → 강화” 순서로 주고, 새 말만으로 수행하는지 별도 시행에서 확인한다.
• 세션은 짧게 하고 휴식을 둔다 — 비글 44마리를 같은 총 18세션 동안 훈련한 한 연구에서는 하루 세 세션을 연달아 한 집단보다 한 번만 한 집단의 습득이 빨랐고, 매일보다 주 1~2회 집단이 빨랐다. 다만 과제 하나의 결과이므로 모든 개에게 주 1~2회가 최적이라는 처방은 아니다. 피로·집중·과제 난도에 맞춰 조절한다.

14. 출처

원 연구와 연구자 리뷰를 함께 모았다. 링크에 따라 초록만 공개되거나 기관 접근이 필요할 수 있다. 각 연구가 보여 준 결과와 그 결과를 해석한 주장은 구분해 읽어야 한다.