Choose a default theme

You can change your theme from the menu

딥러닝

딥러닝은 여러 계산 층으로 이루어진 신경망을 활용하는 기계학습 접근입니다. 층 사이의 비선형 변환이 복잡한 관계를 표현하는 데 중요하며, 깊이가 늘어난다는 사실만으로 성능 향상이 보장되지는 않습니다.

다른 이름: Deep Learning · 심층 학습


층은 입력 표현을 차례로 바꿉니다

입력층은 자료를 받고, 중간의 은닉층은 표현을 변환하며, 출력층은 문제에 필요한 결과를 만듭니다. 은닉층은 비밀스럽게 생각하는 공간이 아니라 입력·출력 사이의 계산 단계입니다.

사진에서 단순한 패턴을 결합해 복잡한 형태를 구별하는 직관을 떠올릴 수 있습니다. 다만 모든 모델의 각 층에 '눈 담당·코 담당'처럼 고정된 의미가 붙는 것은 아닙니다.


활성화 함수가 비선형 변환을 넣습니다

가중합 같은 선형·아핀 변환만 여러 번 이어 붙이면 전체도 하나의 같은 종류 변환으로 합칠 수 있습니다. 층을 쌓는 것만으로 표현력이 원하는 만큼 늘어나지 않는 이유입니다.

활성화 함수는 값을 비선형으로 바꿉니다. 예를 들어 ReLU는 음수를 0으로 만들고 양수는 그대로 둡니다. 이런 변환을 조합하면 단순한 직선 관계만으로 표현하기 어려운 패턴을 다룰 수 있습니다.


깊이가 많으면 학습과 운영도 복잡해집니다

여러 층은 풍부한 표현을 만들 가능성을 주지만 계산량과 메모리 사용도 늘어납니다. 학습이 불안정해지거나 자료에 과도하게 맞출 수도 있습니다. 잔차 연결과 정규화는 깊은 신경망의 학습에 활용되는 방법입니다.

'딥러닝'을 깊은 철학적 사고라는 뜻으로 읽지 않습니다. 여러 계산 단계와 비선형 변환이 각각 역할을 갖습니다.


예시와 비교

입력

ReLU 출력

-3

0

0

0

2

2



주의할 해석

활성화 함수가 뉴런의 의식이나 감정을 만드는 것은 아닙니다. 계산에 필요한 수학적 변환입니다.


추가 설명

실제 언어 모델에서는 GELU나 SiLU 계열 등 다양한 활성화와 게이트 구조를 사용합니다. 특정 활성화 하나가 모든 신경망에 공통인 것은 아닙니다.



출처와 더 읽을 자료

Google — Nodes and hidden layers — 노드·가중치·은닉층 · 확인 2026-10-29

Google — Activation functions — 선형 연산의 합성과 비선형 활성화 · 확인 2026-10-29