Choose a default theme

You can change your theme from the menu

빵집의 계산 업무를 한 사람이 차례로 처리하는 것과 여러 작업대가 나누어 처리하는 것을 비교해 봅시다. 신경망에도 많은 비슷한 계산이 반복됩니다. 신경망에서는 여러 입력과 가중치를 곱하고 더하는 계산을 큰 배열로 처리합니다. 이를 행렬 계산으로 묶으면 많은 연산을 효율적으로 수행할 수 있습니다. GPU는 많은 연산을 병렬로 처리하는 데 적합한 구조를 갖습니다. 신경망 학습에 자주 등장하는 연산이 이런 특성과 잘 맞을 수 있습니

200

계산이 여러 층 이어져 있다면 마지막 오차를 보고 어느 값을 얼마나 바꿔야 할까요? 신경망 전체를 한 번에 추측하는 대신, 계산 사이의 영향을 연결해 효율적으로 구하는 방법이 역전파입니다. 입력에서 출력을 만들고 손실을 계산하는 순전파를 수행합니다. 이 과정의 중간 값은 나중에 변화율을 구하는 데 필요할 수 있습니다. '출력이 틀렸다'는 정보만 남기는 것이 아니라 어떤 계산을 거쳤는지가 중요합니다. 연쇄법칙은 각 단계를 조금

300

안개 낀 언덕에서 가장 낮은 곳을 찾는다고 생각해 봅시다. 전체 지도를 보지 못해도 발밑이 어느 쪽으로 기울었는지 보고 조금씩 움직일 수 있습니다. 모델의 값을 조금 바꾸면 손실이 어떻게 변하는지 계산할 수 있습니다. 여러 매개변수에 대한 변화율을 모은 것이 기울기, 즉 그래디언트입니다. 경사하강법은 손실을 줄이기 위해 대체로 기울기의 반대 방향으로 값을 조정합니다. 언덕의 높이는 손실, 현재 위치는 매개변수 값에 대응합니다.

300

준의 모델이 빵 8개를 예측했지만 실제로는 10개가 팔렸습니다. 틀렸다는 사실은 알지만 얼마나 나쁘게 틀렸는지 숫자로 만들려면 기준이 필요합니다. 손실함수는 모델의 출력이 학습 목표에서 얼마나 벗어났는지 계산하는 규칙입니다. 학습은 이 손실을 줄이는 방향으로 모델을 조정합니다. 어떤 손실을 고르는지는 무엇을 중요하게 여기는지와 관련됩니다. 수량 예측에서 오차의 절댓값을 쓰면 8과 10의 차이는 2입니다. 제곱하면 손실은 4입니

500

작은 계산기를 여러 개 이어 붙이면 무엇이 달라질까요? 민지는 같은 덧셈을 반복하는 것뿐이라면 큰 차이가 없을 것 같다고 말합니다. 입력층은 자료를 받고, 중간의 은닉층은 표현을 변환하며, 출력층은 문제에 필요한 결과를 만듭니다. 은닉층은 비밀스럽게 생각하는 공간이 아니라 입력·출력 사이의 계산 단계입니다. 사진에서 단순한 패턴을 결합해 복잡한 형태를 구별하는 직관을 떠올릴 수 있습니다. 다만 모든 모델의 각 층에 '눈 담당·

400

민지는 빵의 가격과 크기를 보고 가성비 점수를 매깁니다. 어떤 단서를 더 중요하게 볼지 바꾸면 점수도 바뀝니다. 각 입력에 가중치를 곱해 합친 뒤 편향을 더합니다. 편향은 입력값과 별개로 더하는 값입니다. 학습용 예에서 입력이 2와 3, 가중치가 0.5와 -1, 편향이 1이면 결과는 2×0.5+3×(-1)+1=-1입니다. 이 숫자는 임의의 설명용 값이며 실제 빵 품질이나 모델을 측정한 값이 아닙니다. 한 단위의 결과를 다음 계

300