
긴 자료를 붙이면 답변을 시작하기까지 기다리게 되고, 답변이 시작된 뒤에는 글자가 차례로 나타납니다. 프리필은 이미 주어진 입력 토큰들을 처리하는 단계입니다. 대표적인 인과적 트랜스포머에서도 마스크를 지키면서 여러 입력 위치를 함께 계산할 수 있습니다. 마지막 위치 출력에서 다음 토큰을 선택할 준비를 합니다. 입력 길이가 길면 처리할 양과 메모리 요구가 늘어날 수 있습니다. 실제 대기 시간에는 모델 계산뿐 아니라 서버 대기·통

긴 자료를 붙이면 답변을 시작하기까지 기다리게 되고, 답변이 시작된 뒤에는 글자가 차례로 나타납니다. 프리필은 이미 주어진 입력 토큰들을 처리하는 단계입니다. 대표적인 인과적 트랜스포머에서도 마스크를 지키면서 여러 입력 위치를 함께 계산할 수 있습니다. 마지막 위치 출력에서 다음 토큰을 선택할 준비를 합니다. 입력 길이가 길면 처리할 양과 메모리 요구가 늘어날 수 있습니다. 실제 대기 시간에는 모델 계산뿐 아니라 서버 대기·통

같은 질문을 두 번 했는데 답변 표현이 달라졌습니다. 모델은 어휘의 토큰마다 로짓이라는 점수를 냅니다. 소프트맥스는 점수들을 양수이고 합이 1인 값으로 바꾸는 대표적인 함수입니다. 이를 다음 토큰의 확률 분포로 해석할 수 있습니다. 여기서 확률은 문맥 뒤에 특정 토큰이 이어질 가능성에 대한 모델의 분포입니다. 문장 전체가 사실일 확률이나 답변을 믿어도 될 확률과 같은 뜻이 아닙니다. 탐욕적 선택은 확률이 가장 높은 토큰을 택합

같은 질문에 답변 두 개가 나왔습니다. 하나는 길지만 질문을 놓쳤고, 다른 하나는 짧고 정확하게 도움을 줍니다. 어떤 답변을 더 선호하는지 비교한 자료도 학습에 활용할 수 있습니다. SFT는 바람직한 답변을 예시로 주고, 선호 학습은 여러 답변 중 어떤 것을 더 좋게 보았는지 알려 줍니다. 사람의 평가 기준은 친절함·도움·지시 준수·안전성 등 여러 요소를 포함할 수 있습니다. 평가자를 어떻게 선정하고 어떤 기준을 제시하는지에

민지는 빵집 도우미가 질문에 짧고 친절하게 답했으면 합니다. 사전학습 모델에게 좋은 질문·답변 예시를 보여주며 행동을 가르치는 방법이 있습니다. SFT는 미리 학습된 모델에 지시와 바람직한 응답 등의 예시를 제공해 추가로 학습하는 방식입니다. 어떤 입력에 어떤 응답을 내도록 할지 구체적인 사례를 통해 조정합니다. 예를 들어 영업시간 질문에는 확인된 시간만 답하고, 모르는 내용은 확인이 필요하다고 말하는 예시를 만들 수 있습니다

같은 구조의 신경망을 만들었다고 곧바로 한국어로 대화할 수 있을까요? 계산 경로가 있어도 그 안의 수많은 값은 학습으로 정해야 합니다. 자기회귀 사전학습은 앞부분으로 다음 토큰을 맞히는 일을 대량으로 반복합니다. 정답은 원문에 있습니다. 예측과 목표의 차이에서 손실을 구하고, 역전파로 기울기를 계산하며, 옵티마이저로 가중치를 바꿉니다. 수집한 자료를 그대로 모두 넣는 것으로 끝나지 않습니다. 중복·잡음·품질·언어 구성·사용 권


민지의 질문이 화면에 나타났습니다. “비 오는 날 빵집은 무엇을 준비하면 좋을까?” 이제 이 문장을 따라 모델 안으로 들어가 봅니다. 서비스는 사용자 질문과 필요한 대화 기록·지시를 모델 입력 형식으로 묶습니다. 토크나이저가 이를 토큰 ID로 바꾸고, 모델은 각 ID에 대응하는 임베딩 벡터를 가져옵니다. ID는 항목을 가리키는 번호이고 임베딩은 계산에 쓰는 숫자 묶음입니다. 둘을 같은 것으로 보지 않습니다. 순서 정보도 모델이

어텐션이 정보를 모아줬다면 그다음에는 무엇을 할까요? 대표적인 트랜스포머의 FFN은 각 위치의 벡터를 선형 변환과 비선형 활성화 등을 거쳐 바꿉니다. 기본 구조에서는 같은 FFN 매개변수를 여러 위치에 적용하지만 각 위치의 입력 값은 다릅니다. FFN은 각 위치의 특징을 변환합니다. 모델에 따라 게이트나 전문가 혼합처럼 다른 구성을 쓰기도 합니다. 잔차 연결은 입력 x에 어떤 변환 결과 F(x)를 더해 x+F(x)처럼 전달하는

“민지가 준을 도왔다”와 “준이 민지를 도왔다”는 등장인물이 같아도 뜻이 다릅니다. 또 다음 말을 맞히는 연습에서 미래 정답을 미리 보면 시험이 무의미해집니다. 기본 어텐션 계산에 순서 단서를 별도로 주지 않으면 토큰의 위치 관계를 원하는 방식으로 다루기 어렵습니다. 위치 인코딩이나 회전 위치 임베딩 같은 방법으로 순서 정보를 계산에 반영합니다. 위치 번호를 글자처럼 문장 앞에 붙이는 한 가지 방식만 있는 것은 아닙니다. 위치

같은 문장에서도 인물 관계, 시간, 표현의 연결 등 여러 단서가 도움이 됩니다. 하나의 비교 방식만 사용하지 않고 여러 학습된 표현 공간에서 정보를 살피면 어떨까요? 멀티헤드 어텐션은 여러 Q·K·V 변환으로 어텐션 계산을 수행하고 결과를 결합합니다. 같은 입력이라도 다른 변환을 거쳐 서로 다른 관계를 반영할 가능성을 줍니다. 헤드의 역할은 학습 과정에서 형성됩니다. 사람이 미리 지정하거나 언제나 이름을 붙일 수 있는 것은 아

도서관에서 필요한 책을 찾는 상황을 떠올려 봅시다. 내가 찾는 조건, 각 책의 단서, 실제로 가져올 내용은 역할이 다릅니다. 표준 점곱 어텐션은 현재 위치의 쿼리(Q)와 비교할 위치의 키(K)를 내적해 관련도 점수를 구합니다. 도서관 비유의 검색어와 분류표를 떠올릴 수 있지만, 실제로는 사람이 쓴 문장이 아니라 학습된 선형 변환으로 만들어진 숫자 벡터입니다. 같은 입력 표현에서도 서로 다른 변환으로 Q·K·V를 얻습니다. 관련

“민지는 빵을 샀다. 그녀는 그것을 준에게 건넸다.” 여기서 '그녀'와 '그것'을 처리하려면 앞의 어떤 표현이 관련될까요? 셀프 어텐션에서는 각 위치의 표현을 바탕으로 다른 허용된 위치와의 관련도 점수를 구합니다. 이 점수를 가중치로 바꾼 뒤 해당 위치들의 정보 표현을 가중합합니다. '그것'에 빵 정보가 도움이 될 수 있다는 예는 직관을 위한 것입니다. 실제 모델의 점수가 우리가 예상한 문법 관계와 항상 일치하지는 않습니다.

문장을 한 조각씩 읽으며 앞의 내용을 작은 메모에 담는 방법을 떠올려 봅시다. 길어질수록 필요한 정보를 잘 유지하기 어려울 수 있습니다. 순환신경망은 입력을 차례로 읽으며 상태를 다음 단계로 넘깁니다. LSTM은 그 과정에서 정보를 더 잘 유지하도록 설계한 구조입니다. 길게 떨어진 단서를 다루거나 계산을 병렬화하는 데 어려움이 생길 수 있습니다. 다만 순환 구조가 모든 문제에서 쓸모없어졌다는 뜻은 아닙니다. 목적과 비용에 따라
