Choose a default theme

You can change your theme from the menu

처음에는 'AI가 뭐야?'라는 질문으로 시작했습니다. 이제 빵집 도우미에게 '이번 주 공지를 보고 비 오는 날 준비할 일을 정리해줘'라고 말했을 때 어떤 일이 일어날 수 있는지, 처음부터 끝까지 직접 설명해 봅니다. 개발 단계에서 사전학습·SFT·선호 학습 등의 방법으로 모델의 가중치를 조정할 수 있습니다. 모든 모델이 같은 단계를 거치는 것은 아니지만 학습과 답변 실행은 구별됩니다. 사용자가 질문하는 일반적인 추론에서는 준비

500

빵 사진을 보여주며 '어느 쪽이 더 많이 구워졌어?'라고 묻거나 음성으로 주문을 받아 적게 할 수 있습니다. 텍스트·이미지·음성·영상 같은 정보의 형태를 모달리티라고 합니다. 멀티모달 시스템은 여러 형태를 함께 처리하거나 다른 형태의 결과를 생성합니다. 모든 모델이 모든 입력과 출력을 지원하는 것은 아닙니다. 이미지를 보고 텍스트로 답하는 모델, 음성을 받아 음성으로 응답하는 모델 등 지원 범위와 구조가 다릅니다. 이미지를 조

300

AI가 '합계를 계산했습니다'라고 썼습니다. 실제 계산기를 쓴 것인지, 문장으로 계산 결과를 생성한 것인지 어떻게 다를까요? 도구 호출을 지원하는 모델은 사용할 도구 이름과 입력값 등을 정해진 형식으로 출력할 수 있습니다. 주변 프로그램이 그 요청을 읽고 실제 계산기·검색기·파일 기능 등을 실행합니다. 도구 실행 결과는 다시 모델 입력으로 전달되어 설명이나 다음 행동에 사용될 수 있습니다. '호출하려고 했다', '실행되었다',

400

민지가 '이번 주 신메뉴 안내문을 바탕으로 손님 질문에 답해줘'라고 부탁합니다. 모델이 이미 배웠는지 기대하는 대신 관련 문서를 찾아 입력에 넣어줄 수 있습니다. 검색 증강 생성, RAG는 외부 자료를 검색하고 그 내용을 생성 과정에 활용하는 접근입니다. 대표적인 흐름은 질문→검색→관련 자료 제공→답변입니다. 빵집 공지를 여러 조각으로 나누어 저장하고 질문과 관련된 조각을 찾을 수 있습니다. 키워드 검색·벡터 검색·재순위화 등

300

어제 빵집 이름을 알려줬더니 오늘도 기억하는 것 같습니다. 그러면 모델의 가중치에 우리 가게 이름이 새겨진 걸까요? 문맥은 답변할 때 주어진 메시지·자료·도구 결과입니다. 서비스가 다시 보내 준 이전 대화도 여기에 포함됩니다. 같은 대화방에 모든 기록이 보인다고 해서 그 전체가 매번 모델 입력으로 들어가는 것은 아닙니다. 길이 제한이나 서비스 정책에 따라 일부만 포함하거나 요약할 수 있습니다. 컨텍스트 윈도는 모델이 한 번에

300

AI가 어떤 논문의 제목·저자·발표 연도를 또박또박 알려줬습니다. 그런데 검색해 보니 그런 논문을 찾을 수 없습니다. 이 시리즈에서 환각은 사실과 다르거나 주어진 근거로 뒷받침되지 않는 내용을 모델이 생성하는 현상을 가리킵니다. 존재하지 않는 출처, 잘못된 날짜, 원문에 없는 요약 내용 등이 사례입니다. 사람을 속이려는 의도를 가졌다고 가정할 필요는 없습니다. 모델이 어떤 방식으로 틀리는지 관찰하고 줄이는 것이 실용적인 문제입

400

긴 자료를 붙이면 답변을 시작하기까지 기다리게 되고, 답변이 시작된 뒤에는 글자가 차례로 나타납니다. 프리필은 이미 주어진 입력 토큰들을 처리하는 단계입니다. 대표적인 인과적 트랜스포머에서도 마스크를 지키면서 여러 입력 위치를 함께 계산할 수 있습니다. 마지막 위치 출력에서 다음 토큰을 선택할 준비를 합니다. 입력 길이가 길면 처리할 양과 메모리 요구가 늘어날 수 있습니다. 실제 대기 시간에는 모델 계산뿐 아니라 서버 대기·통

300

같은 질문을 두 번 했는데 답변 표현이 달라졌습니다. 모델은 어휘의 토큰마다 로짓이라는 점수를 냅니다. 소프트맥스는 점수들을 양수이고 합이 1인 값으로 바꾸는 대표적인 함수입니다. 이를 다음 토큰의 확률 분포로 해석할 수 있습니다. 여기서 확률은 문맥 뒤에 특정 토큰이 이어질 가능성에 대한 모델의 분포입니다. 문장 전체가 사실일 확률이나 답변을 믿어도 될 확률과 같은 뜻이 아닙니다. 탐욕적 선택은 확률이 가장 높은 토큰을 택합

300

같은 질문에 답변 두 개가 나왔습니다. 하나는 길지만 질문을 놓쳤고, 다른 하나는 짧고 정확하게 도움을 줍니다. 어떤 답변을 더 선호하는지 비교한 자료도 학습에 활용할 수 있습니다. SFT는 바람직한 답변을 예시로 주고, 선호 학습은 여러 답변 중 어떤 것을 더 좋게 보았는지 알려 줍니다. 사람의 평가 기준은 친절함·도움·지시 준수·안전성 등 여러 요소를 포함할 수 있습니다. 평가자를 어떻게 선정하고 어떤 기준을 제시하는지에

200

민지는 빵집 도우미가 질문에 짧고 친절하게 답했으면 합니다. 사전학습 모델에게 좋은 질문·답변 예시를 보여주며 행동을 가르치는 방법이 있습니다. SFT는 미리 학습된 모델에 지시와 바람직한 응답 등의 예시를 제공해 추가로 학습하는 방식입니다. 어떤 입력에 어떤 응답을 내도록 할지 구체적인 사례를 통해 조정합니다. 예를 들어 영업시간 질문에는 확인된 시간만 답하고, 모르는 내용은 확인이 필요하다고 말하는 예시를 만들 수 있습니다

300

같은 구조의 신경망을 만들었다고 곧바로 한국어로 대화할 수 있을까요? 계산 경로가 있어도 그 안의 수많은 값은 학습으로 정해야 합니다. 자기회귀 사전학습은 앞부분으로 다음 토큰을 맞히는 일을 대량으로 반복합니다. 정답은 원문에 있습니다. 예측과 목표의 차이에서 손실을 구하고, 역전파로 기울기를 계산하며, 옵티마이저로 가중치를 바꿉니다. 수집한 자료를 그대로 모두 넣는 것으로 끝나지 않습니다. 중복·잡음·품질·언어 구성·사용 권

300

민지의 질문이 화면에 나타났습니다. “비 오는 날 빵집은 무엇을 준비하면 좋을까?” 이제 이 문장을 따라 모델 안으로 들어가 봅니다. 서비스는 사용자 질문과 필요한 대화 기록·지시를 모델 입력 형식으로 묶습니다. 토크나이저가 이를 토큰 ID로 바꾸고, 모델은 각 ID에 대응하는 임베딩 벡터를 가져옵니다. ID는 항목을 가리키는 번호이고 임베딩은 계산에 쓰는 숫자 묶음입니다. 둘을 같은 것으로 보지 않습니다. 순서 정보도 모델이

300

어텐션이 정보를 모아줬다면 그다음에는 무엇을 할까요? 대표적인 트랜스포머의 FFN은 각 위치의 벡터를 선형 변환과 비선형 활성화 등을 거쳐 바꿉니다. 기본 구조에서는 같은 FFN 매개변수를 여러 위치에 적용하지만 각 위치의 입력 값은 다릅니다. FFN은 각 위치의 특징을 변환합니다. 모델에 따라 게이트나 전문가 혼합처럼 다른 구성을 쓰기도 합니다. 잔차 연결은 입력 x에 어떤 변환 결과 F(x)를 더해 x+F(x)처럼 전달하는

300

“민지가 준을 도왔다”와 “준이 민지를 도왔다”는 등장인물이 같아도 뜻이 다릅니다. 또 다음 말을 맞히는 연습에서 미래 정답을 미리 보면 시험이 무의미해집니다. 기본 어텐션 계산에 순서 단서를 별도로 주지 않으면 토큰의 위치 관계를 원하는 방식으로 다루기 어렵습니다. 위치 인코딩이나 회전 위치 임베딩 같은 방법으로 순서 정보를 계산에 반영합니다. 위치 번호를 글자처럼 문장 앞에 붙이는 한 가지 방식만 있는 것은 아닙니다. 위치

300

같은 문장에서도 인물 관계, 시간, 표현의 연결 등 여러 단서가 도움이 됩니다. 하나의 비교 방식만 사용하지 않고 여러 학습된 표현 공간에서 정보를 살피면 어떨까요? 멀티헤드 어텐션은 여러 Q·K·V 변환으로 어텐션 계산을 수행하고 결과를 결합합니다. 같은 입력이라도 다른 변환을 거쳐 서로 다른 관계를 반영할 가능성을 줍니다. 헤드의 역할은 학습 과정에서 형성됩니다. 사람이 미리 지정하거나 언제나 이름을 붙일 수 있는 것은 아

400

도서관에서 필요한 책을 찾는 상황을 떠올려 봅시다. 내가 찾는 조건, 각 책의 단서, 실제로 가져올 내용은 역할이 다릅니다. 표준 점곱 어텐션은 현재 위치의 쿼리(Q)와 비교할 위치의 키(K)를 내적해 관련도 점수를 구합니다. 도서관 비유의 검색어와 분류표를 떠올릴 수 있지만, 실제로는 사람이 쓴 문장이 아니라 학습된 선형 변환으로 만들어진 숫자 벡터입니다. 같은 입력 표현에서도 서로 다른 변환으로 Q·K·V를 얻습니다. 관련

300

“민지는 빵을 샀다. 그녀는 그것을 준에게 건넸다.” 여기서 '그녀'와 '그것'을 처리하려면 앞의 어떤 표현이 관련될까요? 셀프 어텐션에서는 각 위치의 표현을 바탕으로 다른 허용된 위치와의 관련도 점수를 구합니다. 이 점수를 가중치로 바꾼 뒤 해당 위치들의 정보 표현을 가중합합니다. '그것'에 빵 정보가 도움이 될 수 있다는 예는 직관을 위한 것입니다. 실제 모델의 점수가 우리가 예상한 문법 관계와 항상 일치하지는 않습니다.

200

문장을 한 조각씩 읽으며 앞의 내용을 작은 메모에 담는 방법을 떠올려 봅시다. 길어질수록 필요한 정보를 잘 유지하기 어려울 수 있습니다. 순환신경망은 입력을 차례로 읽으며 상태를 다음 단계로 넘깁니다. LSTM은 그 과정에서 정보를 더 잘 유지하도록 설계한 구조입니다. 길게 떨어진 단서를 다루거나 계산을 병렬화하는 데 어려움이 생길 수 있습니다. 다만 순환 구조가 모든 문제에서 쓸모없어졌다는 뜻은 아닙니다. 목적과 비용에 따라

300

인터넷의 모든 문장에 사람이 일일이 정답을 달아주기는 어렵습니다. 그렇다면 원래 자료의 일부를 예측 문제로 바꾸면 어떨까요? 다음 토큰 예측에서는 원문의 뒷부분이 정답 역할을 합니다. 다른 방식으로는 문장의 일부를 가리고 그 부분을 복원하도록 할 수 있습니다. 예를 들어 '과수원에 [빈칸]가 열렸다'에서 가린 단어를 맞히게 하는 것이 이런 마스킹 연습입니다. 다음 토큰 예측과 빈칸 복원은 같은 목적식이 아니므로 구별합니다. 여

300

“배가 크다.” 이 문장만으로는 과일인지 배를 타는 이야기인지 분명하지 않을 수 있습니다. “항구에 들어온 배가 크다”라고 덧붙이면 단서가 늘어납니다. 단어의 의미와 문장 안에서의 역할은 앞뒤 표현에 영향을 받습니다. 대명사가 누구를 가리키는지, 어떤 사건이 먼저인지도 문맥을 통해 판단합니다. 토큰의 초기 숫자 표현만으로 모든 경우를 고정해 두기보다, 신경망이 다른 토큰의 정보를 이용해 표현을 변환하도록 학습할 수 있습니다.

300