본문 바로가기

llm3

[LLM] LLM 공부 1편: 프롬프트 엔지니어링 기본 원칙 정리 같은 LLM을 쓰는데도 어떤 사람은 원하는 답을 바로 얻고, 어떤 사람은 몇 번을 다시 물어봐도 엉뚱한 답만 받습니다. 차이는 대부분 프롬프트(prompt), 즉 LLM에게 건네는 요청 문장에서 생깁니다. 원하는 결과를 얻도록 프롬프트를 설계하고 다듬는 일을 프롬프트 엔지니어링이라고 부릅니다.LLM 공부 시리즈의 첫 번째 글로, 어떤 모델을 쓰든 공통으로 통하는 프롬프트 작성의 기본 원칙을 정리해 보겠습니다. 특별한 기술 없이 오늘부터 바로 적용할 수 있는 내용들입니다. 1. 왜 프롬프트가 중요한가요?LLM은 입력된 글을 보고 그다음에 올 가장 그럴듯한 내용을 만들어 냅니다. 그래서 입력이 모호하면 모델은 '평균적인' 답, 즉 누구에게나 무난하지만 나에게는 쓸모없는 답을 내놓기 쉽습니다.예를 들어 "회의.. 2026. 10. 23.
[LLM] LLM 환각을 줄이는 방법, RAG 쉽게 이해하기 ChatGPT나 Claude 같은 LLM에게 회사 내부 규정이나 어제 나온 뉴스를 물어보면 엉뚱한 답이 돌아오는 경우가 많습니다. LLM은 학습할 때 본 데이터만 알고, 모르는 내용도 그럴듯하게 지어내는 '환각' 문제가 있기 때문입니다. 이 문제를 해결하는 가장 대표적인 방법이 RAG(Retrieval-Augmented Generation, 검색 증강 생성)입니다. 이 글에서는 RAG의 개념과 동작 과정, 성능을 높이는 기법, 파인튜닝과의 차이와 도입 시 주의할 점까지 정리해 보겠습니다. RAG란 무엇인가요?RAG는 이름 그대로 검색(Retrieval)으로 생성(Generation)을 보강(Augmented)하는 방식입니다. LLM이 답변을 만들기 전에 질문과 관련된 문서를 먼저 찾아오고, 그 문서를 질.. 2026. 10. 19.
[LLM] 처음 배우는 LLM: 토큰, 트랜스포머, RLHF, RAG 쉽게 이해하기 요즘 챗봇, 코딩 도우미, 번역, 문서 요약까지 많은 AI 서비스의 중심에는 LLM(Large Language Model, 대규모 언어 모델)이 있습니다. 이름은 자주 들어 봤지만 정확히 어떤 원리로 동작하는지, 어디까지 믿고 써도 되는지는 헷갈리는 분들이 많습니다. 이 글에서는 LLM의 기본 개념부터 학습 과정, 대표 모델 유형, 한계와 활용 팁까지 한 번에 정리해 보겠습니다. LLM이란 무엇인가요?LLM은 아주 많은 양의 텍스트를 학습해서, 주어진 문장 다음에 올 내용을 예측하도록 만든 인공지능 모델입니다. 핵심 동작은 의외로 단순합니다. "지금까지의 글을 보고 다음에 올 가장 그럴듯한 조각을 하나 고른다"를 계속 반복하면서 문장을 만들어 냅니다.여기서 '조각'을 토큰(token)이라고 부릅니다. 토.. 2026. 10. 19.