LLM을 공부해야 하는 이유
LLM 기술을 모른다면?
- 앞으로도 LLM을 활용한 서비스는 계속 쏟아져 나올 것임
- 이런 서비스들이 어떤 방식으로 동작하는지 모른다면, 그저 마법처럼 느껴지거나 지나치게 큰 기대를 품다가 실망할 수도 있다.
- 반면, 원리를 이해한다면 기존 서비스도 더 효과적으로 사용할 수 있을 것
경험이 필요한 이유
- 이미 시중에 수많은 생성형 AI 서비스들이 존재하는데, 왜 LLM을 공부해야 하는걸까?
- 실무에서는 기업이나 개인의 특수한 요구에 시중의 LLM 서비스들이 충족을 못시키는 경우가 있다.
- 예를 들어, 특정 회사의 업무에 맞춘 AI 서비스가 필요할 수도 있고
- 관련 정보가 기밀이라 생성형 AI 서비스에 질문할 자룔를 업로드할 수 없는 경우도 있다.
LLM의 한계를 보완하는 기술 6가지
| 보완 기술 | 설명 |
|---|---|
| 프롬프트 엔지니어링 | - 답변을 최적화하기 위해 입력 프롬프트를 설계하는 작업 - 프롬프트 : 언어 모델에게 제시하는 일종의 업무 매뉴얼, 지시문 - LLM이 아무리 똑똑하더라도, 제대로 된 답변을 받으려면 좋은 답변 가이드가 필요하다. |
| 파인 튜닝 | - LLM은 광범위한 분야의 많은 문서를 학습했다. - 반면 특정 분야의 전문 지식이나 특정 언어에 취약하기도 하다. - 파인튜닝은 기본적으로 학습된 베이스모델에, 원하는 분야나 특정 용도에 맞게 추가 데이터를 학습시키는 것 - 모델을 처음부터 만들지 않아도 돼서 시간과 비용을 적게 들이면서도, 성능은 좋은 모델이 도출될 수 있다. |
| RAG | - 학습을 완료한 시점 이후의 외부의 정보를 LLM에게 주는 기법 - 환각을 극복하고, 더 정확한 답변을 도출할 수 있다. |
| 펑션 콜링과 도구 호출 | - 모델이 단순 답변에 그치지 않고, 외부 API를 이용하거나 직접 만든 함수를 호출해 그 결과를 바탕으로 답변하는 것 - 현재 시각이나 위치, 날씨, 주가등을 조회하거나, 숫자 계산을 하는 등 |
| 랭체인 | - LLM을 활용해 애플리케이션을 개발하는 프레임워크 - 기능과 LLM을 편리하게 결합할 수 있게 해줌 |
| 랭그래프 | - 서로 각기 다른 역할을 부여받은 AI 에이전트들을 결합해 복잡한 작업을 수행케 함 - 랭그래프는 이러한 멀티 에이전트 시스템을 개발할 수 있게 도와주는 툴이자 프레임워크 |
Comments