원하는 대로 튜닝하는 나만의 sLLM

LLM을 이용해서 다양한 서비스를 구현하는 사례, Agent를 구성하고 실시간 자료를 구축하기 위해서

Rag, LangChain, MCP를 도입하는 사례들이 다양하게 도입되고 있습니다.

하지만 기업 입장에서 "비용은 낮게 보안은 높게, 성능은 내 업무에 딱 막게" 이책의 부제목 처럼

우리가 반드시 알아야 하는 사항이 언급되어 있습니다.

 

구성된 내용이 매우 체계적이고, 실제 꼭 알아야 하는 부분이 잘 정리되어 있습니다.

 

일반적으로 사용되는 LLM말고 sLLM은 어떤 개념일까? 

책이 표지에서도 언급되어 있는 5가지 사항이 실제 간단한 이론 만이 아니라 실제 업무시스템에서도 활용 가능한 부분이 

많은 내용으로 구성되어 있습니다.

OpenAI 파인튜닝, QLoRA, RAG, FastAPI, Gradio 의 각각의 기술요소를 살펴보며서, 단순한 연동이 아닌

좀더 세분화된 효과와 비용적인 절감 측면에서 도움이 많이 되는 내용입니다.

 

■ 대상 독자

새로운 분야를 접근하기 위해서는 작은 개념부터 로컬에서 동작 테스트를 하는 것이 먼저 입니다

실제 업무 시스템에 도입하기 위해서는 사전에 내재화도 필요하지만, 비용적인 부분없이 기능적인 효과성을

증명하는 단계도 필요합니다. 그런 부분에서 저자님의 접근법도 그러한 방향성과 일치를 합니다.

무료 코랩 한칸으로 sLLM을 직접 학습 시키고, 작은 서비스를 띄어볼수 있게 시작합니다.

 

· 전반부 : LLM과 sLLM에 대한 개념, LLaMA, Gemma, 클로드 및 국내 sLLM생태계 살펴보기

· 중반부 : 허깅페이스 모델을 불러오로, LoRA, QLoRA경량 파인튜닝 모델 활용

· 후반부 : 파인 튜닝한 모델을 활용해서, FastAPI, Gradio을 활용해 화면 구성을 진행

 

■ sLLM 알아보기

기업엣 사소한 업무 자동화 부터, 고객 대응, 사내 문서 요약 등 비교적 단순하고 반복적인 작업에 둗이 거대한 모델을 투입하는

비효율적일수 있습니다.

· sLLM이 고려될때의 문제 유형

 - 고비용 API인프라가 부담될때

 - 실시간 응답이 필요한 서비스가 지연될때

 - 프라이버시와 규제가 중요한 환경일때

 - 특정 도메인에 적용이 어려울때

 - 빠른 실험과 반복적인 개선이 어려울때

 - 에지 또는 온디바이스 환경일때

대부분 우리가 일반적으로 고민하는 사항입니다.

꼭 sLLM을 모조건 적용해서 처리하는 것이 정답은 아니지만, 우리는 이것에 대한 학습을 통해서 효율적인 방안을 찾아내는데

함께 고려를 해야 합니다.

책을 통해서 허깅페이스, 구글, 메타, Mistral, MS에서 제공하는 다양한 sLLM을 소개하고 정의해주는 것도 좋았습니다.

각 산업분야 (의료, 공공, 금융, 교육, 법률, 제조) 입장에서 어떠한 것을 활용하고 있는지,

스타트업/기업/연구기관에서 활용사례를 통해서 시행착오를 줄이고, 처음 접근하기 위한 가이드를 받을수 있습니다.

 

 

■ 실습 환경 가이드

· 허깅페이스를 통해서 sLLM 모델 학습을 위한 구성을 하고, 코랩으로 필수 라이브러리 설치를 통해서 모델과 데이터를 내려 받습니다.

· Ollama를 로컬 환경에서도 구성하는 것도 포함되어 있습니다. (VSCode, RestAPI, 도커 활용)

· 랭체인, 라마인덱스, 랭그래프 및 벡터 데이터베이스 구성 및 파인튜닝까지 함께 진행합니다.

파인튜닝은 그 방식과 범위가 다양합니다. sLLM에 대한 파인튜닝에도 장/단점이 존재합니다.

상용 서비스인 OpenAI의 파인튜닝을 지원하는 방법을 통해 간단한 명령어 인터페이스를 활용합니다.

 

 

■ sLLM의 효율적인 파인 튜닝

파인 튜닝에 대해서 어떻게 하는 것이 효과적일까? 특히 영어권이 아닌 한국어 모델에 대해서는 기본 영어와 다른 점이 있기 마련이다.

우리는 어떻게 접근해야지 튜닝을 통해서 원하는 결과를 테스트 하고 적용할수 있을까?

· 전통적인 방식은 메모리, 비용문제가 있습니다.

 - 경량 파인튜닝에 PEFT기법을 통해서 접근합니다.

 - PETF기법에는 아래와 같은 방법이 있습니다.

1) 어댑터 기반 튜닝

2) 프리픽스 튜닝

3) LoRA

4) QLoRA

 

> 풀 파인튜닝 vs LoRA vs QLoRA각각 파인튜닝 기준으로 비교해볼수 있는 내용을 통해서 각각 어떠한 장단점이 있고
sLLM을 통해서 튜닝 실습을 어떻게 해야할지 방향성을 세울수 있습니다.

> 한국어의 경우는 어떻게 파인튜닝을 실습해야 하는지 QLoRA를 통해서 진행합니다.

 

· 모델에 대한 최적화 내용도 흥미로웠습니다.

우리는 왜 최적화가 필요할까요? 대부분 추론 속도 문제가 있고, 운영 비용 증가 사항이 큽니다.

그러면 그러한 사항을 최적화 해야 할것입니다.

- 모델 압축기법, 양자화, 배치처리, 키-값 캐시, 플래시 어텐션, 메모리 최적화 기법을 통해서 상황별 적용해 볼 사항을 설명합니다.

 

■ sLLM모델의 서비스 적용

실제 모델을 통해서 실무에서 가장 빈번하게 사용되는 배포방식을 다룹니다.

· API배포는 가장 일반적으로 사용되는 FastAPI서비스를 이용합니다.

 - 일반적인 웹서비스의 백앤드 말고, 모델을 통한 서빙을 하기 위한 개념을 알수 있습니다.

 - ngrok 터널링을 왜 사용하는지 이해합니다.

 - 허깅페이스 인터페이스 API 도 실습합니다.

 -  Gradio을 이용해서 웹 인터페이스를 만들어봅니다.

 - 허깅페이스 Spaces를 생성해서 배포환경을 구성합니다.

 

· 서비스 구축으로 실제 아래와 같은 사항을 테스트합니다.

 - 챗봇, 문서 요약, AI에이전트를 만들어봅니다. 가장 기본적인 포맷이지만 가장 LLM의 동작방식을 이용해서

사용해보고 동작 원리를 살펴볼수 있는 좋은 예시 입니다.

 "사용자 입력 -> 프롬프트 구성 -> 토큰화 -> 모델 추론 -> 디코딩 -> 응답 출력" 공통적인 구조를 가지고 있습니다.

 

· 실무에서 발생하는 문제 해결

1) 데이터 부족 문제 해결법

2) 모델 출력 품질 향상 기법

3) 윤리적 이슈와 보안 고려 사항

해당 고민사항은 AI를 활용한 LLM기법에서 동일하게 발생하는 공통적인 문제입니다.

이러한 것은 처음 사업 및 조직이 활성화 되기 전에 기준을 잡고 사전에 체크하고 고려해야 하는 중요한 문제 입니다.

평소에 잘 알지 못하였던 내용이 정리되어 있어서 도움이 되고, 어느 한 부분만 수정하고 처리하는 방식 보다

큰 방향성으로 가이드를 제공해주는 생각이 들었습니다.

 

#협찬