[AI] LLAMA 파인튜닝 해보기

 

---

0.참고영상

이 글은 해당 영상과 코드들을 참고하여 제작된 것입니다.
따라서, 해당 코드의 저작권은 원작자에게 있으며, 본 글은 단순히 참고와 학습을 위한 목적입니다.

https://www.youtube.com/watch?v=f8pDjOkXIZo&t=1s

 

 

1.Foundation 모델

대규모의 데이터를 학습하여 다양한 작업에 적용할 수 있는 범용적인 AI 모델을 의미한다.
단일 작업에 특화되지 않고, 여러 작업에서 활용될 수 있도록 설계되어있음
(GPT같은 모델들이 Foundation 모델이다.)

 

1-1. beomi/Llama-3-Open-Ko-8B

한국어 자연어 처리 작업을 위해 개발된 80억 매개변수의 언어 모델이다.
한국어 텍스트 생성, 코드 생성, 대화형 AI 등 다양한 자연어 처리 작업에서 사용할수있다.

https://huggingface.co/beomi/Llama-3-Open-Ko-8B

beomi/Llama-3-Open-Ko-8B · Hugging Face

 

 

 

 

 

 

 

2.DataSet

사용할 DataSet으로는 메구밍 캐릭터에 대한 나무위키를 사용하였고 데이터는 해당 나무위키를 기반으로 GPT4o로 뽑아냈다.

import pandas as pd

# 데이터 예시
data = {
    "text": [
        "<s>[INST] 메구밍은 어떤 종족에 속해 있나요? [/INST] 메구밍은 홍마족에 속해 있습니다.",
"<s>[INST] 메구밍의 특기는 무엇인가요? [/INST] 메구밍의 특기는 폭렬 마법입니다.",
"<s>[INST] 메구밍의 직업은 무엇인가요? [/INST] 메구밍의 직업은 아크 위저드입니다.",
"<s>[INST] 메구밍이 소속된 파티는 어디인가요? [/INST] 메구밍은 카즈마 파티에 소속되어 있습니다.",
"<s>[INST] 메구밍의 가족 구성원은 누구인가요? [/INST] 메구밍의 가족은 아버지 효이자부로, 어머니 유이유이, 여동생 코멧코로 구성되어 있습니다.",
"<s>[INST] 메구밍은 어떤 마법을 주로 사용하나요? [/INST] 메구밍은 폭렬 마법만을 사용합니다.",
"<s>[INST] 메구밍이 데리고 다니는 반려동물의 이름은 무엇인가요? [/INST] 메구밍의 반려동물은 춈스케입니다.",
"<s>[INST] 메구밍이 홍마족에서 불리는 별명은 무엇인가요? [/INST] 메구밍은 홍마족 제일의 천재라는 별명을 가지고 있습니다.",
"<s>[INST] 메구밍이 착용하는 독특한 장신구는 무엇인가요? [/INST] 메구밍은 중2병 설정으로 안대를 착용한 적이 있습니다.",
"<s>[INST] 메구밍이 폭렬 마법을 사랑하게 된 계기는 무엇인가요? [/INST] 어린 시절, 한 여자 마법사가 폭렬 마법으로 메구밍을 구해준 것이 계기가 되었습니다.",
"<s>[INST] 메구밍이 존댓말을 사용하는 이유는 무엇인가요? [/INST] 메구밍은 홍마족 특유의 존댓말을 사용하며, 상대가 누구든 예의를 지키려는 성격 때문입니다.",
"<s>[INST] 메구밍의 폭렬 마법은 어떤 특성을 가지고 있나요? [/INST] 폭렬 마법은 강력한 위력을 자랑하지만, 사용 후에는 즉시 기절하게 됩니다.",
"<s>[INST] 메구밍이 카즈마를 존경하는 이유는 무엇인가요? [/INST] 메구밍은 카즈마가 자신을 받아주고 이해해준 은인이라 존경합니다.",
"<s>[INST] 메구밍의 성격은 어떤가요? [/INST] 메구밍은 자존심이 강하고 중2병적인 면모가 있으며, 시간이 지남에 따라 동료를 챙기는 따뜻한 성격으로 변화합니다.",
"<s>[INST] 메구밍의 주요 속성은 무엇인가요? [/INST] 메구밍은 빈유, 중2병, 츤데레, 얀데레 등의 속성을 가지고 있습니다.",
"<s>[INST] 메구밍이 사용하는 마법사의 스탯은 어떤가요? [/INST] 메구밍은 높은 마법력과 지능을 가지고 있으며, 폭렬 마법에 특화되어 있습니다.",
"<s>[INST] 메구밍의 파티에서의 역할은 무엇인가요? [/INST] 메구밍은 하루에 한 번 강력한 폭딜을 넣는 역할을 합니다.",
"<s>[INST] 메구밍이 융융과의 관계는 어떠한가요? [/INST] 융융은 메구밍의 단짝 친구이자 라이벌입니다.",
"<s>[INST] 메구밍은 어떤 점에서 두뇌 회전이 빠르다고 평가받나요? [/INST] 메구밍은 상황을 빠르게 파악하고 해결책을 제시할 정도로 지능이 뛰어납니다.",
"<s>[INST] 메구밍이 이름 붙이는 센스는 어떤 평가를 받나요? [/INST] 메구밍은 궤멸적인 네이밍 센스를 가지고 있습니다.",
"<s>[INST] 메구밍이 아르칸레티아에서 만난 인물은 누구인가요? [/INST] 메구밍은 아르칸레티아에서 세실리를 만났으며 도움을 받았습니다.",
"<s>[INST] 메구밍이 학창 시절 1등을 차지한 이유는 무엇인가요? [/INST] 메구밍은 우수한 성적으로 홍마족 학교에서 1등을 차지했습니다.",
"<s>[INST] 메구밍이 액셀 마을로 간 이유는 무엇인가요? [/INST] 메구밍은 폭렬 마법을 쓰는 미녀 마법사가 있다는 소문을 듣고 액셀 마을로 갔습니다.",
"<s>[INST] 메구밍의 주 무기는 무엇인가요? [/INST] 메구밍은 고가의 스태프를 사용합니다.",
"<s>[INST] 메구밍이 속한 홍마족의 특징은 무엇인가요? [/INST] 홍마족은 중2병 성향이 강한 종족입니다.",
"<s>[INST] 메구밍의 라이벌 관계인 친구는 누구인가요? [/INST] 메구밍의 라이벌 겸 친구는 융융입니다.",
"<s>[INST] 메구밍이 폭렬 마법 이외의 마법을 배우지 않는 이유는 무엇인가요? [/INST] 메구밍은 폭렬 마법에 대한 사랑이 너무 커서 다른 마법을 배우지 않습니다."
"<s>[INST] 메구밍의 출생일은 언제인가요? [/INST] 메구밍의 출생일은 12월 4일입니다.",
"<s>[INST] 메구밍이 소속된 도적단의 이름은 무엇인가요? [/INST] 메구밍은 메구밍 도적단에 소속되어 있습니다.",
"<s>[INST] 메구밍의 안대는 어떤 의미를 가지고 있나요? [/INST] 메구밍의 안대는 강력한 마력을 봉인한다는 중2병 설정의 일부입니다.",
"<s>[INST] 메구밍이 폭렬 마법을 사용할 때의 단점은 무엇인가요? [/INST] 폭렬 마법은 사용 후 엄청난 마력 소모로 인해 메구밍이 바로 기절합니다.",
"<s>[INST] 메구밍의 성우는 누구인가요? [/INST] 메구밍의 성우는 일본어판에서는 타카하시 리에, 한국어판에서는 김예림입니다.",
"<s>[INST] 메구밍의 외모적 특징은 무엇인가요? [/INST] 메구밍은 어깨까지 내려오는 흑발과 홍마족 특유의 적안을 가지고 있습니다.",
"<s>[INST] 메구밍이 착용하는 옷은 어떤 스타일인가요? [/INST] 메구밍은 전형적인 마녀 복장인 망토와 모자를 착용하며, 평상시에는 붉은 원피스를 입습니다.",
"<s>[INST] 메구밍이 가족을 위해 한 희생적인 행동은 무엇인가요? [/INST] 메구밍은 자신의 끼니를 포기하고 여동생 코멧코에게 양보하며 먹여 살렸습니다.",
"<s>[INST] 메구밍이 사용하는 주요 마법은 누구에게 배운 것인가요? [/INST] 메구밍은 어린 시절 자신을 구해준 여자 마법사로부터 폭렬 마법을 배웠습니다.",
"<s>[INST] 메구밍이 여행을 시작한 이유는 무엇인가요? [/INST] 메구밍은 폭렬 마법을 사용하는 마법사를 만나기 위해 여행을 시작했습니다.",
"<s>[INST] 메구밍이 융융과 라이벌 관계를 유지하는 이유는 무엇인가요? [/INST] 메구밍은 융융과 서로를 인정하며 경쟁심을 통해 실력을 높여가고 있습니다.",
"<s>[INST] 메구밍이 학교에서 자주 1등을 차지한 이유는 무엇인가요? [/INST] 메구밍은 뛰어난 지능과 마법 실력을 바탕으로 홍마족 학교에서 항상 1등을 차지했습니다.",
"<s>[INST] 메구밍이 카즈마 파티에 합류한 계기는 무엇인가요? [/INST] 메구밍은 다른 파티에서 받아들여지지 않다가 카즈마 파티의 모집 공고를 보고 합류하게 되었습니다.",
"<s>[INST] 메구밍이 폭렬 마법에 집착하는 이유는 무엇인가요? [/INST] 메구밍은 폭렬 마법의 압도적인 위력에 매료되어 그 외의 마법은 배우지 않았습니다.",
"<s>[INST] 메구밍이 카즈마를 도와준 대표적인 일은 무엇인가요? [/INST] 메구밍은 파티 내에서 폭렬 마법을 사용해 적을 물리치며 카즈마를 도왔습니다.",
"<s>[INST] 메구밍의 마력 스탯은 다른 파티원과 비교해 어떤 수준인가요? [/INST] 메구밍의 마력 스탯은 카즈마 파티 내에서 가장 높습니다.",
"<s>[INST] 메구밍의 동료들과의 관계는 어떤가요? [/INST] 메구밍은 동료들과 티격태격하지만, 누구보다도 동료를 잘 챙기고 걱정해줍니다.",
"<s>[INST] 메구밍의 주 무기 이름은 무엇인가요? [/INST] 메구밍이 사용하는 주 무기는 고가의 스태프입니다.",
"<s>[INST] 메구밍이 액셀 마을에서 유명해진 이유는 무엇인가요? [/INST] 메구밍은 마을 곳곳에서 폭렬 마법을 사용하며 소문이 나게 되었습니다.",
"<s>[INST] 메구밍의 중2병적인 자기소개는 무엇인가요? [/INST] 메구밍은 자신을 '홍마족 제일의 마법사이자 폭렬 마법을 펼치는 자'로 소개합니다.",
"<s>[INST] 메구밍의 두뇌 회전 능력은 어느 상황에서 드러나나요? [/INST] 메구밍은 위기 상황에서 빠르게 상황을 분석하고 해결책을 제시합니다.",
"<s>[INST] 메구밍이 자신의 체형에 대해 가지는 콤플렉스는 무엇인가요? [/INST] 메구밍은 작은 체형에 대해 콤플렉스를 가지고 '로리 꼬마'라고 불리는 것을 싫어합니다.",
"<s>[INST] 메구밍의 최애 마법은 무엇인가요? [/INST] 메구밍의 최애 마법은 익스플로전(폭렬 마법)입니다.",
"<s>[INST] 메구밍의 네이밍 센스는 어떤 평가를 받나요? [/INST] 메구밍은 춈스케와 츈츈마루와 같은 이름을 지으며 네이밍 센스가 안 좋다는 평가를 받습니다.",
"<s>[INST] 메구밍의 주요 적은 누구인가요? [/INST] 메구밍의 주요 적은 마왕군과 그 간부들입니다.",
"<s>[INST] 메구밍의 파티에서의 비중은 어떤가요? [/INST] 메구밍은 폭렬 마법으로 파티의 주요 공격 수단을 담당합니다.",
"<s>[INST] 메구밍이 카즈마를 존경하게 된 계기는 무엇인가요? [/INST] 메구밍은 자신을 이해하고 받아준 카즈마에게 존경심을 느끼게 되었습니다.",
"<s>[INST] 메구밍이 홍마족 학교에서 받은 별명은 무엇인가요? [/INST] 메구밍은 홍마족 제일의 천재라는 별명을 받았습니다."
"<s>[INST] 메구밍의 고향은 어디인가요? [/INST] 메구밍의 고향은 홍마족의 마을입니다.",
"<s>[INST] 메구밍의 여동생 이름은 무엇인가요? [/INST] 메구밍의 여동생 이름은 코멧코입니다.",
"<s>[INST] 메구밍이 좋아하는 것은 무엇인가요? [/INST] 메구밍은 귀여운 것을 좋아하며, 특히 춈스케를 애지중지합니다.",
"<s>[INST] 메구밍이 폭렬 마법을 사용하면 어떻게 되나요? [/INST] 폭렬 마법을 사용한 후 메구밍은 기절하거나 움직일 수 없게 됩니다.",
"<s>[INST] 메구밍의 홍마족 특유의 특성은 무엇인가요? [/INST] 홍마족은 거창한 자기소개와 강한 중2병 성향을 가지고 있습니다.",
"<s>[INST] 메구밍이 융융을 친구로 여기게 된 이유는 무엇인가요? [/INST] 융융은 메구밍이 어려운 상황에 놓였을 때 항상 도와주었기 때문입니다.",
"<s>[INST] 메구밍이 사용하는 마법은 왜 비효율적인가요? [/INST] 폭렬 마법은 마력 소모가 크고 하루에 한 번밖에 사용할 수 없어 비효율적입니다.",
"<s>[INST] 메구밍이 홍마족의 마을에서 받았던 평가는 무엇인가요? [/INST] 메구밍은 폭렬 마법밖에 못 쓰는 마법사로 '이름만 마법사'라는 평가를 받았습니다.",
"<s>[INST] 메구밍이 파티에 기여하는 방식은 무엇인가요? [/INST] 메구밍은 강력한 폭렬 마법으로 거대 보스전에서 큰 기여를 합니다.",
"<s>[INST] 메구밍의 아버지는 어떤 사람인가요? [/INST] 메구밍의 아버지 효이자부로는 독특한 장인 정신을 가진 인물입니다.",
"<s>[INST] 메구밍이 카즈마에게 화를 내는 이유는 무엇인가요? [/INST] 메구밍은 카즈마가 자신을 놀리거나 신경을 건드릴 때 화를 냅니다.",
"<s>[INST] 메구밍이 폭렬 마법을 배우게 된 동기는 무엇인가요? [/INST] 어린 시절 마수를 물리치는 폭렬 마법을 보고 매료된 것이 동기입니다.",
"<s>[INST] 메구밍의 폭렬 마법은 누구에게 영감을 주었나요? [/INST] 카즈마는 메구밍의 폭렬 마법을 매일 지켜보며 이해하게 되었고, 직접 익히게 되었습니다.",
"<s>[INST] 메구밍이 평소 존댓말을 사용하는 이유는 무엇인가요? [/INST] 메구밍은 상대를 존중하기 위해 평소 존댓말을 사용합니다.",
"<s>[INST] 메구밍의 중2병적인 언행은 어디에서 비롯되었나요? [/INST] 메구밍의 중2병적인 성향은 홍마족 전체의 문화에서 비롯되었습니다.",
"<s>[INST] 메구밍이 홍마족 마을에서 가장 존경했던 사람은 누구인가요? [/INST] 메구밍은 자신을 구해준 여자 마법사를 가장 존경합니다.",
"<s>[INST] 메구밍의 애완동물 춈스케는 어떤 존재인가요? [/INST] 춈스케는 메구밍의 반려동물로 항상 그녀와 동행합니다.",
"<s>[INST] 메구밍이 학교를 졸업한 후 간 곳은 어디인가요? [/INST] 메구밍은 홍마족 마을을 떠나 액셀 마을로 향했습니다.",
"<s>[INST] 메구밍이 홍마족의 전투 능력 중 가장 뛰어난 것은 무엇인가요? [/INST] 메구밍은 엄청난 마력과 폭렬 마법 사용 능력을 보유하고 있습니다.",
"<s>[INST] 메구밍이 파티에서 맡는 역할은 무엇인가요? [/INST] 메구밍은 카즈마 파티에서 강력한 마법 딜러로 활약합니다.",
"<s>[INST] 메구밍이 홍마족 마을에서 받았던 상징적인 선물은 무엇인가요? [/INST] 메구밍은 홍마족 마을의 동료들로부터 고가의 스태프를 선물받았습니다.",
"<s>[INST] 메구밍이 액셀 마을에서 초반에 겪었던 어려움은 무엇인가요? [/INST] 메구밍은 폭렬 마법의 비효율성 때문에 파티에서 거부당하는 어려움을 겪었습니다.",
"<s>[INST] 메구밍이 폭렬 마법의 위력을 증명한 사건은 무엇인가요? [/INST] 메구밍은 마왕군 간부의 성을 폭렬 마법으로 파괴하며 위력을 증명했습니다.",
"<s>[INST] 메구밍의 성격 변화는 어떻게 이루어졌나요? [/INST] 메구밍은 초반에는 고집스럽고 독선적이었으나, 시간이 지나며 동료를 챙기고 배려하는 성격으로 변했습니다.",
"<s>[INST] 메구밍이 가졌던 어린 시절의 목표는 무엇인가요? [/INST] 메구밍은 자신을 구해준 마법사처럼 훌륭한 폭렬 마법사가 되는 것을 목표로 삼았습니다.",
"<s>[INST] 메구밍이 액셀 마을에서 유명세를 얻게 된 이유는 무엇인가요? [/INST] 메구밍은 마을 곳곳에서 폭렬 마법을 사용하며 소문이 퍼졌기 때문입니다.",
"<s>[INST] 메구밍의 동료들과의 관계는 어떻게 발전했나요? [/INST] 메구밍은 동료들과의 충돌을 겪으면서도 서로 의지하고 이해하는 관계로 발전했습니다.",
"<s>[INST] 메구밍이 홍마족 마을에서 인정받은 이유는 무엇인가요? [/INST] 메구밍은 홍마족 특유의 강한 마력을 보유한 천재로 인정받았습니다."
    ]
}

# DataFrame 생성
df = pd.DataFrame(data)

# Parquet 파일로 저장
df.to_parquet('megumin_data.parquet', compression='snappy')

 

 

만든 megumin_data.parquet파일을 HuggingFace에 업로드하였다.

 

 

 

 

 

 

 

 

3.LLama Finetuning 코드

해당 코렙 코드를 사용하여 학습하였다.

https://colab.research.google.com/drive/1MFSdWDB1qsX5EvunZzL4TIPUFoqo3iuK?usp=sharing

llama_part2_Fine Tuning.ipynb

 

 

 

 

3-1. 허깅페이스 로그인

허깅페이스에서 DataSet을 불러와야하기때문에 로그인을 하는 코드

import huggingface_hub
huggingface_hub.login()

 

 

 

 

 

3-2. 모델, 데이터셋 로드

load_dataset은 Hugging Face의 datasets 라이브러리를 사용하여 데이터셋을 로드한다.

train: 훈련 데이터셋 
validation: 검증 데이터셋 
test: 테스트 데이터셋

# 베이스 모델(허깅페이스 주소)
base_model = "beomi/Llama-3-Open-Ko-8B"

# 데이터셋(허깅페이스 주소)
hkcode_dataset = "hyokwan/hkcode_korea"

# 학습후 모델이름
new_model = "Llama-hkcode-Ko-3-8B"

# 데이터셋 데이터를 학습 데이터로 로드
dataset = load_dataset(hkcode_dataset, split="train")


# QLoRA config 설정
quant_config = BitsAndBytesConfig(
    load_in_4bit=True,                     # 4비트로 모델을 로드
    bnb_4bit_quant_type="nf4",              # 4비트 quantization 타입 설정
    bnb_4bit_compute_dtype=torch_dtype,    # 계산 시 사용할 데이터 타입
    bnb_4bit_use_double_quant=False        # 이중 quantization 사용 여부 설정 (False로 사용 안 함)
)

# 모델 로드
model = AutoModelForCausalLM.from_pretrained(
    base_model,  # 기본 모델 이름
    quantization_config=quant_config,  # Quantization 설정 적용
    device_map={"": 0}  # 모델을 GPU 0번 장치에 매핑
    # device_map="auto"  # 자동 매핑 설정 (선택 사항)
)

# 캐시 사용 비활성화
model.config.use_cache = False  # 캐시 사용 설정 비활성화

# 텍스트 처리 병렬화 설정
model.config.pretraining_tp = 1  # 텍스트 처리 병렬화 수준 설정

 

 

 

 

3-3.GPU, 메모리 설정

# GPU의 성능을 확인하여, 8 이상의 capability를 가지고 있는지 확인합니다.
if torch.cuda.get_device_capability()[0] >= 8:  
    # GPU가 충분히 성능이 좋으면 flash-attn 라이브러리를 설치합니다.
    !pip install -qqq flash-attn  
    # attention 구현 방법을 flash_attention_2로 설정합니다.
    attn_implementation = "flash_attention_2"  
    # 데이터 타입을 bfloat16로 설정합니다.
    torch_dtype = torch.bfloat16  
else:  
    # GPU가 성능이 낮으면 eager 실행 방식을 사용합니다.
    attn_implementation = "eager"  
    # 데이터 타입을 float16로 설정합니다.
    torch_dtype = torch.float16  

# Quantization 설정을 위한 BitsAndBytesConfig 객체 생성
quant_config = BitsAndBytesConfig(  
    # 4비트로 로드할지 설정합니다.
    load_in_4bit=True,  
    # 4비트 quantization 타입을 설정합니다.
    bnb_4bit_quant_type="nf4",  
    # 계산 시 사용할 데이터 타입을 설정합니다.
    bnb_4bit_compute_dtype=torch_dtype,  
    # 이중 quantization 사용 여부를 설정합니다. False로 설정하면 사용하지 않습니다.
    bnb_4bit_use_double_quant=False,  
)

 

 

 

 

 

 

3-4.파라미터 설정

PEFT:Low-Rank 어댑터를 추가하거나, 일부 레이어에 대해만 조정을 수행하는 방식
TrainingArguments: Hugging Face의 학습 설정 매개변수를 포함하는 클래스

 

peft_params = LoraConfig(
    lora_alpha=16,          # Low-Rank Adapters의 스케일 팩터
    lora_dropout=0.1,       # 드롭아웃 비율
    r=64,                   # Low-Rank 크기
    bias="none",            # 바이어스를 사용하지 않음
    task_type="CAUSAL_LM"   # 작업 유형: CAUSAL Language Modeling
)

training_params = TrainingArguments(
    output_dir="./results",                   # 학습 결과 저장 경로
    num_train_epochs=10,                      # 학습할 에포크 수
    per_device_train_batch_size=4,            # 한 장치당 미니 배치 크기
    gradient_accumulation_steps=1,            # 그래디언트 축적 스텝
    optim="paged_adamw_32bit",                # 옵티마이저 설정
    save_steps=25,                           # 스텝마다 모델 저장 간격
    logging_steps=25,                        # 스텝마다 로깅 간격
    learning_rate=2e-4,                       # 학습률
    weight_decay=0.001,                       # 가중치 감소
    fp16=False,                              # 16비트 부동 소수점 사용 여부
    bf16=False,                              # 16비트 부동 소수점 사용 여부 (BFloat16)
    max_grad_norm=0.3,                        # 최대 그라디언트 정규화
    max_steps=-1,                             # 최대 학습 스텝 수, -1은 전체 에포크에 맞춤
    warmup_ratio=0.03,                        # 워밍업 비율
    group_by_length=True,                     # 문장 길이에 따라 패딩 처리
    lr_scheduler_type="constant",             # 학습률 스케쥴러 타입 (constant = 일정)
    report_to="tensorboard"                   # TensorBoard에 보고
)

 

 

 

3-5.학습

trainer = SFTTrainer(
    model=model,                                  # 학습할 모델
    train_dataset=dataset,                         # 학습 데이터셋
    peft_config=peft_params,                       # PEFT 설정
    dataset_text_field="text",                     # 텍스트 필드 이름
    max_seq_length=None,                           # 최대 시퀀스 길이 (None이면 기본 값 사용)
    tokenizer=tokenizer,                           # 토크나이저
    args=training_params,                          # 학습 설정
    packing=False,                                 # 패킹 여부
)

trainer.train()

 

 

 

 

 

3-6.사용

# logging 모듈의 verbosity를 설정하여 더 이상 로그를 출력하지 않도록 설정합니다.
logging.set_verbosity(logging.CRITICAL)

# 텍스트 생성 작업을 위한 pipeline 생성
pipe = pipeline(
    task="text-generation",                   # 텍스트 생성 과제 설정
    model=model,                              # 텍스트 생성을 위한 모델
    tokenizer=tokenizer,                      # 모델의 입력 텍스트를 토크나이징하는 토크나이저
    max_length=200                           # 생성할 텍스트의 최대 길이 설정 (200자)
)

# 사용자의 prompt를 통해 텍스트 생성 수행
prompt = "메구밍의 동생 이름은?"
result = pipe(f"<s>[INST] {prompt} [/INST]")  # prompt를 기반으로 텍스트 생성
print(result[0]['generated_text'])           # 생성된 텍스트 출력

 

 

 

3-7.저장

trainer.save_model(new_model)