분류 전체보기

0.참고영상이 글은 해당 영상과 코드들을 참고하여 제작된 것입니다.따라서, 해당 코드의 저작권은 원작자에게 있으며, 본 글은 단순히 참고와 학습을 위한 목적입니다.https://www.youtube.com/watch?v=f8pDjOkXIZo&t=1s  1.Foundation 모델대규모의 데이터를 학습하여 다양한 작업에 적용할 수 있는 범용적인 AI 모델을 의미한다.단일 작업에 특화되지 않고, 여러 작업에서 활용될 수 있도록 설계되어있음(GPT같은 모델들이 Foundation 모델이다.) 1-1. beomi/Llama-3-Open-Ko-8B한국어 자연어 처리 작업을 위해 개발된 80억 매개변수의 언어 모델이다.한국어 텍스트 생성, 코드 생성, 대화형 AI 등 다양한 자연어 처리 작업에서 사용할수있다.htt..

1.P2P(Peer-to-Peer)네트워크 구조의 한 형태로, 클라이언트와 서버 간의 전통적인 중앙 집중식 연결 방식과 달리, 각 참가자가 "동등한" 역할을 하여 데이터를 직접 교환하는 방식모든 노드가 다른 노드들과 직접 연결되고, 이를 통해 파일을 공유하거나 데이터 전송을 할 수 있다.    2.토렌트(Torrent)P2P(Peer-to-Peer) 파일 공유 프로토콜을 기반으로 한 파일 전송 시스템토렌트는 중앙 서버 없이 네트워크에 참여하는 여러 사용자들 간에 파일을 분산적으로 다운로드하고 업로드하는 방식으로 작동한다.파일을 여러 개의 작은 조각으로 나누어 공유한다.       3.P2P(Peer-to-Peer) 위험성P2P 네트워크에서 서로가 서버이자 클라이언트 역할을 해야하기 때문에 IP 주소가 공..

1.소켓(Socket)애플리케이션이 네트워크를 통해 다른 애플리케이션과 통신할 수 있도록 하는 인터페이스네트워크를 통해 데이터를 주고받을 수 있는 양방향 통신 지점이다.네트워크 상의 클라이언트와 서버 간에 데이터를 전송하기 위해 IP 주소와 포트 번호를 이용해 연결을 설정하고, 그 연결을 통해 데이터를 송수신한다.   1-1.소켓 주소소켓은 IP 주소와 포트 번호의 조합으로 고유한 주소를 형성한다.IP주소:포트번호    1-2.소켓 주소 구조체소켓 주소를 표현하기 위한 데이터 구조소켓을 생성하고 연결하거나 바인딩할 때 사용된다.struct sockaddr_in { sa_family_t sin_family; // 주소 패밀리 (AF_INET) in_port_t sin_port..

1.웹소켓 (WebSocket)클라이언트와 서버 간의 양방향 통신을 가능하게 하는 네트워크 프로토콜HTTP 기반의 초기 연결(handshake)을 설정한 후, 지속적으로 연결을 유지하여 클라이언트와 서버가 실시간으로 데이터를 주고받을 수 있도록 설계한다.실시간으로 서로 주고받기때문에 채팅, 라이브 스트리밍같은 서비스를 만들때 유용하다.       2.웹소켓 (WebSocket)으로 실시간 채팅만들기2-1.WebSocket 모듈FastAPI의 WebSocket 모듈은 실시간 양방향 통신을 구현하기 위해 사용할수있고 비동기식 async/await를 활용한다.await websocket.accept(): WebSocket 연결을 수락await websocket.receive_text(): 텍스트 메시지를 비동..

https://wikidocs.net/book/14314를 참고하여 학습하였습니다.1.Tools특정 작업을 수행하거나, 정보를 검색하고, 데이터를 처리하는 데 사용되는 도구(특정 작업(예: 데이터베이스 조회, API 호출, 파일 읽기 등)을 수행하기 위해 에이전트가 사용하는 인터페이스)https://python.langchain.com/v0.1/docs/integrations/tools/ Tools | 🦜️🔗 LangChain📄️ Python REPL Sometimes, for complex calculations, rather than have an LLM generate the answer directly, it can be better to have the LLM generate code to..

https://wikidocs.net/book/14314를 참고하여 학습하였습니다.1.RAG(Retrieval-Augmented Generation)정보 검색과 텍스트 생성 모델을 결합하여 정확하고 최신 정보를 기반으로 답변을 생성하는 기술 지식 베이스와 생성 모델의 결합으로, 모델이 외부 데이터베이스를 검색하고, 검색된 정보를 기반으로 텍스트를 생성한다.RAG는 파일을 읽고 질문에 맞는 부분을 찾아 답변에 활용한다. Input Query: 사용자가 질문 입력 →Embedding: 질문을 벡터로 변환 →Retrieval: 벡터 검색으로 관련 문서 찾기 →LLM Input: 문서와 질문을 결합 →Output: 생성 모델로 답변 생성.   1-1.RAG 프롬프트 구조지시사항(Instruction) : 기본 ..

1.HuggingFace API Key 발급로그인후 우측 상단 캐릭터를 누르고 Settings에 들어간다.  좌측 메뉴에서 Access Tokens 를 찾아 누른다.   Create new Token을 누르고 Read 모드로 토큰이름을 입력후 발급받는다.     2.LangChain에서 HuggingFace 모델 사용(Inference API)langchain_huggingface 모듈을 통해 HuggingFaceEndpoint를 불러와서발급받은 API Token으로 모델을 불러올수있다.from langchain_core.prompts import PromptTemplatefrom langchain_core.output_parsers import StrOutputParserfrom langchain_hu..

1. InMemoryCache데이터를 메모리에 캐시하는 데 사용되는 클래스자주 조회되는 데이터를 저장하여, 같은 요청에 대한 반복적인 계산을 줄이고, 성능을 향상시킨다.from langchain_core.prompts import PromptTemplatefrom langchain_core.caches import InMemoryCachefrom langchain_core.output_parsers import StrOutputParserfrom langchain_core.globals import set_llm_cachefrom langchain_ollama import OllamaLLMllm = OllamaLLM(model="llama3.1")template = """{country}의 수도는 어디입..