728x90

langchain 6

Model Context Protocol (MCP)란 무엇인가?

AI 생태계의 새로운 혁신으로 주목받고 있는 Model Context Protocol(MCP)에 대해 알아보도록 하겠습니다.1. MCP의 배경과 필요성현재 AI 생태계의 한계LLM(Large Language Model)은 학습된 지식 내에서만 답변이 가능외부 데이터나 도구와의 연동이 제한적각 AI 프레임워크마다 개별적인 통합 작업 필요MCP의 등장 배경2024년 말 Anthropic이 소개한 개방형 표준 프로토콜AI 모델과 외부 도구 간의 표준화된 통신 방식 제공"AI 통합을 위한 USB"라고도 불림2. MCP의 핵심 개념기본 구조Hosts: 사용자가 상호작용하는 애플리케이션(예: 챗봇)Clients: Host 내에서 MCP 서버와의 연결 관리Servers: 표준 MCP API를 통해 기능 제공주요 구성..

Cook AI 2025.04.14

LangChain MCP 어댑터를 사용하여 SSE 서버 포트 변경하는 방법

LangChain MCP 어댑터를 사용하여 SSE(Server-Sent Events) 서버를 구현할 때 포트를 변경하려면, MCP 서버 설정에서 포트를 명시적으로 지정해야 합니다. 아래는 이를 수행하는 방법에 대한 단계별 설명입니다.1. MCP 서버 설정 확인LangChain MCP 어댑터는 @modelcontextprotocol/sdk 또는 관련 라이브러리를 사용하여 SSE 전송 방식을 설정합니다. SSE 서버는 기본적으로 특정 포트(예: 8080)를 사용하지만, 이를 변경하려면 서버 초기화 시 포트 옵션을 지정해야 합니다.2. 포트 변경 방법LangChain MCP 어댑터를 통해 SSE 서버를 설정할 때, MCPServer 객체의 transport 옵션에서 포트를 지정할 수 있습니다. 예를 들어, P..

Cook AI 2025.04.11

LCEL을 사용하여 간단한 LLM 애플리케이션 구축

주요내용📦 python-dotenv, langchain 등의 패키지 조용한 설치 방법🌐 .env 파일로부터 환경 변수 로드 및 관리🔗 LCEL을 사용한 LangChain 컴포넌트들의 chaining 기법 소개🚀 FastAPI와 uvicorn을 활용한 API 서버 구축 및 실행 방법🌍 다양한 언어로의 텍스트 번역 및 처리 기능 구현python-dotenv, langchain, langchain-cli, langchain-openai, langserve, uvicorn 패키지들을 조용히 업데이트하며 설치하는 방법을 설명합니다. 사용자는 이 명령어를 실행하여 필요한 패키지들을 최신 버전으로 업데이트하고 설치할 수 있습니다. 이 과정은 출력을 최소화하여 진행됩니다.%pip install -qU pyth..

Cook AI 2024.08.04

RAG 기반 커스텀 검색 결과로 답변 생성하기

주요내용🛠 .env 파일을 사용한 환경 변수 관리로 코드 보안 강화📁 DirectoryLoader와 PyPDFLoader를 통한 다양한 형식의 문서 로드🤖 langchain_openai 라이브러리를 활용한 언어 모델과 프롬프트 템플릿의 사용🔍 비동기 검색과 BM25Retriever로 효율적인 문서 검색 및 결과 병합💡 LLM을 사용하여 관련 쿼리 생성 및 답변 추출load_dotenv 함수를 호출함으로써, .env 파일 내에 정의된 환경 변수들이 프로그램의 환경 변수로 로드됩니다. 이는 보안이 중요한 정보(예: 데이터베이스 비밀번호, API 키 등)를 코드에 직접 하드코딩하지 않고 관리할 수 있는 효과적인 방법을 제공합니다.# .env 파일에서 환경 변수를 로드합니다.from dotenv imp..

Cook AI 2024.08.04

OpenAI LLM 사용해보기 - 스트리밍

이 글에서는 .env 파일과 gpt-3.5-turbo 모델을 사용하는 실용적인 예제를 제공합니다.주요내용🔒 .env 파일을 사용해 중요 정보를 안전하게 관리하는 방법🤖 OpenAI gpt-3.5-turbo 모델을 활용하여 챗봇을 만드는 과정⚙️ ChatOpenAI 클래스와 llm.stream 메소드를 통한 실시간 AI 응답 구현dotenv 라이브러리를 사용하여 .env 파일로부터 환경 변수를 로드합니다. 이를 통해 API 키와 같은 중요한 정보를 코드에 직접 하드코딩하지 않고 안전하게 관리할 수 있습니다. load_dotenv 함수는 .env 파일에서 환경 변수를 읽어와 현재 환경에 로드합니다.from dotenv import load_dotenv# .env로부터 API KEY 정보 가져오기load_..

Cook AI 2024.08.03

OpenAI LLM 사용해보기 - 기본

주요내용from dotenv import load_dotenv# .env로부터 API KEY 정보 가져오기load_dotenv()Truefrom langchain_openai import ChatOpenAI# OpenAI Chat 전용 LLM 객체 생성# https://api.python.langchain.com/en/latest/chat_models/langchain_openai.chat_models.base.ChatOpenAI.htmlllm = ChatOpenAI( temperature=0.1, # 창의성 (0.0 ~ 2.0) max_tokens=2048, # 채팅 결과로 생성되는 토큰의 최대개수 model_name="gpt-3.5-turbo", # 모델명)# 질의 내용quest..

Cook AI 2024.08.03
728x90