1. RAG의 정의 RAG는 검색-증강 생성 모델로, 대규모 데이터베이스에서 특정 질문에 가장 관련이 높은 문서를 검색(retrieval)한 후, 이를 바탕으로 자세한 답변을 생성(generation)하는 방식을 말합니다. 이 모델은 복잡한 질문에 대한 정확하고 심층적인 답변을 생성하는 데 특히 유용합니다. 2. RAG 방법 2-1. 검색 알고리즘 * 벡터 유사성 검색(Vector Similarity Search): 질문과 문서 간의 유사성을 계산하기 위해 사용됩니다. 질문과 문서 모두를 벡터로 변환한 후, 코사인 유사성(cosine similarity)이나 유클리드 거리(Euclidean distance) 같은 메트릭을 사용하여 가장 유사한 문서를 찾습니다. * 인버티드 인덱스(Inverted Inde..

GPT(Generative Pre-trained Transformer)는 자연어 처리 분야에서 혁신을 일으킨 인공지능 기술 중 하나입니다. 사용자는 자연스러운 언어로 질문이나 명령을 입력하고, 인공지능이 이에 대해 인간처럼 응답합니다. 그러나 많은 초보 사용자들이 어떻게 하면 GPT에게 정확한 답변을 얻을 수 있는지에 대해 고민하곤 합니다. 이 가이드에서는 GPT 프롬프트를 효과적으로 작성하는 방법에 대해 알아보고, 구체적인 예시를 통해 몇 가지 유용한 팁을 공유하려 합니다. 1. GPT 프롬프트의 이해 GPT 프롬프트는 사용자가 모델에 제공하는 입력 텍스트입니다. 이 입력에 기반하여 GPT는 응답을 생성합니다. 프롬프트의 구성 방식이 결과의 정확성과 유용성에 큰 영향을 미칩니다. 따라서, 몇 가지 기본..

최근 사내 쳇봇을 만드는 과정에서 LangChain 공부과정을 정리하겠다. 나는 현재 사내 정보를 MongoDB에 저장해 사용할 예정이다. 그리고 데이터를 임베딩하기 위해 sentence_transformers를 사용할 것이다. sentence_transformers 에서도 다국어 처리를 위한 distiluse-base-multilingual-cased-v1를 사용했다. chatbot에 사용되는 LLM 모델은 OpenAI의 GPT를 사용할 예정이다. 해당 자료는 찾지 못해, 내가 만들었다. 1. langchain에 필요한 임베딩 클레스를 만들어야 한다. from sentence_transformers import SentenceTransformer, util # OpenAIEmbeddings 클래스와 호..

최근 친구가 자산운영사 설립를 준비하고 있다. 이때, 필요한 법률을 하나하나 찾는 모습이 불쌍해 보였다. 그래서 GPT 같은 서비스가 있으면 좋을 거 같았다. 그래서 친구를 위해, 해당 프로젝트를 시작했다. 그것도 공짜로... 해당 글을 읽는 사람들이라면 모두다 알 것이다. chatGPT로 원하는 대답을 만들어 낼 수 있다는 것을 ㅎㅎㅎ 그래서 이러한 기능을 활용해, GPT에게 법률을 물어보면, 해당 법률을 대답해주는 기능을 만들었다. 이 글은 법률 GPT 테스트 결과다. 처음 개발 당시에는 GPT가 헛소리를 많고, 대답도 허술했다. 하지만, 지금은 내가 많이 튜닝을 해서 개발 초기보다, 성능이 매우 좋아졌다 개발 기간은 다음과 같다. 관련 공부 + 자료 수집 + 기획 + 설계 = 4일 개발 기간 = 3..

open ai 로 챗봇을 만들어야 하는 상황이 드디어 오고 말았다. 기존 챗봇의 소스코드가 개똥같고, 여기저기 스파게티처럼 꼬여 있어서, 새로 만들어야 하는 상황이다. 그래서 오늘은 가볍게 chatgpt를 활용해서 가벼운 채팅 프로그램을 만들어 볼까한다. 해당 소스코드를 만들기 전에, 먼저 api key를 발급 받아야 한다. 나는 api 키가 발급 받아졌다는 가정한 뒤 글을 쓰겠다. import openai openai.api_key = '=========key========' class chatbot(): memory_size = 5 gpt_standard_messages = [ {"role": "system", "content": "You are a helpful assistant. Your name..