Techbrad

사용자의 쿼리에 대하여 토큰 비용을 줄일 수 있는 방법 중에 캐싱 기법을 적용해보았다. 물론 토큰 비용이 얼마 되지 않아 그냥 해도 되지만 응답 속도는 확연하게 체감이 될 정도로 빨랐다. 랭체인에서 제공하는 라이브러리를 사용하면 캐싱 구현은 정말 간단하다. from langchain.cache import RedisCache from langchain.globals import set_llm_cache set_llm_cache(RedisCache(redis_=Redis(host='redis', port=6379, db=1))) response = rag_chain_with_source.invoke(text.question) 질문을 할때 마다 Key가 생성이 되었다. Key는 Hash로 이루어 져있는데 어..

파이썬을 공부하기 위한 글이므로 틀린 부분이 있으면 댓글 부탁드립니다~ 회사에서 파이썬 API 백앤드 개발을 진행할 필요가 있어서 FastAPI를 기반으로 어떻게 시스템을 구성할지 많은 고민을 하였다. FastAPI 공식 문서 https://fastapi.tiangolo.com/ko/learn/ 에 보면 api 파일에서 모든 비지니스 로직을 수행하는 방법을 소개하는 것 같다. 하지만 회사에서 SpringBoot로 프로젝트를 진행한 경험을 바탕으로 동일하게 3가지의 레이어로 나눠 개발을 하기로 하였다. 이러한 레이어드 아키텍처 패턴은 유지보수와 코드 재사용이 편하기 때문에 망설일 필요가 없었다. 간단하게 유저를 등록하는 기능을 구현했다. 세가지 레이어는 컨트롤러 역할을 하는 api, service, rep..

1966번: 프린터 큐 여러분도 알다시피 여러분의 프린터 기기는 여러분이 인쇄하고자 하는 문서를 인쇄 명령을 받은 ‘순서대로’, 즉 먼저 요청된 것을 먼저 인쇄한다. 여러 개의 문서가 쌓인다면 Queue 자료구조에 www.acmicpc.net 문제 접근 방법 일반적인 구현 문제로 큐의 순서를 바꾸더라도 처음의 인덱스 값을 기억해야하는 것이 주요한 점 같다. 처음 상태의 인덱스를 기억하는 방법으로는 딕셔너리, 튜플 등 다양한 자료 구조 방법을 사용할 수 있지만 나는 튜플을 사용했다. 제출코드 from collections import deque T = int(input()) for _ in range(T): N, M = map(int, input().split()) print_pool = deque([(i..

프로그래머스 코드 중심의 개발자 채용. 스택 기반의 포지션 매칭. 프로그래머스의 개발자 맞춤형 프로필을 등록하고, 나와 기술 궁합이 잘 맞는 기업들을 매칭 받으세요. programmers.co.kr 문제 접근 방법 want와 number를 통해 딕셔너리를 만들고 discount 리스트를 순회하여 number 를 -1로 만드는 방식으로 접근했다. ex) {banana : 3} 인 경우 discount에 바나나가 있을때 {banana : 2}가 된다. 제출코드 def solution(want, number, discount): dic = {} for w, n in zip(want, number): ###1 dic[w] = n ###2 iter = len(discount) - 10 + 1 answer = 0 ..