문제: 사람 없이 돌던 에이전트 루프가 중간 결과물을 건너뛰고, 검수 없이 체크포인트 승인을 스스로 기록 했다. 이를 막으려 만든 게이트도 체크포인트 A와 B에서는 검수 역할이 적어 낸 숫자를 그대로 믿었다. 결정: 체크포인트 승인은 게이트 스크립트가 기록 하게 했다. 시나리오 파일이 이미 만들어진 B와 C에서는 게이트가 스키마 검증기를 직접 돌려 승인 여부를 정한다. 결과: B 승인 시점에 스키마 결함이 있으면 승인이 거부된다. 전에는 …
문제: 추리 시나리오를 한 편 늘리려면 매번 외부 제작사와 새로 계약해야 했다. 팀에는 전담 작가도, 완성된 원고를 검수할 사람도 없었다. 결정: 용의자 한 명을 이루는 필드와 개수를 스키마로 고정하고, Claude 세션 하나가 설계 역할, 작성 역할, 검수 역할을 차례로 맡는 10단계 저작 파이프라인을 만들었다. 다음 단계로 넘어가도 되는지는 Python 스크립트(게이트)가 판정한다. 게이트는 산출물 존재와 승인 상태를 검사하고, 체크…
이 글에서 다루는 것 · 동기/비동기는 결과를 받는 방식, 블로킹/논블로킹은 실행 흐름이 묶이는지를 묻는 서로 다른 축이다. · FastAPI(uvicorn)와 Node.js는 모두 단일 스레드 이벤트 루프로, I/O를 기다리는 동안 다른 요청을 처리한다. · async def 는 이벤트 루프에서, def 는 스레드풀에서 실행된다. await 없는 동기 호출은 어디서 실행되느냐가 중요하다. · 비동기는 응답 시간이 아니라 동시 처…
문제 2026년 3월 20일, main에 직접 푸시한 코드가 Cloud Run에 자동 배포된 뒤 채팅 요청이 500을 냈다. 원인은 Gemini 호출의 400 INVALID_ARGUMENT 였고 로컬에서는 한 번도 보지 못한 에러였다. 결정 외부 의존성을 mock으로 바꾼 pytest를 만들고, PR마다 포매터·린터·테스트·Docker 빌드를 돌리는 GitHub Actions CI를 붙였다. main에는 PR로, CI가 통과한 것만 들…
문제 출시 전 로컬에서 여러 유저의 동시 플레이를 흉내 내려고 1분 안에 요청을 10번가량 보내자, 평소 2~3초이던 응답이 27.5초까지 늘었다. 플레이어가 용의자에게 질문하고 27초를 기다리는 상황이다. 결정 LLM 호출 창구를 AI Studio(개발자, 실험용)에서 GCP Vertex AI(엔터프라이즈용)로 옮겼다. SDK는 그대로 두고 클라이언트 생성 부분만 바꿨으며, 인증은 API 키 대신 Cloud Run 서비스 계정의 IAM …
문제 트래픽이 없어 인스턴스가 0개일 때 첫 메시지를 보내면 컨테이너 기동과 Firestore 적재가 겹쳐, 응답까지 15.3초가 걸렸다(Cloud Run 요청 로그 1건). 결정 최소 인스턴스를 두지 않고, 서버 기동 시 스토리 데이터를 메모리에 적재하고, 프롤로그 진입 시 앱이 예열 요청( /health )을 보내도록 했다. 대가 예열한 인스턴스가 실제 채팅 요청을 받는다는 보장은 없다. 인스턴스마다 캐시를 따로 들고 있어서, …
문제 앱이 LLM API를 직접 호출하고 프롬프트까지 들고 있었다. 키가 기기 밖으로 나가고, 사용자가 프롬프트를 조작할 수 있고, 프롬프트 한 줄을 고치려 해도 스토어 심사를 거쳐야 했다. 결정 프롬프트 조립과 키를 서버로 옮기고, 서버 언어는 결제 쪽 Node가 아니라 Python(FastAPI)으로 골랐다. 서버는 대화 상태를 들지 않고, 앱이 매 요청에 최근 대화를 실어 보낸다. 대가 Node(결제)와 Python(LLM 서…
Function Calling 가이드 서론 대규모 언어 모델(LLM)이 등장한 이후, 이러한 모델들은 자연스러운 대화와 추론에서 뛰어난 성능을 보이고 있다. 그러나 LLM 단독으로는 최신 정보 검색이나 정확한 계산, 외부 시스템과의 상호작용 등 실시간 액션 수행에 한계 를 지닌다. 예를 들어, 사용자가 “파리의 내일 날씨가 어떻습니까?”라고 물으면, 모델은 학습 데이터에 없는 최신 기상 정보를 알 수 없어 정확한 답변을 할 수 없다. …
2025년 4월 openAI에서 공식적으로 프롬프트 엔지니어링에 관한 academy 를 오픈하였고, 구글에서는 프롬프트 엔지니어링에 관한 가이드라인 을 제시한 바 있다. 이번 시간에는 이와 같은 자료들을 기반으로 실전 중심의 프롬프트 엔지니어링 가이드를 총정리 해보고자 한다. 이 문서에서는 2025년 4월 14일에 공개된 작성 시점에서 최신인 GPT-4.1 모델을 활용해 독창적인 세계관을 가진 AI 캐릭터 를 만드는 예제를 다뤄보고자 한다.…
Our website uses cookies to improve your experience. Learn more
확인