open ai realtime 2

Open AI Realtime RAG 앱 구현 전체 과정 회고 [2편]

1. 앱 동작과 첫 번째 실수OpenAI Realtime API를 활용한 RAG 시스템 구축이 목표였습니다. 유사 코드를 참고하고 AI의 도움을 받아 코드를 수정하면서, Azure 클라우드 서비스 문서를 따라 기본 앱을 구동시키는 데까지는 순조로웠습니다. 하지만 첫 번째 실수가 여기서 시작됐습니다. 기본 PDF 파일로 RAG를 테스트했을 때, 앱이 정상적으로 작동하는 것처럼 보였기 때문입니다. LLM이 자체 데이터베이스를 기반으로 답변한 것인지, 실제로 RAG가 제대로 작동한 것인지 검증하지 않은 것이 후속 문제의 뿌리가 되었습니다.2. 데이터 통합 과정에서 드러난 첫 번째 이슈자신감을 가지고 7,000개의 대화 데이터셋을 통합하려 했지만, Vector DB가 데이터를 제대로 가져오지 못하는 문제에 직면..

KB 2024.10.31

Azure Open AI Realtime API, 시스템 메시지 구현 이슈 해결 [1편]

기간: 10/18(금) - 10/24(목) 1. 이슈 개요 1.1 목표외국인과 자연스러운 한국어 대화 스타일 구현하기 위해 한국 대학생 ' Minji Kim' 페르소나를 가진 프롬프트로 입력하려고 했음1.2 발생한 문제그런데, 설정한 시스템 메세지(페르소나가 전혀 적용되지 않음AI가 일반적인 ChatGPT처럼 응답1.3 초기 구현 코드rtmt = RTMiddleTier(llm_endpoint, llm_deployment, llm_credential)rtmt.system_message = "You are Minji Kim, a 22-year-old Korean university student..." 2. 문제 분석 과정2.1 로그 분석# app.py, rtmt.py에 로깅 추가logging.basicCo..

KB 2024.10.28