RAG는 왜 문서를 많이 넣을수록 답이 들쭉날쭉할까?
RAG를 적용했는데도 답변이 엉뚱하게 나오거나, 문서에 분명히 있는 내용을 제대로 찾지 못하는 경우가 있습니다. 질문이 조금만 복잡해져도 답변의 정확도가 떨어지거나 결과가 일관되지 않기도 합니다. 이럴 때 많은 사람이 임베딩 모델이나
Jason
Tag
LLM
Jason
AI가 기억하는 방법과 컨텍스트 엔지니어링의 세계
많은 분이 LLM이 대화를 아주 잘 기억한다고 생각합니다. 겉으로 보면 과거의 대화 내용을 잊지 않고 이어가는 것처럼 보이니까요. 하지만 이 모델의 기본 상태는 사실 stateless(stateless)입니다.이는 스스로 과거를 붙잡아 두지 못한다는
Jason
LLM을 넘어 스스로 행동하는 AI 에이전트의 시대
요즘 인공지능 기술의 흐름을 보면 정말 흥미로운 변화가 보입니다. 예전에는 AI의 성능이 얼마나 좋아졌는지에만 주로 관심을 가졌습니다. 하지만 이제는 AI가 무엇을 할 수 있게 되었는지가 더 중요해졌습니다.지금까지의 거대 언어 모델,
Jason