부제: 요약이 AI의 일시적 입장을 확정 사실로 박제하던 문제를 추출로 바꾼 이야기대화가 길어지면 요약해서 다음 대화에 넣는다.매번 전체 기록을 다 넣을 순 없으니, 압축해 두는 것이다.그런데 LLM에게 대화를 요약시키니 이상한 일이 났다.요약이 AI의 말을 사실로 박제했다첫 번째 문제는 요약이 누구 말인지 안 가린다는 거였다.AI가 한 말과 사용자가 한 말을 뭉뚱그려 요약하면서, AI의 일시적 입장을 사용자 사실처럼 굳혔다.구체적인 사례가 있었다.AI가 "러닝을 중단하고 진료부터 받으세요"라고 조언한 적이 있는데,요약이 이걸 "이 사용자는 러닝 중단·진료 우선"이라는 확정 사실로 박제했다.사용자가 그렇게 정한 게 아니라, AI가 그 순간 건넨 조언이었을 뿐인데.그 요약이 매 턴 다시 주입되니, AI가 ..