부제: 함수 호출 대신 코드를 뱉는 LLM을 후처리로 붙잡기챗봇은 LLM에게 도구(함수)를 붙여 준다.정상이면 LLM이 "이 함수를 이 인자로 불러라"라는 구조화된 호출을 돌려준다.서버는 그걸 받아 함수를 실행하고 결과를 다시 대화에 넣는다.그런데 가끔 LLM(Gemini)이 그 약속을 안 지켰다.함수 대신 코드를 뱉었다구조화된 호출 대신, 답변 본문에 이런 코드를 그냥 써 버렸다.print(calculate_vdot(distance='10K', time='50:00'))문제가 두 가지였다.하나, 이 코드가 사용자 화면에 그대로 노출됐다.둘, 구조화된 호출이 없으니 서버는 도구를 실행하지 않았다.사용자는 답 대신 코드 조각을 봤다.빈도는 낮았다.전체 응답 8029건 중 5건, 0.062%였다.다만 특정 ..
