LLM/Prompting2 CoT(Chain of Thought) Chain of Thought 정리, 풀이를 쓰게 하면 왜 정확해지나요약CoT는 모델이 답을 바로 내지 않고 중간 추론 단계를 먼저 쓰게 만드는 프롬프트 기법입니다. 2022년 논문 한 편에서 시작해 지금의 추론 모델까지 이어지는 계보의 출발점입니다.효과의 근원이 생각보다 기계적입니다. 트랜스포머는 토큰 하나당 계산량이 고정돼 있어서, 한 번에 답하면 그만큼의 계산만 씁니다. 중간 토큰을 더 쓰게 하면 계산을 직렬로 더 쌓을 수 있습니다.방식은 넷입니다. few-shot CoT(풀이 예시를 준다), zero-shot CoT("단계별로 생각해줘" 한 문장), self-consistency(여러 풀이를 뽑아 다수결), least-to-most(하위 문제로 쪼개 순서대로).만능이 아닙니다. 100편 이상을 메.. 2024. 5. 24. ToT(Tree of Thoughts) Tree of Thoughts 완전 정리, 사슬을 트리로 바꾸면요약한 줄기 추론인 Chain-of-Thought를 트리 탐색으로 일반화한 추론 제어 프레임워크입니다. 새 모델이 아니라 LLM을 생성기와 평가기로 쓰고 그 위에 탐색을 얹는 방식입니다.CoT의 약점이 명확합니다. 경로가 하나라 초반 실수가 치명적입니다. 토큰을 왼쪽에서 오른쪽으로 한 번 흘려보내면 되돌릴 수 없습니다.프레임워크는 넷을 정의하는 것으로 끝납니다. 생각 분해, 생성기, 평가기, 탐색 알고리즘입니다.성능 차이가 큽니다. Game of 24에서 GPT-4에 CoT는 4%, ToT는 74%입니다. 단 탐색형 문제에 한정된 이득입니다.실무에서 진짜 급소는 탐색이 아니라 평가 함수입니다. 채점이 부정확하면 좋은 가지를 잘라버립니다.공짜가.. 2024. 3. 22. 이전 1 다음