Skip to Content
PipelineTransform NodesLLM Operator

LLM Operator

LLM 모델을 변환 노드로 사용해 입력 데이터에 시스템 프롬프트를 적용하고 구조화된 JSON을 출력한다. 캔버스 라벨은 LLM Operator, 패널 제목은 LLM이다. 파싱 결과를 정형 스키마로 추출하거나 자연어를 카테고리로 분류하는 일반 도구로 사용된다.

사용 시점

  • 파싱된 비정형 텍스트를 정형 스키마로 추출할 때
  • 자연어를 카테고리로 분류할 때
  • 정형 데이터에 LLM 기반 변환(요약·정규화·태깅)을 적용할 때

설정

필드필수설명
ModelYes사용 가능한 LLM 모델 중 하나를 선택한다.
System PromptYes텍스트 영역에 모델이 어떻게 동작할지를 자연어로 기술한다.
JSON SchemaYes출력 구조를 정의한다. 스키마 편집기에서 정의하며 Visual 모드(필드 단위 편집)와 JSON 모드(원문 편집) 두 가지를 제공한다. 타입은 문자열·숫자·정수·불리언·열거형·객체를 지원하며, 배열·필수 여부를 토글로 지정할 수 있고, 객체는 최대 5단계까지 중첩할 수 있다.
Select Input조건부선행 노드가 Parse Document인 경우에만 노출된다. 어떤 파싱 결과 파일을 입력으로 사용할지 선택한다. 전체 파일을 선택한 상태에서는 “미래 추가 파일 포함” 토글로 이후 새로 추가되는 파일을 자동 포함할지 결정한다.

사용 전 확인

  • 다음 노드와 연결되어 있어야 한다.
  • Model · System Prompt · JSON Schema는 모두 필수 입력값이다.
  • 선행 노드가 Parse Document인 경우 사용할 파일을 최소 한 개 선택하거나, “미래 추가 파일 포함”을 켜서 이후 추가되는 파일을 자동 포함하도록 설정해야 한다.

Select Input 필드는 LLM Operator의 선행 노드가 Parse Document 일 때에만 노출된다. 두 노드를 다른 노드를 거치지 않고 직접 연결해야 한다.

자주 발생하는 오류

  • JSON Schema와 System Prompt의 출력 형식 불일치
  • 선행 노드가 Parse Document인데 Select Input(입력 파일) 미설정
  • System Prompt가 모호하여 LLM이 스키마를 무시

권장 체인

Parse Document 흐름 안에서는 다음 위치에 배치한다.

Retrieve Data >> Parse Document >> LLM Operator >> Object Creation (또는 Upsert Knowledge)

전체 흐름과 단계별 역할은 Parse Pipeline 구성 참고.

Last updated on
Parse DocumentNotebook Transform