ToolChoiceConfusion: 신뢰할 수 있는 LLM 에이전트를 위한 Causal Minimal Tool Filtering

# CMTF 핵심 로직 - BFS로 최단 인과 경로 탐색 후 첫 번째 도구만 반환
from collections import deque

def causal_minimal_tool_filter(current_state: set, goal: set, tools: list[dict]) -> list[dict]:
    """
    current_state: 현재 알려진 상태 변수 집합 예: {'date', 'event_description'}
    goal: 목표 상태 변수 집합 예: {'event_updated'}
    tools: 각 도구는 {'name', 'required': set, 'produces': set} 포함
    """
    if goal.issubset(current_state):
        return []  # 이미 목표 달성
    
    # BFS: (현재 상태, 사용한 도구 경로)
    queue = deque([(frozenset(current_state), [])])
    visited = {frozenset(current_state)}
    
    while queue:
        state, path = queue.popleft()
        
        if goal.issubset(state):
            # 경로의 첫 번째 도구만 반환 (next causal frontier)
            return [path[0]] if path else []
        
        for tool in tools:
            if tool['required'].issubset(state):  # 실행 가능한 도구
                new_state = state | tool['produces']
                if new_state not in visited:
                    visited.add(new_state)
                    queue.append((new_state, path + [tool]))
    
    return []  # 경로 없음 → fallback 처리

# 사용 예시 (캘린더 태스크)
tools = [
    {'name': 'search_events', 'required': {'date'}, 'produces': {'event_id'}},
    {'name': 'update_event', 'required': {'event_id', 'new_time'}, 'produces': {'event_updated'}},
    {'name': 'create_event', 'required': {'date', 'new_time'}, 'produces': {'event_created'}},  # distractor
    {'name': 'delete_event', 'required': {'event_id'}, 'produces': {'event_deleted'}},  # distractor
]

current_state = {'date', 'event_description', 'new_time'}
goal = {'event_updated'}

next_tools = causal_minimal_tool_filter(current_state, goal, tools)
print([t['name'] for t in next_tools])  # ['search_events'] - 1개만 반환!