에이전트는 호스트 사양이 진짜 중요함

GPT API를 OAuth로 연결해서 매달 15만원씩 써가며 여러 개의 오픈클로/헤르메스를 돌리고 있어. 근데 실제로는 전체 일의 60% 이상을 LLM으로 안 하고 로컬에서 오픈소스들(ffmpeg, opencv, yolo, 휘스퍼 등등)을 가지고 처리한다. 에이전트에서 LLM의 역할이 뭐냐? 코딩을 해주는 거다. 나머지 40%만 추론이랑 탐색, 요약 같은 데 쓰니까 고급 모델을 못 쓸 수는 없지만. 어쨌든 로컬 PC 성능이 가장 중요해서 처음엔 저사양만 찾다가 결국 집에 M4 32GB 맥미니(힘든 작업용), M1 8GB 맥미니(거의 24시간 돌아가는 집사 수준), 회사에서 지급한 그램 11세대 저전압 i5, 최근에 구매한 카다스 마인드(코어 울트라 5 125H) 이렇게 여러 대를 모두 에이전트 설치해서 각각 목적에 맞게 굴리고 있어. 한 대 PC에서 에이전트를 나눠서 돌릴 수도 있지만 하드웨어 성능 부족이 걸릴 때가 있어서 여러 대에 분산시켜서 각각의 에이전트를 독립적으로 구동하고, 에이전트들끼리 공유할 내용들은 시놀로지 나스의 공용폴더로 동기화하는 식으로 진행 중이야. 라즈베리 파이 같은 저사양 기계에 에이전트를 깐다는 건 에이전트 활용도의 10%도 못 쓴다는 뜻이다. 진짜로.