3분 요약
한 줄로: DS가 코드를 쓸 필요는 없다. 그러나 "이 오류는 어디서 났나"를 FDE와 같이 짚을 수 있어야 한다. 그러려면 AI 시스템이 어떤 부품으로 되어 있는지 알아야 한다.
기업용 AI 시스템은 대개 일곱 부품으로 되어 있다. ① 모델(두뇌) ② 검색·RAG(자료 찾기) ③ 에이전트(일을 순서대로 하는 틀) ④ 도구 연결·MCP(다른 시스템에 손 뻗기) ⑤ 스킬(업무 요령 묶음) ⑥ 평가·관측(잘하는지 재기) ⑦ 권한·보안(어디까지 해도 되나).
6개월 브리핑에서 가장 많이 나온 기술 주제는 MCP와 권한이었다. 워크데이·SAP·월마트·애플이 자기 시스템을 MCP로 열었고, 동시에 "에이전트가 너무 많은 권한을 갖는다"는 보안 경고가 쏟아졌다.
오류가 나면 부품별로 나눠 묻는다. 답이 틀렸을 때 ① 자료를 못 찾았나(검색) ② 찾았는데 잘못 읽었나(모델) ③ 순서를 잘못 밟았나(에이전트) ④ 다른 시스템에서 잘못 가져왔나(도구) 중 어디인지 묻는 것만으로 회의가 짧아진다.
부품 지도
| 부품 | 비유 | 하는 일 | DS가 신경 쓸 것 |
|---|---|---|---|
| ① 모델 | 두뇌 | 읽고 쓰고 판단 | 가격, 속도, 한국어, 데이터가 어디로 가나 |
| ② 검색·RAG | 사서 | 회사 자료에서 관련 부분을 찾아 모델에 건넴 | 자료가 정리돼 있나, 최신인가 |
| ③ 에이전트 | 업무 담당자 | 목표를 받아 여러 단계를 스스로 수행 | 어디서 사람이 확인하나 |
| ④ 도구 연결·MCP | 손 | 메일·ERP·DB 같은 다른 시스템을 조회·실행 | 무엇을 읽고 무엇을 바꿀 수 있나 |
| ⑤ 스킬 | 업무 매뉴얼 | 특정 업무 요령을 묶어 필요할 때 꺼내 씀 | 누가 만들고 누가 고치나 |
| ⑥ 평가·관측 | 품질 검사 | 결과가 맞는지 재고, 무슨 일을 했는지 기록 | 기준은 누가 정하나 |
| ⑦ 권한·보안 | 출입증 | 에이전트가 할 수 있는 일의 범위 | 사람 직원보다 넓으면 안 된다 |
아래에서 하나씩 본다. 각 항목 끝에 FDE에게 물어볼 질문을 붙였다.
① 모델 — 무엇을, 얼마에
모델은 오픈AI(GPT), 앤트로픽(Claude), 구글(Gemini) 같은 회사가 만든 AI 두뇌다. 같은 회사도 크고 비싼 모델과 작고 싼 모델을 같이 낸다.
2026년의 흐름은 "값이 빠르게 내려간다"이다. - 오픈AI는 GPT-5.6 하위 두 등급의 API 가격을 80% 내렸고B, 이후 GPT-6 출시 때도 가격을 절반으로 낮췄다B. - 앤트로픽 Haiku 5.5는 입력 100만 토큰당 0.1달러로 나왔다B. 상위 모델 Opus 5·Sonnet 5.5는 가격을 동결했다A. - 구글은 Gemini 3.7 Flash를 내며 가격을 절반으로 낮췄다A.
토큰은 모델이 글을 세는 단위다. 대략 한국어 한 글자가 1~2토큰이다. 요금은 넣는 글(입력)과 받는 글(출력)에 따로 붙는다.
DS 관점. 모든 일을 가장 좋은 모델로 할 필요는 없다. 분류·추출처럼 단순한 일은 작은 모델로, 판단이 필요한 일만 큰 모델로 나누면 비용이 크게 준다. 모델은 계속 바뀌므로 모델을 바꿔 끼울 수 있게 만들었는지가 중요하다. 리플릿은 기본 모델을 앤트로픽에서 오픈AI로 바꿨고B, 미국 국방부는 기밀망에서 쓰던 모델 대부분을 다른 회사 모델로 옮겼다B.
FDE에게 물어볼 것: "이 업무에 지금 어떤 모델을 쓰고, 한 단계 작은 모델로 바꾸면 품질이 얼마나 떨어지나요? 모델을 바꾸려면 무엇을 다시 만들어야 하나요?"
② 검색·RAG — 회사 자료를 읽게 하기
RAG(검색 증강 생성)는 질문이 들어오면 회사 자료에서 관련 부분을 먼저 찾고, 그 부분을 모델에 같이 건네 답하게 하는 방식이다. 모델은 우리 회사 내규를 모르기 때문에 필요하다.
사례. - 바클레이스 UK의 '동료 지식 비서'는 RAG 구조로, 영국 리테일 고객 2,000만 명 넘는 응대를 돕고 있고 직원 1만 6,000명이 쓴다A. - 우리은행은 내규·지식관리·전자결재 문서를 AI가 읽기 좋은 형태로 바꾸는 작업부터 했다B.
RAG가 틀리는 세 가지 이유. 1. 자료가 없다. 찾을 문서가 시스템에 없거나 낡았다. 2. 못 찾는다. 문서는 있는데 질문과 다른 말로 쓰여 있어 검색에 안 걸린다. 표·스캔 PDF는 특히 잘 못 찾는다. 3. 찾았는데 잘못 읽는다. 이건 모델 문제다.
1번은 DS의 일이다. 진단 단계에서 "이 업무가 쓰는 자료가 어디에, 어떤 형태로 있나"를 확인한다(2편).
FDE에게 물어볼 것: "답이 틀린 사례 10개를 보면, 자료가 없어서인가요, 못 찾아서인가요, 잘못 읽어서인가요? 검색이 찾아온 문서를 화면에 같이 보여줄 수 있나요?"
③ 에이전트 — 스스로 여러 단계를 하는 AI
챗봇은 한 번 묻고 한 번 답한다. 에이전트는 목표를 받으면 "자료 찾기 → 계산 → 보고서 쓰기 → 담당자에게 보내기"처럼 여러 단계를 스스로 정해서 한다.
사례. - TD은행의 대출 에이전트는 고객 서류를 분류하고 핵심 정보를 뽑아 소득을 계산한다A. - 도어대시는 코딩 에이전트를 격리된 클라우드 가상 머신에서 돌려 한 달에 13만 건의 개발 업무를 처리했다A. - 램프는 자체 코딩 에이전트가 병합된 코드 변경 요청의 74%를 만든다고 밝혔다C.
DS 관점. 에이전트에 일을 맡길수록 어디서 사람이 확인하나가 핵심이 된다. 한 번에 끝까지 맡길지, 단계마다 사람이 승인할지 정하는 것은 기술 문제가 아니라 업무 설계 문제다. 금융위원회 가이드라인도 현 단계에서 AI를 "보조수단"으로 보고 최종 판단은 사람이 하도록 했다B.
FDE에게 물어볼 것: "에이전트가 지금 몇 단계를 거치고, 어느 단계에서 사람이 확인하나요? 중간에 실패하면 어디서부터 다시 하나요?"
④ 도구 연결과 MCP — 에이전트의 손
에이전트가 메일을 읽거나 ERP에서 재고를 조회하려면 그 시스템과 연결돼야 한다. MCP(모델 컨텍스트 프로토콜)는 AI와 다른 시스템을 잇는 공통 규격이다. USB처럼 한 번 맞춰 두면 여러 AI가 같은 방식으로 연결된다.
2026년 MCP의 흐름. - 큰 회사들이 자기 시스템을 MCP로 열었다. 워크데이는 MCP 서버를 정식 출시해 외부 에이전트에 인사·재무 기능을 열었다B. SAP는 A2A·MCP로 자사 AI 비서 Joule을 외부 에이전트에 열었다A. 월마트는 MCP 서버를 열면서 쇼핑 에이전트에 지출 한도를 걸었다B. 애플은 키노트·페이지스·넘버스에 MCP 연결을 넣는다B. - 규격이 바뀌었다. 7월 28일 새 규격이 나오면서 접속 상태(세션)를 유지하지 않는 '무상태' 구조로 바뀌었다A. 대규모로 쓰기 쉬워진 대신, 요청마다 보안 검증을 해야 한다는 지적이 나왔다B. - A2A는 에이전트끼리 대화하는 규격이다. 구글이 만든 A2A가 MCP와 같은 재단(에이전트AI재단)에 들어갔다A. MCP는 에이전트와 도구, A2A는 에이전트와 에이전트를 잇는다고 보면 된다.
DS 관점. MCP로 연결하면 빠르지만, 연결할수록 에이전트가 할 수 있는 일이 늘어난다. 읽기만 하는 연결과 바꾸는(쓰기·송금·삭제) 연결을 나눠 승인받는다.
FDE에게 물어볼 것: "이 에이전트에 연결된 MCP 서버 목록과, 각각 읽기만 하는지 바꿀 수도 있는지 표로 주실 수 있나요? 외부에서 받은 MCP 서버는 누가 검사했나요?"
⑤ 스킬 — 업무 요령을 묶어 두기
스킬(Agent Skills)은 특정 업무를 하는 요령(설명서, 양식, 예시, 짧은 코드)을 한 묶음으로 만들어 두고 에이전트가 필요할 때 꺼내 쓰게 하는 방식이다. 앤트로픽이 8월에 정식 기능으로 전환했다A.
DS에게 스킬은 반가운 개념이다. 2편에서 만든 업무 재설계 문서가 그대로 스킬의 재료가 된다. "PF 보고서는 이 순서로, 이 양식으로, 이 출처만 쓴다"를 적어 두면 에이전트가 따른다.
주의. 외부에서 받은 스킬은 위험할 수 있다. 연구에서 가장 안전한 조합의 외부 스킬도 17%가 위험한 실행을 했다A.
FDE에게 물어볼 것: "이 업무의 규칙을 스킬로 만들면 현업이 직접 고칠 수 있나요? 외부 스킬을 쓴다면 검사 절차가 있나요?"
⑥ 평가와 관측 — 잘하고 있는지 재기
평가(eval)는 정답이 있는 문제 모음을 만들어 놓고 AI가 몇 개를 맞히는지 재는 것이다. 모델이나 설정을 바꿀 때마다 같은 문제로 다시 잰다. 관측(observability)은 에이전트가 실제로 무엇을 했는지 단계별로 기록하는 것이다.
2026년의 흐름. - 운영 AI의 핵심은 하네스(에이전트를 돌리는 틀)와 평가라는 말이 업계 행사에서 나왔다B. 랭체인은 실제 실행 기록으로 평가 문제를 만드는 기능을 냈다A. AWS는 에이전트 호출까지 평가하는 모니터링 서비스를 정식 출시했다A. - 그러나 평가를 통과한 에이전트 절반이 고객 사고를 냈다는 보도처럼B, 평가 문제가 현장을 대표하지 못하면 소용없다.
DS 관점. 평가 문제는 FDE가 혼자 못 만든다. "무엇이 정답인가"는 현업이 안다. DS가 현업과 함께 실제 사례 50~100개와 정답을 모아 주는 것이 가장 값진 기여다.
FDE에게 물어볼 것: "지금 평가 문제는 몇 개고 어디서 왔나요? 현업이 실제로 처리한 사례를 넣으면 점수가 어떻게 바뀌나요? 사고가 났을 때 에이전트가 한 일을 단계별로 다시 볼 수 있나요?"
⑦ 권한과 보안 — 에이전트의 출입증
에이전트는 사람 대신 시스템에 들어간다. 그래서 누구의 권한으로 들어가나가 문제가 된다.
2026년에 나온 경고들. - 마이크로소프트는 원격 MCP 서버의 15%가 위험한 설정 상태라고 경고했다A. - AI 서비스 키 유출이 81% 늘었고, MCP 설정 파일도 구멍이 됐다B. - 보안팀은 실제 AI 사용량의 약 3분의 1만 파악하고 있다는 조사가 나왔다C. - 11월 9일 호 큰 이야기는 Claude Code의 '다시 묻지 않기' 설정 탓에 공개 파일 1,122곳에 비밀번호가 남았다는 내용이었다.
대응도 같이 나왔다. - 하비는 에이전트의 MCP 도구 호출을 막는 정책 엔진을 공개했다A. - 마이크로소프트는 위험 점수가 오르면 에이전트 권한을 줄이는 통제를 냈다B. 윈도우 11에는 관리자가 따로 권한을 주는 에이전트 샌드박스가 들어갔다B. - 구글 딥마인드는 에이전트를 '내부자 위협'으로 다루는 통제 로드맵을 냈다B.
원칙 하나. 에이전트의 권한은 그 일을 하는 사람 직원의 권한보다 넓으면 안 된다. 워프의 인사 에이전트처럼 "직원 권한 안에서 일하는" 방식이 기본이 된다C.
FDE에게 물어볼 것: "이 에이전트는 누구의 계정으로 시스템에 들어가나요? 그 사람이 못 하는 일을 에이전트가 할 수 있는 경우가 있나요? 비밀번호·키는 어디에 보관하나요?"
오류가 났을 때 — 부품별 진단표
| 증상 | 의심할 부품 | 같이 볼 것 |
|---|---|---|
| 사내 규정을 엉뚱하게 답함 | ② 검색 | 찾아온 문서가 맞나 |
| 숫자를 틀리게 옮김 | ① 모델 | 원문 수치와 비교 |
| 일을 중간에 멈춤 | ③ 에이전트 | 실행 기록(⑥) |
| 다른 시스템 값이 옛날 값 | ④ 도구 연결 | 연결 대상·갱신 주기 |
| 해선 안 될 일을 함 | ⑦ 권한 | 계정·권한 목록 |
| 어제는 됐는데 오늘 안 됨 | ①·⑥ | 모델·설정이 바뀌었나, 평가를 다시 돌렸나 |
다음 편
5편 「보안·규제·계약」에서는 7월 21일 시행된 개정 AI기본법, 금융권 가이드라인, 그리고 AI 프로젝트 계약서와 가격을 어떻게 짜는지 다룬다.
출처
이 편이 인용한 기사는 모두 AX 브리핑 지난 호에 실렸다. 괄호 안은 신뢰 표시(A 공식 자료 · B 언론 보도 · C 업체 주장).
- 2026-07-30 · 오픈AI, GPT-5.6 루나 API 가격 80% 인하 B unite.ai
- 2026-09-22 · 오픈AI, GPT-6 솔·루나 공개하며 API 가격 절반으로 B techcrunch.com
- 2026-10-07 · 앤트로픽 Haiku 5.5 출시, 입력 100만 토큰당 0.1달러 B vktr.com
- 2026-07-24 · 앤트로픽 클로드 오퍼스 5 출시, 가격은 동결 A anthropic.com
- 2026-08-14 · 구글, 제미나이 3.7 플래시 공개하며 가격 절반으로 A blog.google
- 2026-10-18 · 리플릿, 기본 모델을 앤트로픽에서 오픈AI로 바꿨다 B techcrunch.com
- 2026-09-11 · 미 국방부, 기밀망 앤트로픽 모델 90% 걷어내 B defensescoop.com
- 2026-10-01 · 바클레이스, 클로드 확대 적용…직원 1만6천명 지식 비서 사용 A anthropic.com
- 2026-06-03 · 우리은행, 사내 문서 마크다운으로 바꿔 AI 기반 닦아 B etnews.com
- 2026-05-21 · TD은행, 주담대 심사 준비 15시간을 3분으로 A stories.td.com
- 2026-08-11 · 도어대시, 클라우드 에이전트로 한 달 13만 건 개발 업무 처리 A careersatdoordash.com
- 2026-10-28 · 램프, 사내 코딩 에이전트가 병합 PR 74% 처리 C ramp.com
- 2026-06-18 · 금융위, AI 가이드라인 개정…망분리 완화·에이전트 감독체계 예고 B newspim.com
- 2026-10-13 · Workday, MCP 서버 정식 출시하고 외부 에이전트에 HR·재무 개방 B thenewstack.io
- 2026-10-27 · SAP, A2A·MCP로 외부 에이전트에 Joule 열어 A news.europawire.eu
- 2026-10-22 · 월마트, MCP 서버 열고 쇼핑 에이전트에 지출 한도 B techcrunch.com
- 2026-10-28 · 애플, 키노트·페이지스·넘버스에 MCP 연결 지원 B winbuzzer.com
- 2026-07-28 · MCP 새 규격 공개, 세션 없앤 무상태 구조로 전환 A blog.modelcontextprotocol.io
- 2026-09-07 · MCP 새 규격, 세션 없앤 만큼 요청마다 보안 검증 필요 B venturebeat.com
- 2026-08-18 · 구글 A2A, MCP와 같은 지붕 아래로…에이전트AI재단 합류 A aaif.io
- 2026-08-22 · 앤트로픽, 에이전트 스킬·컴퓨터 사용 도구 정식 전환 A platform.claude.com
- 2026-07-25 · 외부 에이전트 스킬, 가장 안전한 조합도 17% 위험 실행 A arxiv.org
- 2026-07-17 · QCon AI 보스턴, 운영 AI 핵심은 하네스와 평가 B infoq.com
- 2026-07-23 · 랭체인, 트레이스로 평가셋 만드는 스킬 공개 A langchain.com
- 2026-09-23 · AWS 클라우드워치 옴니 정식 출시, 에이전트 호출까지 평가 A aws.amazon.com
- 2026-07-11 · 평가 통과한 AI 에이전트, 절반이 고객 사고 냈다 B venturebeat.com
- 2026-05-15 · MS, AI 앱 설정 오류 경고…원격 MCP 서버 15% 위험 A microsoft.com
- 2026-06-12 · AI 서비스 키 유출 81% 늘어, MCP 설정 파일도 구멍 B techinformed.com
- 2026-08-06 · 스닉 조사, 보안팀은 AI 사용의 3분의 1만 본다 C snyk.io
- 2026-10-07 · 하비, 에이전트의 MCP 도구 호출 막는 정책 엔진 공개 A harvey.ai
- 2026-10-20 · MS, 위험 점수 오르면 권한 줄이는 에이전트 통제 공개 B siliconangle.com
- 2026-10-09 · 윈도우11에 에이전트 샌드박스, 관리자가 권한 따로 준다 B byline.network
- 2026-06-20 · 구글 딥마인드, 에이전트를 '내부자 위협'으로 다루는 통제 로드맵 B securityboulevard.com
- 2026-09-26 · 워프, 직원 권한 안에서 일하는 인사 에이전트 출시 C fortune.com