3분 요약
한 줄로: AI 프로젝트가 멈추는 곳은 기술이 아니라 보안 검토와 계약서인 경우가 많다. DS는 첫 주에 "이 일을 해도 되나, 누가 책임지나, 얼마를 어떻게 받나"를 정리해야 한다.
한국: 개정 AI기본법이 7월 21일 전면 시행됐다. 과학기술정보통신부가 하반기 시행 사항으로 발표했다B. 같은 시기 국가 AI 윤리원칙 초안(3대 가치·6대 원칙)도 나왔다B.
금융권이 가장 빠르다. 금융위원회는 AI 가이드라인을 고쳐 7대 원칙을 정하고 망분리 완화와 에이전트 감독 체계를 예고했다B. 금융보안원은 AI 에이전트 보안 평가 기준 17개 항목을 만들었다B.
기업 스스로도 선을 긋기 시작했다. JP모건은 외부 AI 에이전트의 송금·결제를 막겠다고 했고B, 골드만삭스는 코딩 에이전트를 엔지니어 1만 2,000명에게만 허용했다B.
계약은 "사람 몇 명 몇 달"에서 "결과"로 옮겨 가는 중이다. 과기정통부는 기능점수(FP) 중심의 SW 사업 대가 체계를 손보는 TF를 꾸렸다B.
1. 한국 규제
개정 AI기본법
- 7월 21일 전면 시행. 시행령에는 공공조달 관련 내용도 들어갔다B.
- DS가 고객사에 확인할 것: 우리 서비스가 고영향 AI(사람의 생명·권리에 큰 영향을 주는 AI)에 해당하나, AI가 만든 결과물임을 표시해야 하나, 이용자에게 무엇을 알려야 하나.
- 법 해석은 법무팀·외부 전문가의 일이다. DS는 "이 업무에 이 법이 걸리는지 확인했는가"를 체크리스트에 넣는 사람이다.
금융권
| 기관 | 내용 | 날짜 | 등급 |
|---|---|---|---|
| 금융위원회 | AI 가이드라인 개정 — 거버넌스·합법성·보조수단성·신뢰성·금융안정성·신의성실·보안성 7대 원칙, 망분리 완화, 에이전트 감독 체계 예고 | 6월 18일 | B |
| 금융위원회 | 마이데이터에 소비자 권리를 대신 행사하는 AI 에이전트 도입 추진 | 8월 25일 | B |
| 금융보안원 | AI 에이전트 보안 평가 기준 5개 분야 17개 항목 | 10월 7일 | B |
보조수단성이 핵심이다. 현 단계에서 AI는 보조수단이고 최종 판단은 사람이 한다. 2편의 업무 재설계 문서에 "확인 지점" 칸을 둔 이유가 이것이다.
망분리는 금융사 내부 업무망을 인터넷과 떼어 놓는 규제다. 이 때문에 외부 클라우드 AI를 쓰기 어려웠다. 케이뱅크는 은행권 최초로 내부망과 분리된 클라우드 기반 연구개발망을 만들고 설비·운영비를 70% 줄였다고 보도됐다B. 규제가 풀리는 만큼 프로젝트 기회가 생긴다.
공공·보안 환경
공공기관·발전사·병원은 외부로 데이터를 못 내보내는 곳이 많다. 그래서 온프레미스(자체 서버) AI 수요가 있다. 솔트룩스는 강원랜드에 엔비디아 H200 서버와 자체 모델로 온프레미스 생성형 AI를 구축하는 사업을 따냈다B. 한국수력원자력은 보안 환경에서 에이전트 7개를 운영한다C.
DS가 첫 미팅에서 물을 것: "데이터를 회사 밖 클라우드로 보낼 수 있나요? 안 되면 어떤 서버에서 돌려야 하나요?"
2. 해외 규제 — 한국 고객에게도 걸리는 것
| 지역 | 내용 | 등급 |
|---|---|---|
| EU | AI법 독립형 고위험 규정 적용을 2027년 12월로 연기, 규제 제품에 들어간 AI는 2028년 8월부터 | B |
| 미국 | 고성능 신규 모델을 출시 전 30일간 정부 보안 검증을 받게 하는 행정명령 | B |
| 미국 | 정부 명령으로 특정 모델 접근이 전면 중단된 사례(6월) | B |
출처: Lewis Silkin · iubenda · 전자신문 · Engadget
DS 관점. 유럽에 수출하는 제조사나 유럽 고객 데이터를 다루는 회사는 EU AI법 일정을 챙겨야 한다. 미국 사례는 쓰던 모델이 정책 때문에 갑자기 막힐 수 있다는 교훈을 준다. 4편에서 말한 "모델을 바꿔 끼울 수 있게 만들었나"가 계약 조건이 돼야 한다.
3. 보안 — 첫 주에 정리할 표
4편에서 본 권한 문제를 프로젝트 첫 주에 표로 만든다. 보안팀의 승인을 빨리 받는 가장 좋은 방법이다.
| 항목 | 질문 | 담당 |
|---|---|---|
| 데이터 | 어떤 데이터를 AI에 넣나? 개인정보·영업비밀이 있나? | DS + 현업 |
| 위치 | 데이터가 어디로 가나(국내·해외 클라우드, 자체 서버)? 모델 회사가 학습에 쓰나? | FDE |
| 권한 | 에이전트는 누구 계정으로 무엇을 읽고 무엇을 바꾸나? | FDE |
| 연결 | 연결된 MCP 서버·외부 도구 목록과 검사 여부 | FDE |
| 기록 | 에이전트가 한 일을 몇 년간 어떤 형태로 남기나? | FDE + 보안팀 |
| 사고 | 잘못된 일을 했을 때 누가 언제 멈추나? | DS + 현업 |
| 직원 사용 | 직원이 개인적으로 쓰는 AI 도구는 어떻게 관리하나? | 보안팀 |
마지막 줄이 생각보다 크다. 보안팀이 실제 AI 사용량의 약 3분의 1만 파악한다는 조사C, 개발팀 97%가 AI 코딩 도구를 쓰는데 관리 체계는 30%뿐이라는 조사B가 나왔다. 프로젝트와 별개로 "이미 쓰고 있는 AI"를 파악하는 것이 진단의 일부다.
4. 계약 — 작업 범위서와 가격
작업 범위서(SOW)에 꼭 넣을 것
SOW(Statement of Work)는 "무엇을, 언제까지, 어떤 기준으로 끝낸다"를 적은 문서다. AI 프로젝트는 결과가 확률적이어서 일반 SI 계약서로는 다툼이 생긴다.
| 항목 | 일반 SI | AI 프로젝트에서 더 적을 것 |
|---|---|---|
| 범위 | 기능 목록 | 맡길 업무와 맡기지 않을 업무 |
| 완료 기준 | 기능 동작 | 평가 문제 몇 개 중 몇 % 정답(4편) |
| 데이터 | 이관 대상 | 고객이 줄 데이터와 정리 책임 |
| 모델 | — | 쓸 모델, 바꿀 수 있는 조건, 비용 부담 |
| 운영 | 하자보수 기간 | 모델·규격 변경 시 대응, 토큰 비용 상한 |
| 책임 | — | AI 결과의 최종 확인자(사람) |
| 성과 | — | 기준선과 목표 수치(3편) |
가격 정하는 방식
| 방식 | 어떻게 | 맞는 경우 |
|---|---|---|
| 투입 인력 | 사람 × 기간 | 범위가 불확실한 초기 진단 |
| 고정가 | 결과물 단위 | 범위가 분명한 시범 운영 |
| 사용량 | 처리 건수·토큰 | 운영 단계 |
| 성과 연동 | 줄어든 시간·비용의 일부 | 기준선이 확실할 때 |
| 구독 | 월정액 + 상한 | 플랫폼·에이전트 운영 |
시장 흐름. - 과기정통부가 기능점수 중심 대가 체계를 손보는 TF를 꾸렸다B. 공공 AI 사업 가격이 바뀔 수 있다. - 세일즈포스는 에이전트포스를 묶어 요금제를 코어·어드밴스드·맥스로 개편했고A, 데이터브릭스는 업무 에이전트를 토큰 종량제로 냈다B. 소프트웨어 회사들이 좌석당 요금과 사용량 요금을 섞고 있다. - 에이전트 작업당 비용은 늘 수 있다는 전망(3편, 가트너)을 고려하면, 운영 계약에는 월 토큰 비용 상한과 초과 시 처리 방법을 넣는 것이 안전하다.
1인·소규모 회사라면
큰 SI사처럼 몇 달 투입 계약을 따기 어렵다. 대신 이렇게 나눌 수 있다.
- 진단 패키지(2~3주, 고정가): 2편의 ①~③ — 진단서, 과제 목록표, 가치 가설.
- 시범 운영(4~6주, 고정가 + 성과 조건): ④ — 과제 하나, 기준선과 목표 수치 명시.
- 운영·확산(월 구독): ⑤~⑥ — 업무 재설계 지원, 월간 효과 보고.
진단 패키지가 문턱을 낮추고, 진단서와 가치 가설이 다음 계약의 근거가 된다.
DS의 첫 주 체크리스트
- [ ] 고객 업종에 걸리는 규제 목록(AI기본법, 금융·의료·공공 지침) 확인
- [ ] 데이터 반출 가능 여부와 서버 위치 확인
- [ ] 보안 표(위 3번) 초안 작성 → 보안팀 첫 미팅
- [ ] 에이전트 권한이 사람 직원 권한을 넘지 않게 설계
- [ ] SOW에 완료 기준·모델 변경·토큰 상한·최종 확인자 명시
- [ ] 가격 방식 결정(진단 → 시범 → 운영)
다음 편
6편 「업계 지도」에서는 누가 이 일을 하고 있는지 — 모델 회사, 빅테크, 컨설팅, 한국 SI·클라우드 회사 — 와 채용·연봉·진입 경로를 정리한다.
출처
이 편이 인용한 기사는 모두 AX 브리핑 지난 호에 실렸다. 괄호 안은 신뢰 표시(A 공식 자료 · B 언론 보도 · C 업체 주장).
- 2026-06-30 · 과기정통부, 개정 AI기본법 7월 21일 전면 시행 B ajunews.com
- 2026-05-29 · 정부 AI 윤리원칙 초안, 7월 8일까지 의견수렴 B mobile.newsis.com
- 2026-06-18 · 금융위, AI 가이드라인 개정…망분리 완화·에이전트 감독체계 예고 B newspim.com
- 2026-08-25 · 금융위, 마이데이터에 권리 대행 AI 에이전트 도입 추진 B metroseoul.co.kr
- 2026-10-07 · 금융보안원, AI 에이전트 보안 평가기준 17개 항목 마련 B biz.sbs.co.kr
- 2026-10-14 · JP모건, 외부 AI 에이전트의 송금·결제 차단 B biz.sbs.co.kr
- 2026-11-04 · 골드만삭스, 코딩 에이전트 사용을 엔지니어 1만2000명으로 제한 B theedgemalaysia.com
- 2026-05-28 · 과기정통부, AI·SW 사업 대가체계 개선 TF 가동 B byline.network
- 2026-09-08 · 케이뱅크, 클라우드 R&D망으로 설비·운영비 70% 절감 B fntimes.com
- 2026-05-18 · 솔트룩스, 강원랜드 온프레미스 생성형 AI 구축 수주 B zdnet.co.kr
- 2026-10-21 · 한수원, AI 에이전트로 원전 서류 검토시간 90% 단축 C zdnet.co.kr
- 2026-06-09 · 개발팀 97% AI 코딩 도구 쓰는데 관리체계는 30%뿐 B infosecurity-magazine.com
- 2026-08-06 · 스닉 조사, 보안팀은 AI 사용의 3분의 1만 본다 C snyk.io
- 2026-09-03 · 세일즈포스, 에이전트포스 묶은 코어·어드밴스드·맥스 요금제 개편 A salesforce.com
- 2026-06-17 · 데이터브릭스, 업무 에이전트 '지니 원' 공개…토큰 종량제 B siliconangle.com