AI Agent 시대와 반도체
S/W개발팀 SE · 김학민 · 2026. 4
1년 전에 안 되던 것이
지금은 당연히 됩니다
이 변화는 개발자만의 이야기가 아닙니다
SECTION 01
SaaSpocalypse — SaaS(구독형 소프트웨어) + Apocalypse
S&P 500 vs Software Sector 디커플링
$2,850억 하루 시총 증발
$1조+
더 많은 직원 ≠ 더 많은 라이선스
AI Agent가 사람이 직접 쓰고 판단을 내리는 도구가 되자, 중간 소프트웨어가 흔들렸습니다
제한된 기능
(피처폰)
무한한 확장성
(스마트폰)
1년 전의 AI 경험으로 지금을 판단하는 것은
피처폰으로 스마트폰의 가능성을 평가하는 것과 같습니다
보고서 · 기획서 · 제안서
시장 분석 · 경쟁사 분석
번역 · 요약 · 정리
"모든 사람이 이제 프로그래머다.— Jensen Huang, NVIDIA CEO
자연어가 새로운 프로그래밍 언어다"
한국어로 지시할 수 있으면, 컴퓨터를 부릴 수 있는 시대
SECTION 02
지금 어디까지 와 있는가
전 세계 AI 도구 사용자 분포
수억 명
ChatGPT · Copilot · Gemini 등
극소수
챗봇과 에이전트는 완전히 다른 경험
상위 0.04%
에이전트를 직접 써본 사람의 비율
AI를 들어본 사람은 많지만, 에이전트를 직접 써본 사람은 거의 없습니다
개발자 세계에서는 이미 표준 — 다음 차례는 모든 직군
2년 만에 자동완성에서 멀티에이전트까지
개발 분야에서 2년간 일어난 일이
모든 직군에서 반복됩니다
SECTION 03
같은 AI인데 왜 결과가 다른가
챗봇과 에이전트의 결정적 차이
1번 누르세요, 2번 누르세요
정해진 메뉴 바깥은 불가
매번 처음부터 다시 설명
맥락을 이해하고 알아서 조사
판단 · 실행 · 중간 보고
피드백 반영 · 후속 조치까지
무료 ChatGPT 경험만으로 AI를 판단하는 것은
ARS 경험만으로 전담 비서의 역량을 평가하는 것과 같습니다
| 챗봇 (ARS) | 에이전트 (비서) | |
|---|---|---|
| 환경 인식 | 주어진 정보만 참조 | 프로젝트의 전체 맥락 이해 |
| 실행 능력 | 텍스트 답변만 가능 | 문서 작성 · 분석 · 도구 실행 |
| 작업 범위 | 1회 질의-응답 | 수시간 자율 실행 · 중간 보고 |
| 오류 대응 | 다시 지시해야 함 | 자체 감지 → 수정 → 재시도 |
같은 모델이라도 어떤 에이전트 위에서 구동하느냐에 따라 결과가 달라집니다
업무 성과 = Model × Agent × 나(Pilot)
AI의 추론 능력
Claude, GPT, Gemini
도구 사용·실행 능력
Claude Code, Codex
판단·지시 능력
도메인 지식, 프롬프트
셋 중 하나라도 0이면 결과도 0 — 사용하는 사람이 핵심
비서 1명에서 전문가 팀으로
1명이 순서대로 처리
시장조사 전문가
보고서 전문가
팩트체크 전문가
시각화 전문가
지시하고 기다리면
결과물이 나옵니다
이것이 에이전트
코딩 에이전트가 아니라, 파일을 열고 수정하고 실행하는 자율 에이전트
프로그램 · 웹사이트
자동 생성
작성한 코드를
직접 실행 · 검증
보고서 · 발표자료
구조화 · 작성
데이터 수집
인사이트 도출
코딩뿐 아니라 문서 · 분석 · 발표자료까지 — 지금 보시는 이 자료가 그 증거입니다
자연어 지시 → AI가 설계 · 구현 · 배포까지 자율 실행
SECTION 04
동시다발적 확산
기존 지식의 정리를 넘어 — 새로운 지식을 창출하는 단계
수백 개 소스를
10분에 분석
자동 수집
비교·시각화
데이터 →
슬라이드 자동
VOC 분석
트렌드 탐지
반복적 고민은 AI에게 — 판단과 결정에 집중
XML 기반
마크업 문법
PostScript 기반
구조화된 문법
HTML/Wiki
마크업 코드
셀 · 수식
데이터 구조
AI Agent가 하는 모든 작업 = 코드를 만들어 실행하는 행위
컴퓨터로 하는 모든 지식노동에 적용됩니다
코딩을 배울 필요는 없지만, 프로그래머적 사고 — 문제 분해 · 구조화 · 명확한 지시 — 는 누구에게나 필요합니다
문서 작성 · 정리가 가장 힘든 업무 — 잘 짜인 템플릿만 있으면 누구든 만들 수 있습니다
이 모든 AI가
돌아가려면
무엇이 필요할까?
텍스트 · 영상 · 코드 · 과학 — 모든 AI의 공통 분모
SECTION 05
우리가 만드는 것 — 메모리의 구조적 수요
LLM이 선형적이라면, 영상 AI는 지수적 — 메모리 수요가 함께 폭증
에이전트가 늘어날수록 — 추론 연산 × 저장 수요 = 메모리 수요
학습 데이터: 수십 PB
응답: 수 KB
학습 데이터: 수천 PB
생성물: 수 GB
생성된 영상 저장
+ 학습 데이터 캐싱
= 메모리 폭증
Seedance 하나가 만드는 영상 = 텍스트 답변 수만 개 분량의 스토리지
클라우드만이 아닌 모든 엣지 디바이스에 고용량 스토리지가 필요
더 큰 모델
더 많은 데이터
PB급 스토리지
24/7 에이전트
멀티에이전트
상시 메모리 가동
영상·3D·코드
생성물 폭발
EB급 스토리지
로봇·차량·폰
온디바이스 AI
고용량 스토리지
훈련 + 추론 + 저장 + 엣지 = 4중 구조적 수요
그래서 실제로 얼마나 투자하고 있을까?
"이 경쟁에서 지느니— Larry Page, Alphabet 공동창업자 · Google 내부 발언
파산하는 게 낫다"
5대 하이퍼스케일러가 2026년에 $680B+(940조원)을 AI 인프라에 쏟아붓는 이유
ROI 확신이 아니라 경쟁에서 뒤처지면 끝난다는 공포
모든 경쟁자가 $100B+ 투자 — 나만 안 하면 AGI 경쟁 탈락 → 검색·클라우드·광고 시장 전체를 잃는다
모든 레이어가 메모리 위에서 작동한다
GPU 위에 직접 적층
AI 연산 속도의 최대 병목
CPU 시스템 메모리
에이전트 세션 · KV-cache 오프로드
학습 데이터 · 모델 저장
에이전트 파일 I/O 경유
레거시 서버 · 산업용
HBM 확대 → 공급 감소 → 동반 폭등
AI 서버 1대에 네 가지가 전부 들어간다 — 경쟁이 아니라 보완 관계
같은 팹에서 웨이퍼 공유
HBM 확대 → 범용 DRAM·NAND 감소
에이전트 전환으로
토큰 소모 5~30배 증가
같은 사용자 수 → 인프라 수요 급증
삼성 Q1 영업이익 57.2조
CapEx 중 메모리 비중 8%→30%
재고 31주→3~4주
GPU 없이는 AI가 안 되고, 메모리 없이는 GPU가 안 된다
SECTION 06
구현에서 설계 · 판단으로
"코드 작성은 점점 값싼 상품이 되고 있고,— Jensen Huang, NVIDIA CEO
정말로 중요한 것은 어떤 질문을 할 수 있느냐"
기획 : 실행
1 : 7
기획 : 실행
2 : 1
실행이 3주 → 1일로 압축되면
기획과 판단이 새로운 병목 — 비개발 직군에게는 기회
범용적이지만
깊이 부족
깊지만
속도 제한
깊이 + 속도
= 차별화된 결과물
반도체 10년 경력 + AI = AI만으로는 절대 나올 수 없는 인사이트
AI가 빨라질수록, 다음 결정을 내리는 사람이 critical path
효과 가속
문제 악화
AI는 마법이 아닌 증폭기 — 기반이 좋으면 가속, 아니면 혼란도 가속
존재하지 않는 데이터를
자신 있게 생성
보고서에 가짜 출처
틀린 수치가 포함될 수 있음
AI 산출물은 반드시
사람이 검증
AI가 만든 것을 그대로 쓰는 것이 아니라 검증하고 판단하는 것이 핵심
AI가 처리하는 영역이 넓어질수록 — 남는 영역의 밀도가 높아진다
AI가 일을 해준다고 사람이 편해지는 것은 아닙니다
도구가 빨라졌다고 사람도 빨라져야 하는 것은 아닙니다
SECTION 07
두 질문을 분리하라
| 기술적으로 | 우리 환경에서 | 예시 | 대응 | |
|---|---|---|---|---|
| A | 가능 | 적용 가능 | 외부 AI로 시장 분석 · 보고서 초안 · 번역 | 즉시 시작 |
| B | 가능 | 제약 존재 | 사내 데이터 분석 · 내부 시스템 연동 | 제약 해소 추진 |
| C | 불가 | 해당 없음 | 100% 자율 의사결정 | 기술 성숙 관찰 |
A는 오늘부터 가능 · B는 논의의 여지 · C는 기술 성숙도를 지켜보는 영역
DS부문 차원의
AI 도구 적극 활용 방침
공통 인프라 조직과
메모리사업부 SW조직
외부 AI 도구 활용
개발 효율화 PoC 진행
제약 속에서도 이미 움직이고 있습니다
모두 무료로 시작 가능
도메인 전문성을 가진 사람이
AI를 쓸 때
가장 강력합니다
도구의 가치는 사용하는 사람의 전문성이 결정합니다
"이건 되더라"
"저건 안 되더라"
잘 되는 프롬프트
유용한 도구 공유
AI 활용이
자연스러운 조직
혼자 잘하는 것보다 함께 성장하는 것이 조직에 더 큰 변화를 만들어냅니다
질의 · 토론
AI가 바꾸는 일하는 방법 · 2026. 4 · 김학민