- InfoQ가 에이전트, 추론 인프라, 데이터 기술의 채택 단계를 정리하고 향후 1년을 전망함
- AI의 중심이 질문에 답하는 인터페이스에서 업무를 위임받아 실행하는 에이전트로 이동하고 있음. 조직의 관심도 에이전트 구축에서 프로덕션 배포, 운영, 확장으로 옮겨감
- AI 추론 인프라가 핵심 과제로 부상했으며, 2026년 말에는 추론이 AI 컴퓨팅 지출의 약 3분의 2를 차지할 것으로 예상됨
- 에이전트 평가는 모델의 답변 정확도만으로 부족함. 도구, 컨텍스트, 실행 루프, 환경 전체를 대상으로 작업 완료 여부, 비용, 소요 시간, 사람의 개입, 안전성을 측정해야 함
- 개발 과정에서는 명세 주도 개발과 AI 소프트웨어 팩토리가 부상함. 요구사항과 명세를 먼저 정리하고, 설계와 코드 생성뿐 아니라 버그 분석, 수정, 검토, 테스트까지 자동화하려는 흐름임
- 물리적 AI는 소프트웨어 지능을 로봇, 자율주행차, 드론, 산업 시스템으로 확장함. 실제 사고를 되돌리기 어렵기 때문에 시뮬레이션, 안전성 검증, 평가와 데이터 확보가 중요한 과제로 남음
- InfoQ 편집진과 외부 패널이 AI, ML, 데이터 엔지니어링의 기술 채택 현황과 향후 1년의 전망을 정리함. 2026년 채택 그래프와 보고서
- 채택 그래프는 Geoffrey Moore의 『Crossing the Chasm』을 바탕으로 기술을 혁신가, 초기 수용자, 초기 다수, 후기 다수 단계로 나눔. InfoQ는 주로 보편적 채택에 이르기 전의 기술에 주목함
- 2022년 11월 ChatGPT가 출시된 지 약 4년, 기업의 RAG 도입과 자율 LLM 에이전트가 등장한 지 2~3년이 지난 시점에도 기술 변화가 빠르게 이어지고 있음
- 전년도와 겹치는 주제는 재편하고, 이미 보편화된 기술은 추적 대상에서 제외함. 패널이 팟캐스트에서 다루지 않은 일부 주제도 그래프에 추가함. 2025년 보고서, 2026년 패널 토론
- 언어 모델에서는 소형 언어 모델과 추론 모델에 대한 관심이 커짐. 추론 모델은 응답하기 전에 수학이나 논리 문제의 풀이 과정을 거침
- TypeSafe AI의 Jev 같은 특화 의사결정 모델도 주목받음. 보고서는 결정론적 동작과 빠른 추론, 낮은 비용을 이유로 이런 System One 모델의 채택이 늘어날 것으로 전망함. System One 모델과 Jev
- 혁신가 단계에는 에이전트 간 프로토콜, 하네스 엔지니어링, 추론 엔진, AI 소프트웨어 팩토리와 물리적 AI가 포함됨
- 에이전트 보안과 거버넌스, 음성 에이전트, 특화 의사결정 모델, AI 게이트웨이, GraphRAG, LLMOps와 GenAIOps, 뇌-컴퓨터 인터페이스도 이 단계에서 추가하거나 수정한 주제임
- 초기 수용자 단계에는 AI 에이전트와 오케스트레이션, 모델 및 에이전트 평가가 포함됨
- 에이전트 기반 코딩과 자율 소프트웨어 엔지니어링, 에이전트 관측 가능성, 추론 최적화와 모델 라우팅의 활용도 늘고 있음
- 소형 언어 모델, 추론 모델, 설명 가능한 AI, VR·AR·MR·XR, 인지 서비스, 엣지 AI 추론도 이 단계에 속함
- MCP, 멀티모달 AI, AI를 활용한 DevOps와 SRE도 포함됨. 프로덕션 지원, 문제 해결, 유지보수와 업그레이드에 AI를 쓰기 시작함
- 초기 다수 단계에는 컨텍스트 엔지니어링, 생성형 AI와 LLM, RAG, 지식 그래프, MLOps, 벡터 데이터베이스가 포함됨
- 데이터 엔지니어링에서는 데이터 계약, 데이터 관측 가능성, 그래프 데이터 분석, 합성 데이터 생성, 오픈 테이블 포맷이 이 단계에 놓임
- 후기 다수 단계의 기술은 팀의 아키텍처와 설계 패턴, 개발 프로세스에 자리 잡음
- 자동화된 머신러닝, 이미지 인식, 디지털 어시스턴트, 데이터 메시가 포함됨
- 스트림 처리 및 분석, 추천 엔진, 레이크하우스, Spark도 이 단계에 속함
- 자연어 처리, 딥러닝, NoSQL 데이터베이스, 인메모리 데이터 그리드, Hadoop 기반 빅데이터 기술은 이미 널리 쓰인다고 판단해 채택 그래프의 추적 대상에서 제외함
- AI 에이전트와 오케스트레이션의 관심사는 2025년까지 학습과 구축에 집중됐으나, 2026년에는 프로덕션에서 배포하고 운영하며 확장하는 문제로 옮겨감
- 개인을 돕는 에이전트에서 팀 단위 활용으로 넓어졌으며, 기업은 조직 전체에서 작동하는 에이전트도 검토함
- 질문에 답하는 인터페이스에서 목표에 맞춰 계획을 세우고 도구를 사용하며 작업 완료까지 실행하는 계층으로 발전하고 있음
- 소프트웨어 개발에서는 자동완성, 코파일럿, 코딩 에이전트로 변화가 이어짐
- Claude, Codex, Cursor, Replit 등은 저장소를 탐색하고 여러 파일을 수정하며, 명령을 실행하고 실패 원인을 확인해 작업을 반복할 수 있음
- 에이전트 간 프로토콜은 여러 에이전트와 업무 영역을 연결할 때 안전성과 정확성, 신뢰성을 확보하기 위한 통신 기반임
- MCP는 에이전트가 도구와 데이터, API에 접근하는 데 쓰이고, A2A는 에이전트끼리 통신하고 작업을 조율하는 데 쓰임
- 애플리케이션을 API에 연결하는 구조에서, API 위에 에이전트 탐색과 작업 조율을 더하는 기업 통합 계층으로 발전할 가능성이 있음
- 다중 에이전트 시스템은 LLM 이전부터 수십 년간 연구된 분야이며, 기존 접근에도 LLM을 통합할 수 있음
- Arthur Casals는 신념 수정 기법을 통해 환각을 줄이고, 에이전트가 처리한 정보의 정확성과 출처를 다루는 방법을 연구함
- 컴퓨터 과학, 철학과 형식 논리에 걸친 접근으로, Jev와 유사하게 구조화된 입력과 출력을 다룰 수 있는 형식 논리 기반 프로필을 연구 중임. 다중 에이전트 시스템, 신념 수정
- 하네스 엔지니어링은 컨텍스트 관리를 넘어 에이전트 실행 환경 전반을 설계하는 영역으로 확장됨
- LangChain, Anthropic, OpenAI의 SDK는 실행 루프 외에도 컨텍스트를 위한 메모리 관리, 여러 작업의 실행 조율, 로컬 파일 시스템 접근 도구 등을 제공함
- 에이전트를 호스팅하는 런타임도 늘면서, 에이전트 구축과 대규모 운영이 각각 별도의 과제로 자리 잡음
- 기업의 관심이 모델 학습에서 프로덕션 추론으로 옮겨가면서 2026년은 추론의 해로 불림. InfoQ는 연말까지 추론이 AI 컴퓨팅 지출의 약 3분의 2를 차지할 것으로 전망함
- 추론 모델, 긴 컨텍스트, 에이전트가 늘면서 추론은 연산, 메모리, 네트워크, 라우팅과 비용을 함께 다루는 시스템 문제가 됨
- 혁신가 단계의 추론 엔진에는 vLLM, SGLang, llm-d가 포함됨. 공개 가중치 모델의 성능이 높아지고, 자체 환경에서 추론 서비스를 구축하고 최적화하는 도구와 자료도 늘고 있음. vLLM, SGLang
- 개인 식별 정보를 다루는 금융기업처럼 내부 호스팅이 필요한 곳에서 활용할 수 있음
- 코딩 모델 운영 비용을 줄이려는 기업도 자체 호스팅을 검토함
- Hien Luu는 내부 추론 서비스를 구축하기 쉬워진 만큼 공개 가중치 모델을 자체 운영하는 사례가 계속 늘어날 것으로 봄
- 명세 주도 개발은 원하는 기능과 구현 계획을 먼저 정리하고, 코딩 에이전트가 사용할 수 있는 명세와 컨텍스트를 준비하는 접근임
- 새 프로젝트의 목적과 기능을 명세로 작성한 뒤, 에이전트와 아이디어를 검토하며 구현에 필요한 정보를 보완함
- AI 소프트웨어 팩토리는 개발 생명주기 전체에 AI를 적용하려는 모델임. 일부 조직은 이를 위한 전담 팀을 구성하고 있음
- 기존 애플리케이션의 업무 도메인과 요구사항을 수집하고 분석함
- 신규 요구사항과 개선점을 검토해 기능 및 비기능 명세를 작성함
- 명세를 바탕으로 설계와 개발 작업을 만들고, 변경된 애플리케이션의 코드와 산출물을 생성함
- 버그 대응에서도 분석, 재현, 수정, PR 제출, 검토, 테스트까지 이어지는 흐름을 자동화하려는 시도가 있음
- 반복 업무를 줄여 소프트웨어 개발 생명주기 전체를 가속하는 것이 목표임
- AI 모델 및 에이전트 평가는 가드레일과 테스트 하네스의 발전을 동반함. AI가 코드와 소프트웨어 구성요소를 더 많이 생성할수록 엄격하고 일관된 검증이 중요해짐
- DoorDash의 음식 주문 도우미나 고객 지원 에이전트처럼 외부 사용자와 직접 상호작용하는 시스템은 평가를 핵심 개발 단계에 포함해야 함
- LLM의 비결정적 동작으로 에이전트가 잘못된 경로를 선택하거나 도구를 오용할 수 있음
- 평가 하네스는 데이터 확보, 평가와 테스트 실행, 최종 품질 판정을 연결함
- 이를 통해 예상 밖의 동작과 회사 정책 위반 여부를 확인함
- 실제 행동을 실행하는 에이전트는 모델, 도구, 컨텍스트, 실행 루프, 환경 전체를 평가해야 함
- 답변 정확도와 함께 작업 완료 여부, 비용, 소요 시간, 사람의 개입 횟수와 안전하지 않은 행동을 측정함
- 컨텍스트 엔지니어링에서는 컨텍스트 오염이 주요 문제로 남음
- 창이 커져도 유용한 최신 정보와 대안 정보, 무관하거나 오래된 자료, 적대적 입력을 구분할 수 있어야 함
- 입력이 늘어나면 에이전트가 느려지고 비용이 커지며, 결과의 신뢰성도 낮아질 수 있음. 에이전트 컨텍스트 엔지니어링
- 컨텍스트를 설계할 때는 어떤 정보를 어느 출처에서 가져와, 어떤 권한으로 어느 작업 단계에 넣을지를 결정함
- 검색 품질과 출처 분포, 컨텍스트 모델링 및 압축을 함께 다뤄야 함. Deep Agents의 컨텍스트 관리
- 물리적 AI 또는 체화된 AI는 로봇, 협동 로봇, 자율주행차, 드론과 산업 시스템이 현실을 인식하고 행동하도록 소프트웨어 지능을 연결함
- 언어와 비전 분야에 쓰인 기반 모델 접근이 로봇에도 적용되기 시작함. 물리적 오류가 실제 사고로 이어질 수 있어 신뢰성, 시뮬레이션, 안전성 검증과 평가의 비중이 커짐
- 산업 시설의 디지털 트윈을 이용한 로봇 시뮬레이션과 개방형 로보틱스가 발전하고, 소프트웨어 에이전트에서 물리적 에이전트로의 확장이 향후 1년간 빨라질 것으로 예상됨. 산업 시설 디지털 트윈에서 로봇 시뮬레이션하기
- 로봇 학습에서는 실패 전 상태로 되돌리기 어렵다는 점이 큰 제약임
- 컴퓨터 안에서는 실패 후 상태를 초기화해 여러 경로를 탐색할 수 있음
- 계단에서 떨어져 부서진 로봇은 같은 상태로 되돌리기 어려워 반복 실험과 학습 데이터 확보가 까다로움
- 현실에서 작동하는 사례로 Waymo와 Zoox가 언급됨. Chip Huyen이 살펴보는 로보틱스 기업에는 Janatics Robotics, Generalist, Physical Intelligence, Sunday, Skild AI가 포함됨
- 패널은 AI를 지난 20여 년의 주요 기술 변화 중 하나로 보고, 업무와 개인 생활에서 반복적인 작업 흐름을 자동화할 방법을 찾아볼 것을 권함
- 미국 로봇 기업의 혁신과 더 저렴하고 빠른 모델의 등장을 예상하며, TypeSafe 방식의 특화 모델에도 주목함
- 모든 AI 에이전트에 어떤 형태로든 Jev 모델이 통합될 것이라는 전망도 나옴
- 명확히 정의된 작업에는 더 작고 특화된 에이전트와 여러 모델을 조합한 구성을 활용하고, 차별점은 모델을 둘러싼 시스템에서 생길 것으로 봄
- 에이전트의 구축과 프로덕션 운영이 늘어나면서 에이전트 간 통신도 더 활발해질 것으로 예상함
- 전력 접근성, 수용 용량, 데이터센터 입지와 냉각이 AI 인프라 확장의 제약으로 떠오를 수 있음
- 2027년의 주요 AI 이슈 일부는 에너지, 칩, 인프라와 지정학에서 나올 것으로 전망함
- AI가 일상에서 차지하는 비중이 커지면서, AI가 특히 유용한 영역과 사람의 지능과 판단이 필요한 영역이 더 분명해질 것으로 봄