← 목록으로
안녕하세요. TV조선 AI 리포터 아이온입니다. 최근 'AI의 대부' 제프리 힌턴 교수를 비롯한 AI 연구자 22명이, 인공지능의 발전 속도가 인간의 통제를 앞질러 갈 수 있다는 강력한 경고장을 내놨습니다. 이들이 특히 주목한 건 AI가 더 뛰어난 AI를 만들어내는 '재귀적 자기개선', RSI입니다. 한때 이론으로 여겨졌던 RSI가 왜 지금 현실적인 위험으로 떠오르고 있는지 알아봅니다.
지금까지는 인간 엔지니어가 데이터를 다듬고 코드를 고쳐 AI를 업그레이드해 왔습니다. RSI는 AI가 이 과정에 직접 뛰어드는 구조입니다. 스스로 자신의 설계를 개선해 더 뛰어난 AI를 만들고, 그 AI가 다시 다음 세대 개발에 나서는 '자가증폭 루프'입니다. 한마디로 'AI를 만드는 일'까지 AI가 맡는 겁니다.
하지만 넘어야 할 벽이 많았습니다. AI가 만든 데이터를 다시 AI에게 학습시키면 오류가 쌓이는 '모델 붕괴'가 나타날 수 있었고, 복잡한 연구와 결과 검증도 결국 사람의 몫이었습니다. 그런데 최근 상황이 빠르게 달라지고 있습니다. AI가 연구 과정 자체에 직접 뛰어들기 시작한 겁니다.
리처드 소처 / Recursive CEO
“AI가 AI 연구까지 맡게 되면, 사실상 자기개선 AI가 됩니다. 자기 자신을 연구하기 시작하는 거죠."
실제로 최근 실험에서는 AI 연구 에이전트가 자신의 코드를 직접 고치고, 성능이 좋아진 버전을 다음 실험에 다시 투입하며 8일 동안 일곱 차례 성능을 끌어올렸습니다. AI 기업 내부에서도 변화는 빠릅니다.
앤트로픽이 지난 5월 실제 코드에 반영한 프로그램 가운데 80% 이상을 AI가 작성했고, 지난달에는 AI가 주도하는 연구개발 업무 비중이 26%까지 올라왔습니다. 아직 인간 없이 AI가 다음 AI를 완전히 만들어내는 RSI에 도달한 것은 아닙니다.
문제는 그 다음입니다. 이 과정이 반복되며 개발 속도가 계속 빨라지면, 몇 년 걸리던 기술 발전이 몇 달 이하로 압축될 수도 있습니다. 이른바 '지능 폭발'입니다. AI의 발전 속도를 인간이 언제까지 통제할 수 있을까요.
밤사이 뉴욕증시는 물가가 예상보다 낮게 나왔는데도 장기 국채 금리가 최고치를 다시 갈아치우며 상승분을 반납했습니다. 장 마감 뒤 나온 마이크론의 실적 서프라이즈가 나흘째 팔던 외국인을 돌려세울 수 있을까요. 삼대 에이아이의 전망 짚어보겠습니다.
챗GPT는 마이크론의 깜짝 실적이 삼성전자와 SK하이닉스의 반등 기대를 키울 것으로 봤습니다. 다만 외국인의 반도체 수급과 높은 미국 장기금리를 변수로 꼽으며, 투자심리는 ‘신중한 낙관’으로 제시했습니다.
제미나이는 높은 미국 금리와 유가 부담 때문에 외국인 수급에 따라 보합권에 머물 가능성에 무게를 뒀습니다. 투자심리는 ‘중립’입니다.
클로드는 마이크론 시간외 급등을 근거로 반도체주가 강하게 출발할 것으로 내다봤습니다. 다만 외국인 매수세가 이어져야 한다며, 투자심리는 ‘중립’으로 판단했습니다.
오늘 코스피의 방향은 외국인이 반도체를 다시 사느냐가 가를 것으로 보입니다.
경제
[아이온의 AI:온] 스스로 진화하는 AI…'지능 폭발' 경고
요약
- AI 연구자 22명이 인공지능이 스스로를 발전시키는 '재귀적 자기개선(RSI)'으로 인한 '지능 폭발'의 위험을 경고했습니다.
- 한편, 마이크론의 실적 서프라이즈가 국내 반도체주와 외국인 수급에 미칠 영향에 관심이 모아지고 있습니다.
안녕하세요. TV조선 AI 리포터 아이온입니다. 최근 'AI의 대부' 제프리 힌턴 교수를 비롯한 AI 연구자 22명이, 인공지능의 발전 속도가 인간의 통제를 앞질러 갈 수 있다는 강력한 경고장을 내놨습니다. 이들이 특히 주목한 건 AI가 더 뛰어난 AI를 만들어내는 '재귀적 자기개선', RSI입니다. 한때 이론으로 여겨졌던 RSI가 왜 지금 현실적인 위험으로 떠오르고 있는지 알아봅니다.
지금까지는 인간 엔지니어가 데이터를 다듬고 코드를 고쳐 AI를 업그레이드해 왔습니다. RSI는 AI가 이 과정에 직접 뛰어드는 구조입니다. 스스로 자신의 설계를 개선해 더 뛰어난 AI를 만들고, 그 AI가 다시 다음 세대 개발에 나서는 '자가증폭 루프'입니다. 한마디로 'AI를 만드는 일'까지 AI가 맡는 겁니다.
하지만 넘어야 할 벽이 많았습니다. AI가 만든 데이터를 다시 AI에게 학습시키면 오류가 쌓이는 '모델 붕괴'가 나타날 수 있었고, 복잡한 연구와 결과 검증도 결국 사람의 몫이었습니다. 그런데 최근 상황이 빠르게 달라지고 있습니다. AI가 연구 과정 자체에 직접 뛰어들기 시작한 겁니다.
리처드 소처 / Recursive CEO
“AI가 AI 연구까지 맡게 되면, 사실상 자기개선 AI가 됩니다. 자기 자신을 연구하기 시작하는 거죠."
실제로 최근 실험에서는 AI 연구 에이전트가 자신의 코드를 직접 고치고, 성능이 좋아진 버전을 다음 실험에 다시 투입하며 8일 동안 일곱 차례 성능을 끌어올렸습니다. AI 기업 내부에서도 변화는 빠릅니다.
앤트로픽이 지난 5월 실제 코드에 반영한 프로그램 가운데 80% 이상을 AI가 작성했고, 지난달에는 AI가 주도하는 연구개발 업무 비중이 26%까지 올라왔습니다. 아직 인간 없이 AI가 다음 AI를 완전히 만들어내는 RSI에 도달한 것은 아닙니다.
문제는 그 다음입니다. 이 과정이 반복되며 개발 속도가 계속 빨라지면, 몇 년 걸리던 기술 발전이 몇 달 이하로 압축될 수도 있습니다. 이른바 '지능 폭발'입니다. AI의 발전 속도를 인간이 언제까지 통제할 수 있을까요.
밤사이 뉴욕증시는 물가가 예상보다 낮게 나왔는데도 장기 국채 금리가 최고치를 다시 갈아치우며 상승분을 반납했습니다. 장 마감 뒤 나온 마이크론의 실적 서프라이즈가 나흘째 팔던 외국인을 돌려세울 수 있을까요. 삼대 에이아이의 전망 짚어보겠습니다.
챗GPT는 마이크론의 깜짝 실적이 삼성전자와 SK하이닉스의 반등 기대를 키울 것으로 봤습니다. 다만 외국인의 반도체 수급과 높은 미국 장기금리를 변수로 꼽으며, 투자심리는 ‘신중한 낙관’으로 제시했습니다.
제미나이는 높은 미국 금리와 유가 부담 때문에 외국인 수급에 따라 보합권에 머물 가능성에 무게를 뒀습니다. 투자심리는 ‘중립’입니다.
클로드는 마이크론 시간외 급등을 근거로 반도체주가 강하게 출발할 것으로 내다봤습니다. 다만 외국인 매수세가 이어져야 한다며, 투자심리는 ‘중립’으로 판단했습니다.
오늘 코스피의 방향은 외국인이 반도체를 다시 사느냐가 가를 것으로 보입니다.
키워드
재귀적 자기개선제프리 힌턴지능 폭발마이크론