AI가 다음 AI를 만드는 시대 성큼 … 인간은 ‘개발자’에서 ‘감독자’로

정이든 청년기자 발행일 2026-09-19 19:42:22
- 앤트로픽 “자사 코드 80% 이상 AI가 작성”
[데일리환경=정이든 기자] 인공지능이 사람의 질문에 답하는 단계를 넘어, 더 뛰어난 인공지능을 개발하는 과정에 직접 참여하기 시작했다. 아직 AI가 독자적으로 후속 모델을 설계하는 수준은 아니지만, 코드를 작성하고 실험을 수행하며 오류를 찾아내는 핵심 업무에서 AI의 비중이 빠르게 커지고 있다.


▲ 클로드 도입 이후 앤트로픽 엔지니어 1인당 코드 생산량 변화를 나타낸 공식 그래프(출처=Anthropic Institute)


AI 기업 앤트로픽은 최근 공개한 ‘AI가 스스로를 만들 때(When AI builds itself)’ 보고서에서 자사의 AI 모델 ‘클로드’가 새로운 AI를 개발하는 연구·엔지니어링 업무 상당 부분을 수행하고 있다고 밝혔다.

앤트로픽에 따르면 2026년 5월 기준 회사의 실제 코드 저장소에 반영된 코드 가운데 80% 이상이 클로드가 작성한 것으로 분석됐다. 클로드 코드가 연구용으로 처음 공개된 2025년 2월 이전에는 그 비중이 한 자릿수 초반에 머물렀다.

AI 활용이 본격화되면서 개발자가 처리하는 작업량도 크게 늘었다. 올해 2분기 앤트로픽 엔지니어 1명이 하루 동안 반영한 코드의 양은 2024년보다 약 8배 증가했다. 사람이 일일이 코드를 입력하는 대신, 해결할 문제와 목표를 제시하고 AI가 작성한 결과를 검토하는 방식으로 업무 구조가 바뀐 영향이다.

다만 코드의 양이 8배 늘었다고 해서 실제 생산성이나 소프트웨어의 가치가 그대로 8배 증가했다고 해석해서는 안 된다. 코드의 품질과 유지보수 가능성, 보안성은 별도로 검증해야 하기 때문이다. 앤트로픽도 코드 줄 수는 품질보다 양을 측정하는 불완전한 지표라고 설명했다.

며칠 걸리던 오류 분석, AI가 두 시간 만에 해결

클로드는 지시받은 코드를 작성하는 수준에서도 벗어나고 있다. 실제로 수만 건의 AI 학습 작업이 갑자기 중단된 사고에서 클로드는 실행 중인 작업과 설정값을 차례로 분석해 문제를 일으킨 설정 하나를 찾아냈다. 통상 사람이 2~3일 동안 처리할 만한 작업을 약 두 시간 만에 마쳤다는 것이 회사 측 설명이다.

2026년 4월에는 사람이 오랫동안 미뤄두었던 프로그램 오류 800여 건을 AI가 수정해 특정 오류 발생 빈도를 1천분의 1 수준으로 줄이기도 했다. 담당 엔지니어는 사람이 같은 작업을 직접 수행했다면 약 4년이 걸렸을 것으로 추정했다.

AI가 연구 실험을 수행하는 능력도 빠르게 향상됐다. 앤트로픽이 작은 AI 모델의 학습 코드를 더 빠르게 작동하도록 개선하는 실험을 진행한 결과, 2025년 5월 클로드 오퍼스 4는 원래 코드보다 약 3배 빠른 결과를 만들었다. 2026년 4월 내부 모델은 같은 종류의 실험에서 약 52배의 속도 개선을 기록했다.

이는 AI가 단순히 기존 자료를 찾아 답하는 도구에서 벗어나 가설을 시험하고, 결과를 확인한 뒤 다시 코드를 수정하는 ‘연구 반복 과정’까지 맡기 시작했다는 의미다.

아직 사람이 방향 결정…‘완전한 자기 개선’과는 거리

그렇다고 AI가 이미 사람의 도움 없이 더 강력한 AI를 만들어내는 것은 아니다.

현재 클로드는 사람이 정해준 목표에 따라 코드를 작성하고 실험을 반복하는 능력은 뛰어나지만, 어떤 연구가 사회적으로 중요하고 어떤 결과를 신뢰해야 하는지 판단하는 능력에서는 여전히 한계가 있다. 연구 방향 설정과 최종 검증, 안전성 판단도 사람이 맡고 있다.

앤트로픽은 AI가 스스로 후속 AI를 설계하고 훈련하는 단계를 ‘재귀적 자기 개선’이라고 설명한다. 회사는 “아직 그 단계에 도달하지 않았으며 반드시 실현된다고 단정할 수도 없다”고 선을 그었다.

하지만 AI가 작성한 코드를 사람이 검토하는 속도보다 AI의 코드 생산 속도가 빨라지면서 새로운 병목현상도 나타나고 있다. 앞으로 개발자의 업무가 ‘직접 만드는 사람’에서 ‘무엇을 만들지 결정하고 결과를 검증하는 사람’으로 이동할 가능성이 커졌다는 뜻이다.

빨라진 개발 속도만큼 안전장치도 필요

AI가 AI 개발을 가속하면 신약과 기후기술, 보안, 과학 연구 분야에서 이전보다 훨씬 많은 실험을 수행할 수 있다. 소규모 조직도 여러 AI 에이전트를 활용해 과거 대규모 연구팀이 담당하던 업무를 처리할 가능성이 있다.

반면 잘못된 코드나 보안 취약점이 더 빠르게 확산될 위험도 함께 커진다. AI가 만든 결과를 또 다른 AI가 평가하는 구조가 확대되면 오류가 반복돼도 사람이 제때 발견하지 못할 수 있다. AI가 복잡해질수록 왜 특정 결정을 내렸는지 설명하기 어려워지는 문제도 남는다.

따라서 이번 발표에서 주목할 대목은 ‘AI가 인간을 대체했다’는 선언이 아니다. AI 개발의 속도가 사람의 검토·감독 능력을 앞지르기 시작했다는 경고에 가깝다.

이제 필요한 것은 AI가 얼마나 많은 코드를 생산했는지만 따지는 일이 아니다. 누가 연구 목표를 결정하는지, 오류와 위험은 어떤 방식으로 검증하는지, 문제가 발생했을 때 사람이 즉시 개입할 수 있는지를 함께 공개해야 한다.

AI가 다음 AI를 만드는 시대가 가까워질수록 사람에게 남는 가장 중요한 역할은 더 빨리 코드를 작성하는 일이 아니라, AI가 향하는 방향을 결정하고 멈춰야 할 순간을 판단하는 일이 될 것이다.

댓글

(0)
※ 댓글 작성시 상대방에 대한 배려와 책임을 담아 깨끗한 댓글 환경에 동참에 주세요. 0 / 300

함께 보면 좋은 기사