NOW&NEXT · 2026-11-02

AI가 AI를 개선한다…한국은 혁신의 선두인가, 종말의 시험장인가

앤트로픽은 2026년 8월 자사 AI 연구개발 업무의 26%를 클로드가 주도했다고 밝혔습니다. 인간 감독은 남아 있으며, 한국은 속도보다 실제 개입과 중단 능력을 검증해야 합니다.

다시 듣기·따라 읽기

한국어 원고 보기

인공지능이 다음 인공지능을 만드는 속도가, 인간이 위험을 알아차리는 속도를 앞지르면 어떻게 되겠습니까? 월스트리트저널이 주목한 앤트로픽의 그래프는 그 질문을 현실로 끌어왔습니다. 2026년 2월 1% 미만이던 AI ‘주도’ 업무 비중이 8월 26%가 됐습니다. AI가 코드와 정해진 실험을 맡아 다음 모델 개발을 돕는 비중입니다. 다만 사람이 목표를 정하고 감독합니다. 측정된 AI 연구개발 업무에서 사람 없는 완전 자율 단계는 0%였습니다.

진짜 두려움은 오늘의 26%보다 내일의 되먹임입니다. AI가 AI 개발을 가속하고, 더 나은 AI가 다시 개발을 가속하면 인간의 검증이 따라잡지 못할 수 있습니다. 이것이 AI 개발자와 안전 연구자들이 이 추세에 주목하는 이유입니다. 인류 종말이 입증된 것도, 축복이 보장된 것도 아닙니다. 같은 자동화는 안전 시험과 과학 연구도 빠르게 할 수 있습니다. 다만 회사가 자사 AI로 내부 업무를 판정한 숫자이므로, 실제 개선 속도와 통제 능력은 독립 검증해야 합니다.

한국은 최첨단 AI를 산업에서 검증할 시험장이 될 조건을 갖췄습니다. 반도체와 제조 현장이 있고 정부의 공장 AI 실증도 시작됐습니다. 하지만 미국 기업의 26%를 한국의 성과로 착각해 ‘세계 1위’를 선언할 수는 없습니다. 과기정통부와 AI안전연구소는 국내 선도 모델을 산업과 공공서비스에 확대하기 전에 연구 자동화 범위와 위험 과업에서의 인간 개입·중단 기록을 외부에서 검증하게 하고, 집계 결과를 분기마다 공개해야 합니다. 우리의 운명은 얼마나 빨리 달리느냐보다, 사고의 신호를 보고 멈출 수 있느냐에 달렸습니다.

더 생각할 세 가지

앤트로픽의 26%는 자사 AI 연구개발에서 AI가 인간 감독 아래 과업을 주도한 비중이며, 완전 자율 업무 비중은 0%였습니다.
코드 작성과 실험 위임은 개발과 안전 시험을 함께 빠르게 할 수 있지만, 기업 자체 평가만으로 통제 능력이나 산업 전체의 변화 속도를 입증하지는 못합니다.
한국 정부와 AI안전연구소는 국내 개발사의 자동화 단계, 감독 지연, 개입 사례를 공통 양식으로 점검하고 독립 검증 결과를 공개해야 합니다.

근거와 반론

근거

앤트로픽은 자사 AI 연구개발 업무에서 클로드가 과업을 대부분 수행하고 사람이 감독하는 ‘AI 주도’ 단계가 2026년 8월 26%였다고 밝혔습니다. 측정된 업무에서 사람 없이 전 과정을 진행한 완전 자율 단계는 0%였습니다. 앤트로픽의 그래프는 2월 주도 비중을 1% 미만으로 표시하며, 월스트리트저널 보도는 3월 약 1%라고 서술합니다. 두 표현의 기준 월과 반올림을 동일한 관측값으로 합치지 않았습니다.

앤트로픽은 7월 내부 업무 기록에서 약 1만5천 과업을 추려 업무 분류표를 만든 뒤 자사 AI로 자동화 수준을 판정했습니다. 과업의 사람 투입 시간을 가중치로 사용했습니다. 이 방식은 변화를 추적하는 시도이지만 회사 간 공통 지표가 아니고, 평가 모델과 업무 범주에 따라 값이 달라질 수 있습니다. AI에 코드 작성과 정해진 실험을 위임하면 후속 모델 개발이 빨라질 수 있습니다. 개발 속도를 겨루는 기업의 유인이 위임 확대에 작용한다는 설명은 가능한 해석이며, 26%만으로 실제 성능 향상률이나 통제 상실을 입증할 수는 없습니다.

반론

인간 감독이 현재 남아 있고 같은 자동화가 안전 시험과 과학 연구도 앞당길 수 있다는 반론은 강합니다. 독립 평가기관 METR의 예비 평가는 클로드 오퍼스 5.5가 AI 연구개발 전체를 자동화할 가능성이 낮다고 보았습니다. 다만 이 평가는 앤트로픽의 26% 지표를 독립적으로 검증한 결과가 아니며, 장기적인 개발 가속의 한계까지 확정하지도 않았습니다. 따라서 지금의 부분 자동화를 이미 통제 상실로 단정하거나 반대로 위험이 없다고 결론 내릴 수는 없습니다.

판단이 달라질 조건

독립 평가에서 AI가 연구 목표 설정부터 후속 모델 개발과 검증까지 사람의 실질적 감독 없이 반복하고, 감독 지연이나 차단 실패가 확인되면 위험 판단을 높여야 합니다. 반대로 개발 속도가 빨라져도 외부 검증, 위험 과업 차단, 사고 보고, 실제 인간 개입이 반복 시험에서 작동하면 편익을 더 자신 있게 활용할 근거가 됩니다.

과기정통부는 KAIST와 전북대의 제조업 물리 AI 실증 환경을 공개했습니다. 이는 국내의 적용·검증 장소를 보여 주지만, AI 연구개발 자동화 비중을 뜻하지는 않습니다. 한국에서 앤트로픽과 같은 자동화 수준이 확인된 것은 아닙니다. 과기정통부와 AI안전연구소는 2026년 말까지 국내 선도 개발사와 공통 보고 양식을 정하고, 분기마다 자동화 단계·감독 지연·개입 사례의 집계 결과를 공개하도록 요청해야 합니다. 기업 기밀과 보안 정보는 보호하되, 외부 평가자가 원자료에 제한적으로 접근해 재현 가능한 결과를 확인해야 합니다.

English summary

Anthropic reports that Claude led 26% of its measured AI R&D work in August 2026 under human supervision; none was fully autonomous. Its internal, AI-assessed index does not measure industrywide productivity or prove loss of control. A preliminary METR evaluation offers a strong caution against claims of full automation. Korea should require comparable reporting and independent tests of oversight, intervention and shutdown before drawing conclusions about its own readiness.