AI가 더 강한 AI 개발 돕는다…앤트로픽, 2년 치 성능 개선 1년 만에 달성

인공지능(AI)이 다음 세대 AI 개발을 도우면서 기술 발전 속도를 끌어올리고 있다는 연구 결과가 나왔다. 더 강력해진 AI를 연구에 다시 투입하면 개발이 한층 빨라져 위험을 확인하고 대응할 시간이 줄어들 수 있다는 우려도 제기됐다.

비영리 AI 평가기관 METR은 5일(현지시간) 앤트로픽 내부 자료를 분석한 보고서에서 지난해 10월 이후 모델 성능 개선 속도가 이전보다 1.9배 빨라졌다고 밝혔다. 연구진은 코드 작성과 실험에 AI를 활용한 점을 주요 배경으로 꼽았다.

METR은 지난 8월부터 10월까지 약 11주 동안 공개되지 않은 모델 성능 자료와 내부 연구 문서를 검토하고 직원들을 인터뷰했다. 이를 바탕으로 모델 성능이 얼마나 빠르게 향상됐고 연구 과정에서 AI가 어떤 역할을 맡았는지 등을 조사했다.

METR은 수학과 코딩 등 여러 성능 시험 점수를 비교해 모델 성능이 얼마나 빠르게 향상됐는지 분석했다. 그 결과 과거 약 2년이 걸렸던 수준의 성능 향상을 최근에는 약 1년 만에 달성한 것으로 평가했다.

연구진은 학습용 컴퓨팅 자원을 늘리는 속도가 빨라져서 나타난 변화는 아니라고 판단했다. 연구자가 코드 작성과 실험에 AI를 활용하면서 개발 속도를 높였다고 분석했다.

실제로 AI는 연구자가 진행하는 작업을 지원하며 개발 속도를 높인 것으로 조사됐다. 다만 METR은 모델 학습의 핵심 과정에서 AI가 사람 도움 없이 중요한 성과를 내는 단계에는 아직 이르지 않았다고 설명했다. 현재 확인한 효과는 AI가 독자적으로 새 모델을 만드는 능력보다 사람 연구를 돕는 능력에서 나왔다는 뜻이다.

이런 지원이 개발 속도를 얼마나 높였는지는 추가 확인이 필요하다. METR은 AI 활용을 주요 요인으로 봤지만 다른 변화도 영향을 미친 만큼 AI 기여도를 정확히 구분하기는 어렵다고 밝혔다.

METR은 앞으로 AI가 연구를 더 잘 도울수록 후속 모델 개발도 빨라질 수 있다고 봤다. 새 모델이 이전보다 코드 작성과 실험을 잘 수행하면 다음 모델을 만드는 시간이 줄어들 수 있어서다.

연구진은 개발 속도가 더 빨라지면 예상하지 못한 위험을 지닌 AI가 갑자기 등장할 수 있다고 우려했다. 새로운 모델이 무엇을 할 수 있고 어떤 피해를 일으킬 수 있는지 확인할 시간도 그만큼 줄어들 수 있다는 설명이다.

METR은 "AI가 향후 AI 개발을 크게 가속하기 시작하면 극도로 강력하고 위험한 능력이 갑자기 등장할 수 있다"고 밝혔다.