ydhom26-hetip

자세히 알아보세요.

구글 카본 모델, 내부 테스트와 ‘오퍼스 5.5’ 평가의 의미

구글 카본 모델이 내부 테스트 중이라는 보도가 나오면서, 모델을 고르는 팀들의 셈법이 다시 복잡해졌습니다.

구글 카본 모델, 무엇이 보도됐나

보도 내용

구글이 ‘제미나이 4 아르곤’의 후속 모델을 내부 테스트 중이라고 보도됐습니다. 그 모델의 이름이 ‘카본’입니다. 성능은 ‘오퍼스 5.5’ 수준이라는 평가가 나왔습니다. 보도 시점은 10월 10일입니다.

눈여겨볼 지점은 두 가지입니다. 첫째, 구글이 직접 내놓은 자료가 아니라 외부 보도라는 점입니다. 내부 테스트 단계라 이름도, 성능 평가도 바뀔 수 있습니다. 수치로 공개된 벤치마크 점수는 아직 없습니다. 내부 테스트는 시제품을 공장 안에서만 돌려보는 단계와 비슷합니다. 밖에 나올 때 사양이 달라지는 일이 흔합니다.

둘째, 비교 상대가 자사 이전 모델이 아니라는 점입니다. ‘아르곤보다 낫다’가 아니라 ‘오퍼스 5.5급이다’로 평가가 적혔습니다. 경쟁사 최상위 모델을 기준으로 삼았다는 건 목표가 거기에 있다는 뜻으로 읽힙니다. 모델을 회사별로 줄 세우는 방식이 흐려지고 있다는 신호로 볼 수 있습니다. 다만 내부 평가가 외부 체감과 늘 같지는 않습니다. 같은 모델도 쓰는 작업에 따라 체감이 갈리기 때문에, 새 모델이 손에 들어오면 내 작업으로 먼저 재보는 쪽이 안전합니다. 구글의 공식 사양은 아직 나오지 않았습니다.

AI 에이전트 인프라, 오픈클로 OCE와 래블업 1인 1에이전트 비교

모델을 갈아끼울 수 있게 만드는 순서

지금 할 일은 카본을 기다리는 게 아닙니다. 어떤 모델이 와도 갈아끼울 수 있는 구조를 먼저 만드는 것입니다.

게이트웨이부터 둔다

모델을 직접 부르지 말고 중간에 게이트웨이를 두면, 모델 이름이 코드 여기저기 박혀 교체에 몇 주가 걸리는 문제를 줄일 수 있습니다. 게이트웨이는 콘센트 멀티탭과 비슷합니다. 새 기기를 쓸 때 벽을 뚫는 게 아니라 플러그만 바꿔 끼우면 됩니다. 버셀이 마이크로소프트의 의사결정 특화 모델 ‘디시전-1’을 지원한다고 발표했습니다. 자사 AI 게이트웨이에서 바로 호출할 수 있게 된 겁니다. 리퀴드AI의 신규 모델 ‘d1’도 같은 게이트웨이에 추가됐습니다. 둘 다 코드를 거의 바꾸지 않고 비교해볼 수 있다는 게 핵심입니다. 지금 쓰는 모델 이름이 코드 몇 군데에 박혀 있는지 세어 보고, 그 자리를 설정값 한 곳으로 모으면 절반은 끝납니다.

비용과 라우팅을 들여다보는 장치도 함께 붙여야 합니다. 스택오버플로우 블로그가 LLM 시스템 운영을 다룬 연속 기고 5부를 공개했는데, 관측성과 비용, 라우팅을 점검하는 내용입니다. LLM은 대규모 언어모델을 뜻합니다. 어느 요청을 어느 모델로 보낼지가 비용을 갈라놓기 때문입니다.

마지막으로 교체 효과를 숫자로 적어 두는 일입니다. 아사나는 브라우저 에이전트 테스트에서 GPT-6.1 솔 모델을 썼고, 그 결과 비용을 76배 줄였다고 합니다. 매일 하는 작업 중 가장 많이 돌리는 것 하나를 같은 입력으로 열 번 돌려서 비용과 시간을 재두면, 다음 모델을 들일 때 유일한 근거가 됩니다. 셋 중 하나만 고른다면 게이트웨이부터입니다. 게이트웨이만 있어도 나머지 둘은 나중에 붙일 수 있습니다.

업스테이지 솔라 디사이드 판단 모델, 제미나이보다 빠른 이유

이미 성과로 드러난 변화들

모델 교체나 에이전트 도입으로 성과를 낸 사례는 이미 쌓이고 있습니다. 오픈AI는 사이버보안업체 소포스 사례를 공개했습니다. 소포스가 ‘데이브레이크’ 에이전트를 도입해 위협 조사 시간이 96% 줄었다고 합니다. 회계 소프트웨어 기업 릴렛은 버셀의 AI 에이전트를 도입해 제품 출시 속도가 3배 빨라졌다고 버셀이 공개했습니다. 이 정도 폭이면 모델 선택이 곧 성과 차이가 됩니다.

에이전트가 손대는 범위도 넓어지고 있습니다. 버셀은 CLI로 에이전트가 도메인을 직접 구매하는 기능을 추가했다고 발표했습니다. CLI는 명령어로 작업을 지시하는 도구입니다. 결제까지 에이전트가 처리하는 단계로 넘어간 겁니다.

한국 팀이 할 일

카본은 아직 내부 테스트라 국내 서비스에 언제 반영될지 알 수 없습니다. 그래서 국내 팀이 할 일은 기다리기가 아니라 측정 준비입니다. 지금 쓰는 모델의 작업당 비용과 소요 시간을 먼저 적어 두는 것이 새 모델이 들어왔을 때 비교할 유일한 기준선이 됩니다. 기준선이 없으면 좋아진 느낌만 남고 숫자가 남지 않습니다.

작게 시작할 수 있는 선택지도 있습니다. 문자메시지 안에서 작동하는 에이전트들을 테크크런치가 정리해 소개했는데, 앱을 새로 깔지 않고도 시험해볼 수 있는 선택지입니다. 재파이어는 무료로 쓸 수 있는 글쓰기 소프트웨어 12종을 정리해 공개했으니, 돈을 들이기 전에 손에 익혀볼 도구부터 고르면 됩니다.

정리하면, 구글의 ‘카본’은 아직 내부 테스트 단계이고 ‘오퍼스 5.5’ 수준이라는 평가가 나온 정도입니다. 지금 바꿀 건 모델이 아니라 모델을 갈아끼우는 구조입니다. 게이트웨이와 비용 기준선, 이 둘만 준비해도 충분합니다.

모델 교체 3단계
모델 교체 3단계

출처

답글 남기기