ydhom26-hetip

자세히 알아보세요.

국내 스타트업 리커시브, 온디바이스 코딩 모델 ‘플린트’ 출시로 비교표에 새 줄을 만들다

온디바이스 코딩 모델 하나가 어제 공개되면서, 코드 도우미를 고르는 기준표에 새 줄이 생겼습니다. 서버가 아니라 기기 안에서 도는 모델이고, 만든 곳은 국내 스타트업 리커시브입니다. 더 눈에 띄는 건 만드는 방식인데, 이 모델은 사람이 아니라 인공지능이 주도해 만들었습니다.

온디바이스 코딩 모델 ‘플린트’, 무엇이 공개됐나

발표 내용

어제 전해진 소식의 뼈대는 셋입니다. 첫째, 만든 주체는 국내 스타트업 리커시브입니다. 해외 빅테크가 아니라 국내 회사라는 점이 먼저 눈에 띕니다. 둘째, 만든 방식입니다. 사람이 아니라 인공지능이 주도하는 개발로 만들었다고 합니다. 모델을 만드는 과정 자체에 인공지능이 들어갔다는 뜻입니다. 셋째, 도는 자리입니다. 이름은 플린트고, 온디바이스 코딩 모델입니다. 기기 안에서 코딩을 돕는 쪽으로 만들어졌고, 공개 시점은 어제 오후였습니다.

사내에 코드 도우미를 들이기 전 막히는 질문

사내에 코드 도우미를 들이려고 하면 꼭 막히는 질문이 하나 있습니다. 우리 소스 코드가 외부로 나가도 되냐는 것입니다. 보안팀이 여기서 고개를 저으면 끝입니다. 임베디드나 모바일 쪽은 사정이 더 빡빡합니다. 망이 분리된 현장도 있고, 아예 네트워크가 닿지 않는 기기도 있습니다. 그래서 기기 안에서 도는 모델, 온디바이스가 계속 거론됐지만 코딩에 특화된 쪽은 선택지가 얇았습니다. 어제 그 선택지에 한 칸이 추가됐습니다.

센드버드-업스테이지 협력이 기업용 AI 에이전트 시장에 주는 신호

오늘 당장 할 일 세 가지

후보 목록과 평가 기준

결론부터 말하면 오늘 당장 할 일은 셋입니다. 첫째, 후보 목록을 다시 엽니다. 코드 도우미를 고르는 표가 있다면 기기 안에서 도는 모델 칸을 하나 만듭니다. 지금까지는 서버에 붙는 제품만 비교했을 테지만, 이제 비교 대상이 하나 더 생겼습니다. 둘째, 기기 쪽 기준을 먼저 적습니다. 기기의 메모리가 얼마나 남는지, 배터리로 도는지 전원에 꽂혀 있는지, 응답이 몇 초까지 기다려도 괜찮은지를 먼저 적어두어야 합니다. 기준이 없으면 데모만 보고 반하게 됩니다. 셋째, 평가를 남의 점수로 하지 않습니다. 벤치마크 순위는 참고만 하고, 우리 저장소에서 실제로 고치는 파일을 물려보는 것이 진짜 시험입니다. 사내 규칙, 옛날 함수 이름, 이상한 설정 파일까지 버티는지를 봐야 합니다.

코드 도우미 선정 절차
코드 도우미 선정 절차

바깥 모델을 쓰는 건 서류를 복사해 외부 번역 업체에 보내는 것과 비슷합니다. 온디바이스 코딩 모델은 사무실 안에 번역기를 한 대 두는 셈입니다. 속도도 빠르고 서류가 건물을 안 나가지만, 그 번역기는 사무실 책상 한 자리를 차지하고 성능도 외부 업체만큼은 아닐 수 있습니다. 기기 안에서 돈다는 말이 공짜라는 뜻은 아니어서, 모델이 기기 자원을 먹는 만큼 본래 앱이 쓸 자리가 줄어듭니다. 그래서 전부 기기로 옮기는 쪽보다는 가벼운 보완은 기기에서, 무거운 작업은 바깥에서 나누는 쪽이 현실적입니다.

같은 날 해외에서는 무슨 일이 있었나

같은 날 바깥에서도 발표가 줄줄이 있었습니다. 오픈AI는 디시전스 API를 정식 공개했습니다. 애플리케이션 응답 속도를 높여주는 접속 창구로, 이제 누구나 쓸 수 있게 됐습니다. 앤트로픽은 클로드 듀엣을 출시했습니다. 에이전트 기반의 소비자용 앱입니다. 같은 날 기업용 보안 분석 도구 클로드 시큐리티도 나왔습니다. 엔비디아는 미네르바라는 플랫폼을 공개했습니다. AI 팩토리 전체를 들여다보는 관측 플랫폼이라고 합니다. 바깥에서는 더 큰 서버, 더 큰 설비 쪽으로 갔고, 국내 소식은 더 작은 자리, 기기 안으로 갔습니다. 어제 알려진 것은 공개 사실 자체이고, 성능을 어디까지 믿을지는 아직 숫자로 확인되지 않았습니다.

AMD 리사수 방한과 KT 데이터센터, AI 데이터센터 전력이 기준을 바꾼다

돈으로 붙는 싸움과 기기 안에서 붙는 싸움

바깥 판의 규모를 보면 중국 빅테크들이 엔비디아 그래픽카드를 46조원 규모로 주문했습니다. 첨단 칩 수출 규제에 대응한 움직임이고, 규제가 있어도 수요가 꺾이지 않는다는 신호입니다. 딥시크는 20조원 규모 투자 유치를 막바지 단계에서 진행하고 있습니다. CATL과 텐센트 같은 곳이 참여한다고 전해졌습니다. 미국에서는 오픈AI와 앤트로픽, 엔비디아가 이번 분기 로비 지출 사상 최대를 기록했다는 소식도 나왔습니다.

그래픽카드 주문액과 투자 유치액
그래픽카드 주문액과 투자 유치액

46조, 20조라는 돈은 국내 스타트업이 맞붙을 금액이 아닙니다. 그래서 싸움터가 갈립니다. 한쪽은 더 큰 설비로 더 큰 모델을 돌리는 싸움이고, 다른 한쪽은 좁은 자리에 밀어 넣는 싸움입니다. 공장 현장, 망이 분리된 사무실, 손에 든 기기처럼 바깥 서버에 코드를 올릴 수 없는 곳이 한국에는 꽤 많습니다. 그 자리에서는 조금 덜 똑똑해도 안에서 도는 쪽이 이깁니다.

정리 — 판단은 미루고 자리는 만들어 둔다

어제 국내 스타트업 리커시브가 온디바이스 코딩 모델 플린트를 공개했습니다. 같은 날 해외에서는 더 큰 설비와 더 큰 투자 소식이 이어졌습니다. 그래서 지금 할 일은 기기 쪽 기준을 먼저 적어두는 것이고, 성능 평가는 그다음입니다. 어제 확인된 건 공개 사실까지이며, 쓸 만한지는 각자 저장소에 물려본 다음에 말할 수 있습니다. 다만 후보 칸을 비워두지는 말아야 합니다. 비교표에 없던 줄이 하나 생긴 건 사실입니다.

출처

답글 남기기