AI 정책 책임론이 이번 국정감사에서 과기정통부를 정면으로 겨눴습니다. 같은 자리에서 금융권 해킹 책임론과 AI 정책 혼선이 함께 집중 질의됐습니다. 보안 사고와 인공지능 거버넌스가 같은 책임 선 위에 올라왔다는 뜻입니다. 금융권 보안 담당자와 공공기관 인공지능 담당자 모두에게 남의 일이 아닙니다.
국정감사에서 AI 정책 책임론이 불거진 배경
확인된 사실은 두 갈래뿐
국회 과방위 국정감사에서 과기정통부를 상대로 두 갈래 질의가 집중됐습니다. 첫째는 금융권 해킹 책임론이고, 둘째는 AI 정책 혼선입니다. 누가 어떤 발언을 했는지는 확인되지 않았으므로, 이 글에서는 확인된 사실만 두고 실무 대응을 정리합니다. 국정감사에서 한 번 책임론이 올라오면 그다음 분기 업무 지시가 바뀌고, 질의 내용이 곧 내부 점검 항목으로 내려옵니다.
같은 날 몰린 산업 소식
같은 날 국내 인공지능 산업 쪽 소식만 네 건이 몰렸습니다. 한미반도체는 삼성전기에 244억원 규모의 MSVP 반도체 장비 공급 계약을 체결했습니다. 삼성전기는 AI 서버용 MLCC를 2900억원 규모로 공급하는 계약을 체결하며 AI 부품 4조 클럽을 달성했다고 밝혔습니다. 국내 스타트업은 AI 반도체용 언더필 소재를 개발해 고객사 품질평가에 들어갔다고 밝혔습니다. 카카오모빌리티는 고려대와 함께 모빌리티 AI 기술을 국방 분야에 접목하는 협력을 추진한다고 밝혔습니다. 하루 사이에 부품, 소재, 국방까지 전선이 넓어진 겁니다.
삼성전기 쪽 계약 규모가 한미반도체 쪽보다 열 배 이상 큽니다. 완제품에 가까울수록 금액이 커지고, 금액이 커질수록 사고가 났을 때 파장도 같이 커집니다. 산업은 계약 단위로 움직이는데 책임 경계는 그 속도를 못 따라갑니다. 특히 국방 분야 협력은 보안 심사 기준부터 다시 써야 하는 영역입니다.
삼성 1.4조·AMD 80억달러 — AI 인프라 투자, 지금 뭘 봐야 하나
지금 당장 정리해야 할 세 가지
사고 유형별 책임 경계
첫째, 사고 유형별 책임 경계를 한 장으로 정리해야 합니다. 해킹은 금융당국, 인공지능 품질은 기술 부처로 깔끔하게 나뉘지 않습니다. 국정감사에서 책임론과 정책 혼선이 한 번에 나온 것이 그 증거입니다. 이건 아파트 공용 배관과 비슷합니다. 평소에 누구 소관인지 안 정해두면 물이 새는 날에 서로 쳐다보게 됩니다. 외부 침입, 모델 오작동, 데이터 유출, 서비스 중단 네 줄만 적고, 각 줄마다 담당자와 외부 기관을 한 명씩 적어 두면 담당자 이름이 비는 줄이 보입니다.
외부 AI 공급망 목록화
둘째, 우리 서비스가 올라탄 외부 인공지능 공급망을 목록으로 만들어야 합니다. 아마존은 지필의 GLM-5.3 모델을 아마존 베드록에 정식 탑재했다고 발표했습니다. GLM-5.3은 지필이 만든 모델입니다. 베드록을 쓰는 국내 기업은 별도 계약 없이 이 모델을 바로 API로 쓸 수 있게 되는데, 편해진 만큼 우리 데이터가 어느 모델을 지나가는지는 더 흐려집니다.
로그 보존 기간 설정
셋째, 봇 트래픽과 대화 로그를 보존 대상에 넣어야 합니다. 위키미디어재단은 지난 5월 접속 장애가 오픈AI의 통제 이탈 크롤링 봇과 연관됐을 가능성을 제기했습니다. 미국에서는 AI 챗봇 클로드에 폭력 협박을 남긴 이용자가 경찰에 체포됐습니다. 두 사례 모두 사고가 난 뒤 기록이 남아 있는 쪽이 설명할 수 있다는 걸 보여줍니다. 로그는 길게 두면 부담이고 짧게 두면 설명할 근거가 없어지므로, 사고 유형별로 보존 기간을 달리 잡는 쪽을 권합니다.
금융권 AI 취약점 스캔 이후 은행 해킹이 잇따르는 이유
해외는 날짜부터 박았다
오픈AI는 EU AI법에 맞춰 챗GPT와 코덱스가 만든 텍스트에 워터마크를 넣는 정책을 발표했습니다. EU AI법의 텍스트 출처표시 의무가 임박했기 때문입니다. 규제가 먼저 날짜를 박으니 기업이 먼저 기능을 붙인 겁니다. 국내 질의가 혼선을 지적한 지점도 결국 이 순서이며, 기준 날짜와 담당 주체가 없으면 기업은 움직일 근거가 없습니다.
측정 기준이 생기는 흐름도 함께 봐야 합니다. 깃허브는 AI 코드리뷰 성능을 재는 오픈 벤치마크 리뷰벤치를 공개했습니다. AI 코드리뷰 품질을 비교할 표준 지표가 처음 제시된 겁니다. 엔비디아는 자사 AVO 아키텍처가 ARC-AGI-3 벤치마크에서 100% 점수를 달성했다고 발표했습니다. 장기 자율 에이전트를 평가하는 시험에서 만점을 받았다는 뜻입니다. 사람이 확인하던 작업을 에이전트가 끝까지 처리하기 시작하면 책임 추적 지점이 사라지므로, 국내 기관도 성능 기준보다 기록 기준을 먼저 정해야 합니다.
위키미디어 사례처럼 장애 원인을 봇으로 지목하려면 로그가 남아 있어야 하고, 로그가 없으면 원인은 영원히 추정으로 남습니다. 산업 쪽 계약은 이미 조 단위로 올라왔고 국방 협력까지 나왔습니다. 반면 책임 경계는 국정감사에서 질의 대상이 됐습니다. 이 격차가 금방 좁혀질지는 아직 지켜봐야 합니다. 오늘 할 일은 사고 유형별 책임 경계와 로그 보존 기간을 한 장으로 적어 두는 것입니다.
출처
- 오픈AI EU AI법 텍스트 출처표시 워터마크 정책 — OpenAI — Our approach to EU text provenance rules
- 엔비디아 AVO ARC-AGI-3 100% 달성 — developer.nvidia.com — NVIDIA AVO Reaches 100% on ARC-AGI-3, Demonstrating a Fron…
- 아마존 베드록 GLM-5.3 탑재 — AWS — Introducing GLM 5.3 on Amazon Bedrock
- 깃허브 리뷰벤치 공개 — github.blog — ReviewBench: An open benchmark for AI code review
- 위키미디어재단 접속 장애와 오픈AI 봇 연관 가능성 — The Verge — Wikipedia operator says OpenAI’s ‘rogue’ bots may be linke…
- 국정감사 과기정통부 질의 — 블로터 — 과방위 국감서 과기정통부
- 한미반도체 삼성전기 MSVP 공급계약 — 전자신문 — 한미반도체, 삼성전기에 244억원 규모
- 삼성전기 AI 서버용 MLCC 공급계약 — 전자신문 — 삼성전기, 2900억원 AI 서버용 MLCC 공급 계약…“AI 부품
- 국내 스타트업 AI 반도체 언더필 소재 — 전자신문 — 韓 스타트업, 日·獨 독점
- 클로드 폭력 협박 이용자 체포 — AI타임스 — '클로드'에 폭력 협박 남겼다 체포…"AI 챗봇은 일기장 아니다"
- 카카오모빌리티 고려대 국방 분야 협력 — AI타임스 — 카카오모빌리티, 고려대와 AX 협력…모빌리티 핵심 기술 국방 분야 접목
답글 남기기