독파모 1위 SKT “모델 경쟁은 끝났다…지능의 개선 루프 중요”

유경상 SK텔레콤 AI CIC장은 지난 23일 SKT 뉴스룸에 게재한 칼럼에서 이같이 진단했다. 앞으로 펼쳐질 AI 경쟁은 좋은 모델 한 번 만드는 데서 경쟁이 끝나는 것이 아니고, 만들어진 모델을 지속적으로 빠르게 개선시켜 나가는 시스템을 구축하는 것이 중요하다는 의미다.

그는 특히 좋은 모델을 보유하는 것과, 수천만 명이 매일 신뢰하며 쓰는 서비스를 운영하는 것은 전혀 다른 문제라고 짚었다. 모델의 지능, 추론의 경제성, 서비스의 완성도, 재학습 속도, 신뢰가 하나의 시스템으로 결합해야 좋은 AI 서비스가 된다는 것이다. 어느 한 축이 약하면 뛰어난 기술도 연구실의 성과나 데모에 머물기 쉽다고 봤다.

최근 SKT의 거대언어모델(LLM) ‘A.X K2′(6880억 개 매개변수)는 정부 독파모 프로젝트 3차 단계에 진출했다. 유 CIC장은 이 진출이 단순한 기술 수치나 벤치마크 순위 때문은 아니라고 설명했다. 전문가와 실제 이용자 관점에서 현장 활용성과 실용적 유용성을 함께 인정받은 결과라는 설명이다. 실제로 SKT 정예팀은 독파모 2차에서 종합점수 70.6점으로 1위를 기록했다. 2차 평가는 벤치마크 40점, 전문가 35점, 사용자 25점을 합산하는 방식으로 진행됐다.

그에 따르면, A.X K2는 이미 SK그룹 내부 사업은 물론 국방‧제조‧법무‧세무 등 외부 산업에도 적용돼 있다. 모델을 실험실에 가둬두지 않고 현장에 먼저 풀어 피드백을 쌓아온 이 과정이 바로 ‘지능의 개선 루프’라고 그는 강조했다.

루프를 실제로 돌리는 장치로는 추론의 최적화와 서비스 경험을 꼽았다. 모든 질문에 모델의 최대 성능을 동원하는 게 아니라, 질문 난이도에 맞는 만큼만 연산을 쓰는 방식이다. 그래야 사용자가 아무리 늘어나도 비용을 감당할 수 있다는 것이다. MoE(Mixture of Experts) 구조, 난이도별 추론 배분, 경량화‧가속 기술이 여기 해당한다.

유 CIC장은 SKT의 에이닷(A.)을 통한 서비스 경험도 강조했다. SKT에는 에이닷을 기획‧운영하며 사용자 피드백을 반영해 온 노하우가 있다는 것이다.

루프의 속도를 더 끌어올리는 장치가 모두의 AI 컨소시엄이다. SKT는 모든 서비스를 직접 만드는 대신, 국민의 의도를 최적의 모델‧기술‧전문 서비스로 연결하는 오케스트레이터 역할을 맡기로 했다.

금융‧모빌리티‧미디어‧교육‧의료‧공공‧세무‧돌봄 분야 전문기업과 20여 개사 규모의 컨소시엄을 꾸렸다. 하나은행‧NH농협은행‧버킷플레이스‧비누랩스‧위버스브레인‧알토스벤처스‧리로소프트‧대교뉴이프‧기억산책‧블루웍스‧티머니모빌리티 등 11개 기업과는 별도 업무협약(MOU)도 맺었다. 각 분야 전문기업의 현장 데이터와 실패 사례가 빠르게 시스템에 되먹여질수록, 루프는 더 빨리 돈다는 논리로 이어진다.

다만 빠른 루프에는 위험 관리도 뒤따른다. 그는 AI 신뢰의 정의를 다시 세워야 한다고 말했다. 위험이 전혀 없는 상태가 아니라, 위험을 발견하고 위험의 파장을 제한하며, 신속히 복구하는 능력이 바로 신뢰라는 것이다. 그는 이를 위해 객관적 품질 평가와 상시 레드팀 활성화, 실시간 안전 모니터링, 가드레일 체계에 만전을 기하겠다고 강조했다.

유 CIC장은 이 순환이 결국 한국 AI 경쟁력의 향방을 가른다고 봤다. 최고 수준의 지능에 도전하고, 그 지능을 국민과 산업에 확산시키고, 현장의 경험과 데이터를 다시 다음 세대 모델로 이어가는 순환이 국내에서 얼마나 빠르게 도느냐가 관건이라는 것이다. ‘모두의 AI’는 이 순환을 실제로 검증하는 첫 무대라는 게 그의 설명이다.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network