[결정적 순간] ASML은 어떻게 니콘·캐논을 무너뜨렸나

AI 반도체 슈퍼 사이클을 타고 삼성전자와 SK하이닉스의 주가가 고공행진 중이다. 언뜻 보기엔 이런 거대 칩 제조사들이 시장을 좌지우지하는 것 같지만, 사실 반도체 생태계의 목줄을 쥔 곳은 따로 있다. 삼성전자도 SK하이닉스도 장비를 얻기 위해 줄을 서는, 네덜란드의 노광 장비 제조 업체 ASML이다.

‘무어의 법칙’이란 말을 들어봤을 것이다. 18개월마다 트랜지스터 집적도가 2배씩 늘어나며 반도체 기술이 기하급수적으로 발전한다는 관측이다. 이를 실현하기 위해 반도체 업계는 칩에 최대한 많은 트랜지스터를 집어넣으려 고군분투해왔다. 그러려면 회로가 아주 가늘고 미세해야 하는데, 여기에 쓰이는 핵심 기술이 빛을 쬐어 홈을 파내는 판화 기법, 이른바 ‘노광(Photolithography)’ 공정이다.

이때 중요한 것이 빛의 파장이다. 파장이 짧을수록, 즉 붓이 얇을수록 더 세밀한 그림을 그릴 수 있다. 현재까지 고안된 가장 얇은 붓은 13.5나노미터 파장의 ‘극자외선(EUV)’이고, 이 극자외선을 다루는 EUV 노광 장비의 유일한 제조사가 바로 ASML이다.

흥미로운 점은 불과 20여년 전만 해도 노광 장비 시장의 절대 강자가 일본의 니콘과 캐논이었다는 사실이다. 파산 직전이었던 변방의 삼류 공급업체 ASML은 어떻게 니콘과 캐논을 무너뜨리고 세상에서 가장 복잡한 기계인 노광기를 독점하게 되었을까. 두 진영의 운명을 가른 결정적 장면들을 시간 순으로 되짚어 봤다.

[장면 1] 뜻밖의 묘수가 된 아웃소싱

1980년대, 막강한 자본과 기술력을 바탕으로 시장을 지배하던 니콘과 캐논의 전략은 명확했다. 부품에서 완제품까지 모두 직접 설계하고 생산하는 ‘폐쇄적 수직계열화’였다. 기술 통제력을 유지하기 위함이었다.

ASML은 정반대의 길을 걸었다. 자본도 기술도 없던 이들에게 수직계열화는 사치였다. 살아남기 위해 이들은 렌즈나 모터 같은 핵심 부품을 외부에서 사들여 조립하는 ‘모듈형 설계’를 택할 수밖에 없었다.

유럽의 정통 엔지니어들은 ASML이 제품 통제력을 잃을 것이라며 비웃었다. 하지만 이 ‘근본 없는’ 아웃소싱 전략은 의외로 현장에서 빛을 발했다. 장비가 고장 나면 협력사 공장에서 해당 부품만 갈아 끼우는 식으로 쉽게 고칠 수 있었기 때문이다. 덕분에 기계의 수명과 가동 시간이 획기적으로 늘었고, 회사는 IBM 등 대형 고객의 수주를 이끌어내며 글로벌 무대에 데뷔한다.

[장면 2] 왕따당한 제국과 트로이 목마

1990년대 후반, 차세대 노광 기술인 EUV의 기초 연구를 위해 미국 에너지부 주도로 거대한 민관 협력체 ‘EUV LLC’가 출범했다. 이는 두 진영의 운명을 가르는 또 다른 분기점이 됐다.

미국은 일본 반도체 산업을 안보 위협으로 간주하고 니콘과 캐논을 이 컨소시엄에서 철저히 배제했다. 미국의 노골적 견제는 일본 기업들의 기술적 갈라파고스화를 부추겼다. 반면 시장 점유율도 낮고 그다지 위협적이지 않았던 ASML은 미국 내에서 부품을 조달하는 조건으로 간신히 컨소시엄에 합류한다.

ASML은 이 지정학적 틈새를 기민하게 파고들었다. 미국에서 엄청난 양의 지식재산권(IP)과 공정 데이터를 축적하고, 미국 장비 제조사였던 실리콘 밸리 그룹(SVG)까지 인수해 버린 것이다. 이 트로이 목마 전략으로 ASML은 미국이 주도한 기초 연구 성과를 흡수하며 EUV 기술의 선두로 치고 나갔다.

[장면 3] 판 뒤집은 협력사 연구원의 조언

2000년대 초, 반도체 업계는 물리적 한계에 봉착했다. 당시 최신 기술이던 193나노미터 빛으로는 더 미세한 회로를 그릴 수 없었던 것이다. 이 난관을 두고 두 진영의 접근이 판이하게 갈렸다.

니콘의 선택은 정공법이었다. 파장이 157나노미터인 새로운 광원을 만드는 것이다. 하지만 이 파장의 빛은 유리를 통과하지 못하고 흡수되어 버렸다. 니콘은 이 문제를 해결하려고 희귀 소재인 불화칼슘 렌즈 개발에 수억달러를 쏟아부었지만, 소재가 열을 조금만 받아도 깨져버리는 바람에 결국 양산에 실패했다.

반면 ASML은 기존 193나노미터 장비의 렌즈와 웨이퍼(실리콘 원판) 사이에 물을 채워 넣어 빛을 굴절시키는 ‘액침 노광’ 기법으로 우회 돌파구를 찾았다. 물이 초점을 날카롭게 모아 주어 광원을 바꾸지 않고도 더 세밀한 회로를 그릴 수 있었다. 여기에는 대만 TSMC 소속 연구원 ‘번 린(Burn Lin)’의 조언이 결정적이었다. 협력사와 긴밀한 파트너십을 유지해온 것이 빛을 발한 순간이었다.

2005년, ASML은 157나노미터 프로젝트에 발목 잡힌 니콘을 누르고 시장 점유율 53.2%를 기록하며 패권을 쥔다.

[장면 4] 피를 나눈 운명 공동체

2010년대, EUV 상용화는 연구개발에만 수조원이 소모되는 밑 빠진 독이나 다름없었다. 이 막대한 비용 압박 속에서 승부의 당락을 결정한 것은 생태계 전략이었다.

일본 기업들은 모든 기술을 감추는 닫힌 생태계를 고집했다. 연구 성과를 숨겼고, 외부 기업과의 협력을 고사했다. 이런 폐쇄적 구조 탓에 물리학의 난제를 단독으로 풀어야 했고, 비용과 리스크도 오롯이 혼자 짊어져야 했다. 결국 2013년, 금융위기 여파와 자금난을 견디지 못한 니콘은 연례 보고서에서 EUV 난항을 실토하며 백기를 들었다.

ASML의 생존법은 달랐다. 이들은 일찍이 2006년부터 유럽반도체연구소(IMEC)에 자사 EUV 프로토타입을 깔아두고, TSMC 등 고객사가 실전처럼 장비를 테스트할 수 있게 했다. 이를 계기로 TSMC와는 둘도 없는 개발 파트너가 된다. 2014년 ASML은 애플로부터 고성능 칩 생산 압박을 받던 TSMC와 머리를 맞대고 엔지니어링에 몰두해 높은 생산 수율을 달성해낸다.

R&D 자금이 바닥나던 2012년에는 아예 인텔, TSMC, 삼성전자에 회사 지분 23%를 팔고, 그 돈으로 광원 제조사 ‘사이머(Cymer)’를 인수해 기술 효율과 안정성을 비약적으로 끌어올렸다. 협력사들과 위험은 나누고, 지갑과 두뇌는 하나로 묶는 운명 공동체 전략이다. 이렇게 넓은 연합 전선을 구축한 끝에 2018년 ASML은 불가능해 보이던 EUV 상용화의 장벽을 단독으로 넘어선다.

승패 가른 연대 유무…혁신은 연결에서 온다

철옹성 같던 일본 기업들의 몰락은 단순히 기술력 부재 때문이 아니었다. 10만개의 초정밀 부품과 양자역학 수준의 물리학이 요구되는 복잡한 기계를 처음부터 끝까지 전부 통제하려 했던 것이 패착이었다.

반대로, ASML의 경쟁력은 핵심 부품조차 독점하지 않는 개방성에서 나온다. 렌즈는 자이스(Zeiss)에, 레이저는 트럼프(Trumpf)에 맡기고, 공정 최적화와 테스트는 고객사인 TSMC·인텔과 나눈다. ASML 노광기에 들어가는 부품의 대부분을 다른 회사에서 만든다.

단, 이것이 맹목적인 개방을 의미하지는 않는다. ASML은 협력사 매출에서 자사 비중이 25%를 넘지 않도록 철저히 관리한다. 반도체 사이클이 꺾일 때 파트너들이 줄도산하는 사태를 막기 위해서다. 미국과 아시아에 의존했을 때의 지정학적 리스크를 피하기 위해 부품 지출의 80%를 유럽과 중동에 집중하는 치밀함도 갖췄다.

이처럼 빈틈없는 계산 아래 ASML은 수천개 회사가 거미줄처럼 얽힌 공급망의 관리자이자, 협력사들의 역량을 조립·조율하는 생태계의 지휘자가 됐다. 이 생태계에서는 ASML을 거치지 않고 반도체를 만들 수 없다.

종합하면 ASML과 일본 기업들의 운명을 가른 것은 폐쇄냐, 개방이냐의 차이였다. 기술 복잡성이 극에 달한 AI 반도체 시대에는 어떤 기업도 천문학적 R&D 비용과 실패 리스크를 홀로 감당할 수 없다. ASML의 성공은 개발 부담을 글로벌 기술 동맹과 영리하게 분산하는 것이 얼마나 중요한지 보여준다.

이들이 이뤄낸 혁신의 상당수가 파트너와의 협력에서 비롯됐다는 점도 복기할 만하다. 보호할 것은 보호하되, 필요에 따라 지식과 자원을 공유하는 전략적 연대가 기술 장벽의 돌파구가 될 수 있음을 시사하는 사례다.

글. 바이라인네트워크
<이슬찬 기자>seulbae@byline.network