3편에서는 업계 최고 수준인 SK하이닉스의 미세공정 역량을 살펴보고, D램 산업을 이끌어온 원팀 스피릿이 발현된 순간들을 되돌아본다.

미세공정, 반도체 혁신의 ‘핵심 오브 핵심’

반도체 회로를 작게 만드는 미세공정은 기술 혁신에 있어 선택이 아닌 필수로 여겨져 왔고, 오늘날에도 중요한 경쟁력으로 꼽힌다.

미세공정이 중요한 이유는 반도체 성능 및 생산성과 직결되기 때문이다. 이 기술을 통해 반도체가 작아지면 같은 크기의 웨이퍼에서 더 많은 칩을 생산하는 것이 가능해진다. 또한, 하나의 칩 안에 집적할 수 있는 트랜지스터 수가 늘어나 동일 면적에서의 데이터 처리 능력이 높아진다. 뿐만 아니라, 트랜지스터 등 소자의 크기가 작아져 칩 전체의 소비 전력과 발열량이 감소한다.

이처럼 처리 속도, 에너지 효율, 신뢰성까지 모두 끌어올리는 미세공정 기술을 SK하이닉스는 ‘원팀 스피릿’을 통해 세계 최고 수준으로 구현하고 있다.

기술 한계란? 결국 돌파해 내는 것

SK하이닉스가 걸어온 미세공정 기술개발의 역사는 ‘한계’와의 싸움, 그 자체였다. 1983년 처음 반도체 산업에 발을 들인 SK하이닉스는 후발주자였음에도 불과 4년 만인 1987년, 머리카락 100분의 1 정도로 얇은 1마이크론(μm)* 공정 개발에 성공했다.

* 마이크론(μm): 100만분의 1m(미터). 수치가 낮을수록 미세화 정도가 높아짐

회사는 여기서 멈추지 않고 연구개발과 투자를 이어가며 1997년 외환위기(IMF) 속에서도 머리카락 두께의 800분의 1 수준인 0.18마이크론 공정을 개발해 다시 한번 업계를 놀라게 했다.

미세공정은 계속해서 발전을 거듭해 오다 2000년대에 들어서는 10억분의 1미터(m)인 나노(nm) 단위에 이르게 된다. SK하이닉스는 회로 선폭을 더 얇게 줄이며 2006년 60나노급, 2009년 40나노급, 2010년 30나노급, 2012년 20나노급, 2018년 10나노급으로 기술력을 계속 고도화해 왔다.

그동안 업계에서는 2년마다 집적도(미세화)가 2배씩 높아진다는 ‘무어의 법칙(Moore’s Law)’이 통용되어 왔지만, 공정 난이도가 높아지면서 기술이 한계에 다다랐다는 우려가 커졌다.

SK하이닉스는 도전을 멈추지 않고 개발에 매진한 결과, 2024년 세계 최초로 10나노급 6세대(1c)* 기술을 확보하는 데 성공[관련기사]했다. 10나노 초반의 극미세화된 공정인 1c 기술은 무려 머리카락 두께의 1만분의 1 수준이며, 이를 기반으로 SK하이닉스는 성능 면에서 이전 세대인 1b 대비 동작 속도는 11%, 전력 효율은 9%의 개선을 이뤄냈다.

* 10나노급 6세대(1c): 10나노급 D램 공정 기술은 1x-1y-1z-1a-1b-1c 순으로 개발됨

1c D램 개발이 더욱 특별한 이유는 기술적 난이도가 급격히 높아지는 분기점이기 때문이다. 단순히 회로를 미세하게 그리는 차원을 넘어, 원자 단위의 물리적 한계, 전자 이동의 불확실성, 데이터 신호의 간섭 문제 등 수많은 난제가 여기서 발생한다. 이를 극복하기 위해 SK하이닉스는 광원의 파장이 짧아 더 세밀하게 회로를 그릴 수 있는 ‘극자외선(EUV)’ 노광 기술을 적극 도입하는 등 미세 패턴 형성의 정확도를 끌어올리며 1c 기술 개발에 성공했다.

이 밖에도, SK하이닉스는 D램 속도 성능을 높여주는 DDR(Double Data Rate) 기술을 업그레이드해 왔다. ▲1998년 64메가비트(Mb) SDRAM 양산 ▲2003년 세계 최초 1기가비트(Gb) DDR2 개발 ▲2007년 세계 최초 DDR3 인증 획득 ▲2009년 세계 최초 44나노 DDR3 D램 개발 ▲2011년 30나노급 2Gb DDR4 D램 개발 ▲2013년 업계 최초 20나노급 LPDDR4 D램 개발 ▲2018년 10나노급 2세대 16Gb DDR5 D램 개발 ▲2020년 세계 최초 DDR5 D램 출시 등 회사는 시장을 선도하는 기록을 경신해 왔다.

이처럼 기술의 벽을 넘기 위해 SK하이닉스가 계속해서 앞으로 나아가게 한 원동력은 바로 모든 구성원이 하나로 뭉치는 원팀 스피릿이었다.

완벽한 하모니로 이뤄낸 역사적 성과

미세공정은 특정 조직이나 한 사람의 개인기만으로 개발할 수 있는 것이 아닌, 다양한 구성원들의 노력을 통해 완성되는 기술이다. 손톱만 한 칩 안에 캐패시터와 트랜지스터 등의 소자를 수십억 개 이상 구현해야 하고 이것들이 제대로 작동하게 하려면, 여러 분야의 전문가들이 한 몸처럼 움직여야 한다.

그중에서도 이 분야 선행 기술 확보는 SK하이닉스 미래기술연구원, D램 제품 기획 및 개발 등의 조직에서 담당한다. 이들은 미지의 영역을 개척하는 첨병 역할을 맡고 있다. 세상에 공개된 기술은 이미 수년 전부터 이들의 치열한 고민과 검토를 거쳤으며, 1c 기술의 태동도 바로 이곳에서부터 시작되었다.

이 기술을 실물로 구현하는 제조공정 조직의 책임도 막중하다. 회로를 작게 그리기 위해서는 웨이퍼에 패턴을 정밀하게 새기는 노광공정을 거쳐야 한다. 최근 극자외선(EUV) 공정으로 더 미세한 패터닝이 가능해졌고, 그만큼 반도체 집적도가 더 높아지고 있다.

이처럼 얇아진 회로를 입체적으로 구현하려면 식각공정을 통해 주변부를 정밀하게 깎아내는 작업이 필요하다. 이 공정은 미세화를 위해 꼭 필요한 부분만 남기는 과정인 만큼, 한번 잘못되면 되돌리기가 어려워 제품 수율과 품질에 직접적인 영향을 끼친다.

웨이퍼 위에 전기적 특성을 띠는 박막을 입혀 다음 공정의 ‘판’을 깔아주는 증착 공정도 중요하다. 특히, 초미세 회로를 구현하기 위해 원자 단위로 박막을 조절하는 ALD(Atomic Layer Deposition, 원자층 증착) 방식 등이 여기서 사용된다.

또, 미세한 패턴 위에 필요한 물질(이온)을 정확한 위치와 깊이로 주입하는 확산 공정, 웨이퍼 상에 더 작은 불순물을 완벽하게 제거하고 표면을 정교하게 연마하는 세정 및 평탄화 공정 등이 전체에서 중요한 몫을 차지한다. 이어, 새로운 기술이 정상 작동할 수 있도록 칩 간 전기적 연결, 칩 내부 발열 제어, 제조된 샘플의 동작 테스트 등을 수행하는 P&T(Package & Test) 공정이 미세화의 한계를 넘어서는 키(Key)가 되어주고 있다.

하나의 제품이 바깥세상으로 나오기까지 이 과정은 수백 번씩 교차로 반복되고 있으며, 여기서 생기는 단 한 번의 실수는 기술의 성패를 좌우하는 결정적 요소로 작용한다. 모든 조직은 완벽에 가까운 정교함을 유지해야 하고, 서로 끊임없이 소통, 보완하는 것이 중요하다. SK하이닉스가 세계 최초로 1c 개발에 성공할 수 있었던 가장 큰 요인이 구성원들의 원팀 스피릿이라고 평가 받는 이유다.

1c 기술은 이전 세대보다 뛰어난 성능과 품질, 생산 효율성 등을 제공하며 또 다른 메모리 혁신을 이끌 것으로 전망된다. 또, AI 메모리인 HBM을 비롯해 서버 및 데이터센터용 모듈, 모바일용 LPDDR, 그래픽용 GDDR 등 모든 차세대 D램 제품군에 적용될 수 있어 앞으로 시장에서의 파급 효과가 클 것으로 예상된다.

SK하이닉스는 현재 수준에 머무르지 않고, 전사 조직이 원팀으로 뭉친 협업 체계를 기반으로 미세공정 기술력을 계속 고도화하고 있다. 이를 통해 회사는 D램 시장 리더십과 함께 고객으로부터 가장 신뢰받는 ‘풀 스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)’ 위상을 강화해 나간다는 계획이다.

2편에서는 모든 구성원이 합심해 HBM 기술 혁신을 이룬 원동력, 원팀 스피릿이 빛났던 순간을 되짚어 보고, 이 제품에 담긴 성공과 실패 그리고 협력의 성과를 살펴본다.

HBM을 향한 16년의 집념

시작은 2000년대 중반에 떠오른 TSV*였다. TSV는 HBM을 구현하고 메모리 성능과 공정 미세화의 한계를 극복할 해법으로 주목받은 반면, 누구도 선뜻 개발에 나서지 못한 기술이었다. 인프라 구축이 어렵고, 성공도 장담할 수 없었던 탓이다. 가능성에 투자하느냐, 안정을 추구하느냐의 기로에서, 업계는 ‘눈치 싸움’만 벌이고 있었다. 먼저 행동에 나선 것은 SK하이닉스였다. 회사는 TSV, WLP* 등 후공정 기술의 파급력을 미리 내다봤고, 2009년 무렵 개발에 착수했다. 16년의 집념이 시작된 순간이었다.

TSV를 본격적으로 활용한 시점은 2013년이었다. 이 즈음 GPU(그래픽 연산장치)와 함께 쓸 고성능 니어 메모리*의 수요가 감지됐다. 이에 회사는 TSV와 WLP 기술을 활용해 세계 최초 HBM(1세대)을 내놓게 된다. 안타깝게도 첫 도전은 성공도 실패도 아닌 채로 끝이 났다. ‘너무 빨랐다’는 게 발목을 잡았다. 당시 HPC(고성능 컴퓨팅) 시장은 HBM이 주류로 부상할 만큼 무르익지 않은 상황이었다. 시장 한계에 부딪혀 잠시 주춤하는 사이, HBM 개발 부서에는 ‘오지’라는 오명이 붙었고, HBM에 대한 시장의 기대도 수그러들기 시작했다.

그럼에도 회사는 포기할 수 없었다. ‘HPC 시대가 곧 올 것이며, 그 시점에 최고 제품을 만든 회사가 승기를 잡는다’는 확신 때문이었다. 그동안 쌓아온 기술력 또한 HBM을 포기할 수 없는 이유였다. 이에 구성원들은 최고 성능의 HBM을 개발하겠다는 목표 아래 다시 힘을 모았다.

2020년 마침내 판세가 뒤집혔다. HBM2E(3세대), HBM3(4세대)를 우직하게 밀어붙였던 회사는 AI 시대 개막과 함께 반전에 성공했다. AI 및 HPC 수요가 증가하고 HBM 시장이 폭발적으로 성장한 것이 기폭제였다. 한발 앞서 기술력을 쌓아온 SK하이닉스는 점유율을 빠르게 높여나가며 HBM 시장 1위라는 타이틀을 거머쥐게 됐다. 2009년부터 이어진 집념과 혜안, 그리고 D램칩 개발 담당인 전공정 분야와 TSV 등 패키징 담당인 후공정 분야가 원팀 스피릿으로 똘똘 뭉쳐 이룬 값진 성취였다.

세계 최강 HBM3E, 불가능을 가능으로 바꾼 원팀의 힘

HBM2E로 HBM 주도권을 확보한 것은 시작에 불과했다. 2021년 초당 819GB(기가바이트) 데이터를 처리하는 HBM3로 기술 우위를 입증한 SK하이닉스는 1위 굳히기에 들어갔다. 특히 D램칩 적층 수를 늘리며 최고 용량을 경신했는데, 2023년 4월에는 36GB 용량의 HBM3 12단을 내놓으며 기술 한계를 돌파했다.

같은 해 8월에는 HBM3E(5세대)를 발표하며 반향을 일으켰다. HBM3 12단을 개발한 지 4개월 만에 거둔 성과였다. HBM3E는 초당 1.15TB(테라바이트)의 데이터 처리 속도로 AI 메모리 시장을 빠르게 장악했다.

SK하이닉스의 HBM이 이렇게 승승장구하게 된 배경에는 MR-MUF* 기술이 있었다. HBM2E에 처음 적용한 MR-MUF는 성능 향상, 발열 개선, 대량 생산까지 한 번에 해결해 주는 특수 패키징 기술이다. 이후 회사는 더 얇은 칩을 휘어짐 없이 쌓고, 신규 보호재로 방열 특성을 높인 어드밴스드 MR-MUF 기술을 HBM3 12단에 적용하며 SK하이닉스의 HBM을 명품 반열에 올려놓았다.

당시 HBM 개발진은 ‘세대마다 성능은 50% 높이고, 전력 소모는 유지한다’는 목표로 개발에 전념했다. 불가능으로 여겨졌던 이 목표를 달성하고자 패키징 조직과 HBM 개발 조직 등 전 부서가 힘을 합쳤다. 각 분야 전문가들은 문제 해결 설루션을 즉각적으로 내놓으며 기술 개발에 협력했다. 차원이 달랐던 SK하이닉스의 HBM3E는 이러한 원팀 협력을 통해 세상에 나올 수 있었다.

원팀 스피릿으로 글로벌 AI 시장 완전 접수

글로벌 AI 시장을 접수하기 위한 SK하이닉스의 독주는 2025년에도 계속됐다. 회사는 지난 3월 세계 최초로 HBM4(6세대) 12단 샘플을 고객사에 공급했다[관련기사]. 16년의 기술 노하우로 거둔 성과였다.

SK하이닉스는 HBM4의 개발 기간을 단축하면서도 높은 성능을 구현했다. 이 제품은 초당 2TB의 데이터를 처리하는 놀라운 속도를 자랑한다. 이는 FHD(Full-HD) 급 영화(5GB) 400편 이상의 데이터를 1초 만에 처리하는 수준이며, 전 세대 대비 60% 빨라진 속도다. 이로써 회사는 ‘세대마다 50% 이상의 성능 향상을 이룬다’는 목표를 또 한번 달성했다.

비결은 역시 원팀 스피릿이었다. 이번에도 구성원들은 난제 해결을 위해 머리를 맞댔고, 설루션을 공유하며 호흡을 맞췄다. 더불어 회사는 원팀 스피릿을 기업 간 협력으로 한 차원 더 확장했다. SK하이닉스는 베이스 다이(Base-Die)에 글로벌 파운드리 업체의 로직(Logic) 공정을 도입, HBM 성능과 전력 효율을 끌어올린다는 계획이다. 구성원 협력에 글로벌 협력까지 더해 혁신의 기반을 강화한 것이다.

원팀의 시너지를 보여줄 HBM4는 올해 하반기 양산을 앞두고 있다. 회사는 이를 통해 기술 경쟁력을 입증하고, AI 메모리 시장에서의 우위를 공고히 할 계획이다. HBM4를 비롯한 SK하이닉스의 AI 메모리가 앞으로 얼마나 더 큰 파급력으로 시장을 넓혀 나갈지, 다시 한번 기대가 모이고 있다.

1편에서는 회사 창립부터 현재까지 SK하이닉스가 직면했던 위기와 도전을 조명하고 그 속에서 드러난 원팀의 저력을 살펴본다.

후발주자 핸디캡 딛고, 흑자 전환에 성공하다

SK하이닉스가 반도체 산업에 발을 들인 건 1983년의 일이다. 당시 시장은 미국과 일본이 양강 구도를 형성하고 있었다. 반도체 불모지인 한국에서, 그것도 후발주자로 뛰어든다는 것은 무모한 시도나 다름없었지만, SK하이닉스는 과감한 도전에 나서게 된다.

안타깝게도 현실은 녹록지 않았다. 회사는 설립 초기의 패기가 무색하게 선발주자와의 기술 격차를 좁히지 못했다. 공장 건설이 지연된 가운데 어렵게 이천 팹(Fab)을 짓고 16K(킬로비트) S램 시험 생산도 성공했지만, 제품 개발 지연과 생산 부진이 잇따르는 등 모든 부문에 빨간불이 켜졌다.

창립 2년 만에 들이닥친 위기, 하지만 포기하기엔 너무 이른 시점이었다. 이에 회사는 인력 확보 및 기술력 향상에 역량을 집중하기로 한다. 결과는 성공적이었다. SK하이닉스는 연구개발 인력을 늘리고 인프라를 확충하며 기술력을 다졌고, 1987년 자체 기술로 256K D램을 개발하게 된다.

기세는 1988년 이후로도 이어졌다. 업황 개선(업턴)에 따른 훈풍도 힘을 실어줬다. 1M(메가비트) D램, 4M D램을 개발하는 등 회사는 연이어 D램 자체 개발에 성공했다. 1988년에는 256K D램 판매 호조와 함께 흑자를 기록했다. 창립 5년 만에 이룬 성과였다.

당시 구성원들은 ‘100일 동안 수율 50% 달성’을 목표로 ‘150 작전’을 펼치는 등 후발주자 핸디캡을 극복하고자 한마음으로 움직였다. 회사의 성장 의지, 구성원들의 하나 된 집념이 없었다면 불가능한 일이었다. SK하이닉스가 반도체 산업에 뿌리내리는 데 큰 역할을 했던 원팀 스피릿은 훗날에도 위기를 극복하는 DNA가 돼주었다.

위기 극복 DNA, 원팀 스피릿으로 극적인 부활에 성공하다

SK하이닉스의 원팀 스피릿은 1990년대 초를 강타했던 불황에서 또 한번 빛났다. 당시 회사는 불황 대응 카드로 ‘투자 확대’를 꺼내 들었다. 턴어라운드(반등)를 예측하고, 16M, 64M D램 양산 및 미래 준비에 수천억 원 투자를 단행했다.

그러던 1995년, 회사의 예측대로 반도체 산업은 유례없는 호황을 맞았다. SK하이닉스는 16M, 64M D램 중심으로 투자를 늘린 덕에 많은 이익을 거두게 된다. 이번에도 회사를 믿고 한마음으로 뭉친 원팀 스피릿이 큰 성과로 이어진 것이다. 호황의 정점을 찍고 난 후 업계의 경쟁이 극으로 치닫자, 구성원들은 노사불이(勞使不二)*를 선언하며 한번 더 원팀으로 뭉쳤다.

위기 극복의 정점은 2001년이었다. 다시 찾아온 불황은 여느 해보다 극심했다. 엎친 데 덮친 격으로 회사는 눈덩이처럼 불어난 부채와 닷컴 버블 붕괴라는 삼중고를 앓고 있었다. 결국 SK하이닉스는 워크아웃(채권단 공동관리)에 들어갔고 ‘회사를 헐값에 판다’는 흉흉한 소문마저 나돌았다.

반면 구성원들은 포기를 몰랐다. “한 푼이라도 아끼자”며 월급을 반납하고 무급휴직에 동참했다. 이천시민도 발 벗고 나서 ‘하이닉스 살리기 범시민 운동’, ‘하이닉스 주식 갖기 운동’을 펼치며 회생을 지원했다.

연구원들은 밤새워 연구하며, 값비싼 신규 장비 대신 기존 장비를 개조해 미세 공정(0.15 마이크론*) 제품을 만드는 데 성공했다. 이것이 지금까지 회자되는 ‘블루칩 프로젝트’다. 이후 1Gb(기가비트) DDR2 및 512M 낸드플래시 개발, 300mm 웨이퍼 양산 등의 성과를 달성한 SK하이닉스는 2005년 워크아웃 조기 종료를 확정했다. 그야말로 노사불이, 원팀 스피릿의 저력을 보여준 순간이었다.

AI 메모리 시장 1위, 다시 한번 원팀 스피릿

SK하이닉스의 원팀 스피릿은 ‘잘나갈 때’ 더 빛났다. 2012년 회사는 SK그룹에 편입되며 성공 가도에 몸을 실었다. 당시 SK는 회사의 높은 성장성을 내다보고 과감한 투자를 결정했다고 밝힌 바 있다.

수조 원대 지원을 받은 회사는 글로벌 제휴, 투자, 연구개발을 활발히 펼쳤고 팹을 증설하며 착실히 미래를 준비했다. 기술은 물론 기업문화도 정비했다. 구성원 성장을 돕는 프로그램을 마련하고 ‘원팀’을 대표 기업문화로 내재화했다. 이를 통해 구성원과 조직들이 융합하고 혁신하는 환경을 조성했다.

원팀 스피릿으로 결집한 구성원들은 고객과 시장 수요에 부합하는 10나노급 DDR5 D램과 초고층 4D 낸드플래시, 고용량 SSD 등의 혁신 제품을 쏟아내며 연간 최대 실적을 갈아치웠다.

그 중에서도 핵심은 단연 HBM*이었다. SK하이닉스가 2009년부터 미리 준비한 HBM은 AI 시대에 접어들며 폭발적으로 성장했다. 배경에는 제품을 설계하고 소자를 개발하는 전공정 조직부터 칩을 전기적으로 연결하는 후공적 조직까지 전 구성원이 모여 성능 향상에 몰두했던 원팀 문화가 있다. 그 결과 TSV*, MR-MUF*, 어드밴스드 MR-MUF* 등 혁신적인 기술을 바탕으로 지금의 HBM이 탄생했다.

이러한 개발 흐름은 HBM4까지 이어졌고, 회사는 지난 3월 HBM4 12단 샘플을 고객사에 가장 먼저 공급하는 성과를 이뤘다[관련기사]. SK하이닉스가 AI 메모리 시장 1위라는 지위를 얻으며, 1983년 반도체 산업에 진입한 늦덕*이 마침내 성덕*으로 거듭난 것이다.

성장에 성장을 거듭하고 있는 SK하이닉스는 현재 120조 원을 투자해 용인 반도체 클러스터를 조성하고, M15X, 인디애나 팹 등 신규 팹 구축을 준비하는 등 몸집을 키우고 있다.

풀 스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)로 도약하기 위한 이 같은 도전 앞에서 구성원들은 원팀의 저력을 발휘하고자 다시 한번 각오를 다지고 있다.