GaiA는 반도체 제조 프로세스의 혁신을 뒷받침하는 것은 물론, 임직원의 다양한 업무를 지원해 효율성과 혁신성을 동시에 끌어올리는 것을 목표로 개발됐다.

업무 혁신을 위한 AI 플랫폼 및 생성형 AI 서비스 3종 개발

SK하이닉스는 DT(Digital Transformation)를 중심으로 AI 전환(AIX)을 가속하고 있으며, AI를 활용한 업무 효율 향상, 전략 수립, 비즈니스 개선을 전사적으로 추진하고 있다. 기업형 생성형 AI 활용을 확대하기 위해서는 내부 인프라(Infrastructure), 플랫폼(Platform), 모델(Model), 서비스(Service) 등 네 가지 핵심 요소가 유기적으로 결합해야 한다.

▲ DT(Digital Transformation)를 중심으로 한 AI 전환(AIX) 활동

SK하이닉스는 이러한 체계를 기반으로, 반도체 업무 전반에 최적화된 생성형 AI 플랫폼 GaiA를 개발했다. GaiA는 대지의 여신(Gaia)에서 영감을 받은 이름처럼, 구성원의 업무 효율성과 창의성을 풍요롭게 키우는 든든한 토대 역할을 하고 있다. 또, 구성원들이 사내 보안망 내에서 안전하게 생성형 AI를 활용하고 업무 특화 서비스를 개발 및 운영하도록 지원하고 있다.

GaiA를 활용하면 업무 프로세스를 그대로 반영한 에이전틱 AI*를 구현할 수 있어, 부서·업무별 맞춤형 AI 에이전트(Agent)를 개발할 수 있다. 이와 함께 피드백 루프(Human-In-The-Loop) 체계를 통해 현업 도메인의 지식과 경험을 지속적으로 반영할 수 있는 환경도 제공한다.

이를 통해 회사는 지난 7월 ‘비즈(Biz) 특화’ 서비스로, ▲장비 보전 에이전트 ▲글로벌 정책·기술 분석 에이전트 ▲HR 제도 에이전트 ▲회의 에이전트 등을 베타 오픈했다. 이들 서비스는 반도체 생산·제조에 활용할 수 있는 점이 특징이다. 실제로 개발, 양산 현장에서 활용되며 긍정적인 반응을 이끌고 있다.

8월 초에는 전사 구성원 대상으로 SK하이닉스 향(向) ChatGPT 서비스인 ‘LLM Chat’을 베타 오픈했다. LLM Chat을 이용하면 사내 보안망으로 안전하게 접속해, 사내 데이터 및 지식 기반의 질의응답 서비스로 업무를 효율화할 수 있다.

에이닷 비즈(A.Biz)는 일반 업무와 전문 업무를 모두 지원하는 AI 비서 서비스다. 범용성과 전문성을 갖춘 덕분에 회의록, 보고서 작성 등과 같은 일반 사무를 비롯해 구매, 채용, 세무, 법무, PR 등 전문 업무도 맡길 수 있다. GaiA 연계를 목표로 SK텔레콤과 함께 개발 중인 에이닷 비즈는 11월 정식 공개 예정이다.

생성형 AI 로드맵 따라 순차 개발… 에이전트 간 스스로 협업하는 A2A 구현한다

이번 GaiA 플랫폼을 구성하는 AI 서비스 3종은 SK하이닉스의 ‘생성형 AI 로드맵’에 맞춰 완성됐다. 지난 2023년부터 회사는 ▲네이티브 RAG* + LLM(2023) ▲에이전트 및 작업 도구(2024) ▲에이전틱 AI(2025) ▲에이전트 오케스트레이션(2025) 순서로 AI 서비스를 개발 중이다.

▲ SK하이닉스의 생성형 AI 로드맵

네이티브 RAG + LLM은 외부 데이터베이스나 문서에서 필요한 정보를 찾아 답변을 만드는 가장 기본적인 방식이다. 구현이 쉽지만, 검색 결과 품질에 따라 답변이 달라지고 복잡한 작업은 어렵다.

에이전트 및 작업 도구는 LLM이 웹 검색, API 호출, 코드 실행 등 다양한 도구를 골라 사용해 문제를 푸는 방식이다. 더 많은 일을 할 수 있지만, 어떤 도구를 쓸지 판단을 잘못하면 오류가 날 수 있다.

에이전틱 AI는 여러 에이전트가 각자 맡은 역할로 나눠서 함께 문제를 해결한다. 효율이 높지만, 구조가 복잡해져서 관리와 조율이 어렵다.

에이전트 오케스트레이션(Agent Orchestration)은 여러 에이전트를 상황에 맞게 조합하고 순서를 바꿔가며 일을 진행하는 방식이다. 변화에 잘 대응하지만, 만들기 어렵고 안정성을 유지하기 힘들다.

이중 비즈 특화 서비스는 에이전틱 AI 기술이 본격적으로 적용된 서비스로, 회사는 다양한 역할의 에이전트(기획자 에이전트, 개발자 에이전트 등)를 제작하고, 성능을 고도화하는 작업을 거쳤다. 이를 통해 각 분야의 전문성과 정확성을 높여, 복잡하고 추상적인 문제까지 해결할 수 있도록 했다.

SK하이닉스는 한 차원 진화한 형태의 AI 시스템도 준비 중이다. 최종 목표는 에이전트 오케스트레이션 기술로, A2A(Agent to Agent)를 구현하는 것이다. A2A는 에이전트 간 상호 소통하며 역할을 분담하고, 스스로 문제를 해결하는 시스템을 말한다. 그 중심에는 자원을 최적화하고, 효율적인 에이전트 조합으로 워크 플로(Work Flow)를 구성하는 에이전트 오케스트레이션이 있다.

향후 회사는 다양한 에이전트가 협업하는 A2A로 유연하고 단계적인 문제 해결 방식을 도입한다는 계획이다. 또한, 비즈 특화·LLM Chat·그룹사 에이닷 비즈를 하나로 통합한 에이전틱 AI를 개발하는 동시에, 기존 RAG + LLM 인터페이스의 한계를 극복하고, 팹(Fab) 내 모든 시스템을 연결하는 통합적 스마트팩토리도 구현한다는 방침이다.

SK하이닉스는 지난 2017년 국내 제조업 최초로 데이터 사이언스 조직을 출범시켰고, 데이터 기반 의사결정 문화를 내재화했다. 2024년에는 AIX 전문 팀을 꾸려 AI 전환을 위한 체계적인 기반도 마련했다. 이와 함께 생성형 AI 서비스를 지속해서 개발·공개하며 AI 혁신을 앞당기고 있다.

SK하이닉스는 “전 세계가 주목하고 있는 에이전틱 AI를 반도체 산업에 특화해 개발하고, 전사적으로 접목해 업무 효율성과 혁신성을 끌어올릴 것”이라며 “올해는 에이전틱 AI를 더 고도화하고, 에이전트 오케스트레이션을 개발해 또 한 번의 생성형 AI 혁신을 이룰 것”이라고 밝혔다.

한편, 뉴스룸에서는 회사가 생성형 AI 로드맵에 맞춰 준비 중인 플랫폼과 서비스를 차례로 소개한다. 이어지는 콘텐츠에서는 생성형 AI 서비스 3종에 대해 자세히 다룰 예정이다.

AI 산업 생태계란?

1950년대 최초로 제시된 AI라는 개념은 당시 여러 과학자들의 연구 노력에도 불구하고 컴퓨팅 인프라, 논리 체계, 데이터 부족 등의 한계로 수십 년간 침체기를 겪었다. 그러던 1990년대 AI가 웹에서 스스로 규칙을 찾아 학습하는 ‘머신러닝(Machine Learning)’이 등장하면서, 이를 기반으로 유의미한 성과들이 나오기 시작했다.

2006년 AI의 아버지라 불리는 제프리 힌턴 교수가 인공신경망의 성능을 높일 수 있는 이론을 제시하며, AI를 대표하는 알고리즘인 ‘딥러닝(Deep Learning)’의 기초 개념을 정립했다. 이후 2010년대 인간 뇌처럼 병렬 연산을 하는 GPU(Graphic Processing Unit)의 발전과 함께, 네트워크 확장에 따른 데이터의 팽창으로 인해 AI 학습과 발전이 가속화되기 시작했다. 2020년대까지 기술적 도약을 거듭하던 AI는 거대언어모델(Large Language Model, LLM)이 탑재된 ‘생성형 AI(Generative AI)’로 진화하며 인류의 다양한 영역에서 지금의 커다란 생태계를 구축해 나가고 있다.

모두가 AI 산업의 변화와 확장을 이야기하고 있는 지금, 과연 ‘AI 산업 생태계’는 어떤 모습일까? ‘AI 산업 생태계’는 통상적으로 AI 기술의 개발부터 응용, 인프라 구축, 정책과 규제에 이르기까지 여기 참여하는 기업, 정부, 학계, 사용자 등 다양한 주체들이 상호작용하며 형성하는 매우 거대하고 복합적인 산업적·사회적 구조를 의미한다. 이를 조망하는 방법도 특정 국가나 산업, 기술, 이해관계자 등에 따라 여러 관점과 층위가 있을 수 있다. 본 시리즈에서는 단계적인 AI 밸류 체인(Value Chain, 가치 사슬)의 관점으로 AI 산업 생태계를 조망하고자 한다.

5가지 영역으로 보는 AI 산업 생태계

큰 그림에서 보면 AI 산업 생태계는 다음과 같은 5개 영역으로 구성된다.

▲AI가 다양한 분야에서 사용되는 산업별 적용·활용 영역 ▲이러한 활용을 가능케 하는 AI 모델·플랫폼 영역 ▲AI 모델이 작동할 수 있는 기술 제반을 제공하는 AI 인프라 영역 ▲이러한 AI 인프라에서 핵심적인 연산 가속을 제공하는 AI 연산 가속기 영역 ▲그리고 고도의 AI 연산을 기술적으로 가능케 하는 AI 연산 인프라 영역으로 이어지는 구조다. 이 중 AI 연산 인프라는 AI 생태계의 기반이자 출발점이다. 세계 최고 수준의 AI 메모리를 개발·제공하는 SK하이닉스는 AI 연산 인프라 영역의 글로벌 리더로서 전체 AI 생태계를 가능케 하는 중요한 역할을 담당하고 있다.

1) 산업별 적용·활용 영역

산업별 적용·활용 영역은 AI가 제조·유통·금융·의료·공공 등 실제 산업 분야에서 각각의 니즈와 상황에 맞게 적용·활용되고 있는 영역이다. 과거에는 오랜 시간이 걸리고, 높은 수준의 인적 관리감독이 요구되었던 업무를 AI가 훨씬 빠르고 효율적으로 처리해 생산성과 효율성을 혁신적으로 높이고 있다. 제조업의 경우, 디지털 트윈(Digital Twin)*을 통해 실시간으로 공장 운영을 시뮬레이션한다. 이를 통해 문제를 사전에 예측·대응하거나, AI를 기반으로 생산 자동화, 품질 검사, 유지·보수를 진행해 제조 효율성을 극대화할 수 있다. 실제로 마이크로소프트, 구글, 세일즈포스, 팔란티어, 오라클 등 많은 테크 기업들이 다양한 산업별 AI 솔루션을 제공하고 있다. BMW의 경우, 마이크로소프트의 IoT 기술과 AI 솔루션을 활용해 차량 개발 과정의 데이터 처리 속도를 10배 이상 높여 신차 개발의 효율성을 크게 높였다.

2) AI 모델·플랫폼

이러한 AI의 활용을 가능케 하는 것이 바로 AI 모델·플랫폼 영역이다. 일상적으로도 널리 쓰이는 생성형 AI와 거대언어모델이 여기에 해당한다. 생성형 AI는 프롬프트에 대응하여 텍스트, 이미지 등을 생성하는 인공지능이다. 거대언어모델은 방대한 양의 데이터를 학습한 언어 모델로, 텍스트를 생성·요약·번역하는 등 생성형 AI 작업을 수행하는 데 필수적인 역할을 한다. 우리에게도 익숙한 오픈AI의 챗GPT, 구글 딥마인드의 제미나이(Gemini), 메타의 라마(LLaMA), 앤트로픽(Anthropic)의 클로드(Claude)가 대표적인 예다. AI 모델·플랫폼이 산업별 활용의 기반이자 혁신을 주도하는 촉매제이기에, 앞으로도 이들의 기술적 진화가 중요하다.

3) AI 인프라

그런데 AI 모델·플랫폼은 방대한 데이터를 바탕으로 복잡한 작업을 수행해야 한다. 오픈AI의 챗GPT-4의 경우, 파라미터(매개변수)의 수를 공식적으로 공개하지는 않았지만 1조 개가 넘는 것으로 추정된다. 이러한 데이터를 빠르게 처리하기 위해서는 막대한 규모의 인프라가 필요하다.

AI 인프라 영역은 AI 연산과 모델을 운영할 수 있도록 데이터센터, 클라우드, 네트워크, 호스팅, 소프트웨어, API(Application Programming Interface) 등을 제공하는데, 구체적인 예로는 아마존웹서비스(AWS), 마이크로소프트의 애저(Azure), 구글의 구글 클라우드(Google Cloud) 등이 있다. 방대한 데이터를 더 안전하고 효율적으로 보관·관리하고, 이로 인해 폭증하는 전력 수요에 대응해 지속가능성을 확보하기 위해 AI 인프라 영역도 끊임없는 혁신을 추구하고 있다.

4) AI 연산 가속기

AI 인프라 영역의 핵심적인 요소가 바로 AI 연산 가속기 영역에 해당되는 GPU(Graphics Processing Unit)다. 오랫동안 컴퓨터의 두뇌 역할을 해 온 CPU가 명령어를 순서대로 처리하는 것과 달리 GPU는 병렬 처리에 특화된 그래픽 처리 장치다. 초기에 GPU는 게임용 이미지 처리를 위해 사용되다가 점차 AI 개발을 위한 머신러닝과 딥러닝 등에도 사용되면서 AI 산업 생태계에서 중요한 역할을 수행하게 되었다. 현재 이 제품을 개발·공급하는 업체로는 엔비디아(H100, H200, B100, B200 시리즈), AMD(MI300, MI350 시리즈), 인텔(Gaudi2, Gaudi3 시리즈) 등이 있다.

거대언어모델 학습과 추론을 가속화하는 GPU는 AI의 개발과 운영에 필수적인 요소다. 전 세계적으로 GPU 품귀 현상과 확보 전쟁이 벌어지고 있을 정도다.

5) AI 연산 인프라

AI 연산 인프라 영역은 이러한 GPU가 고성능 AI 연산을 할 수 있게 만드는 원천이다. AI 모델의 학습·추론이 끊김 없이 작동하도록 고성능 연산 환경을 제공하는 것이 바로 고대역폭 메모리 반도체, HBM(High Bandwidth Memory)이다. HBM은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치·고성능 제품으로, AI 기술 그리고 GPU의 발전과 함께 급성장해 왔다.

글로벌 시장에서 HBM을 선도하는 기업은 바로 SK하이닉스다. 2013년 세계 최초로 1세대 HBM 개발을 시작으로, SK하이닉스는 올해 3월 6세대 제품인 HBM4 12단 샘플을 세계 최초로 주요 고객사에 제공했다. AI 산업에서는 ‘HBM 없이는 AI도 없다’는 이야기가 있을 만큼 HBM은 AI 산업 생태계를 추동하는 핵심적인 역할을 담당하고 있다.

미래 혁신을 위한 협력과 경쟁

이렇듯 AI 산업 생태계는 ▲산업별 적용·활용 영역 ▲AI 모델·플랫폼 영역 ▲AI 인프라 영역 ▲AI 연산 가속기 영역 ▲AI 연산 인프라 영역으로 이어지는 선형적 구조를 보인다. 동시에 여러 빅테크 기업이 복수의 영역에서 활동하는 중복적인 밸류 체인으로 연결된다. 중요한 사실은 다양한 영역의 기업들이 상호 긴밀히 연결되고 협력한다는 점이다. 그 이유는 AI가 하나의 기업이나 기술로는 완결될 수 없는 거대하고 복잡한 체계이기 때문이다. AI 산업 생태계에서 연결과 협업은 선택이 아닌 필수다.

동시에 AI 산업 뉴스에서 빠지지 않는 토픽이 기술 경쟁과 패권 다툼이다. AI 기술이 빠르게 발전하고 관련 시장이 폭발적으로 성장하면서 세계 각국의 정부와 테크 기업들은 경쟁적으로 AI에 투자하고 이를 활용한 혁신에 드라이브를 걸고 있다. 최근 대한민국 정부도 ‘AI 3대 강국 진입’을 목표로 향후 100조 원의 투자 계획을 발표했다. 이러한 변화 속에서 SK하이닉스를 포함한 각 기업의 기술과 전략은 AI 산업 생태계 전반에 중대한 영향을 미치고 있다.

다음 편에서는 AI 산업 생태계 내에서 SK하이닉스의 역할과 리더십에 대해 살펴볼 예정이다.