이전 포스트에 다루었던 온디바이스 AI(On-Device AI)와 연결되는 주제인 AI 반도체에 대해서 이야기를 해볼까 합니다.
AI 반도체는 최근 국내시장에서 뜨거운 테마 중 하나로 관련주들이 급등하는 추세를 보여주고 있는 주제이기도 하고, 2024 CES에서 Intel, NDIVIA, AMD, Hynix 등 많은 글로벌 반도체 업체에서 핵심으로 다루었던 주제입니다.
도대체 AI 반도체가 무엇이길래, 일반적으로 알려진 반도체와는 무엇이 다르길래 이렇게 뜨거운 주제가 되었는지에 대해서 말씀드리겠습니다.
1. AI 반도체는 무엇인가?
AI반도체에 대해 이야기하기 전에, 먼저 반도체에 대해서 이해할 필요가 있을 것 같습니다. 반도체라는 명칭은 우리나라 국민이라면 모두가 다 알정도로 우리나라의 대표산업 중 하나인데요. 과연 반도체가 무엇인지 알고 계신가요?
정말 쉽고 간단하게 설명하자면, 반도체는 반은 도체이고 반은 부도체인 물체로 전기신호에 따라서 0과 1로 표현할 수 있게 하는 재료입니다. 즉, 디지털 신호를 처리하기에 적합한 물체이기 때문에 각종 IT기기의 핵심이라고도 할 수 있습니다.
이 반도체들은 ① 시스템을 통제하고 실행하거나, 연산하는 역할을 수행하거나, ② 프로그램과 데이터를 저장하는 역할을 수행하곤 합니다. 여기서 ① 역할을 수행하는 반도체들을 프로세서라고도 하며, 우리가 익히 알고 있는 CPU, GPU 등이 이에 해당합니다. ② 역할을 수행하는 것들을 메모리라고도 부르고, RAM이나 ROM이 이에 해당한다고 할 수 있습니다.
AI반도체는 시스템을 통제하고 실행하거나, 연산하는 역할(①) 반도체로 수많은 학습 데이터를 이해하고 처리하는데 특화된 반도체라고 할 수 있습니다. 즉, AI의 핵심 두뇌역할을 수행하는 장치입니다.
2. AI 반도체의 등장배경
AI(인공지능)의 태동기에는 기존 컴퓨팅을 활용하던 CPU를 사용해서 연산을 처리했었습니다. 하지만 CPU는 구조적 특성상 데이터를 순차적으로 처리하는 직렬 구조를 가지고 있기 때문에, 대규모의 데이터를 동시에 병렬로 처리해야 하는 AI연산에는 적합하지 않았습니다.
이러한 한계를 극복하고자 GPU를 활용하는 방법이 등장했습니다. 사실 GPU(* 일반적으로 그래픽카드로 알려진)는 3D와 같은 고사양 그래픽 처리를 하기 위해서 개발되었으나, 데이터를 병렬로 처리하는 구조를 가지고 있었기 때문에 AI 연산에 활용될 수 있었고 지금까지도 많은 AI 영역에서도 GPU를 활용하고 있는 상황입니다.
하지만 생성형 AI가 급속도로 확산되고, 최근에는 온디바이스 AI(On-Device AI)까지 경쟁이 확산되면서 GPU를 활용하는 것에 한계들이 두드러지게 나타나고 있습니다.
GPU는 태생적으로 그래픽 처리를 위해 만들어진 만큼 AI연산에 최적화되어있지 않기 때문입니다. 물론 데이터를 병렬로 처리할 수 있는 구조이기 때문에, AI연산을 위한 방대한 양의 데이터 학습 및 예측이 가능한 정도의 성능을 갖추기는 했습니다. 하지만 일부 성능이 낭비되는 부분이 있을뿐더러, 특히나 높은 전력소모와 발열 등으로 인한 비용문제가 크게 나타나게 되면서 AI에 최적화된 AI반도체의 필요성이 증가하고 있고 AI반도체 시장이 점차 커지고 있는 것입니다.
1. 생성형 AI, 온디바이스 AI 시장의 확대 등 AI수요 증가에 따라 반도체의 수요도 증가
2. 기존 활용하던 GPU의 비효율이 두드러지게 나타나면서 AI연산에 최적화된 반도체 필요성 증가
위에 말씀드린 시장의 요구의 증가가 가장 핵심적인 등장배경인 것은 사실이지만, 이외에도 강화되고 있는 환경규제(ESG)라던지 기술의 발전으로 인해 구현이 가능해진 영역이 증가함에 따라 AI반도체가 주목받고 있는 것입니다.
- AI기술의 급격한 발전과 다양한 비즈니스 영역으로의 확장
- 빅데이터 시대가 도래함에 따라 AI연산을 위해 처리해야 하는 데이터의 양이 많음
- 저전력 소비 및 에너지 효율화 등 친환경적인 컴퓨팅 환경 구축 필요
- 칩 제조 공정의 발달에 따라 다양한 반도체 소자 개발이 가능
3. AI 반도체의 종류 및 발전방향
앞서 말씀드린 바와 같이 초기에는 CPU 그리고 GPU를 활용해서 AI 연산을 처리했었지만 비효율이 발생함에 따라 이를 극복하기 위한 AI 연산에 최적화된 반도체를 개발해오고 있습니다.
연산에 필요한 수많은 데이터를 처리하기 위해서는 높은 전력과 빠른 속도가 필수적이라고 할 수 있는데요. CPU, GPU처럼 범용적으로는 사용할 수 없지만, AI 알고리즘 처리에 최적화된 AI 반도체들을 NPU(Neural Processing Unit, 신경망 처리장치)라고 부르고 있습니다.
GPU와 같이 데이터를 병렬처리하는 구조를 유지하면서 AI를 위한 전용 반도체들이 등장하게 되었는데, FPGA(Field Programmable Gate Array)와 ASIC(Application Specific Integrated Circuit)이 이에 해당합니다.
- FPGA는 칩 내부의 하드웨어를 목적에 따라 재프로그래밍할 수 있다는 유연성이 특장점
- ASIC은 특정 목적에 따라 제작된 주문형 반도체이기 때문에 고효율을 낼 수 있는 것이 특장점
최근에는 뉴로모픽(Neuromorphic) 반도체가 각광받고 있는데, 사람의 뇌와 같이 신경세포(뉴런)와 연결고리(시냅스) 구조를 모방한 구조를 띄고 있습니다. 아직 상용화 단계에 이르지 못했지만, 기존의 반도체들에 비해 성능과 효율성이 더 뛰어날 것으로 예상되기 때문에 많은 기업들이 차세대 NPU에 사활을 걸고 있습니다.
4. AI 반도체 시장전망
모두들 아시겠지만, 이제는 AI시대라고 해도 과언이 아니라고 할 정도로 비즈니스뿐만 아니라 실생활에서도 다양한 형태의 AI 서비스들이 등장하고 있습니다. 점점 시장이 커져가고 있는 AI시장에서 AI 반도체가 필수품이자 핵심 경쟁력으로 부상함에 따라서 주요 반도체 기업들은 사력을 다하고 있는 상황입니다.
시장조사 업체인 딜로이트(Deloitte)에 따르면 2024년 생성형 AI 전용 반도체 시장 규모를 약 53조 원으로 전망하고, 2027년에는 10배 규모인 532조에 달할 것으로 전망하고 있습니다. 가트너(Gartner)의 경우에는 2024년 글로벌 AI 반도체 시장규모를 671억 달러, 2027년에는 1,194억 달러 수준일 것이라고 전망했습니다.
마침 지난 1월 실시한 CES 2024에서 주요 반도체 업체들도 AI생태계의 기반인 CPU, GPU, NPU 등 신형 제품들을 소개했습니다.
- 엔비디아(NVIDIA)는 각종 AI 기능이 도입된 소비자용 GPU RTX 40 슈퍼 제품군을 공개
- 인텔(Intel)은 AI 기능이 탑재된 모바일 프로세서인 루나레이크와 AI 게이밍 프로세서 애로레이크를 공개
- AMD는 NPU인 '라이젠 AI'가 탑재된 라이젠 8000G와 RX 7600XT를 공개
국내 대표 기업인 삼성전자와 SK하이닉스의 경우에는 AI용 차세대 메모리 반도체인 HBM(High Bandwidth Memory, 고대역폭 메모리)를 중점적으로 CES에서 소개하면서 경쟁을 벌이고 있습니다.
이 외에도 구글, MS, 메타, 아마존 등 빅테크 세력들은 자체 AI 반도체 개발에 심혈을 기울이고 있는 상태이며, 특히나 구글의 경우 텐서플로에 최적화된 TPU의 세력을 점차 늘려가고 있는 상황입니다. 마찬가지로 국내에서는 삼성전자와 네이버가 협업하여 자체 AI 반도체를 개발 중이라고 합니다.
최근 다른 리포트에서 본 내용이 문득 떠오르는데요, 최근 글로벌 벤처 투자 경향이나 유니콘 기업들이 SW보다는 HW기업이 더 많다고 합니다. 아마도 AI가 보편화되고 다양한 서비스가 등장함에 따라서 더 효율적이고 빠르게 운영하기 위한 방법으로 HW 개선을 하는 방향으로 진행되고 있는 것 같습니다. 오늘 소개해드린 AI 반도체가 그 중심에 있는 것이고요.
삼성이나 SK하이닉스와 같이 전통적인 반도체 강자 기업이 있는 대한민국인 만큼, 앞으로 펼쳐지는 AI 반도체 시장에서는 어떤 모습을 보여줄지 기대를 해보아야 할 것 같습니다.
참고자료
1) [CES 2024] 처음부터 끝까지 부각된 AI…반도체 전쟁 서막 엿보인 축제 (디지털데일리, 2024.01)
2) [테크 스토리] 왜 ‘AI 반도체’가 반도체의 미래라고 불릴까 (SKT 뉴스룸, 2022.04)
3) [테크다이브] 이젠 GPU론 안된다…떠오르는 'AI반도체' (디지털데일리, 2023.12)
4) AI 기술의 다양한 응용 분야_AI 반도체의 현황과 미래전망 (SK하이닉스뉴스룸, 2022.04)