인공지능의 새로운 뇌, NPU(2023.5.12.)

https://n.news.naver.com/article/020/0003496978

GPU 넘어 NPU가 주목받는 이유 ··· '관건은 와트당 성능, 그리고 효율성'

뉴스 요약(2023.5.12.)

• 엔비디아가 인공지능 관련 산업의 주축으로 떠오른 이유는 그래픽 처리에 쓰이던 GPU(Graphics Processing Unit)가 인공지능 개발에 쓰이기 시작하면서부터입니다. GPU는 연산을 처리하는 수천 개의 코어로 구성된 반도체로, 병렬 방식으로 연산을 처리해 그래픽 데이터를 산출합니다.
• GPU가 인공지능 개발에 사용되는 이유는 단순 연산을 처리하는 데 최적의 반도체이기 때문입니다. 인공지능 개발은 기본적으로 많은 양의 단순 사칙 연산이 필요합니다. CPU는 복잡한 단일 연산 처리에는 뛰어난 반면 다중 처리에는 비효율적입니다. 반대로 GPU는 단순 연산을 다중으로 처리하는 데 적합한 구조라서 인공지능 개발에 쓰이는 것입니다.
•  NPU(Neural Processing Unit)는 GPU와 마찬가지로 병렬 처리에 최적화된 구조로 되어있으나, 인공지능을 개발하는데 필요한 제어 및 산술 논리 구성 요소를 갖춰 인공 신경망과 같은 예측 모델에서 기계 학습, 심화 학습 알고리즘을 실행하는데 최적화돼 있습니다. 덕분에 GPU와 동일한 인공지능 작업이 주어질 때, GPU 대비 전력 소모는 적고 더 많은 결과물을 산출합니다.

뉴스 논평

NPU(신경망 처리 장치)는 인공지능에서 신경망(Neural Network) 기반 연산을 처리하기 위한 처리장치로서 많은 양의 연산을 대규모로 병렬 연산을 효율적으로 처리합니다. 기존의 GPU의 경우에는 빠른 속도로 행렬 연산이 가능하지만 기반이 그래픽 처리를 위한 처리장치로 개발되어 있기 때문에 인공지능 알고리즘 연산에 최적화되어 있지는 않습니다. 특히 딥러닝에서 여러 계층을 통한 대규모 행렬 연산을 수행하는데 적합한 처리장치의 필요성이 대두되면서 등장하게 되었습니다. 그러나 사실 NPU가 등장한 것은 비교적 오래전입니다. 

구글 TPU (출처: 구글)

대표적인 예가 바로 구글의 TPU(Tensor Processing Unit)입니다. TPU는 2016년 5월에 발표된 장치로서 벡터/행렬연산의 병렬처리에 특화되어 있습니다. TPU 1.0의 경우에는 2016년 Google I/O에서 소개됐는데 신경망 처리 연산에서 당시 최신 CPU / GPU에 비해 15 ~ 30배 이상의 빠른 성능을 발휘하였고, 소모전력 대비 성능도 30 ~ 80배 향상되었습니다. 당시 세계적으로 유명한 이세돌과의 바둑대결을 했던 알파고도 GPU가 아닌 TPU를 사용한 것입니다. TPU의 최신 버전은 2018년 5월 발표된 TPU 4.0이고, 2023년 현재 TPU 5.0 개발이 진행 중입니다.

우리나라에게 반도체는 경제의 핵심축입니다. 그러나 삼성과 하이닉스가 주축을 이루고 있는 것은 메모리 반도체입니다. 물론 시스템 반도체에 대한 노력과 투자가 꾸준하게 이뤄지고 있지만 아직은 메모리 반도체와 달리 경쟁력에서 다소 밀리고 있는 게 사실입니다. 미래는 지능화 시대이고 지능화 시대를 이끌어갈 핵심은 AI기술, 네트워크기술, 데이터관리기술이 핵심적으로 요구됩니다. 여기서 NPU를 이야기하고 있는데 부디 이 분야에 대해 국가적 관심을 가져서 제작뿐만 아니라 설계 분야까지 능력을 확대하기를 기대합니다. < 끝 >