AI에서 광 컴퓨터(Optical Computer)가 필요한 이유
트랜스포머 LLM과 생성형 AI가 구리 배선의 물리적 발열과 대역폭 장벽에 부딪히면서, 빛으로 통신하고 빛으로 행렬을 곱하는 광컴퓨팅이 차세대 AI 가속기의 해법으로 떠오르고 있습니다.
1. 구리 도선의 RC 지연 및 열 장벽(Thermal Wall) 돌파
반도체 공정이 2nm 수준으로 미세해지면서, 트랜지스터 자체보다 미세한 구리 배선을 따라 전자를 이동시킬 때 발생하는 전기 저항 발열과 RC 신호 지연이 AI 칩 전력 소비의 절반 이상을 차지하게 되었습니다. 광자(Photon)는 질량과 전하가 없어 도파관을 통과할 때 주울 열(Joule Heating)을 거의 발생시키지 않으면서 빛의 속도로 신호를 전달합니다.
2. 빛의 물리 법칙 그 자체로 수행하는 행렬 곱셈 (GEMM)
딥러닝 연산의 80~90%는 선형 행렬 곱셈(y = W·x)입니다. 전자 칩은 수만 개 트랜지스터를 수십 클럭 동안 켰다 끄며 곱셈과 덧셈을 수행하지만, 광학 칩에서는 입력 빛이 간섭계(MZI)와 회절 소자를 '단 한 번 통과하는 물리적 시간(수 피코초 ps)' 만에 행렬 곱셈 전체가 물리 법칙에 의해 즉시 완료됩니다.
3. 파장 분할 다중화(WDM) 기반 초병렬 텐서 연산
구리선 하나에는 한 순간에 하나의 전기 신호만 보낼 수 있습니다. 하지만 광도파로(Waveguide) 하나에는 서로 다른 색깔(파장 λ1, λ2, ..., λn)의 레이저 빛 수십~수백 가닥이 서로 간섭하지 않고 동시에 통과할 수 있어, 단 하나의 물리 광학 코어에서 수백 개의 AI 벡터 연산을 동시 다발적으로 처리합니다.
4. 초거대 AI 클러스터의 데이터 통신 병목(I/O Wall) 해소
수만 대의 GPU가 LLM을 학습할 때 칩 간 데이터 이동 전력과 대기 시간이 전체 학습 효율을 깎아먹습니다. 광 패키징 기술인 CPO(Co-Packaged Optics) 및 광학 인터커넥트는 GPU 패키지와 HBM 메모리 사이를 빛으로 직결해 테라바이트급 데이터를 초저전력으로 전송합니다.
전통적인 실리콘 AI 칩 vs 광(Optical) AI 칩 심층 비교
전자(Electron)의 이진 스위칭에 기반한 기존 GPU/TPU 칩과 광자(Photon)의 파동·간섭을 이용하는 광 AI 칩(Photonic Chip)의 구조적 차이를 비교합니다.
| 비교 항목 | 전통적 실리콘 AI 칩 (GPU / TPU) | 광 AI 칩 (Optical / Photonic Chip) |
|---|---|---|
| 신호·연산 매체 | 전자(Electron)의 전압 이동 및 전류 흐름 | 질량·전하가 없는 광자(Photon, 레이저 빛) |
| 행렬 연산 메커니즘 | 이진 트랜지스터 디지털 스위칭 & 클럭 동기 MAC 연산 | 빛의 파동 간섭(MZI) · 회절 · 위상 변조에 의한 아날로그 연산 |
| 병렬화 차원 | 코어를 물리적으로 수만 개 복제 배치 (공간 병렬 SIMD/SIMT) | 공간 배치 + 파장 분할 다중화(WDM, 수십~수백 파장 동시 연산) |
| 연산 지연 & 발열 | 나노초(ns) 수준 지연, 구리 배선 저항으로 고열 발생(액체 냉각 필수) | 피코초(ps) 빛의 속도 통과, 수동 광학 연산 구간 발열 거의 제로 |
| 집적도 & 소자 크기 | 2~3nm 초미세 트랜지스터 수백억~수천억 개 초고집적 가능 | 빛의 파장(~1.55μm) 회절 한계로 소자 크기가 큼(전자칩 대비 수백~천배) |
| 메모리 및 비선형성 | SRAM/HBM 메모리 완벽 통합, ReLU·Softmax 등 비선형 정밀 구현 | 광학 RAM 부재 및 비선형 함수 구현 난제 ➔ 전자 칩과 하이브리드 협업 필수 |
[인포그래픽 1] 전통 실리콘 AI 칩(전자 스위칭) vs 광 AI 칩(WDM 다중 파장 · MZI 광 간섭) 비교
광 컴퓨터의 핵심 구성 요소 · 작동 원리 · 개발 사례
레이저 빛이 실리콘 칩 내부의 미세 도파로를 지나며 어떻게 인공지능 가중치와 곱해지고 연산되는지, 그 핵심 소자와 글로벌 선구 기업 사례를 살펴봅니다.
1) 광 컴퓨터(Photonic AI Chip)의 5대 핵심 구성 요소
연산에 쓰일 순수한 단색광 또는 서로 다른 수십 개의 파장을 동시에 발진하는 광 주파수 빗(Optical Frequency Comb)을 공급하는 전원 역할입니다.
디지털 입력 벡터(x)를 빛의 세기(진폭)나 위상으로 즉각 변환해 광도파로에 싣는 장치입니다. 수십 GHz 속도로 빛을 변조하는 마이크로링 공진기(MRR) 등이 쓰입니다.
가중치 행렬(W) 값에 따라 광선의 위상과 분배 비율을 조절하는 마흐-젠더 간섭계(MZI) 격자 또는 광자 결정 회절판으로, 빛이 통과하는 순간 행렬 곱셈이 이루어집니다.
연산이 끝나고 도착한 광자의 세기를 전류로 읽어(O-E 변환) 디지털 숫자로 복원하는 게르마늄 포토다이오드 및 아날로그-디지털 변환 회로입니다.
광학적으로 구현하기 까다로운 비선형 활성화 함수(ReLU, Softmax, LayerNorm) 계산과 모델 가중치 메모리 저장(SRAM/HBM)을 맡아 광학 코어와 3D 패키징으로 결합됩니다.
2) 작동 원리 : 빛의 간섭과 파장이 어떻게 행렬을 계산하는가?
두 개의 입력 광도파로가 50:50 광분배기를 통과한 뒤 위상 변조기(θ, φ)를 거쳐 다시 합쳐지면, 빛의 파동 간섭 공식에 의해 출력 빛의 진폭이 정확히 2×2 유니타리 행렬 곱셈 결과를 산출합니다. 이러한 MZI 소자를 수백~수천 개 격자(Mesh)로 엮고 위상을 AI 가중치 값으로 세팅하면, 레이저가 회로를 가로지르는 단 수 피코초(ps) 만에 거대 행렬 곱셈(W·x)이 계산됩니다.
서로 다른 파장(색깔) λ1 ~ λn 에 입력 벡터 요소 x1 ~ xn 을 각각 실어 하나의 도파로로 보냅니다. 도파로 옆에 특정 파장에만 공진하는 링(MRR)을 배치하면 파장별 투과율(=가중치 wi)이 곱해지고, 끝에 달린 단일 광검출기에 모든 파장의 빛이 동시에 닿으면 물리적 광 에너지 합산(w1x1 + w2x2 + ... + wnxn)이 즉시 완결됩니다.
3) 글로벌 광 컴퓨터 · 실리콘 포토닉스 주요 개발 사례
MIT 출신 연구진이 창업한 대표 기업으로, 3D 적층 실리콘 포토닉스 AI 칩 Envise와 웨이퍼 전체를 광배선으로 깔아 수십 개 칩이 초고속 통신하도록 만드는 'Passage' 광학 인터포저 플랫폼을 상용화하고 있습니다.
전자 제어 다이와 포토닉스 연상 다이를 결합해 세계 최초의 대규모 광 AI 가속기 PACE(12,000+ 광 소자 집적)를 시연했으며, 칩 내부를 빛 네트워크(Optical Network-on-Chip)로 연결한 Hummingbird를 발표했습니다.
연산기 자체보다 먼저 GPU-메모리-클러스터 간 데이터 이동 병목을 빛으로 해결하는 접근입니다. Celestial AI의 광 패브릭과 NVIDIA/Broadcom의 Co-Packaged Optics(CPO) 스위치가 차세대 LLM 슈퍼클러스터에 도입되고 있습니다.
2017년 MIT가 MZI 기반 최초 온칩 광 신경망을 발표한 데 이어, 2024년 칭화대 연구진은 분산 회절-간섭 하이브리드 광 칩 'Taichi'를 공개하여 1,396만 파라미터 규모 AI 모델을 160 TOPS/W(최신 GPU 대비 100~1,000배 높은 에너지 효율)로 추론하는 데 성공했습니다.
광 컴퓨터의 현재 기술 동향(CPO · 하이브리드)과 5대 근본 한계
"100% 빛으로만 움직이는 범용 CPU"라는 초기 이상에서 벗어나, 실리콘 CMOS와 포토닉스의 장점을 결합한 현실적 상용화 전략과 물리적 한계를 심층 분석합니다.
[인포그래픽 2] 현대 하이브리드 광-전자 AI 아키텍처(CMOS + 광행렬 코어 + CPO) 및 5대 기술적 한계
1. 현재 기술 동향 : '완전 광학 PC'에서 'CPO 광패브릭 및 하이브리드 AI 추론기'로
과거 2000년대에는 CPU와 메모리까지 모두 빛으로 대체하려 했으나, 상용화 현실성이 높은 두 갈래로 기술이 재편되었습니다.
• 단기 주류 — Co-Packaged Optics (CPO) & 광 인터포저: NVIDIA, Broadcom, Intel, Lightmatter 등이 GPU 패키지 기판 바로 옆에 실리콘 포토닉스 엔진을 통합하여, 수만 개 AI 칩 간 데이터 이동 전력과 지연을 획기적으로 줄이는 상용화가 본격화되었습니다.
• 중장기 진화 — 광-전자 하이브리드 AI 가속기: 신경망 연산에서 85%를 차지하는 선형 행렬곱은 WDM·MZI·회절 광 칩이 순식간에 처리하고, 비선형 함수(Softmax)와 메모리 제어는 바로 위에 3D 적층된 CMOS 전자 칩이 담당하는 하이브리드 구조가 가장 유력한 차세대 모델입니다.
2. 물리적 한계 : '빛을 가두지 못하는 메모리 부재'와 '전-광-전(O-E-O) 변환 오버헤드'
전자는 캐패시터나 플립플롭에 가두어 0과 1을 무한정 기억할 수 있지만, 광자는 가만히 정지시켜 저장하기(Optical RAM)가 극도로 어렵습니다. 따라서 매 레이어 연산이 끝날 때마다 빛을 전기 신호로 변환(ADC)해 전자 메모리에 저장했다가 다시 빛으로 바꾸어(DAC) 쏘아야 합니다. 고속 DAC/ADC 변환 회로가 칩 면적과 전력의 70~80%를 잡아먹는 역설적 병목이 발생하므로, 차세대 광변조기 소재인 박막 리튬니오베이트(TFLN) 등을 도입해 변환 전력을 줄이는 연구가 치열합니다.
3. 집적도 및 아날로그 정밀도 극복 과제
적외선 빛의 파장(1.3~1.55μm) 회절 한계 때문에 광학 소자는 3nm 전자 트랜지스터보다 훨씬 큽니다. 대신 전자 칩이 2차원 평면 배선에 묶여 있을 때 광 칩은 수십 개 파장(WDM)과 편광·공간 모드를 겹쳐 써서 물리적 면적 열세를 연산 다중화로 만회합니다. 또한 아날로그 광학 연산은 온도 변화와 샷 노이즈 때문에 4~8비트 정밀도가 한계이므로, 양자화·노이즈 내성 AI 모델(INT4/FP8 추론)에 특화하여 먼저 상용화하는 전략이 주류를 이룹니다.
광 컴퓨터 고전 원전 사료 · 기사 & 논문 (Original & Papers)
기존 문서에 수록된 Wikipedia 정의 원문, 2004년 한국일보 특집 기사 원문(Intel 광실리콘 기술 등), 그리고 과학세대 원전 논문을 100% 보존합니다.
광 컴퓨터 (Optical or photonic computing) 은 계산할 때 laser or diode 에 의해 만들어지는 광자 (photon) 을 사용한다. 수십년간 photon 은 기존 컴퓨터에 사용되는 전자 (electron) 보다 더 높은 bandwidth를 가진다고 알려져 왔다.
광컴퓨터는 데이터를 주고 받는데 전기 대신 빛을 사용한다. 빛은 전기보다 정보 전달의 수단으로 훨씬 유리하기 때문에 일찍부터 광통신 기술이 개발되어 쓰이고 있다. 광통신은 전기통신보다 신호가 무뎌지는 현상이 적다..... 예컨대 1,000 명이 통시에 전화통화를 한다고 치자. 전기선으로 이를 중계하려면 최소 수백가닥의 전선이 들어있는 굵기 10㎝ 이상의 대형 케이블이 필요하다. 광통신의 경우 이보다 훨씬 가는 3~5㎜ 짜리 광케이블 하나면 충분하다. 덕분에 통신망 구축비용이 기존 방식의 10분의 1 이하로 저렴하다. (광케이블은 이미 실용화 되어 우리나라에서도 많이 쓰이고 있다. 그리고 광케이블이란 빛을 전달하는 것이 결코 아니다 .... 광 케이블은 엄밀히 말하면 유리이다)
무엇보다 빛은 전기보다 10배 이상 빠르다. 빛은 1초에 지구를 7바퀴 반이나 돌 수 있지만 전기는 채 한 바퀴도 못 돈다. 80년대에는 외국과의 전화통화가 불편하기 짝이 없었다. 목소리가 전해지는데 1초 이상 지연되는 현상이 있었기 때문이다. 광통신이 보편화된 지금은 이런 현상이 거의 없다.
이러한 광통신의 장점을 물려받은 것이 광컴퓨터 기술이다. 오늘날 컴퓨터의 연산 속도가 3 GHz (초당 3억회 이상) 수준으로 높아지자 데이터의 전달 속도가 문제가 됐다. 1시간에 100대의 자동차를 생산할 수 있는 공장에 시간당 50대 분량의 재료만 공급된다면 어떻게 될까. 30분만 일하고 30분은 놀게 되는 비효율이 발생한다. PC 의 마이크로프로세서 (CPU) 가 빨라지면서 비슷한 현상이 우려되고 있다. 아무리 빨리 계산을 해도 결과를 제때 전해주지 못하기 때문에 CPU 의 성능이 제대로 발휘되지 않는다. 과학자들은 해결책을 광컴퓨터 기술에서 찾았다.
광컴퓨터 기술의 핵심은 광연산소자. 1960년대 후반 미국의 벨 연구소가 미래 슈퍼 컴퓨터를 만들기 위한 기술로 처음 개발을 시작했다. 전기 대신 아주 약한 세기의 레이저를 통해 0 과 1로 이루어진 디지털 신호를 처리한다. 광연산소자 수백·수천만개를 모으면 광집적회로가 되어, 빛으로 움직이는 CPU나 메모리를 만들 수 있다. 현재 다양한 종류의 광연산소자가 개발되어 있으며, 빠르면 10년내 순수하게 빛으로 움직이는 슈퍼 컴퓨터도 등장할 전망이다. 미래의 광컴퓨터는 기존 전자회로로 만든 컴퓨터와 비교해 크기와 구조는 훨씬 작으면서도 100배 이상의 성능을 낼 것으로 기대된다.
광연산소자는 나노 기술을 이용한 첨단 광결정소재를 이용한다. 머리카락보다도 가는 로봇을 만드는데 쓰이는 초소형전자기계기술 (Microelectromechanical systems·MEM) 로도 응용된다. 이 때문에 가격이 대당 수백억원대로 비싼 것이 흠이다. 광컴퓨터 기술이 금새 실용화 되지 못하는 이유다. 이에 따라 기존의 전기회로 컴퓨터에 광컴퓨터 기술을 접목시키는 시도가 활발하게 벌어지고 있다. 세계 최대의 반도체 기업 인텔은 최근 PC 내 외부의 데이터를 빛으로 연결해주는 광실리콘 (Silicon Photonics) 기술을 개발했다. 기존 PC의 부품을 그대로 사용하면서도 데이터 전달 속도를 월등하게 높일 수 있는 응용된 광컴퓨터 기술이다. 인텔은 내년 중으로 초당 1기가비트(Gb)의 속도로 PC 간 데이터 송수신이 가능한 시제품을 내놓을 예정이다. 인텔의 빅터 크루툴 수석 연구원은 “기존의 광컴퓨터 기술보다 월등히 저렴하면서 기존 반도체 기술과 완벽히 호환되는 것이 광실리콘 기술”이라며 “앞으로 광결정체 기술과 경쟁하게 될 것”이라고 말했다.
관련 핵심 용어 및 웹 사이트 (Terms & Sites)
기존 문서에 수록되어 있던 내부 용어 링크 및 백과사전 링크를 100% 보존합니다.