회사 소식 레이크 너머: 공동 패키지 광학 (CPO) 과 차세대 저장 장치가 AI의 데이터 이동 문제를 해결하는 방법

# 랙 너머: 공동 패키지 광학 장치(CPO)와 차세대 스토리지가 AI의 데이터 이동 문제를 해결하는 방법

데이터 센터의 코끼리: 더 이상 컴퓨팅에 관한 것이 아닙니다

선전에서 열린 CIOE 2026에서는 데이터 센터 설계자들 사이에서 흥미로운 대화의 변화가 나타났습니다. 5년 전, 다음을 중심으로 논의가 이루어졌습니다.GPU TFLOPS 및 CPU 코어 수. 오늘? 집착은PB/s(초당 페타바이트)그리고나노초 대기 시간 예산.

왜? 왜냐하면 1조개 매개변수의 AI 모델과 실시간 추론 시대에병목 현상이 계산에서 데이터 이동으로 옮겨졌습니다.. 최신 H200 GPU는 4.8PFLOPS를 처리할 수 있지만 데이터가 부족합니다. GPT-4 클래스 모델을 훈련하려면 셔플링이 필요합니다.45페타바이트의 훈련 데이터수천 개의 GPU에 걸쳐 수십억 번 이상 작동합니다.

이 기사에서는 AI 인프라를 재정의하는 CIOE 2026에서 선보인 두 가지 융합 기술을 살펴봅니다. 1.CPO(공동 패키지 광학) 및 NPO(근접 패키지 광학)– 전기 병목 현상 제거 2.차세대 엔터프라이즈 스토리지– AI의 끝없는 식욕을 위해 구축된 SSD 및 메모리 시스템

1부: CPO/NPO – 빛이 실리콘을 만났을 때

문제: 전기 상호 연결이 벽에 부딪칩니다.

기존의 광학 모듈은 PCB의 전기 트레이스를 통해 스위치에 연결됩니다. 데이터 속도가 1.6Tbps를 넘어서면서 이러한 흔적은 극복할 수 없는 장벽이 됩니다.

-신호 손실: 112Gbps PAM4(56GHz)에서 30-40dB/m -소비전력: 리타이머와 DSP는 모듈당 15~20W를 소모합니다.숨어 있음: 전기적 SerDes는 왕복 100~200ns를 추가합니다. -밀도: QSFP-DD 페이스플레이트는 스위치 ASIC당 ~51Tbps로 제한됩니다.

입력하다함께 패키지된 광학 제품: 광학엔진 통합같은 패키지 안에스위칭 실리콘으로.

CIOE 2026에서 밝혀진 것: CPO는 현실입니다

전시회를 둘러보면서 CPO는 회의 논문에서 다음으로 전환했습니다.배송 실리콘:

#### 1.6.4T NPO 광학 엔진(华工正源/Huagong Zhongyuan) -구성: 양자점 DWDM 레이저를 이용한 8× 800G 레인 -전력 효율성: 3.5pJ/비트(플러그형 모듈의 경우 8pJ/비트) -폼 팩터: 스위치 패키지 기판에 통합 -상태: 2026년 4분기 Tier-1 하이퍼스케일러로 샘플링

#### 2.실리콘 포토닉스 플랫폼(GlobalFoundries) 그들의45nm CMOS 호환 SiPh프로세스를 통해 다음이 가능해집니다. -모놀리식 통합레이저, 변조기 및 광검출기 -웨이퍼 규모 테스트조립비용 60% 절감 -다중 파장 소스DWDM 애플리케이션용

#### 3.Light联芯科의 하드웨어 혁신중국 스타트업이 공개한ZW1000 마스크리스 프로그래밍 가능 리소그래피 시스템실리콘 포토닉스의 경우: -신속한 프로토타이핑: 새로운 디자인을 위해서는 몇 달이 아닌 몇 주가 걸립니다.소량 생산: 10K개/년 미만으로 경제적 -유연성: 맞춤형 애플리케이션을 위해 재구성 가능한 도파관

이는 CPO의 가장 큰 과제를 해결합니다.디자인 반복 주기. 기존의 포토마스크 비용(20만 달러 이상)으로 인해 실험 비용이 엄청나게 높아졌습니다.

CPO vs. NPO vs. Pluggable: 배포 매트릭스

모든 애플리케이션이 CPO의 복잡성을 요구하는 것은 아닙니다. 각 기술이 적합한 경우는 다음과 같습니다.

| 건축 | 최고의 대상 | 대역폭 | 전원 | 비용 | 가용성 | |---------------|----------|------------|-------|------|---------------| |플러그형(QSFP-DD)| 척추-리프 네트워크 | 800G-1.6T | 15-20W | $ | 지금 | |LPO(선형 플러그형)| 랙-투-랙 <100m | 800G | 8-12W | $$ | 지금 | |NPO(니어패키지)| AI 훈련 클러스터 | 3.2-6.4T | 5-8W | $$$ | 2027년 | |CPO(공동 패키지)| 스위치 패브릭 | 12.8T+ | 3-5W | $$$$ | 2028 |

CIOE의 주요 통찰력: 2026~2027 배포의 경우하이브리드 아키텍처가 지배적: - 스파인 스위치용 CPO(ASIC당 51.2Tbps+) - 리프 스위치용 플러그형 800G - 컴퓨팅 패브릭 GPU 상호 연결용 LPO

기술 심층 분석: CPO의 실제 작동 방식

CPO 솔루션을 평가하는 엔지니어에게는 아키텍처를 이해하는 것이 중요합니다.

#### 기존 플러그형 모듈 경로: ``` GPU → PCIe → NIC ASIC → PCB 트레이스(30cm) → 리타이머 → 모듈 DSP → 레이저 → 파이버 → 포토다이오드 → DSP → 리타이머 → PCB 트레이스 → 스위치 ASIC ```총 대기 시간: ~800ns힘: 800G 양방향의 경우 ~35W

#### CPO 경로: ``` 스위치 ASIC → 온패키지 도파관(3mm) → 변조기 → 광섬유 → 포토다이오드 → 도파관 → 스위치 ASIC ```총 대기 시간: ~200ns힘: 800G 양방향의 경우 ~8W

지연 시간 감소는 혁신적입니다.동기식 병렬 훈련(예: ZeRO-3, FSDP) 집단 통신 기본 요소(all-reduce, all-gather)가 실행 시간을 지배합니다.

생태계 문제: 채택이 점진적인 이유

강력한 기술적 이점에도 불구하고 CPO는 다음과 같은 장애물에 직면해 있습니다.

1.공급망 미성숙: 전 세계적으로 자격을 갖춘 벤더는 3~4개에 불과합니다. 2.스위치 ASIC 재설계: Broadcom/Nvidia/Marvell 3과의 공동 개발이 필요합니다.열 관리: 400W+ 스위치 ASIC + 광학 엔진 = 복잡한 냉각 4.수리 경제학: 광학 엔진 고장 = 스위치 모듈 전체 폐기($50K+)

CIOE의 업계 합의: CPO가 캡처합니다.2028년 스위치 시장의 15~20%, 하이퍼스케일 AI 클러스터에 집중되어 있습니다. 플러그형 모듈은 기업과 통신업체에서 여전히 지배적입니다.

2부: 저장 측면 – 야수 먹이주기

모두가 GPU에 집착하는 동안 CIOE의 엔터프라이즈 스토리지 전시회는 똑같이 중요한 이야기를 전했습니다.AI의 데이터 파이프라인은 가장 느린 구성 요소만큼 빠릅니다..

AI 스토리지 딜레마

10TB의 데이터에 대해 1조 개의 매개변수 모델을 교육하려면 다음이 필요합니다.데이터세트 로딩: 스토리지에서 10TB 읽기 → GPU 메모리 -체크포인트: 매 epoch마다 작성된 2TB 모델 가중치(훈련 실행당 10-100×) -셔플 작업: 전체 데이터 세트에 대한 무작위 액세스 패턴 -그라데이션 동기화: 역전파 중 분산 쓰기

기존 SAS HDD?우스꽝스러울 정도로 부족함. 심지어 SATA SSD도 어려움을 겪습니다. 이곳은NVMe PCIe 5.0 SSD그리고DDR5 영구 메모리그림을 입력하세요.

CIOE 2026 스토리지 전시업체가 전시한 내용

#### 1.PCIe 5.0 엔터프라이즈 SSD: 더 뉴 베이스라인 톱스타의 전시물 포함마이크론 7500 시리즈그리고킹스턴 DC1500M다음을 보여주는 드라이브: -순차적 읽기: 14,000MB/s(PCIe 3.0의 경우 3,500MB/s) -무작위 읽기 IOPS: 2.5M (분산 훈련 데이터 로딩에 중요) -지구력: 5년간 3 DWPD(Drive Writes Per Day) = 15TB 드라이브에 총 82PB 쓰기

실제 영향: 16개 드라이브 NVMe JBOF는 데이터 세트 스트리밍을 위한 듀얼 100GbE 링크를 포화시켜 스토리지의 교육 병목 현상을 제거합니다.

#### 2.DDR5-5600 서버 메모리: 용량 초과 AI 워크로드에는 두 가지 모두가 필요합니다.용량(서버당 512GB-2TB) 및대역폭(소켓당 >400GB/s). DDR5-5600은 다음을 제공합니다. -대역폭: DIMM당 44.8GB/s(DDR4-3200의 경우 32GB/s) -용량: 128GB RDIMM 모듈이 표준이 됨 -전력 효율성: DDR4의 경우 1.1V 대 1.2V(10% 감소)

CIOE에서 우리는 보았습니다.삼성의 512GB DDR5-5600 RDIMM– LLM 추론 서버에 대해 소켓당 2TB(DIMM 16개)를 활성화합니다. 이를 통해 전체 70B 매개변수 모델을 그대로 유지할 수 있습니다.DRAM에 상주, 모델 교환 오버헤드를 제거합니다.

#### 3.CXL 메모리 확장: Game Changer Compute Express Link(CXL) 2.0을 사용하면메모리 풀링서버 간: -공유 메모리 풀: 여러 CPU가 공통 DRAM/영구 메모리에 액세스 -숨어 있음: 원격 메모리 액세스의 경우 <200ns(NVMe의 경우 밀리초) -사용 사례: LLM 추론 클러스터는 노드 전체에서 KV 캐시를 공유합니다.

여전히 떠오르는 동안(2026년 생산 제한) CXL 메모리 확장은 가능합니다.추론 클러스터 비용을 30% 절감노드당 메모리 과잉 프로비저닝을 제거합니다.

AI용 엔터프라이즈 스토리지 아키텍처: 3계층 모델

데이터 센터 설계자와의 CIOE 논의에 따르면 최적의 AI 스토리지 스택은 다음과 같습니다.

####계층 1: GPU HBM(고대역폭 메모리)-용량: GPU당 80~192GB(H200/B200) -대역폭: 4~5TB/초 -목적: 활성 훈련 배치, 정방향/역방향 전달 중 모델 가중치

####계층 2: 호스트 DRAM(DDR5)-용량: 서버당 1~2TB -대역폭: 소켓당 400-800GB/s -목적: 데이터세트 프리패칭, 그래디언트 누적, 추론 KV-캐시

####계층 3: NVMe SSD 스토리지-용량: 서버당 60~240TB(15TB 드라이브 4~16개) -대역폭: 50-200GB/s(드라이브 전체에서 RAID 0) -목적: 전체 데이터세트 저장, 체크포인팅, 장기 모델 버전 관리

임계비율: 목표로하다호스트 DRAM : NVMe = 1:50(예: 2TB DRAM, 100TB NVMe). 이렇게 하면 데이터 세트 프리페칭으로 인해 GPU 훈련이 중단되지 않습니다.

TCO 논쟁: 프리미엄 스토리지가 좋은 이유

1,000-GPU AI 훈련 클러스터를 고려해보세요: -GPU 비용: $30M (1,000× H100당 $30K) -연간 전력: 500만 달러(150달러/GPU × 1,000 × 8,760시간 × 0.12달러/kWh) -기회비용: 유휴 클러스터의 경우 시간당 $5,000(100% 활용 시 연간 $4300만)

이제 스토리지 병목 현상으로 인해 효과적인 GPU 활용도가 감소한다고 상상해 보십시오.85%(15% 유휴 데이터 대기 중): -낭비되는 GPU 시간: $645만/년 -병목 현상 제거 비용: $500K(프리미엄 NVMe + DDR5 + 100GbE 네트워킹)

ROI: 1년차에는 1,200%. 이것이 하이퍼스케일러가 주저하지 않고 2,000달러짜리 PCIe 5.0 SSD를 배포하는 이유입니다.

3부: Topstar의 통합 솔루션 – 하드웨어 + 전문성

CIOE 2026 참가자이자 업계 공급업체로서,탑스타기술AI 인프라 성공을 위해 고객을 고유하게 포지셔닝합니다.

우리의 포괄적인 제품 포트폴리오

####광 상호 연결- 800G/1.6T QSFP-DD/OSFP 모듈 - 하이브리드 아키텍처용 400G/200G 솔루션 - 랙 규모 연결용 AOC/DAC 케이블 - MPO/MTP 파이버 하네스

####엔터프라이즈 스토리지-SSD: 마이크론, 킹스턴, 삼성 기업용 NVMe (PCIe 4.0/5.0) -서버 메모리: DDR5-4800/5600 RDIMM 및 LRDIMM -GPU 메모리: AI 가속기용 HBM2e/HBM3 (OEM 소싱)

####AI 서버 구성 요소- NVIDIA H100/H200/B100 GPU(공인 대리점) - Mellanox ConnectX-7 NIC(RDMA용 400GbE) - Broadcom 스위치 및 SmartNIC

고객이 탑스타를 선택하는 이유

#### 1.단일 공급업체의 단순성10개의 서로 다른 공급업체 관리를 중단하세요. 우리는 완전한 AI 랙 솔루션을 제공합니다. - BOM(Bill of Materials) 최적화 - 호환성 사전 검증 - 통합 배송 및 지원

#### 2.유연한 소싱 옵션-OEM 등급 구성 요소대규모 배포용 -오리지널 브랜드모듈(Cisco/Arista/Mellanox 호환) -화이트박스 솔루션비용에 민감한 프로젝트를 위한

#### 3.기술 공동 개발우리 엔지니어들은 다음과 같이 협력합니다. -네트워크 토폴로지 설계(클로스, 팻트리, 잠자리) -스토리지 계층 크기 조정워크로드 프로파일링 기반 -전력 및 냉각 예산랙 수준 배포용

#### 4.신속한 배포 일정리드타임이 16~24주인 업계에서 우리는 다음을 유지합니다: -전략적 구성요소 재고(500만 달러 이상의 주식) -4~8주 배송표준 구성의 경우 -신속한 옵션긴급 배포용

사례 연구: 500-GPU 교육 클러스터 배포

최근 고객 프로젝트는 당사의 엔드투엔드 역량을 보여줍니다.

요구사항:- 500× NVIDIA H100 GPU - 노드당 100TB 데이터 세트 스토리지 - 전체 축소 작업을 위한 <10μs 네트워크 대기 시간

탑스타 솔루션:-네트워킹: - Mellanox ConnectX-7 400GbE NIC 500개 - 스파인 스위치용 800G QSFP-DD 광 모듈 64개 - 리프 스위치용 400G QSFP-DD 모듈 1,024개 -저장: - Kingston DC1500M 15TB NVMe SSD 4,000개(서버당 8개) - 서버당 8GB 캐시를 갖춘 RAID 컨트롤러 -메모리: - 32,000× 삼성 DDR5-5600 64GB RDIMM(서버당 64개, 4TB/노드)

배포 타임라인:- 1~2주: BOM 마무리 및 조달 - 3~6주: 구성 요소 배송 및 통합 - 7~8주: 랙 설치 및 네트워크 시운전 - 9주: 워크로드 검증 및 전달

결과: 클러스터 달성94.2% GPU 활용도일주일 동안의 훈련 기간 동안 업계 최고 수준을 기록했습니다.

앞으로의 길: 2027-2030년 기술 진화

CIOE 2026 인사이트와 업계 로드맵을 바탕으로 앞으로 나올 내용은 다음과 같습니다.

2027년: 주류 AI 인프라

-3.2T 광학 모듈대량 생산 개시 -DDR6 샘플링시작(DIMM당 7,200MT/s, 60GB/s) -PCIe 6.0 SSD28GB/s 순차 읽기 제공 -CXL 3.0랙 전반에 걸쳐 메모리 풀링 가능

2028년: CPO 채택 변곡점

-12.8T 스위치 ASIC통합 CPO 포함 -레인당 400G 신호(현재 최대 200G 대비) -광회로 스위칭동적 대역폭 할당의 경우 -최초의 상업용 광자 AI 가속기(아날로그 광컴퓨팅)

2030년: 광학적으로 상호 연결된 데이터 센터

-랙 수준 광 스위칭배전 교체 -실리콘 포토닉스는 구리보다 저렴해진다>100Gbps에서 -영구 메모리(CXL 연결) 웜 스토리지를 위해 NVMe를 대체 -양자 얽힌 보안 링크DC 간 AI 모델 동기화를 위해

결론: 인프라는 지능이다

헤드라인을 장식하는 AI 모델(GPT-5, Gemini Ultra, Claude Opus)은그 아래 인프라. CIOE 2026에서 메시지는 명확했습니다.AI시대는 광모듈 1개, SSD 1개, 메모리 DIMM 1개를 한번에 하나씩 구축하는 시대.

AI 인프라를 배포하는 조직의 경우 세 가지 필수 사항이 나타났습니다.

1.완벽한 기술을 기다리지 마세요– 800G 및 DDR5는 이제 생산 준비가 되었습니다 2.단순한 컴퓨팅이 아닌 데이터 이동을 위한 설계– 스토리지와 네트워킹은 GPU와 동일합니다. 3.스택을 이해하는 공급업체와 협력하세요– 광학, 스토리지, 컴퓨팅은 함께 설계되어야 합니다.

탑스타기술최첨단 구성 요소, 깊이 있는 기술 전문 지식, 공급망 민첩성을 결합하여 공격적인 배포 일정을 제공하는 이 교차점에 서 있습니다. 첫 번째 AI 클러스터를 구축하든, 100,000개의 GPU로 확장하든, 우리는 귀하의 인프라 파트너가 될 준비가 되어 있습니다.

지능의 미래는 오늘날 건설되고 있습니다. 함께 만들어 봅시다.

---

탑스타테크놀로지 소개

톱스타다음을 전문으로 하는 AI 인프라 구성 요소의 선도적인 공급업체입니다.광학 모듈: 800G/1.6T QSFP-DD, 400G OSFP, CPO/NPO 솔루션 -엔터프라이즈 스토리지: NVMe SSD(PCIe 4.0/5.0), Enterprise SATA, U.2/U.3 폼 팩터 -서버 메모리: DDR5 RDIMM/LRDIMM, AI 가속기용 HBM -GPU 및 네트워킹: NVIDIA AI GPU, Mellanox SmartNIC, Broadcom 스위치

15년 이상 하이퍼스케일 데이터 센터, 통신 사업자 및 기업 고객에게 서비스를 제공해 온 우리는OEM급 품질~와 함께화이트박스 경제학.

📧엔지니어링 문의: dsale@topsfp.com 🌐제품 카탈로그: www.opticalmodulemanufacturers.com | www.qsfp28module.com 📱연결하다: [페이스북](https://www.facebook.com/topstar.sfp/) | [링크드인](https://www.linkedin.com/company/13177171/)

---

키워드: 공동 패키지 광학 장치, CPO, NPO, AI 데이터 센터, 엔터프라이즈 SSD, DDR5 서버 메모리, NVMe PCIe 5.0, 실리콘 포토닉스, 광학 상호 연결, GPU 스토리지, CIOE 2026, 고속 네트워킹, AI 인프라

SEO 태그: #CoPackagedOptics #CPO #NPO #AIInfrastructure #EnterpriseSSD #DDR5Memory #DataCenter #CIOE2026 #SiliconPhotonics #GPUtorage #OpticalModules #NVMe