엔비디아가 차세대 AI 가속화 시대를 위한 엔비디아 RTX 2000 에이다 제너레이션 GPU(NVIDIA RTX 2000 Ada Generation GPU)를 출시했다고 밝혔다. 현재 산업 전반에 걸쳐 변화를 주도하고 있는 생성형 AI의 이점을 활용하기 위해 기업들은 워크플로를 작동시킬 수 있는 적절한 하드웨어를 선택해야 한다. 엔비디아 RTX 2000 에이다 제너레이션은 최신 AI, 그래픽, 컴퓨팅 기술을 컴팩트 워크스테이션에 적용해 전문가용 워크플로에서 이전 세대 RTX A2000 12GB 대비 최대 1.5배의 성능을 제공한다. 새로운 GPU는 정교한 3D 환경 제작부터 복잡한 설계 검토의 간소화, 산업 디자인에 이르기까지 다양한 기능을 처리할 수 있다. 향상된 기능은 전문가들이 성능의 저하 없이 더 많은 것을 실현할 수 있도록 지원하며 AI로 가속화된 미래를 위한 기반을 제공한다. AI 기반 도구, 멀티 디스플레이 설정, 고해상도 콘텐츠 등과 같은 최신 멀티 애플리케이션 워크플로에는 GPU 메모리에 대한 요구가 상당히 높다. 전문가들은 RTX 2000 에이다 제너레이션의 16GB 메모리를 통해 최신 기술과 도구를 활용해 데이터를 더욱 빠르고 효과적으로 작업할 수 있다. 엔비디아 RTX 기술로 구동되는 새로운 GPU는 엔비디아 DLSS를 통해 그래픽에 높은 사실감을 부여한다. 이를 통해, 이전보다 3배 이상 빠른 초고화질의 실사에 가까운 레이 트레이싱 이미지를 제공할 수 있다. 또한, RTX 2000 에이다 제너레이션은 제품 디자인과 엔지니어링 설계 검토와 같은 엔터프라이즈 가상 현실 워크플로에 몰입감 높은 경험을 제공한다.     성능과 활용성에 AI 기능까지 결합된 RTX 2000 에이다 제너레이션은 다양한 산업 분야의 전문가들이 효율성을 달성할 수 있도록 지원한다. 건축가와 도시 설계사는 시각화 워크플로와 구조 분석을 가속화해 설계 정밀도를 높일 수 있다. 산업용 PC를 사용하는 제품 디자이너와 엔지니어는 빠르고 사실적인 렌더링과 AI 기반 생성 디자인을 통해 제품 디자인의 반복 작업을 수행할 수 있다. 콘텐츠 크리에이터는 고해상도 동영상과 이미지를 원활하게 편집하고, AI를 활용한 사실적인 시각 효과를 연출해 콘텐츠 제작에 도움을 받을 수 있다. 아울러 중요한 임베디드 애플리케이션과 에지 컴퓨팅에서 RTX 2000 에이다 제너레이션은 의료 기기의 실시간 데이터 처리를 지원한다. 또한, 예측 유지보수를 통해 제조 공정을 최적화하거나 유통  환경에서 AI 기반 인텔리전스를 구현할 수 있다. 엔비디아 RTX 2000 에이다 제너레이션은 엔비디아 에이다 러브레이스(Lovelace) GPU 아키텍처의 최신 기술을 탑재하고 있다. 여기에는 ▲최대 1.7배 빠른 레이 트레이싱 성능으로 충실하고 사실적인 렌더링이 가능한 3세대 RT 코어 ▲이전 세대 대비 최대 1.8배의 AI 처리량, 구조화된 희소성, FP8 정밀도로 AI 가속 도구와 애플리케이션에 더 높은 추론 성능을 제공하는 4세대 텐서 코어 ▲이전 세대 대비 최대 1.5배의 FP32 처리량으로 그래픽과 컴퓨팅 워크로드의 성능이 향상된  쿠다(CUDA) 코어 ▲이전 세대와 동일한 70W의 전력으로 전문가용 그래픽, 렌더링, AI, 컴퓨팅 워크로드 전반에서 최대 2배의 성능 향상 ▲이전 세대 대비 가상 현실 워크플로 성능 최대 3배 향상 ▲더 큰 규모의 프로젝트를 처리할 수 있는 16GB의 GPU 메모리 및 오류 수정 코드 메모리 ▲AI 기반 그래픽을 개선하고 고품질 프레임을 추가로 생성해 성능을 높이는 DLSS 3 ▲AV1을 지원하며 H.264보다 효율을 40% 높인 8세대 엔비디아 인코더(NVENC) 등이 있다. 한편, 엔비디아는 RTX 엔터프라이즈 드라이버의 최신 업데이트에 그래픽 워크플로를 개선하는 다양한 기능과 함께 RTX 2000 에이다 지원을 포함한다고 밝혔다. 여기에는 ▲AI 기반의 표준 다이나믹 레인지(SDR)에서 하이 다이나믹 레인지(HDR)로 톤 매핑을 지원하는 비디오 트루HDR(Video TrueHDR) ▲엔비디아 GPU에서 최신 대규모 언어 모델(LLM)에 대한 추론 성능을 최적화하고 가속화하는 오픈소스 라이브러리인 텐서RT-LLM(TensorRT-LLM) ▲비트 심도 확장 기술과 새로운 저지연 B프레임을 통한 비디오 품질 개선과 비디오 코덱의 코딩 효율 향상 ▲더 빠른 작업 완료를 위해 실행 간접 확장 엔비디아 API를 사용해 CPU에서 GPU로 작업을 오프로드하는 기능 ▲데스크톱의 엔비디아 제어판(NV Control Panel)에서 GPU 일련 번호를 표시하는 기능 등이 있다. RTX 2000 에이다 제너레이션의 성능을 앞서 활용하고 있는 기업으로는 솔리드웍스(SOLIDWORKS) 애플리케이션을 보유한 다쏘시스템, 롭 월커스 디자인 앤 엔지니어링(Rob Wolkers Design and Engineering), WSP 등이 있다. 다쏘시스템이 2월 11일~14일 미국 댈러스에서 진행한 ‘3D익스피리언스 월드’에서는 엔비디아 RTX 2000 에이다로 구동되는 다쏘시스템 솔리드웍스 애플리케이션의 실시간 데모가 진행되기도 했다. 다쏘시스템 솔리드웍스 그래픽 애플리케이션 연구개발 책임자인 올리비에 제그던(Olivier Zegdoun)은 “고효율 차세대 아키텍처, 저전력 소비, 대용량 프레임 버퍼를 갖춘 새로운 엔비디아 RTX 2000 에이다는 솔리드웍스 사용자에게 큰 도움이 될 것이다. 이 제품은 디자이너와 엔지니어가 더 큰 데이터세트에서도 완전한 모델 충실도로 혁신적인 제품 경험을 빠르게 개발할 수 있도록 뛰어난 성능을 제공한다”고 말했다.  엔비디아 RTX 2000 에이다는 현재 애로우 일렉트로닉스(Arrow Electronics), 잉그램 마이크로(Ingram Micro), 리드텍(Leadtek), PNY, 료요 엘렉트로(Ryoyo Electro), TD시넥스(TD SYNNEX) 등 글로벌 유통 파트너를 통해 구매할 수 있다. 오는 4월부터는 델 테크놀로지스, HP, 레노버 등에서도 구매 가능하다.

AMD는 라이젠(Ryzen) 임베디드 프로세서와 버설(Versal) 적응형 SoC를 단일 통합 보드에 결합하여 확장 가능한 전력 효율적인 솔루션을 제공하는 ‘AMD 임베디드+(AMD Embedded+)’를 출시했다. AMD가 인증하는 임베디드+ 통합 컴퓨팅 플랫폼은 ODM 고객들이 추가 하드웨어 및 R&D 리소스에 대한 부담 없이 품질 인증 및 구현 시간을 단축하여 보다 신속하게 제품을 시장에 출시할 수 있도록 지원한다. 임베디드+ 아키텍처를 활용하는 ODM 업체들은 공통의 소프트웨어 플랫폼을 통해 의료, 산업 및 자동차 애플리케이션을 위한 저전력 및 소형, 긴 수명 주기의 설계가 가능하다.     임베디드 프로세서와 적응형 SoC를 결합한 임베디드+ 아키텍처는 AMD의 x86 컴퓨팅과 통합 그래픽 및 프로그래머블 하드웨어를 활용해 중요한 AI 추론 및 센서 융합 애플리케이션을 지원한다. AMD의 적응형 컴퓨팅은 안정적인 성능의 저지연 프로세싱을 지원하는 데에 초점을 맞추었으며, 여기에 탑재된 AI 엔진은 높은 수준의 와트당 성능을 통해 향상된 추론 기능을 제공한다. 또한 AMD의 ‘젠(Zen)’ 코어와 라데온(Radeon) 그래픽을 탑재해 향상된 4K 멀티미디어 경험을 위한 렌더링 및 디스플레이 옵션을 지원하며, 4K H.264/H.265 인코딩 및 디코딩용 내장형 비디오 코덱도 제공한다. 한편, AMD는 시스템 개발자의 경우 임베디드+ 아키텍처 기반 생태계의 ODM 보드 제품을 통해 포트폴리오를 확장하고, 고객 대상의 애플리케이션에 가장 적합한 성능 및 전력 특성을 제공할 수 있다고 소개했다. 임베디드+ 아키텍처 기반의 첫 번째 ODM 솔루션인 사파이어 테크놀로지의 사파이어 엣지+(Sapphire Edge+) VPR-4616-MB는 저전력 Mini-ITX 폼팩터 마더보드 제품이다. 라이젠 임베디드 R2314 프로세서와 버설 AI 엣지 VE2302 적응형 SoC를 활용하여 30W의 낮은 전력으로 높은 성능을 제공한다. VPR-4616-MB는 메모리와 스토리지, 전원공급장치 및 섀시를 포함한 전체 시스템으로도 이용할 수 있다. AMD의 체탄 호나(Chetan Khona) 산업, 비전, 헬스케어, 과학 부문 수석 디렉터는 “자동화 시스템에서 센서 데이터는 시간이 경과할수록 가치가 감소한다. 따라서, 지연시간의 최소화와 일관성 있는 응답 성능을 통해 가장 최신 정보를 기반으로 동작이 이뤄지도록 해야 한다.”며, “대부분의 산업 및 의료 애플리케이션에서 의사결정은 수 밀리초 내에 이뤄져야 한다. 임베디드+는 높은 에너지 효율과 컴퓨팅 성능을 통해 파트너 및 고객의 데이터 가치를 극대화하고, 해당 시장 및 고객의 요구사항을 해결하는 데 집중할 수 있도록 지원한다”고 말했다.

AI 반도체 기업인 사피온(SAPEON)은 전작 대비 속도가 4배 향상된 데이터센터용 AI 반도체 ‘X330’ 을 출시한다고 밝혔다. TSMC의 7나노 공정을 통해 생산된 X330은 추론용 NPU로서 전작인 X220에 비해 응용 범위가 확대되었다. 따라서 보다 다양한 분야와 산업군에서 손쉽게 활용할 수 있는 NPU라는 것이 사피온의 설명이다. X330은 기존 X220 대비 4배 이상의 연산 성능, 2배 이상의 전력 효율을 확보하였다. 또한 X330은 동영상 관련 프로그램의 처리 속도 향상을 위해 비디오 코덱 및 비디오 후처리 IP를 내장하고 있다. X330은 내장된 하드웨어 IP를 통해 4채널 4K 60fps 동영상 입력 처리가 가능하다. 또한 X330은 대화형 AI 챗GPT의 원천기술인 트랜스포머(Transformer) 기반 LLM(대규모 언어 모델) 실행을 달성하였다. 사피온은 이러한 성능과 AI 반도체 기술력을 기반으로, SK텔레콤과 협력을 강화하여 신규 서비스 시장 공략에 나서고 있다. 특히 사피온은 2022년 12월에 SK브로드밴드 가산 IDC 내에 사피온 AI 반도체 X220 장착 서버를 사용하여 7.6 페타옵스(Peta OPS) 처리량에 달하는 대규모 NPU 팜을 구축하였고, 이를 통해 실제 데이터센터 환경에서 서비스를 상용화하고 운영하는 프로젝트를 추진한 바 있다. 이는 실제 서비스 상용화를 목표로 대규모 NPU 팜을 구축한 사례다. 사피온은 "NPU 팜 프로젝트를 통해 이미지 분석, 자연어 처리, 화질 개선 등 다양한 분야에서의 상용화 테스트를 수행함으로써 비즈니스 모델 확대 가능성을 확인하였다"고 밝혔다.     사피온은 향상된 성능 및 전력효율을 제공하는 X330을 통해 LLM 지원을 추가하여 전반적인 TCO(총소유비용)을 개선함으로써, AI서비스  모델 개발 기업 및 데이터센터 시장 공략에 나설 계획이다. 사피온은 X330 반도체 하드웨어와 함께 서버 장착시 성능을 최적화할 수 있는 ONNX(개방형 신경망 교환, Open Neural Network Exchange) 기반의 소프트웨어 스택을 지원하며, AI 추론 플랫폼 소프트웨어 및 SDK(소프트웨어 개발 도구)도 함께 제공한다.  사피온은 이번에 출시한 데이터센터용 AI 반도체인 X330과 함께, 향후 자율주행 자동차용 IP(반도체 설계자산), CCTV 등 고성능 에지 디바이스용 AI NPU도 선보일 계획이다. 사피온은 주요 고객사들을 대상으로 X330 시제품 테스트와 고객사들과 신뢰성 검증 작업을 진행하고 2024년 상반기부터 양산을 시작할 예정이다. 사피온의 류수정 대표는 “사피온은 지난 2020년 국내 최초로 데이터센터용 AI 반도체 X220을 발표한 이후 기반 서비스를 다수 제공하여 시장에서의 검증을 완료하였고, 자동차, 보안, 미디어 등 다양한 분야로 상용 서비스 분야들을 지속적으로 확대하고 있다. X220의 장점을 극대화한 X330으로 AI 서비스 모델 개발 기업 및 데이터 센터 시장 공략에 박차를 가할 전략이다. 산업 전분야에서 AI 반도체 활용도를 높여 고도의 AI 기술을 누구나 저렴하게 이용할 수 있게 제공함으로써, 모두가 첨단 기술 발전의 혜택을 향유할 수 있는 사회를 만드는데 공헌하고자 한다”고 전했다.

시스코가 자사의 연례행사인 웹엑스원(WebexOne)에서 커뮤니케이션 및 협업 경험을 향상시키는 새로운 AI 전략과 고객의 생산성 및 정확도를 강화할 수 있는 신규 기능을 갖춘 웹엑스 AI 어시스턴트(Webex AI Assistant)를 공개했다. 웹엑스(Webex)는 실시간 통신을 바탕으로 낮은 대역폭에서도 선명한 오디오와 화상 통화 및 미팅을 지원할 예정이다. 웹엑스 AI 전략과 웹엑스 AI 어시스턴트는 웹엑스 스위트(Webex Suite), 시스코 협업 장비, 웹엑스 컨택센터, 웹엑스 커넥트(Webex Connect) 및 웹엑스 컨트롤 허브(Webex Control Hub)를 포함한 웹엑스 포트폴리오 전반에 걸쳐 적용된다. 웹엑스의 새로운 실시간 미디어 모델은 오디오 및 영상 품질을 향상시킨다. 이 모델은 여러 미디어 스트림을 기반으로 사람과 사물 인식 및 제스처를 포함한 움직임 분석 등 다양한 아웃풋을 제공한다. 웹엑스에 탑재된 미디어 모델은 텍스트 기반의 미팅 요약과 미팅 하이라이트에서 대화 맥락을 이해하는 데 오디오 및 영상 채널을 활용한다. 텍스트, 오디오 및 영상 AI를 모두 활용함으로써 웹엑스 사용자는 풍부한 실시간 정보를 얻을 수 있다. 앞으로 웹엑스에서는 미팅 참가자가 미팅에서 나갔을 때 퇴장한 것을 인식하여 미팅 메모를 캡처하고, 해당 참가자가 돌아왔을 때 신속하게 업데이트된 정보를 제공할 수 있게 된다. 회의 참석자들은 네트워크 장애로 인한 영향을 자주 받으며, 이는 통화 및 회의 진행에 직접적인 영향을 미칠 수 있다. 예를 들어 참석자들이 자동차, 호텔 객실 또는 신호가 좋지 않은 지역에서 접속할 때 연결이 끊기는 현상을 경험할 수 있다. 고르지 못한 오디오 또는 영상은 원활한 대화를 방해하고 회의 참가자부터 비즈니스 컨택센터에 문의하는 고객에 이르기까지 다양한 사용자로 하여금 불편을 초래할 수 있다. 시스코는 실시간 커뮤니케이션을 재정의하고 오디오 품질 이슈를 해결하기 위한 새로운 웹엑스 AI 코덱을 발표했다. 이 생성형 AI 솔루션은 연결이 불안정한 지역에서도 네트워크 상태와 상관없이 선명한 오디오를 제공한다. 웹엑스는 AI 코덱을 바탕으로 네트워크 패킷 손실을 복구할 수 있도록 대규모 중복 전송을 허용한다. 또한 웹엑스 AI 코덱에 소음 제거, 에코 제거, 대역폭 확장과 같은 음성 향상 기능이 내장되어 있어 탁월한 오디오 선명도를 제공한다. 마찬가지로 웹엑스는 머신러닝(ML) 기술을 바탕으로 초해상도를 사용해 비디오 품질을 향상시키며, 대역폭에 관계 없이 높은 비디오 품질의 고화질 회의를 제공할 예정이다.   ▲ 시스코 웹엑스 AI 어시스턴트   새롭게 출시된 웹엑스 AI 어시스턴트는 근로자의 효율적인 업무 수행을 위해 향상된 기능을 제공한다. 더불어 업무와 IT 관련 비용을 줄여 비즈니스 가치를 창출한다. 사용자는 "내가 놓친 미팅에 대해 업데이트해 줘" 등과 같은 문장을 입력하여 질문할 수 있으며, AI 어시스턴트는 질문을 바탕으로 실시간 답변을 생성한다. 이 기능은 시스코 콜라보레이션 장비에 기본적으로 포함되어 있으며 웹엑스 포트폴리오에도 적용될 예정이다. 또한, 웹엑스 AI 어시스턴트는 메시지 어조 변경, 컨택센터 답변 제안, 미팅 요약, 메시지 요약, 슬라이도(Slido) 주제 요약 등의 신규 기능을 제공한다. 이들 기능은 현재 상용화 단계에 있으며, 2023년 말 이전에 출시될 예정이다. 웹엑스는 사용 사례 및 교육에 따라 특정 LLM(대규모 언어 모델)이 다른 모델보다 더 적합하다는 점을 이해하고 있으며 상용, 오픈소스, 시스코 독점 및 엄선된 고객 모델을 결합하여 향상된 경험을 제공할 예정이다. 한편, 시스코는 "수년간 자연어, 오디오 및 비디오 인텔리전스 및 분석 기능을 갖춘 AI를 활용해 왔으며 투명성, 공정성, 책임성, 개인정보 보호, 보안 및 신뢰성에 대한 표준을 준수하면서 AI를 활용하는 것을 사명으로 삼아 '책임감 있는 AI 체계(Responsible AI Framework)'를  AI 제품에 적용해 왔다"고 밝혔다. 시스코의 보안 및 협업 부문 부회장인 지투 파텔(Jeetu Patel) 총괄 매니저는 “우리는 하이브리드 근무 시대의 전환점에 서 있다”면서, “AI는 격차를 해소하고 근로자들이 제약없이 근무하고 소통하는 데 있어 매우 중요한 역할을 하고 있다. 앞으로 시스코 고객들은 웹엑스 플랫폼에 널리 적용되는 AI의 이점을 누릴 수 있을 것”이라고 전했다.

서지영 지음 / 1만 9000원 / 도서출판 길벗   챗GPT란 무엇인가? 어떻게 활용할 수 있는가? 자연어 처리 개념부터 동작 원리, 실전 활용법, API까지 다루는 챗GPT 활용 가이드 챗GPT 열풍이 뜨겁다. 챗GPT란 무엇이고, 어디에 어떻게 활용할 수 있는 걸까? 챗GPT의 동작 원리를 이해하려면 먼저 자연어 처리 개념을 이해해야 한다. 이 책은 자연어 처리 개념과 챗GPT의 동작 원리부터 설명하며, 새로 발표된 GPT-4를 비롯하여 챗GPT 플러그인, 달리, 코덱스, 위스퍼, 마이스코소프트의 빙, 코파일럿, 루프 등을 소개한다. 또한, 일반적인 챗GPT 사용법부터 마이크로소프트 애저에서 챗GPT를 사용하는 법, 위스퍼 사용법, 챗GPT API를 사용해 우리 기업만의 챗GPT를 만드는 법까지 담고 있다. 질문하기, 코딩, 엑셀, 이미지 생성, 과제 생성과 찾기 등 다양한 활용법도 다룬다. 각 내용마다 간단한 실습을 직접 해볼 수 있으며, 챗GPT를 어떻게 활용하면 좋을지 고민하는 분들에게 가이드가 되길 바란다.

  개발 및 공급 : 엔비디아 주요 특징 : 에이다 러브레이스 아키텍처 기반으로 AI 및 레이 트레이싱을 위한 코어 증가, DLSS 3 지원, 실시간 레이 트레이싱 향상, 1440p 해상도에서 최대 설정으로 최신 게임 플레이 지원, RTX 가속 및 고급 AI 도구로 더 빠른 스트리밍 및 제작 지원 등 가격 : 599달러(출시 시작 가격)   엔비디아가 출시한 지포스(GeForce) RTX 4070 GPU는 DLSS 3 뉴럴 렌더링, 실시간 레이 트레이싱 기술, 대부분의 최신 게임을 1440p 해상도에서 초당 100프레임 이상으로 실행할 수 있는 기능 등 엔비디아 에이다 러브레이스(NVIDIA Ada Lovelace) 아키텍처의 발전된 기능을 제공한다.  QHD 144Hz 해상도 및 4K 모니터의 사용이 증가하면서, 더 높은 수준의 시각적 경험을 원하는 PC 게이머들이 점점 늘어나고 있다. 엔비디아에 따르면, 지포스 RTX 40 시리즈를 사용하는 데스크톱 게이머의 83%는 레이 트레이싱을 활성화하고 있으며, 79%는 성능을 향상시키는 AI 기반 그래픽 기술인 DLSS(Deep Learning Super Sampling)를 사용한다.    인공지능 기반 프레임 생성 및 레이 트레이싱 향상 엔비디아의 RTX GPU 제품군에는 AI(인공지능) 가속을 위한 텐서 코어(Tensor Core)와 레이 트레이싱으로 그래픽 성능을 높이는 RT 코어(RT Core)가 탑재되어 있다. 반도체의 성능 향상만으로는 대응이 힘든 대용량의 그래픽 연산을 AI로 커버함으로써, 고품질의 그래픽을 효율적으로 구현하는 것이 핵심이다. RTX 4070은 DLSS의 최신 세대인 DLSS 3를 지원한다. 이를 통해 다양한 최신 게임을 초당 100프레임 이상에서 실행할 수 있다. 또한 DLSS 2와 하위호환을 지원하기 때문에 기존의 인기 게임도 향상된 성능으로 실행할 수 있다. 엔비디아는 “게임 개발사에서 DLSS 3의 채택이 늘고 있어, 향후 더 많은 게임이 DLSS 3를 지원하게 될 것”으로 기대하고 있다.   ▲ DLSS의 AI 기반 프레임 생성 기능(이미지 출처 : 엔비디아)   DLSS 3의 AI 기반 프레임 생성 기능은 한 장면의 8개 픽셀 중 7개의 픽셀을 렌더링해 새로운 고품질 프레임을 생성하여 더욱 매끄러운 게임 플레이를 지원한다. 더불어 디바이스와 모니터 간의 입력 지연을 줄여주는 엔비디아 리플렉스(NVIDIA Reflex)를 통해 높은 반응성을 유지한다. 셰이더 실행 재정렬(Shader Execution Reordering : SER), 최첨단 오파시티 마이크로맵(Opacity Micromap), 변위된 마이크로 메시 엔진(Displaced Micro-Mesh Engines) 등의 발전으로, 지포스 RTX 4070에서는 레이 트레이싱 성능도 향상됐다. 이러한 혁신을 통해 복잡한 게임에서도 여러 레이 트레이싱 효과 또는 패스 트레이싱(path tracing)이라고도 하는 풀 레이 트레이싱을 동시에 구현하여, 높은 현실감과 몰입감을 제공한다. 엔비디아는 “3세대 레이 트레이싱과 DLSS의 조합으로 픽셀당 레이 트레이싱 연산이 지난 5년 동안 16배 증가했다”면서, “도입률도 급증하여 현재 400개 이상의 RTX 게임과 애플리케이션이 사용 가능하며, DLSS 3의 채택 속도도 이전 버전보다 7배 빨라졌다”고 소개했다.   그래픽 처리 성능 향상 및 전력 소비 감소 엔비디아는 지포스 RTX 4070에서 DLSS 3를 사용하면 RTX 2070 SUPER 대비 평균 2.6배 더 빠르며, 지포스 RTX 3080에서의 DLSS 3와 비교하면 평균 1.4배 더 빠르다고 설명했다. 또한, 레이 트레이싱 및 DLSS와 같은 고급 기능이 포함되지 않은 기존 게임에서도 향상된 성능을 보여준다.  기존의 래스터화된 게임에서 지포스 RTX 4070은 거의 절반의 전력으로 지포스 RTX 3080과 동등한 성능을 지원하는 한편, 2GB의 추가 메모리도 제공한다. 또한 RTX 4070의 메모리 서브시스템은 36MB의 L2 캐시와 12GB의 초고속 GDDR6X 메모리로 향상됐다.   ▲ 지포스 RTX 4070의 기반이 된 신규 아키텍처는 3070 대비 증가한 코어 및 메모리를 통해 향상된 성능과 함께, 더 적은 전력 소비를 지원한다.(이미지 출처 : 엔비디아)   콘텐츠 크리에이터를 위한 솔루션 제공 엔비디아 RTX의 AI 기능은 게임 외에 크리에이티브 영역에서도 효과적으로 활용할 수 있다. 지포스 RTX 4070 GPU는 콘텐츠 크리에이터가 RTX 가속 및 AI 도구로 더 빠르고 스마트하게 작업할 수 있도록 지원하는 엔비디아 스튜디오(NVIDIA Studio) 플랫폼을 기반으로 한다. 이 플랫폼은 라이브 스트리머부터 영상 편집자까지 다양한 크리에이터를 지원하는 100개의 크리에이티브 앱을 강화하고, 엔비디아 스튜디오 드라이버(NVIDIA Studio Drivers)를 통해 지속적인 안정성을 제공하며, 엔비디아 옴니버스(NVIDIA Omniverse), 캔버스(Canvas) 및 브로드캐스트(Broadcast)와 같은 스튜디오 앱 제품군을 포함한다. 엔비디아 옴니버스는 기존 3D 워크플로를 상호 연결하고 실시간 협업을 위한 라이브 동기화 제작으로 선형 파이프라인을 대체하는 허브이다. 이러한 엔비디아 옴니버스의 AI 기반 DLSS 3로 4K 장면을 렌더링하는 3D 모델러는 이전 세대의 지포스 RTX 3070 Ti보다 2.8배 빠른 성능을 기대할 수 있다. 또한, AV1 코덱을 지원하는 8세대 엔비디아 비디오 인코더 NVENC를 사용하는 방송사는 40% 향상된 효율성을 누릴 수 있다. 라이브 스트림은 마치 비트율이 40% 증가한 것처럼 보여 OBS 스튜디오와 같은 실시간 스트리밍 앱의 이미지 품질이 크게 향상된다. AV1은 디스코드(Discord)에서 이미 지원되고 있으며, 곧 OBS 스튜디오(Studio)를 통해 유튜브에 풀 버전으로 출시될 예정이다. 영상 편집자는 지포스 RTX 4070의 8세대 엔비디아 인코더와 인기 영상 편집 앱에 통합된 AV1을 통해 20% 빨라진 동영상 내보내기 속도를 제공받을 수 있다. 또한 모든 크리에이터는 이전 세대보다 성능이 크게 향상된 새로운 4세대 AI 도구용 텐서 코어(Tensor Core)의 이점을 누릴 수 있다. 엔비디아는 이외에도 AI로 비디오 재생 품질을 높이는 RTX 비디오 수퍼 레졸루션(RTX Video Super Resolution), 기존의 게임 애셋을 다시 렌더링해 풀 레이 트레이싱을 구현하는 RTX 리믹스(RTX Remix) 등의 툴을 제공해, RTX 4070의 AI 성능을 활용할 수 있도록 한다.   ▲ 지포스 RTX 4070은 콘텐츠 제작 영역에서도 AI 기반의 성능 및 효율 증가를 지원한다.(이미지 출처 : 엔비디아)     ■ 기사 내용은 PDF로도 제공됩니다.

AMD가 새로운 대규모 라이브 양방향 스트리밍 서비스 트렌드에 대응하고자 특수 제작된 2개의 5nm ASIC을 기반으로 AV1 압축 표준을 지원하는 비디오 프로세싱 유닛(VPU: Video Processing Unit)을 탑재한 AMD 알베오(Alveo) MA35D 미디어 가속기를 발표했다. 현재 글로벌 비디오 시장은 라이브 콘텐츠가 70% 이상 차지하고 있으며1, 워치 파티(Watch Party)와 라이브 쇼핑, 온라인 경매 및 소셜 스트리밍과 같은 새로운 유형의 저지연, 대규모 양방향 스트리밍 애플리케이션이 빠르게 부상하고 있다.  알베오 MA35D 미디어 가속기는 카드당 최대 32x 1080p60 스트리밍이 가능한 높은 채널 밀도와 전력 효율성 및 초저지연 성능을 제공하며, 이를 통해 컴퓨팅 집약적인 콘텐츠 제공에 필요한 인프라 비용을 절감할 수 있도록 지원한다. 알베오 MA35D는 이전 세대 알베오 U30 미디어 가속기에 비해 4K 해상도 기준 최대 4배 더 증가된 채널 밀도2와 4배 더 짧은 지연시간3, 1.8배 높은 압축 효율4을 제공하여 VMAF를 통한 일반 비디오 품질 측정 기준으로 동일한 성능을 발휘한다.  AMD의 AECG 데이터센터 그룹 총괄 책임자인 댄 기븐스(Dan Gibbons)는 “우리는 고객 및 파트너들과 긴밀히 협력하여 기술적 요구사항은 물론, 대규모 양방향 스트리밍 서비스의 수익성을 높이기 위해 필요한 인프라 문제를 파악하는 데 주력했다.”며, “이를 기반으로 대규모 콘텐츠 제작자들과 사용자들이 몰입형 경험을 제공하는데 소요되는 자본 및 운영 비용을 절감하고 공급업체들의 개별 요구사항에 부합하는 ASIC 아키텍처 기반의 알베오 MA35D를 개발했다.”고 밝혔다. 한편, 알베오 MA35D는 특수 제작된 비디오 프로세싱 유닛(VPU)을 활용하여 전체 비디오 파이프라인을 가속화한다. 이 VPU 상에서 모든 비디오 프로세싱 기능을 처리함으로써 CPU와 가속기 간의 데이터 이동을 최소화하여 전체 지연시간을 줄이고, 카드당 최대 32x 1080p60, 8x 4Kp60 또는 4x 8Kp30 스트리밍으로 채널 밀도를 극대화한다. 이 플랫폼은 주로 사용되는 H.264 및 H.265 코덱에 대한 초저지연 성능을 제공하며, 차세대 AV1 트랜스코더 엔진을 통해 동급 소프트웨어 대비 최대 52%의 비트레이트 감소로 대역폭 절감 효과도 제공한다. 오픈 미디어 얼라이언스 의장인 매트 프로스트(Matt Frost)는 "AMD의 새로운 알베오 MA35D 발표는 데이터 센터를 위한 비디오 가속 제품 분야의 의미있는 발전이자, 로열티가 없는 고화질 비디오 장치, 제품 및 서비스를 지원하기 위한 본격적인 생태계 구축에 있어 중요한 과정이다.”며, "라이브 스트리밍 제공업체들은 더 높은 밀도, 저전력, 저지연 AV1 솔루션을 찾고 있으며, AMD와 같은 얼라이언스 회원사들이 이러한 문제를 해결함으로써 AV1 배포와 채택을 촉진하고 있다"고 말했다. 본 가속기 제품은 AI 프로세서와 전용 비디오 품질 엔진을 통합하여 감소된 대역폭에서도 체감품질을 개선하도록 설계됐다. AI 프로세서는 콘텐츠를 프레임별로 평가하고, 인코더 설정을 동적으로 조정하여 시각적 품질을 향상하는 동시에 비트레이트(Bitrate)를 최소화한다. 최적화 기법으로는 텍스트 및 안면 해상도 개선을 위한 관심영역(ROI: Region-of-Interest) 인코딩, 복잡하거나 모션이 포함된 장면을 수정하는 아티팩트 감지(Artifact Detection), 비트레이트 최적화에 필요한 예측 인사이트를 지원하는 콘텐츠 인식 인코딩 등이 있다.  대용량 스트리밍 서비스를 확장하기 위해서는 서버당 채널 수를 극대화하면서도 스트림당 전력 및 대역폭을 최소화해야 한다. 알베오 MA35D 가속기 카드는 스트림당 1와트에서 카드당 최대 32x 1080p60 스트리밍을 지원6함으로써 8개의 카드를 장착한 1U 랙 서버로 최대 256개의 채널을 제공할 수 있어 서버, 랙 또는 데이터센터당 스트리밍 수를 극대화할 수 있다.  이 플랫폼은 업계에서 널리 사용되는 FFmpeg 및 GStreamer 비디오 프레임워크를 지원하는 AMD 미디어 가속 소프트웨어 개발 키트(SDK: Software Development Kit)를 통한 용이한 개발 환경도 제공한다.  알베오 MA35D 미디어 가속기는 현재 샘플 공급 중이며, 3분기에 양산 제품이 출하될 예정이다. 인증된 고객들은 보다 신속한 개발을 위해 아키텍처 탐색을 위한 소프트웨어 툴 및 포괄적인 문서와 함께 얼리 액세스 프로그램(Early Access Program)을 이용할 수 있다. 한편, AMD는 지난 3월 29일 온라인 기자간담회를 열고 새로운 알베오(Alveo) MA35D 하드웨어 가속기 포트폴리오를 주제로  소개했는데, 최근 '5nm ASIC 기반 알베오(Alveo) 미디어 가속기 카드를 출시하게 됐다고 밝혔다. 이번 간담회에는 AMD의 비디오 전력 및 개발 책임자인 션 가드너(Sean Gardner)와 AMD 제품 관리 및 마케팅 이사 그리쉬 말리페디(Girish Malipeddi)가 발표자로 참석해 국내 반도체 및 IT 산업 기자들을 대상으로 새로운 알베오 하드웨어 가속기에 대한 주요 정보를 소개해 관심을 모았다. 앞서 이야기했던 것처럼 AMD는 대화형 미디어 및 대용량 라이브 스트리밍 애플리케이션을 위한 초저지연, AI 지원 영상 처리를 제공하고자 새로운 알베오 미디어 가속기 카드 제품을 개발했다고 밝혔다. 새로운 알베오 미디어 가속기는 보다 비용  효율적인 영상 콘텐츠 배포를 위한 애플리케이션 성능, 전력 및 채널 밀도 요구 사항을 충족하는 차세대 제품이다. 라이브 콘텐츠가 현재 전 세계 영상 콘텐츠 시장을 주도하는 가운데, 저지연의 새로운 대용량 대화형 미디어 애플리케이션이 속속 등장하고 있어 주목된다.

마이크로소프트가 애저 오픈AI 서비스(Azure OpenAI Service)에 챗GPT(ChatGPT) 프리뷰를 추가했다고 밝혔다. 애저 오픈AI 서비스는 오픈AI(OpenAI)의 최신 AI 시스템을 제공하는 클라우드 서비스로 지난 1월 공식 출시됐다. 마이크로소프트에 따르면, 현재 1000곳 이상의 조직이 이 서비스를 활용하고 있다. 이번 발표로 마이크로소프트 클라우드 고객은 GPT-3.5, 코덱스(Codex), 달리 2(DALL·E 2) 등의 AI 모델과 애저 슈퍼컴퓨팅 기반 대규모 언어 모델(LLM)에 이어 챗GPT 기술도 애저가 제공하는 엔터프라이즈급 기능과 함께 사용할 수 있게 된다.     마이크로소프트는 "앞으로 개발자들은 애저상의 챗GPT를 활용해 AI 기반 경험을 손쉽게 커스터마이징하고, 이를 애플리케이션(앱)에 적용할 수 있게 된다. 이는 기존 봇 개선, 콜센터 대화 요약, 개인 맞춤형 제안을 담은 신규 광고 카피 생성, 자동 클레임 처리 등 다양한 상황에서 가능하다"고 설명했다. 마이크로소프트 클라우드 고객은 지금 즉시 챗GPT 기술을 사용할 수 있으며, 가격은 1000 토큰당 0.002 달러이다. 모든 챗GPT 사용에 대한 비용 청구는 3월 13일부터 시작된다. 또한, 마이크로소프트는 ▲앱 보호 ▲기술 보호 ▲프로세스 및 정책 보호 ▲설계지침, 투명성 노트 등 문서화로 이뤄진 4단계 조치를 통해 책임 있는 AI 실현과 AI 오용 문제 해결을 위해 노력하고 있다고 소개했다. 애저 오픈AI 서비스에 대한 접근 권한 부여는 고객 및 개발자의 별도 신청을 요하며, 개발자는 사용 목적 또는 사용 앱에 대해 설명해야 한다. 욕설, 증오 및 불쾌감을 주는 유해 콘텐츠 포착을 위해 설계된 콘텐츠 필터는 서비스에 입력된 내용과 생성 콘텐츠를 지속적으로 모니터링한다. 정책 위반이 확인된 경우 마이크로소프트는 추가 악용 방지를 위해 개발자에게 즉각적인 조치를 취하도록 요청한다. 한편 마이크로소프트는 초거대 AI 모델의 성능을 AI에 최적화된 인프라인 애저에 결합해 소비자 및 엔터프라이즈 제품 전반에 새로운 경험을 제공하고 있다. 여기에는 ▲애저 오픈AI 서비스의 AI 모델을 활용해 개발자가 AI 페어 프로그래머로 코드 개발을 가속화할 수 있는 깃허브 코파일럿(GitHub Copilot) ▲개인과 팀 및 조직의 생산성을 향상시키는 팀즈 프리미엄(Teams Premium)의 인텔리전트 리캡(Intelligent recap) 및 AI 생성 챕터(AI-generated chapters) 기능 ▲이메일 콘텐츠를 제안하고 데이터 기반 인사이트를 제공해 영업팀이 고객에 대한 전략적 판매 활동에 집중할 수 있도록 지원하는 비바 세일즈(Viva Sales)의 신규 AI 기반 판매 경험 ▲새로운 방식으로 소비자의 검색 경험을 향상시키는 마이크로소프트 빙(Microsoft Bing)의 AI 기반 채팅 옵션 등이 있다.

마이크로소프트가 비영리 인공지능(AI) 연구기관인 오픈AI(OpenAI)와의 파트너십을 통해 ‘애저 오픈AI 서비스(Azure OpenAI Service)’를 공식 출시했다. 거대 언어 모델은 우리가 직면한 과제를 해결하는 것은 물론 혁신을 위한 필수적인 플랫폼으로 자리잡고 있다. 애저 오픈AI 서비스가 출시됨에 따라 GPT-3.5, 코덱스(Codex), 달리2(DALL·E 2) 와 같은 유명 AI 모델을 마이크로소프트 클라우드 애저상에서 사용할 수 있게 된다. 또한, 최근 많은 관심을 받은 챗GPT(ChatGPT) 기능도 애저 오픈AI 서비스에 추가될 예정이다.     2021년 11월 처음 공개된 애저 오픈AI 서비스는 출시 전 프리뷰 단계에서 일부 고객을 대상으로 접근 권한이 제공됐다. 이를 통해 다양한 산업의 크고 작은 애저 고객은 애저 클라우드 및 컴퓨팅 인프라에서 기대할 수 있는 보안, 안정성, 규정 준수, 데이터 개인 정보 보호, 책임 있는 AI 등과 함께 초거대 생성 AI 모델의 기능을 활용할 수 있었다. 이들 고객사는 이 서비스를 통해 엔드유저 경험을 개선하고, 운영 효율성을 간소화하는 등 적은 자원으로 더 많은 작업을 수행 가능하게 하는 광범위한 활용 사례를 구축했다.  대화형 AI 플랫폼을 제공하는 스타트업 무브웍스(Moveworks)는 고객의 기본 지식 격차를 식별하고, 이를 기반으로 지식 조항을 자동 작성해 기존에 없었던 적용 케이스에 대한 문제도 해결할 수 있었다. 다국적 회계·컨설팅 기업 KPMG는 복잡한 IT 시스템과 방대한 데이터량에도 불구하고 데이터의 관계를 찾아 세금 납부액의 정확성을 더욱 쉽게 검증하고, 이를 국가 및 세금 유형별로 분류해 고객의 니즈를 충족시켰다. 중고차 판매업체인 카맥스(CarMax)는 몇 달 만에 11년 분량의 자동차 요약본을 제작해 웹사이트를 통해 고객에게 효과적인 인사이트를 제공했으며, 편집진은 보다 실질적인 콘텐츠에 집중할 수 있도록 했다.    ▲ 애저 오픈AI 서비스에서 제공되는 이미지 생성 프로그램 ‘달리2’   마이크로소프트는 애저 오픈AI 서비스가 AI 민주화를 위한 노력의 일부라고 소개하면서, "우리는 AI의 혁신 과정에서 책임을 중요하게 생각하고 있으며, 오픈AI 및 고객과 긴밀히 협력해 애저 오픈AI 서비스 사용 사례를 신중하게 평가, 잠재적 위험을 학습하고 고심하는 등 대규모 AI 모델에 대해 반복적인 접근 방식을 취해 왔다"고 설명했다.  또한 마이크로소프트는 책임 있는 AI 원칙에 부합하는 애저 오픈AI 서비스에 대한 자체 가드레일도 마련했다. 애저 오픈AI 서비스에 대한 접근 권한 부여는 고객 및 개발자의 별도 신청을 필요로 하며, 개발자는 사용 목적 또는 사용 애플리케이션에 대해 설명해야 한다. 욕설, 증오 및 불쾌감을 주는 유해 콘텐츠 포착을 위해 특별히 설계된 콘텐츠 필터는 서비스에 입력된 내용과 생성 콘텐츠를 지속적으로 모니터링한다. 정책 위반이 확인된 경우 마이크로소프트는 추가 악용 방지를 위해 개발자에게 즉각적인 조치를 취하도록 요청한다는 방침이다.

  엔비디아가 지포스 RTX 4070 Ti를 발표했다. 지포스 RTX 4070 Ti는 엔비디아의 에이다 러브레이스 아키텍처와 DLSS 3를 통해 지포스 RTX 3090 Ti 대비 속도는 높이고 전력 소비량은 거의 절반으로 줄였다. 가격은 799달러부터 시작한다. 지포스 RTX 4070 Ti는 1440p 모니터 사양을 최대화하여 플래그 테일: 레퀴엠(A Plague Tale: Requiem), 워해머 40,000: 다크타이드(Warhammer 40,000: Darktide), F1 22와 같은 최신 게임에서 120FPS 이상을 제공한다. 또한 사이버펑크(Cyberpunk) 2077, 포탈 위드 RTX(Portal with RTX), 위쳐 3: 와일드 헌트(The Witcher 3: Wild Hunt)를 비롯해 레이 트레이싱(ray tracing)이 적용되는 각종 타이틀에서 고급 레이 트레이싱을 즐길 수 있다. 합리적인 가격으로 널리 보급되어 있는 고주사율 1440p 모니터는 픽셀 수가 1080p보다 78% 더 높아 그래픽 선명도와 디테일을 크게 향상시킨다. 아울러 최신 타이틀을 최대 설정에서 1440p로 높은 프레임률로 재생할 수 있는 그래픽 카드도 사용할 수 있다. 지포스 RTX 4070 Ti는 7680개의 쿠다(CUDA) 코어와 12GB의 초고속 GDDR6X 메모리를 기반으로 PC 게이머를 위한 고성능을 제공한다. 또한, DLSS 3 기술과 결합된 지포스 RTX 4070 Ti는 전설적인 지포스 GTX 1080 Ti에 비해 12배의 상대적 성능 업그레이드를 제공한다. 지포스 RTX 4070 Ti는 이전 GPU보다 강력한 엔비디아의 최신 RT 및 텐서 코어를 지원하고 변위된 마이크로 메시(Displaced Micro-Meshes) 및 엔비디아 DLSS 3을 비롯한 새로운 기능을 지원한다. 엔비디아 DLSS는 AI를 통해 그래픽 성능을 향상시키며 현재 250개 이상의 게임 및 크리에이티브 앱에서 채택되고 있다. 또한 언리얼 엔진 4(Unreal Engine 4), 언리얼 엔진 5(Unreal Engine 5) 및 유니티(Unity) 플러그인 덕분에 개발자가 프로젝트에 쉽게 추가할 수 있다. 지포스 RTX 3090 Ti보다 빠른 속도로 실행되는 것 외에도 지포스 RTX 4070 Ti는 게임 중에 평균 43% 더 적은 전력을 사용한다. 3090 Ti는 398W, 4070 Ti는 226W를 소비한다. 게다가 유휴 상태, 웹 브라우징 또는 비디오 시청 중에는 지포스 RTX 40 시리즈의 아키텍처 개선 덕분에 전력 사용량이 거의 기록되지 않는다. 지포스 RTX 40 시리즈 GPU를 사용하면 라이브 스트리머와 비디오 편집자가 차세대 코덱인 AV1을 사용할 수 있다. 라이브 스트리머는 인기 있는 스트리밍 앱 및 플랫폼에서 현재 최대 비트 전송률로 향상된 품질을 통해 더 높은 해상도와 프레임 속도를 구현할 수 있다. 지포스 RTX 4070 Ti GPU는 AV1 인코딩을 사용하여 최대 4K 60FPS 및 1440p 120FPS에서 RTX로 최신 PC 게임을 스트리밍할 수 있다. AV1은 보코더(Voukoder) 플러그인을 통해 어도비 프리미어 프로(Adobe Premiere Pro), 다빈치 리졸브(Davinci Resolve) 및 지안잉(Jianying)을 포함한 비디오 편집 앱에서도 활성화된다. AV1이 제공하는 향상된 품질과 함께 지포스 RTX 4070 Ti는 듀얼 8세대 엔비디아 인코더를 제공하여 비디오 편집자에게 최대 2배의 비디오 내보내기 속도를 제공한다. 3D 크리에이터는 블렌더(Blender), 유니티(Unity), 언리얼 엔진(Unreal Engine) 및 카오스 V-레이(Chaos V-Ray)와 같은 인기 있는 앱에서 지포스 RTX 3070 Ti에 비해 최대 70% 향상된 성능을 만나볼 수 있다. 또한 엔비디아 옴니버스에서 3D 애셋, 라이브러리 및 도구를 통합하여 더욱 자유로운 크리에이티브 활동을 지원한다. 크리에이터는 AI 도구를 위한 새로운 4세대 텐서 코어의 혜택을 누릴 수 있는데, 이는 이전 세대에 비해 최대 2배 향상된 성능을 제공한다. 또한 지포스 RTX 4070 Ti에는 다른 지포스 RTX 40 시리즈 그래픽 카드와 동일한 모든 개선 사항과 혁신이 포함되어 있어 엔비디아 리플렉스(Reflex)로 시스템 대기 시간을 줄여 보다 부드러운 게임을 즐길 수 있다. 지포스 RTX 40 시리즈 그래픽 카드 구매자는 지싱크(G-SYNC), 지포스 익스피리언스(Experience) 원클릭 오버클러킹 및 게임 최적화, 셰도플레이(Shadowplay) 녹화 등 기존의 모든 지포스 혁신 및 개선 사항을 사용할 수 있다. 지포스 RTX 4070 Ti는 애드인 카드 제공업체인 에이수스(ASUS), 컬러플(Colorful), 개인워드(Gainward), 갤럭시(GALAX), 기가바이트(GIGABYTE), INNO3D, KFA2, MSI, Palit, PNY 및 조텍(ZOTAC)과 전세계 게임 시스템 통합업체 및 구축업체에서 구입할 수 있다.