NVIDIA Keynote at COMPUTEX 2024

NVIDIA CEO Jensen Huang은 COMPUTEX 2024에서 디지털 휴먼 기술과 AI의 미래에 대한 비전을 제시하며, AI가 새로운 산업 혁명을 이끌어내는 중요성을 강조하고 있습니다. 그는 발표를 통해 새로운 최첨단 GPU인 Blackwell과 이를 기반으로 한 AI 시스템을 소개했습니다. Blackwell은 대규모 언어 모델을 훈련하고 에너지 소비를 최적화하는 뛰어난 성능을 자랑하며, 다양한 산업 분야에서 AI 기술을 발전시키는 중요한 역할을 한다고 합니다.

 

디지털 휴먼 기술은 이번 발표의 핵심 주제 중 하나로, Jensen Huang은 가상 상담사, 디지털 비서, 엔터테인먼트 및 교육 분야 등에서의 활용 사례를 제시했습니다. 이를 통해 AI와 컴퓨팅 기술이 실제 생활에 미치는 영향을 생생하게 전달하며, 미래의 AI와 컴퓨팅 기술이 인간의 삶을 어떻게 더 편리하고 풍요롭게 만들 수 있을지에 대한 비전을 공유했습니다.

 

COMPUTEX 2024는 NVIDIA의 혁신적인 기술과 미래 전망을 확인할 수 있는 중요한 행사로 앞으로 AI가 우리 삶에 어떤 의미를 가질 수 있을지 엿볼 수 있는 기회가 될 것 같습니다.

 

 

출처: https://youtu.be/pKXDVsWZmUU

 

 

컴퓨팅의 미래에 대한 NVIDIA의 영향력

• NVIDIA는 가속 컴퓨팅에 중점을 두고 컴퓨터 그래픽, 시뮬레이션 및 인공 지능 간의 교차점을 선도하고 있습니다.
• 이 회사는 가속 컴퓨팅이 곧 모든 처리 집약적인 애플리케이션과 데이터 센터의 표준이 되어 상당한 비용 절감과 성능 향상으로 이어질 것으로 예측하고 있습니다.
• 그러나 가속 컴퓨팅은 놀라운 결과를 제공하지만 소프트웨어를 완전히 다시 작성해야 하므로 상당한 도전 과제를 안고 있습니다.

가속 컴퓨팅에 대한 NVIDIA의 영향력

• NVIDIA는 딥 러닝용 CDNN, 전산 리소그래피용 Kitho, 유전자 시퀀싱용 Parabricks 등 가속 컴퓨팅을 위한 다양한 라이브러리를 개발했습니다.
• 이러한 라이브러리를 통해 다양한 연산 작업의 속도를 크게 향상시켜 컴퓨팅 비용을 절감할 수 있었습니다.
• 컴퓨팅 비용을 절감함으로써 NVIDIA는 새로운 알고리즘의 출현과 인공 지능을 위한 대규모 언어 모델의 일반적인 사용을 위한 길을 열었습니다.

AI와 환경에 대한 NVIDIA의 영향력

• NVIDIA의 CUDA는 컴퓨팅 비용을 낮춰 AI 개발자와 수요 증가로 이어졌습니다.
• NVIDIA의 AI 기술은 지구를 시물레이션하여 행성의 미래를 예측하고 자연 재해를 예방하며 기후 변화의 영향을 이해하기 위하여 지구의 디지털 트윈을 만드는 야심찬 프로젝트를 실현하고 있으며, 이는 지속적이고 에너지 효율적인 날씨 예측을 가능하게 했습니다.
• 성능 향상과 비용 절감을 위한 NVIDIA의 헌신은 AI 및 딥 러닝 분야에서 획기적인 성과를 이끌어냈습니다.

토큰 생성자로서의 AI의 부상

• NVIDIA의 AI 팩토리는 이제 산업 전반에 걸쳐 가치가 높아지고 있는 토큰이라는 새로운 상품을 생산하고 있습니다.
  • 단어, 이미지, 차트, 노래 등 토큰은 다양한 형태로 존재하며, 화학물질이나 단백질, 그리고 유전자 등 다양한 정보를 나타낼 수 있습니다.
• 생성형 AI와 AI 팩토리로의 전환은 컴퓨팅 산업에 큰 영향을 미치며 새로운 산업 혁명을 이끌고 있습니다.
• 사전 학습된 다양한 모델이 탑재된 NVIDIA Inference Microservices (NIM)는 AI의 사용 방식을 바꾸고 다양한 애플리케이션에 AI를 활용할 수 있게 하고 있습니다.

AI 애플리케이션에서 디지털 휴먼의 역할

• AI는 애플리케이션 계층을 혁신하여 NIM으로 구성된 팀을 구성하여 작업을 해결하고 애플리케이션의 새로운 모습을 만들어내고 있습니다.
• 디지털 휴먼은 고객 서비스에서 광고에 이르기까지 다양한 산업에 혁신을 일으키며 매력적인 개인화된 인터랙션을 제공할 것입니다.
• 전 세계 NVIDIA 가속 인프라 네트워크에서 실행되는 NVIDIA 의 에이스 NIM은 전 세계 1억 대의 GeForce RTX AI 지원 PC를 통해 디지털 휴먼의 비전을 현실로 만들고 있습니다.

Blackwell의 영향력: 혁신적인 AI 슈퍼컴퓨터: Blackwell의 영향력

• Blackwell은 물리 기반에 중점을 두고 실제 세계 데이터에 기반을 둔 차세대 AI를 위해 설계된 혁신적인 AI 슈퍼컴퓨터입니다.
• 2세대 트랜스포머 엔진, 보안 AI, 안정성 및 가용성 엔진과 같은 첨단 기술이 탑재되어 있습니다.
• Blackwell의 생산 보드는 역대 가장 복잡하고 성능이 뛰어난 컴퓨터로, 8년 동안 각 세대의 AI 플롭 수가 천 배씩 증가했습니다.

GPT-4의 2조 매개변수 모델의 에너지 효율성 향상

• GPT-4의 2조 매개변수 모델을 훈련하는 데 사용되는 에너지는 지난 8년 동안 350배나 감소했습니다.
• 성능과 에너지 효율이 개선된 새로운 Blackwell 칩은 토큰 생성에 필요한 에너지를 45,000배나 줄였습니다.
• NVIDIA는 공랭식 및 수랭식 옵션을 갖춘 DGX 시스템과 대규모 언어 모델을 위해 여러 GPU를 연결하는 MV Link 스위치를 개발하여 기술을 크게 발전시켰습니다.

AI 공장을 위한 고속 네트워킹의 발전

• NVIDIA는 구리 소재의 MV Link 스파인을 구동하는 고속 네트워킹 스위치를 개발하여 랙 당 20킬로와트의 처리 전력을 절약했습니다.
• NVIDIA는 생성형 AI에서 딥 러닝의 폭증하는 트래픽을 처리하기 위해 이더넷 아키텍처에 인피니밴드의 기능을 도입했습니다.
• Spectrum X 800과 같은 NVIDIA의 이더넷 제품은 수십만 개의 GPU 수를 수용하도록 설계되었으며 이는 생성형 AI가 생성할 것으로 예상되는 엄청난 양의 추론 (비디오, 이미지, 텍스트 또는 디지털 휴먼)의 질을 향상시킬 것입니다.

NVIDIA의 Blackwell: AI의 미래를 위한 플랫폼

• NVIDIA의 Blackwell 플랫폼은 전 세계 수많은 기업과 파트너사로부터 놀라운 성공과 지지를 받고 있습니다.
• NVIDIA는 모든 유형의 비즈니스를 위한 성능 향상, 비용 절감, AI 기능 확장에 주력하고 있습니다.
• Blackwell 플랫폼 외에도 NVIDIA는 이미 1년의 개발 주기로 차세대 Rubin 플랫폼을 개발 중이며, 로봇 및 자율 시스템 분야에서 AI의 미래를 내다보고 있습니다.

NVIDIA Omniverse: 물리적 AI를 통한 로봇 공학 혁신

• 멀티모달 LLM은 로봇이 학습, 인식, 동작 계획을 수립할 수 있도록 지원하며, 인간 및 물리 피드백을 통한 강화 학습은 로봇의 기술 개발에 필수적인 요소입니다.
• NVIDIA Omniverse는 로봇이 기술을 학습하고 개선할 수 있는 가상 세계 시뮬레이션을 생성하는 운영 체제 역할을 하여 시뮬레이션과 실제 애플리케이션 간의 격차를 최소화합니다.
• 또한 이 플랫폼은 로봇 공장의 개발에서 중요한 역할을 담당하며, AI 애플리케이션을 계획, 테스트하고 배포 전에 로봇 동작을 시뮬레이션하기 위한 디지털 트윈을 제공합니다.

로봇 공학 및 AI 분야에서의 NVIDIA의 파트너십과 혁신

• NVIDIA는 로봇 기술을 다양한 산업 애플리케이션에 통합하기 위해 지멘스, ABB, BYD 일렉트로닉스와 같은 선도적인 기업들과 파트너십을 맺었습니다.
• 또한 자율 주행 자동차 기술 개발에도 상당한 진전을 보이고 있으며 휴머노이드 로봇 제조에도 진출할 계획입니다.
• NVIDIA의 CEO는 로봇 공학 및 AI의 미래에 대한 기대감을 표명하며 이 기술을 발전시키는데 있어 NVIDIA의 역할을 강조했습니다.