Llama is the leading engine of AI innovation

Llama 모델은 지금까지 3억 5천만 다운로드에 가까워지고 있으며, 지난 달에만 2천만 건 이상 다운로드되어 주요 오픈 소스 모델 패밀리로 자리 잡았습니다. 즉, Llama 생태계는 급속도로 성장하고 있으며 이는 약 1년 전 대비 10배 이상 증가한 수치입니다.

 

이러한 빠른 성장에는 비용 효율적이면서 높은 성능이 필요하다는 기업들의 니즈를 잘 충족시키고 있는 Llama의 전략이 기저에 깔려있는 것으로 보입니다. 오픈 소스를 통해 모델의 확산과 다양한 의견 수렴 및 발전은 이러한 Llama의 전략을 한층 더 지지해 주고 있습니다.

 

다만 오픈 소스 모델이기 때문에 가지는 편향성이나 윤리 문제, 그리고 보안 문제 등은 여전히 보수적인 방식의 접근이 필요할 것으로 보입니다.

 

아직 사용해보시지 않으셨나요? 한 번쯤 경험해 보시는 것도 좋을 것 같습니다.

 

출처: With 10x growth since 2023, Llama is the leading engine of AI innovation (meta.com)

With 10x growth since 2023, Llama is the leading engine of AI innovation

 

 

 

Key Takeaways

• Llama 모델은 지금까지 3억 5천만 다운로드에 가까워지고 있으며 (작년 같은 시기에 비해 다운로드 수가 10배 이상), 지난 달에만 2천만 건 이상 다운로드되어 Llama를 선도적인 오픈 소스 모델 패밀리로 만들었습니다.
• 주요 클라우드 서비스 제공업체 파트너의 토큰 볼륨별 Llama 사용량은 Llama 3.1을 출시한 2024년 5월에서 7월까지 단 3개월 만에 두 배 이상 증가했습니다.
• 가장 큰 클라우드 서비스 제공업체 중 일부의 경우 Llama의 월별 사용량 (토큰 볼륨)이 2024년 1월에서 7월 사이에 10배 증가했습니다.

Llama 3.1을 출시한 지 한 달이 조금 넘었습니다. 컨텍스트 길이를 128K로 확장하고, 8개 언어에 대한 지원을 추가하고, Llama 3.1 405B로 최초의 프런티어 레벨 오픈 소스 AI 모델을 출시했습니다. Llama 3 및 Llama 2 릴리스에서와 마찬가지로 오늘은 전반적으로 보고 있는 모멘텀과 채택에 대한 업데이트를 공유합니다.

Llama의 성공은 오픈 소스의 힘을 통해 가능했습니다. Llama 모델을 공개적으로 제공함으로써 개발자가 그 어느 때보다 더 많은 선택권과 역량을 갖춘 활기차고 다양한 AI 생태계가 탄생했습니다. 새로운 경계를 넓히는 신생 기업부터 온프레미스 또는 클라우드 서비스 공급자를 통해 Llama를 사용하여 구축하는 모든 규모의 기업에 이르기까지 혁신은 광범위하고 빠르게 이루어졌습니다. 산업은 Llama를 통해 구축하고 혁신하고 있으며, 앞으로의 일에 대해 더욱 기대가 큽니다.

Llama 3.1 출시와 함께 Mark Zuckerberg는 오픈 소스 AI의 이점에 대한 공개 서한을 공유했습니다. 이는 당사의 비전과 오픈 접근 방식에 대한 헌신을 더욱 공고히 했습니다. 오픈 소스는 당사 회사의 DNA에 있으며, Llama는 책임감 있는 방식으로 작업을 공유하려는 당사의 헌신을 구현하고 강화합니다. 오픈 소스는 소비자, 회사 (Meta 포함) 및 궁극적으로 세상에 이로운 보다 경쟁적인 생태계를 촉진합니다.

Llama는 최초 출시 이후 불과 18개월 만에 단일 최첨단 파운데이션 모델에서 개발자를 위한 강력한 시스템으로 진화했습니다. Llama 3.1을 통해 이제 개발자에게 자체 사용자 지정 에이전트를 보다 쉽게 ​​만들 수 있는 완전한 참조 시스템과 책임감 있게 구축하는 데 도움이 되는 새로운 보안 및 안전 도구 세트를 제공합니다.

 

The leading open source model

Llama 생태계는 빠르게 성장하고 있습니다. Llama 모델은 Hugging Face에서 현재까지 3억 5천만 건에 가까워지고 있습니다. 이는 약 1년 전보다 10배 이상 증가한 수치입니다. Llama 모델은 지난달에만 Hugging Face에서 2천만 건 이상 다운로드되었습니다. 이는 업계 전반의 파트너 서비스에서도 이러한 모델이 다운로드되고 있는 Llama 성공 ​​사례의 일부에 불과합니다.

Amazon Web Services (AWS)와 Microsoft의 Azure 외에도 Databricks, Dell, Google Cloud, Groq, NVIDIA, IBM watsonx, Scale AI, Snowflake 등과 협력하여 개발자가 모델의 잠재력을 최대한 발휘할 수 있도록 지원했습니다. 주요 클라우드 서비스 공급업체 파트너의 토큰 볼륨별 호스팅 Llama 사용량은 Llama 3.1을 출시한 2024년 5월에서 7월까지 두 배 이상 증가했습니다.

 

 

2024년 1월부터 7월까지 일부 대형 클라우드 서비스 공급업체의 Llama 월간 사용량이 10배 증가했습니다. 그리고 8월에는 주요 클라우드 서비스 공급업체 파트너 중 하나에서 Llama 3.1의 고유 사용자 수가 가장 많았던 것은 405B 변형이었는데, 이는 가장 큰 파운데이션 모델이 인기를 얻고 있음을 보여줍니다.

Llama 3.1을 통해 Llama 얼리 액세스 프로그램의 파트너 수를 5배 늘렸으며 파트너의 급증하는 수요를 충족하기 위해 더 많은 노력을 기울일 것입니다. Wipro, Cerebras, Lambda를 포함하여 미래의 LEAP 및 통합 Llama 파트너가 되고 싶어 하는 여러 회사에서 연락을 받았습니다.

 

Swami Sivasubramanian, VP, AI and Data, AWS: "고객은 클라우드에서 AI 애플리케이션을 구축하기 위한 최신 최첨단 모델에 액세스하기를 원합니다. 그래서 저희는 최초로 Llama 2를 관리형 API로 제공했고, Meta가 새로운 모델을 출시할 때마다 긴밀히 협력해 왔습니다. Amazon SageMaker와 Amazon Bedrock의 고객이 Llama 3.1을 사용하는 것을 보고 기뻤으며, 고객이 이 모델을 사용하여 가장 복잡한 사용 사례를 해결하는 모습을 보고 싶습니다."

Ali Ghodsi, CEO 겸 공동 창립자, Databricks: "출시 후 몇 주 만에 수천 명의 Databricks 고객이 Llama 3.1을 채택하여 가장 빠르게 채택되고 가장 많이 판매된 오픈 소스 모델이 되었습니다. 이 세대의 Llama 모델은 마침내 품질 면에서 OSS와 상업 모델 간의 격차를 메웠습니다. Llama 3.1은 기본 LLM에 대한 완전한 제어, 사용자 정의 및 이식성을 유지하면서도 고품질 AI 애플리케이션을 구축하고자 하는 고객에게 획기적인 제품입니다.”

Jonathan Ross, 설립자 겸 CEO, Groq: “오픈소스가 승리합니다. Meta는 최고의 폐쇄형 모델과 맞먹는 개방형 생태계의 파운데이션을 구축하고 있으며, Groq에서는 이를 개발자의 손에 직접 맡깁니다. 이는 Groq에서 처음부터 기본이 되어 온 공유 가치입니다. 지금까지 Groq는 Llama 모델 모음과 LPU 추론을 사용하여 400,000명 이상의 개발자에게 매일 50억 개의 무료 토큰을 제공했습니다. 매우 흥미로운 시기이며, 이러한 모멘텀의 일부가 되어 자랑스럽습니다. Llama에 충분히 빠르게 용량을 추가할 수 없습니다. 배포된 용량을 10배로 늘리면 36시간 이내에 소모될 것입니다.”

Jensen Huang, NVIDIA 설립자 겸 CEO: “Llama는 최첨단 AI의 발전에 큰 영향을 미쳤습니다. 이제 모든 기업과 산업이 NVIDIA AI Foundry를 사용하여 맞춤형 Llama 슈퍼모델을 구축하고 배포할 수 있는 홍수문이 열렸습니다. NVIDIA AI Foundry는 훈련, 최적화 및 추론에서 Llama 3.1 모델에 대한 가장 광범위한 지원을 제공합니다. 단 한 달 만에 채택 속도가 매우 빠르다는 것은 놀라운 일입니다."

 

얼마나 많은 사람이 Llama를 사용하는지보다 더 고무적인 것은 누가 Llama를 사용하는지, 그리고 어떻게 사용하는지입니다.

 

개발자 커뮤니티에서 Llama에 대한 선호도가 높아지고 있으며 지속적인 성장에 대한 강력한 지표가 나타나고 있습니다. AI 벤치마킹을 위한 독립 사이트인 Artificial Analysis의 설문 조사에 따르면 Llama는 가장 많이 고려된 모델 2위이자 오픈 소스 업계의 선두 주자였습니다.

Hugging Face에는 60,000개가 넘는 파생 모델이 있으며, 자체 사용 사례에 맞게 Llama를 미세 조정하는 개발자 커뮤니티가 활발하게 형성되어 있습니다. AT&T, DoorDash, Goldman Sachs, Niantic, Nomura, Shopify, Spotify, Zoom과 같은 대기업은 성공 사례 중 일부에 불과하며, Infosys와 KPMG는 모두 내부적으로 Llama를 사용하고 있습니다.

자세히 살펴보겠습니다.

 

A snapshot of Llama case studies

Accenture는 Llama 3.1을 사용하여 ESG 보고를 위한 맞춤형 LLM을 구축하고 있으며, Accenture의 연간 ESG 보고서를 생성하는 기존 방식과 비교했을 때 생산성은 70%, 품질은 20~30% 향상될 것으로 예상합니다. 다국어 기능의 흥미로운 발전을 통해 Accenture는 AI 모델을 여러 지역으로 확장할 수 있습니다. 예를 들어 글로벌 조직이 챗봇을 보다 문화적으로 의식하고 관련성 있게 만들 수 있도록 도울 수 있습니다. Accenture는 기업이 다양한 공급업체의 다양한 AI 모델을 활용해야 할 것이라고 생각합니다. Llama 3.1과 같은 오픈 소스 모델은 옵션을 확장하고 혁신을 가속화하며 기업과 사회 전반에 긍정적인 파급 효과를 미칠 것입니다.

고객 관리가 AT&T의 AI 기반 혁신의 초점 영역입니다. Llama 모델을 미세 조정하여 주요 추세, 요구 사항 및 경험을 개선할 수 있는 기회를 더 잘 이해함으로써 비용 효율적으로 고객 관리를 개선할 수 있었습니다. 전반적으로 Llama와 GenAI는 AT&T 고객 서비스 참여에 대한 검색 관련 응답을 약 33% 개선하는 동시에 비용을 절감하고 응답 시간을 단축하는 데 도움이 되었습니다.

 

DoorDash는 Llama를 사용하여 소프트웨어 엔지니어의 일상적인 작업을 간소화하고 가속화합니다. 예를 들어, 내부 지식 기반을 활용하여 팀의 복잡한 질문에 답하고 실행 가능한 pull request 검토를 제공하여 코드베이스를 개선합니다.

GS AI Platform으로 알려진 Goldman Sachs AI 플랫폼을 통해 Goldman 엔지니어는 문서에서 정보를 추출하는 것을 포함하여 다양한 사용 사례에 Llama 모델을 안전하고 책임감 있는 방식으로 사용할 수 있습니다.

Niantic은 최초의 AR 게임 Peridot의 가상 세계를 구동하기 위해 Llama를 통합하여 "Dots"라는 사랑스러운 생물을 반응형 AR 애완동물로 변형하여 이제 예측할 수 없는 실제 동물의 본질을 시뮬레이션하는 똑똑한 행동을 보입니다. Llama는 각 Dot의 반응을 실시간으로 생성하여 모든 상호 작용을 동적이고 고유하게 만듭니다.

일본의 대표적인 금융 기관인 Nomura는 AWS에서 Llama를 사용하여 더 빠른 혁신, 투명성, 편향 방지책, 텍스트 요약, 코드 생성, 로그 분석 및 문서 처리 전반에 걸친 강력한 성능을 포함한 주요 이점을 얻습니다.

 

Shopify는 LLaVA를 포함하여 Llama의 기반 위에 구축된 동급 최고의 오픈 소스 모델을 계속 실험하고 있습니다. 그들은 여러 전문 작업에 LLaVA의 미세 조정을 사용하고 현재 회사의 제품 메타데이터 및 강화 작업을 지원하기 위해 하루에 4,000만~6,000만 건의 Llava 추론을 수행하고 있습니다.

Zoom은 자체 모델과 Llama를 포함한 폐쇄형 및 오픈 소스 LLM을 사용하여 반복적이고 지루한 작업을 피하는 데 도움이 되는 생성형 AI 어시스턴트인 AI Companion을 구동합니다. AI Companion은 Zoom 사용자에게 회의 요약, 스마트 녹음 및 다음 단계를 제공하여 협업, 연결 및 작업 완료에 더 많은 시간을 할애할 수 있도록 합니다.

 

A thriving open system

Llama는 개방성, 수정 가능성 및 비용 효율성에서 선두를 달리고 있습니다. 우리는 개방된 환경에서 구축하고 AI의 이점이 모든 사람에게 확대되도록 하는 데 전념하고 있습니다. 그리고 점점 더 많은 학자와 기업가가 오픈 소스 AI가 앞으로 나아가는 올바른 길이라는 데 동의하고 있습니다.

LLM은 어려운 질문에 답하고, 생산성을 개선하고, 창의성을 불러일으키는 데 도움이 될 수 있습니다. Llama 생태계가 확장됨에 따라 Meta AI의 기능과 접근성도 확장됩니다. 당사의 스마트 어시스턴는 Instagram, WhatsApp, Messenger, Facebook에서 사용할 수 있으며 웹을 통해서도 사용할 수 있습니다. 또한 Meta Quest와 Ray-Ban Meta 컬렉션에도 적용하여 편리하고 착용 가능한 폼 팩터에서 항상 사용 가능한 상황별 AI 어시스턴트가 일상 생활을 하는 동안 적극적으로 도움을 주는 미래 비전에 한 걸음 더 다가갔습니다.

Llama 커뮤니티의 성장에 흥분하며 오늘날 세계를 위해 오픈 소스로 제공되는 가장 진보된 대규모 언어 모델을 구축하고 있다는 사실에 고무적입니다. 개발자와 회사가 Llama에서 가치를 찾는 놀라운 방법을 계속해서 조명하는 블로그를 앞으로 몇 주, 몇 달 동안 계속 주시하세요.

Llama로 빌드하는 개발자에게 감사드립니다. 언제나 그렇듯이, 우리는 여러분의 피드백을 경청하고 있으며, 곧 공유할 업데이트가 더 많이 있을 것입니다.

Llama를 처음 사용하시나요? 최신 모델을 다운로드하고 오늘 빌드를 시작하세요.