Metaは、Llama 3.1のリリースを発表し、オープンソースAI技術における重要な進歩を示しました。この新しいモデルは、比類のない柔軟性と最先端の能力を備え、AI分野における新たな基準を確立します。
Llama 3.1の主な特徴
拡張されたコンテキスト長と多言語サポート
Llama 3.1の際立った特徴の一つは、コンテキスト長が128Kに拡張されたことです。これは、従来のモデルに比べて大幅な改善です。
この強化により、長文の要約や多言語の対話型エージェントなど、より複雑で長いインタラクションが可能になります。さらに、Llama 3.1は8つの言語をサポートしており、多様な言語環境での利用が広がります。
Llama 3.1 405Bの導入:フロンティアレベルのAIモデル
Llama 3.1 405Bは、最初のフロンティアレベルのオープンソースAIとして注目される画期的なモデルです。
4050億のパラメーターを持ち、一般知識、操作性、およびツールの使用において、いくつかの最良のクローズドソースモデルと肩を並べます。
このモデルは、合成データの生成やモデル蒸留など、新しいワークフローを開くことを目的としています。
強化されたセキュリティと安全ツール
責任あるAI開発を促進するために、MetaはLlama 3.1とともに新しいセキュリティおよび安全ツールを導入しました。これらには、Llama Guard 3とPrompt Guardが含まれており、開発者が安全でセキュアなアプリケーションを構築できるよう支援します。
また、MetaはLlama Stack APIに関する意見募集を開始し、Llamaモデルを活用するサードパーティプロジェクトのインターフェースを標準化することを目指しています。
初日から利用可能なパートナーエコシステム
Llamaのエコシステムは堅牢で、25以上のパートナーがAWS、NVIDIA、Databricks、Groq、Dell、Azure、Google Cloud、Snowflakeなどと連携し、初日からLlama 3.1の展開と利用をサポートするサービスを提供します。
Llama 3.1での構築
リアルタイムおよびバッチ推論
Llama 3.1は、リアルタイムおよびバッチ推論の両方をサポートするように設計されており、さまざまなアプリケーションに対して柔軟に対応できます。開発者は、このモデルを使って、監督された微調整、継続的な事前学習、および検索強化生成(RAG)などのタスクに利用できます。
指示とチャットの微調整
Llama 3.1の開発プロセスには、指示の遵守およびチャット機能を強化するための複数の微調整が含まれていました。この反復的な手順により、高品質な合成データの生成が可能になり、モデルの性能が全体的に向上します。
オープンネスが革新を促進
MetaのオープンソースAIへの取り組みにより、開発者はLlama 3.1をニーズに合わせて完全にカスタマイズできます。モデルの重みはダウンロード可能で、特定のアプリケーションに対してデータをMetaと共有することなく、広範なカスタマイズと微調整が可能です。
編集者のコメント
MetaのLlama 3.1のリリースは、オープンソースAIにとって画期的な前進を示しています。開発者に高性能で柔軟なモデルを提供することで、Metaは革新を促進するだけでなく、AIの恩恵が社会全体により均等に行き渡るようにしています。強化されたセキュリティおよび安全ツールの導入は、責任あるAI開発へのMetaのコミットメントをさらに強調しています。