アラブ首長国連邦の技術革新研究所が「ファルコン40B」大規模言語モデルをオープンソース化、研究・商業利用へ

アブダビの先進技術研究協議会（ATRC）の応用研究の柱で世界有数の科学研究センターである技術革新研究所（TII）は、アラブ首長国連邦初の大規模AIモデルである「ファルコン40B」が研究および商用利用できるオープンソースとなったことを発表し、その国際的影響力をさらに強めました。この先駆的な動きは、分野を超えた協力を促進し、生成AIを発展させるというアブダビの真剣な取り組みを示しています。

400億のパラメータを持つ基本的な大規模言語モデル（LLM）で、1兆個のトークンを使用して訓練されたファルコンは、研究者や中小企業（SME）イノベーターに等しくかつてないアクセスを与えます。TIIは、強力なLLM能力へのアクセスを可能にし、透明性とアカウンタビリティを促進し、現場でのイノベーションと研究を支援することを目的として、より包括的なオープンソースパッケージとしてモデルの重みにアクセスできるようにしています。

現在のAIエコシステムではモデルの重みにアクセスできないLLMに比べ、モデルの重みにアクセスできるLLMは微調整できる能力が高いので、研究者は魅力的だと考えています。ほとんどのLLMは非商用ユーザーにのみ独占ライセンスを付与していますが、TIIは研究者や商用ユーザーにファルコン40B LLMへのアクセスを提供する上で重要な一歩を踏み出しました。

TIIは、ファルコン40Bのオープンソースモデルとしてのリリースに併せ、基礎モデルの可能性を活かすことに熱意を持つ科学者、研究者、先見の明がある人々を募り、技術発表募集を開始しました。革新的なアイデアを提供し、モデルを活用して刺激的なユースケースを構築したり、エンジニアリング、医療、持続可能性、コーディングなどの分野での応用の可能性を模索したりすることが奨励されています。

優れた研究提案への報酬として、選ばれたプロジェクトには投資という形で「訓練計算処理能力」が与えられます。これにより、イノベーターはデータ分析、複雑なモデリング、新しい発見を加速させるために、エラーに強いコンピューティング資源を活用することができるようになります。このサポートは、新しいアイデアを商業利用の可能性と社会的利益を持った影響力の強いソリューションに変えるために必要なリソースを提供し、その開発を促し、加速させます。

ATRCの商業化部門であるVentureOneは、最も革新的なソリューションを製品化するためのコンピューテーション能力を促進します。

「ファルコン40Bのオープンソース化は、AIイノベーションを促進する私たちのコミットメントにおける重要なマイルストーンです」と先進技術研究協議会（ATRC）の事務総長フェイサル・アル・バナイは述べています。「私たちはLLMへのアクセスを破壊し、研究者や起業家が最も革新的なユースケースを考え出すことができるようにしています。VentureOneを通じた資源としてのコンピューテーション能力を活用してこれらの意見提起をサポートし、研究エコシステムの繁栄を促進していきます」

2023年3月に初めて発表されたファルコンは、優れたパフォーマンスを示し、技術進歩に対するアラブ首長国連邦の取り組みを強調しました。スタンフォード大学のHELM LLMベンチマークツールに基づくと、ファルコン40Bは使用する訓練計算処理能力がごくわずかで済むという点において有名な類似システムを上回りました。このツールはOpenAIのGPT-3が行う訓練計算の75%、DeepMindが持つChinchilla AIの40%、GoogleのPaLM-62Bが行う訓練計算の80%しか使用しないことによって、生成AI開発の推進に対するTIIの取り組みを示しています。

TIIのCEOであるRay O. Johnson博士は次のように述べています。「計算処理能力はAIシステムの訓練を加速し、ユースケースの迅速な実装を可能にするために重要な役割を果たしています。技術革新を推進する新しい燃料として,そのような支援を提供するという動きは、イノベーターの能力を向上させ、驚くべき進歩を達成するためにプロジェクトの限界を押し広げることを可能にします」

ファルコン40Bは、TIIのAI・デジタルサイエンス研究センター（AIDRC）が主導した大きな進歩です。同チームは昨年、世界最大のアラビア語NLPモデルであるNOORを昨年発表しました。開発は順調に進んでおり、間もなくファルコン180Bを発表する予定です。

TIIのAIクロスセンターユニット・ディレクターであるEbtesam Almazrouei博士は、次のように述べています。「ファルコン40B、7.5B、1.3BパラメータAIモデル、高品質のREFINEDWEBデータセットのオープンソース発表は、アラブ首長国連邦の深い科学的貢献を示しています。画期的な進歩を遂げるたびに、私たちは限界を越え、可能性の範囲を再構築し、社会を変えるほどの影響をもたらす協力的な取り組みへの道を切り開きます」

アラブ首長国連邦は最近、2023年の国連フロンティア技術準備指数の166か国のうち、順位を5つ上げてアラブ諸国トップの37位になりました。オープンソースの生成AIモデルは進歩的技術のマイルストーンの長いリストを補完し、主流AIの参入国としてのアラブ首長国連邦の資格を確実に高めています。

ファルコンAIモデルへのアクセス、または技術発表募集にユースケースの提出を希望される方は、FalconLLM.TII.aeをご覧ください。ファルコンのLLMSはこれまでオープンソースであり、オープンソースの Apache 2.0ソフトウェアの原則に基づいて作成されたライセンスに基づいて利用可能になる予定です。これによって広範囲にわたる無償使用が可能になります。

本記者発表文の公式バージョンはオリジナル言語版です。翻訳言語版は、読者の便宜を図る目的で提供されたものであり、法的効力を持ちません。翻訳言語版を資料としてご利用になる際には、法的効力を有する唯一のバージョンであるオリジナル言語版と照らし合わせて頂くようお願い致します。

アラブ首長国連邦の技術革新研究所が「ファルコン40B」大規模言語モデルをオープンソース化、研究・商業利用へ