入門者必読!a16z推薦のAI定番リソース集
a16zが推薦するAI入門の定番リソース集。Transformerや拡散モデルなど現代AIの核心概念をわかりやすく解説。ニューラルネットワーク、バックプロパゲーション、埋め込みなどの基礎学習資料も網羅し、初心者から実務者まで体系的にAIの潮流を理解できます。
AI により中国語から翻訳されています。問題があればフィードバックボタンからお知らせください。
翻訳者:WaytoAGI(通往AGI之路)
人工知能の研究は指数関数的なペースで進んでいます。AI専門家にとってさえ、すべての新たな発表を追いかけるのは非常に困難であり、初心者にとってはなおさらです。
そこで本記事では、現代のAIをより深く理解するために私たちが信頼する、厳選されたリソースリストを共有します。これを「AI典蔵(AI Canon)」と呼びます。これらの論文、ブログ記事、コース、ガイドは、ここ数年でこの分野に大きな影響を与えてきました。
まず、現在のAIブームを牽引するTransformerおよびLatent Diffusion(潜在拡散)モデルについて簡単に紹介します。次に、技術学習リソース、大規模言語モデル(LLM)構築の実践ガイド、AI市場の分析について深掘りします。最後に、2017年にGoogleが発表した「Attention is All You Need」——Transformerモデルを世界に紹介し、生成AIの時代を切り開いた論文——から始まる、画期的な研究成果のリファレンスリストを掲載します。
気軽に始める……
これらの記事は専門的な背景知識を必要とせず、現代のAIブームの最も重要な部分を素早く理解するのに役立ちます。
-
Software 2.0:Andrej Karpathyは、新しいAIの波がなぜ本当に重要なのかを(2017年という早い段階で)明確に説明した最初の一人です。彼の主張は、AIがコンピュータをプログラムする新しい強力な方法であるというものです。大規模言語モデル(LLM)の急速な改善により、この主張は先見の明があることが証明され、AI市場の今後の進展を考える上で優れた思考モデルを提供しています。
-
State of GPT:これもKarpathyの記事で、ChatGPT / GPTモデルが一般的にどのように動作するか、それらをどのように使用するか、そして研究開発がどのような方向に進む可能性があるかについて、非常にわかりやすく説明されています。
-
What is ChatGPT doing … and why does it work?:コンピュータ科学者であり起業家でもあるStephen Wolframが、現代のAIモデルがどのように機能するかを基本原理から説明した、長くても読みやすい記事です。初期のニューラルネットワークから今日のLLMやChatGPTに至るまでのタイムラインに沿って解説しています。
-
Transformers, explained:Dale Markowitzによるこの記事は、「LLMとは何か、どのように動作するのか?」という問いに対する、より短く直接的な回答です。このテーマに気軽に取り組み、テクノロジーに対する直感的な理解を築くのに最適な方法です。この記事はGPT-3に関するものですが、新しいモデルにも適用できます。
-
How Stable Diffusion works:これは、前の記事のコンピュータビジョン分野における対応記事です。Chris McCormickが非専門家向けにStable Diffusionの仕組みを説明し、テキストから画像へのモデルの観点から、このテクノロジーに対する直感的な理解を助けます。より気軽に概念を理解したい場合は、r/StableDiffusionのこの漫画をご覧ください。
基礎学習:ニューラルネットワーク、バックプロパゲーション、埋め込み
これらのリソースは、機械学習とAIの基本概念に関する基礎的な理解を提供します。ディープラーニングの基礎からAI専門家向けの大学レベルのコースまでをカバーしています。
解説リソース
-
Deep learning in a nutshell: core concepts:Nvidiaによる4部構成のシリーズで、2015年時点のディープラーニングの実践的な基礎を紹介しています。AI学習を始めたばかりの方に最適なリソースです。
-
Practical deep learning for coders:実用的な例とコードを通じて、AIの基礎を包括的に解説する無料コースです。
-
Word2vec explained:埋め込みとトークンについての平易な入門記事です。これらはLLM(およびすべての言語モデル)の構成要素です。
- 翻訳:Word2Vec 詳解
-
Yes you should understand backprop:詳細を理解したい方向けの、バックプロパゲーションに関するより深い記事です。さらに学びたい方は、YouTubeのStanford CS231n講義もご覧ください。
コース
-
Stanford CS229:Andrew Ngによる機械学習入門コース。機械学習の基礎をカバーしています。
-
Stanford CS224N:Chris Manningによる深層学習を用いた自然言語処理(NLP)コース。第一世代LLMを通じてNLPの基礎を解説しています。
入門記事の翻訳
📊 こちらは飛び込み埋め込みコンテンツ(表/キャンバス等)です。飛び込みナレッジベースで完全版を表示
グループメンバーの解説:
張海庚