記事一覧

AI
2025-07-30 ・ SemiAnalysis

ロボットの自律性レベルとは?SemiAnalysisが示す5段階分類と事業投資の判断軸

SemiAnalysisが、産業用ロボットから汎用機まで「自律性のレベル」を5段階で定義する業界初のフレームワークを公開しました。技術的可能性ではなく商用化可能性で線を引いた点が特徴で、汎用ロボットはすでにレベル2が初期量産、レベル3が初期パイロット段階にあると整理されています。

AI
2025-07-19 ・ Ahead of AI

MoEとMLAとは?DeepSeek V3が示す2025年LLMアーキテクチャの到達点

DeepSeek V3は256エキスパート・総パラメータ671B(うち推論時37B)というMixture-of-Experts(MoE)構成と、KVキャッシュを圧縮するMulti-Head Latent Attention(MLA)を採用し、Llama 3の405Bを上回る性能を示しました。GPT-2から7年、骨格は驚くほど変わらない一方、注意機構と正規化の細部が静かに刷新されています。

AI
2025-07-16 ・ AI Snake Oil

AIは科学を加速するのか?「生産と進歩のパラドックス」が示す不都合な真実

AI Snake Oilは、AIが科学を加速するどころか、論文数だけが膨張し本質的な進歩が停滞する「生産と進歩のパラドックス」を悪化させる可能性を指摘しています。1900年から2015年で論文発表は500倍に増えた一方、ノーベル賞対象となる発見の質的進歩は停滞しているという計量科学(metascience)の証拠が根拠です。

AI
2025-07-11 ・ SemiAnalysis

MetaのSuperintelligenceチームとは?ザッカーバーグが仕掛ける1人200億円の人材獲得とPrometheus/Hyperion巨大GPU群

Metaがスーパーインテリジェンス専門チームを新設し、Scale AIに約300億ドル評価で49%出資、トップ研究者には4年で2億ドル(同業の約100倍)を提示しています。Llama 4 Behemothの失敗とDeepSeekへのオープンモデル首位譲渡を受け、ザッカーバーグ自らが「Founder Mode」で人材と計算資源の立て直しに動いています。

AI
2025-07-01 ・ Ahead of AI

2025年上半期のLLM推論モデル論文マップ──DeepSeek-R1からMagistralまで何を読むべきか

Ahead of AIが2025年1〜6月のLLM研究論文をトピック別に整理した読書リストを公開しました。Kimi k1.5、DeepSeek-R1、Qwen3、Magistralなど主要モデルから、検証可能な報酬による強化学習(RLVR)、推論時スケーリングまで、3カテゴリで全体像を俯瞰できます。

AI
2025-06-17 ・ Ahead of AI

KVキャッシュとは?LLM推論を高速化する仕組みをPyTorch実装で解説

LLMの推論コストを左右する「KVキャッシュ」の役割と実装方法を、PyTorchベースのGPTモデル改修例で示した解説記事が公開されました。MultiHeadAttentionへのバッファ追加とposition管理だけで、トークン生成のたびに過去系列を再計算する無駄を解消できます。

AI
2025-06-16 ・ Synced

SEALとは?MITが発表したLLMが自分の重みを書き換える自己適応フレームワークを解説

MITが発表した「SEAL(Self-Adapting LLMs)」は、大規模言語モデルが自ら訓練データを生成し、強化学習を通じて自身の重みを更新する枠組みです。少数事例での適応タスクでは72.5%の成功率を記録し、未学習状態の0%、強化学習なしの20%を大きく上回りました。

AI
2025-05-10 ・ Ahead of AI

LLMをゼロから実装する15時間講座とは?『Build a LLM (From Scratch)』著者が無償公開した学習教材を解説

『Build a Large Language Model (From Scratch)』の著者が、書籍の補助教材として制作した約15時間のLLM自作動画講座を公開しました。トークナイザーからInstructionチューニングまでをPyTorchで実装する内容で、首の怪我による療養期間中の「合間のコンテンツ」として公開された経緯も明かしています。

AI
2025-05-01 ・ AI Snake Oil

AGIは「達成」されるのか?OpenAI o3で再燃した議論の本質と事業への含意

OpenAIの新モデルo3の登場でAGI達成論争が再燃していますが、研究者のArvind NarayananらはAGIを「観測不能で即時的な影響もない概念」とし、マイルストーンとして扱うこと自体が誤りだと指摘しています。事業に効くのは技術到達ではなく、社会への普及速度です。