近日、DeepSeekは採用規模を拡大し、アルゴリズム、研究開発、製品、運用、データエンジニアなど多くの分野でポジションを募集しています。同時に、DeepSeek V4の正式版は今月中旬にオンラインになる予定です。公開情報によると、清華大学2021年博士課程の学生で、2025年の大学院特別奨学金受賞者である顧煜賢がDeepSeekに参加したことが確認されており、彼の名前は以前にDeepSeek V4の論文著者リストにも掲載されていました。
DeepSeekの資料によると、顧煜賢は清華大学計算機科学科の博士課程の学生であり、学部も清華大学を卒業しています。現在の研究の焦点は、大規模言語モデルの全ライフサイクルにおける効率最適化、特に事前学習、下流適応、推論などの重要な段階に集中しています。彼は個人のホームページで、研究の重点は事前学習データの選別、モデル圧縮における知識蒸留、効率的なモデルアーキテクチャ設計を含むと述べています。顧煜賢は、ハードウェアリソースが制限されている状況下で、アルゴリズムの革新が計算のボトルネックを突破する重要な道であると述べています。
顧煜賢の研究成果及びその影響力
学術成果において、顧煜賢は2025年度のApple博士奨学金とAnt Group In-Tech奨学金を受賞したことがあります。彼のGoogle Scholarページによると、関連論文の引用数は5000回に近づいており、その中で2つの論文はそれぞれ1000回以上引用されています。これらは「事前学習モデル：過去、現在、未来」と「MiniLLM：大規模言語モデルの知識蒸留」です。第一著者として、彼はNeurIPS、ICLR、ACLなどの人工知能分野の重要な学術会議で論文を発表しています。
彼の代表的な研究の一つはJet-Nemotronです。このモデルシリーズは混合アーキテクチャ設計を採用しており、コアには後神経アーキテクチャ探索手法とJetBlock線形注意モジュールが含まれています。公開された論文によると、2Bバージョンは一部のベンチマークテストでQwen3、Qwen2.5、Gemma3、Llama3.2などのオープンソース全注意モデルを超え、H100 GPU上で最大53.6倍の生成スループットの向上を実現しました。テスト条件は256Kのコンテキスト長と最大バッチサイズです。
さらに、顧煜賢とその共同研究者は2024年にMiniLLM手法を提案し、知識蒸留の目標を改善することで、大規模言語モデルの能力を小モデルにより効果的に移転することを実現しました。論文の結果は、この手法が指示に従うシナリオにおいて回答の正確性を向上させ、露出バイアスを低下させ、長文生成能力を強化することを示しています。現在、この手法はGoogle、アリババ、NVIDIAなどの関連オープンソースコミュニティや産業プラットフォームで採用されています。DeepSeek V4が間もなくオンラインになる中、顧煜賢の参加はその後のモデル開発にさらなる注目をもたらしています。