ほーりーふぉっくすのアイコン

ほーりーふぉっくすHoly-fox

About

自分は大規模言語モデル(LLM)やその学習に使用するツール・データを開発しています。

メインで注力している分野はLLMのポストトレーニング全般です。
中でもポストトレーニング用のデータ作成 / RL環境・タスクセット作成 / 完全非同期のオンライン強化学習を得意とし、モデルの評価 / AIによるAI開発 / 大規模な(1000体以上のAIエージェントを使用する)AIオーケストレーションまで、幅広い領域に関心を持っています。

人間にとってより使いやすく、ともに成長して行けるようなパーソナルで有用な新しい知性の実現を長期的な目標にしています。

Links

Expertise

Skills

Interests

Experience

2025年10月〜現在 株式会社Third Intelligence
事後学習・RL・データセット作成
2025年10月〜2026年3月 東京大学 松尾・岩澤研究室(医療LLMプロジェクト)
マネジメント・事後学習・データセット作成

Awards

2026年2月 第2回日本人工知能オリンピック(JOAI2026)金賞(全国2位)
2025年10月 東京大学 松尾・岩澤研究室「LLM開発コンペティション2025」決勝3位(チームoNo.1 副リーダー)、チームMVP
予選はチームきつねのリーダーとして参加し、12チーム中4位

Talks

2026年10月松尾研LLMコミュニティ【Paper&Hacks #102】医療特化型LLMを作るには - データ編【チームHOLON】
チームHOLON の4名で、医療特化型LLMの開発でデータ分野が行ったことを発表

2025年10月松尾研LLM開発コンペ2025 決勝結果発表イベント(東京大学 福武ホール)
チームoNo.1 の取り組みをリーダーと2人で発表し、データ班のパートを担当

News

2026年3月27日 AItuber向けに作られた、雑談性能重視の言語モデル(PC Watch)
ArrowCanaria-Llama-8B-SFT-v0.1 の紹介
2026年3月24日 AI VTuber200人分のキャラクター設計に使えるデータセット「AItuber-Personas-Japan」が公開中(GIGAZINE)
2025年12月2日 【松尾研LLM開発コンペ2025】決勝戦結果発表イベントレポート(東京大学 松尾・岩澤研究室)
チームoNo.1 副リーダーとしてのインタビューを掲載
2024年5月10日 15歳の高校生、「日本語能力最強」のAIモデル開発 AITuber向けに設計(ASCII.jp)
ArrowPro-7B-KUJIRA の紹介

Works

Moongazer-RL(2026年10月)
Prime Intellect の verifiers v1 環境をそのまま使い、LoRA の方策を GRPO 系の強化学習で学習するフレームワーク。同期と完全非同期の両方で動き、サンプラー(vLLM)と学習側を 32GB の GPU 1枚に載せられる。
GitHub / 解説記事
SDG-LOOM(2026年)
LLM で大規模な合成データを作るためのフレームワーク。生成の流れを記述言語 MABEL で書き、多数のエージェントを並列に動かす。vLLM / SGLang の負荷に応じて同時実行数を自動で調整する。
GitHub / 紹介記事
ArrowCanaria-Llama-8B-RL-v0.1(2026年3月)
AITuber 向けの 8B 日本語モデル。ArrowCanaria-Llama-8B-SFT-v0.1 に、報酬モデルを使った GRPO(DAPO 損失)で RLHF を行った。相談応答と知識応答の2段階で学習し、共感・傾聴の質と知識応答の正確さを高めた。
Hugging Face
ArrowIdeative-13b-NeoBase-ZERO-llm-jp-v0.1(2026年1月)
llm-jp-3-13b のベースモデルから、SFT を使わず GRPO だけで事後学習した日本語モデル。ベースモデルに近い出力の自由度を残しつつ、チャット形式の順守と回答の質の向上を狙った。
Hugging Face
AItuber-Personas-Japan(2026年3月)
AITuber 約200人分のキャラクター設定を収めた日本語の合成データセット。SDG-LOOM で作成。
Hugging Face / 解説記事
Zero_SFT_Ja_v3.5(2025年5月)
Base-Refine(BARE)手法で作った日本語の指示応答データセット(10.8万件)。質問生成に Sarashina2-70B、回答生成に Qwen3-235B-A22B を使用。
Hugging Face

ほかのモデルとデータセットは DataPilot と TeamDelta で公開しています。

Articles

2026年10月3日 【家でもできるフロンティア級の完全非同期RL】 Moongazer RLをRTX 5090で動かす(Zenn)
2026年8月29日 GPUを燃やさないために - RTX 5090にパワーリミットをかけると、性能はどれだけ落ち、どれだけ冷えるのか -(Zenn)
2026年5月26日 reasoning特化の事後学習によるllm-jp-4-kappa-32b-a3b-v0.1の開発記録(Third Intelligence 技術ブログ)
2026年3月27日 一日でできる! オリジナルのローカルLLMの作り方【データ合成からLM Studioまで】(note)
2026年3月14日 【紹介】SDG-LOOM — LLMによる大規模合成データ生成フレームワーク(note)

ほかの記事:note / Zenn / Qiita

Contact

ご連絡は X(@Holy_fox_LLM)の DM にお願いします。