Switch to the Japanese section - 日本語版はこちら
About the Group
The Sakana AI Security Research Group is a new, founding-stage R&D team working in the public interest. The group operates independently of Sakana AI’s business activities.
We will work on three questions: how to build quality in, so that whole classes of flaws are prevented and automated fixes can be verified; whether defense with AI agents can be coordinated across organizations at machine speed (an open, early-stage direction); and how to keep AI itself secure and safe, starting with the defenders’ own AI agents. We intend to share what we learn openly, through papers, reproducible benchmarks, and practical engineering guidance, with care for the dual-use nature of this work: the same findings can serve attackers as well as defenders. We will work with government, critical-infrastructure operators, and the wider security community in Japan and globally.
About the Role
We are hiring senior researchers. You will help define the group’s agenda, standards, and ways of working, and you will carry a research theme largely on your own.
Key Responsibilities
- Explore widely first, then narrow: we value breadth of exploration early, and expect a clear, evidence-based conclusion before a line of work is closed.
- Formulate clear hypotheses and develop novel methods that address current limitations in cyber defense and in the security and safety of AI itself.
- Assess dual-use and misuse risks inherent in new techniques, and use those findings to build stronger defenses for the public good.
- Design rigorous experimental and verification plans with well-defined metrics, reproducible baselines, and explicit conditions for falsification.
- Track frontier advances in both AI for security and the security and safety of AI itself, and maintain an up-to-date map of the research landscape and key open problems.
- Help define the team’s research agenda and quality standards.
Required Qualifications
What we weigh most
- Problem formulation: You find problems worth working on rather than only solving assigned ones, turn vague concerns (e.g. “is this agent safe to deploy?”) into testable hypotheses, and can explain why this problem and not another.
- Exploration: You carry a research theme on your own and, driven by curiosity, investigate unfamiliar territory quickly and widely.
- Critical thinking and objectivity: You examine claims and arguments, including your own, against the evidence. Whether giving or receiving a critique, the subject is the argument itself.
Baseline we require of everyone
- Convergence: You can bring open-ended work to an evidence-backed conclusion that stands on its own as a research theme. You say what the evidence does and does not support, and you decide yourself, on the evidence, to stop lines of work that are not paying off. A partial conclusion is acceptable; honesty about its limits is required.
- Foundation: Hands-on experience in at least one of AI, security, safety, reliability/quality engineering, or the design and implementation of high-stakes systems, enough to explain the causes of failures and incidents in real systems, and you have taken at least one piece of work from problem definition to an evidence-backed conclusion largely on your own. Knowledge of a particular field or tool, by itself, counts for little.
- Intellectual honesty: You openly acknowledge knowledge gaps, negative results, and past mistakes.
- Clear writing: You can distill complex technical material into accurate papers, white papers, and operational guidance.
- Professional ethics: You work within the law, our internal policies, and the scope of authorized testing.
Preferred Qualifications
Experience in any of these areas is a plus, and a few are plenty. Specific tools can be learned on the job; we care about depth and about how you think.
- Systems and reliability: operating systems, kernels, compilers, embedded systems, SRE, quality engineering, formal methods.
- Security practice: blue-team architecture and operations, incident response, vulnerability research and coordinated disclosure, red teaming, cybersecurity regulation and standards in Japan and internationally.
- Evaluating the security and safety of AI models and agents, such as red teaming, prompt injection, and agent access control.
- AI systems and evaluation: agent workflows and multi-agent systems, harness engineering, tool use and agent protocols, retrieval and hallucination countermeasures, benchmark and evaluation design, machine learning and reinforcement learning, self-improving systems and open-ended exploration.
- Experience across the full data science process, from problem definition and data analysis to feature engineering, model implementation, and value validation.
- Building AI agent workflows and multi-agent systems.
- Developing foundational AI agent technologies such as Deep Research and Computer Use.
- Building tools around AI agents, such as function calling, MCP, and A2A.
- Building RAG systems and search engines.
- Hallucination countermeasures such as fact-checking, citation, and guardrails.
- Building task-specific and domain-specific benchmarks and continuously evaluating and improving against them.
- Research and development of self-improving systems.
- Developing open-ended exploration using AI agents.
- Designing, training, evaluating, and improving models using reinforcement learning and supervised/unsupervised learning.
- Practical know-how in using AI-assisted coding tools such as GitHub Copilot, Cursor, Devin, and Claude Code.
- Public and applied work: papers, talks, coordinated disclosures, open-source tools, or turning research insights into practical improvements for real systems or organizations. A publication record is not required; incident write-ups, failure analyses, and technical writing count.
Member of Technical Staff (Security Research Group)
グループについて
Sakana AI Security Research Groupは、公共の利益のために活動する、創設期の新しい研究開発チームです。このグループは、Sakana AIの事業活動から独立して運営されます。
私たちは、3つの問いに取り組みます。
- ソフトウェアやシステムを、設計や開発の段階からどう作れば、同じ種類の欠陥を繰り返し生まずに済むか。また、AIなどが自動で行った修正が正しく安全であることを、どう確かめるか。
- 組織ごとに置かれた防御用のAIエージェントが、組織の垣根を越えて情報を共有し、人手を介さず即座に連携して守ることはできるか(初期段階の研究の方向性です)
- AIそのもののセキュリティと安全性をどう確保するか。まずは、防御を担うAIエージェント自身を守ることから始めます。
得られた知見は、論文、誰でも再現できるベンチマーク、現場ですぐに使える技術的な手引きとして、オープンに共有していく予定です。セキュリティ研究の成果は、守る側だけでなく攻撃する側にも悪用されうるため、公開の仕方には十分に配慮します。また、日本国内外の政府機関、重要インフラ事業者、そして広くセキュリティコミュニティと連携していきます。
ポジションについて
シニアリサーチャーを採用します。グループの研究課題や基準、働き方をともに形づくりながら、一つの研究テーマを主体的に担っていただきます。
主な責務
- まず広く探索し、それから絞る。初期は探索の幅を重視し、一つの研究を終える前には、証拠にもとづく明確な結論を求めます。
- 明確な仮説を立て、サイバー防御と、AI自体のセキュリティと安全性における現在の限界に取り組む新しい手法を開発する
- 新しい技術に内在する二重利用と悪用のリスクを評価し、その結果を、公共の利益のためのより強い防御の構築に生かす
- 明確な指標、再現可能なベースライン、反証の条件を明示した、厳密な実験・検証計画を設計する
- AIを活用したセキュリティと、AI自体のセキュリティと安全性の両方で、最先端の進展を追い、研究の全体像と主要な未解決問題について、最新の地図を保つ
- チームの研究課題と品質基準の策定に参画する
必須要件
最も重視すること
- 問題設定: 与えられた問題を解くだけでなく、取り組む価値のある問題を自ら見つけられる。「このエージェントを実際の業務で使っても安全か」といった漠然とした懸念を、実験で確かめられる仮説に落とし込み、なぜ他でもなくその問題に取り組むのかを説明できる。
- 探索: 一つの研究テーマを自分で担い、探究心を持って慣れない領域を速く広く探ることができる
- クリティカル・シンキングと客観性: 自分自身の見解を含め、主張や議論を証拠に照らして検討できる。指摘する側でも受ける側でも、誰が言ったかではなく、議論の中身そのものに向き合える。
全員に求める基本条件
- 収束: 先の見えない探索を、根拠に裏づけられた、一つの研究テーマとして独立して成り立つ結論にまとめられる。証拠から何が言えて何が言えないかを明確にし、成果の見込めない研究は、証拠にもとづいて自ら打ち切る判断ができる。結論は部分的でも構いませんが、その限界を正直に示すことを求めます。
- 基礎: AI、セキュリティ、安全性、信頼性・品質エンジニアリングのいずれか、または障害が重大な影響を及ぼすシステムの設計・実装について実務経験があり、実際のシステムで起きた障害や事故の原因を説明できる。あわせて、問題設定から根拠ある結論まで、一つの仕事をおおむね独力で進めた経験のある方。特定の分野やツールに詳しいというだけでは、評価の決め手にはなりません。
- 知的誠実さ: 知識の不足、うまくいかなかった結果、過去の誤りを率直に認められる
- 明確な文章: 複雑な技術的内容を、正確な論文、ホワイトペーパー、運用の手引きにまとめられる
- 職業倫理: 法令、社内規程、許可されたテストの範囲を守って活動できる
歓迎要件
これらのうち、いくつか当てはまれば十分です。個別のツールは仕事の中で身につけられます。私たちが重視するのは、深さと、考え方です。
- システムと信頼性: オペレーティングシステム、カーネル、コンパイラ、組込みシステム、SRE、品質エンジニアリング、形式手法
- セキュリティの実務: ブルーチームのアーキテクチャと運用、インシデント対応、脆弱性研究と協調的開示、レッドチーミング、日本と国際的なサイバーセキュリティの規制と標準
- モデルやエージェントのセキュリティ・安全性の評価(レッドチーミング、プロンプトインジェクション、エージェントの権限管理など)
- AIシステムと評価: エージェントのワークフローとマルチエージェントシステム、ハーネスエンジニアリング、ツール利用とエージェントのプロトコル、検索とハルシネーション対策、ベンチマークと評価の設計、機械学習と強化学習、自己改善するシステムとオープンエンドな探索
- 問題設定、データ分析、特徴量エンジニアリング、モデルの実装、価値の検証まで、データサイエンスの全工程にわたる経験
- AIエージェントのワークフローとマルチエージェントシステムの構築
- Deep ResearchやComputer Useなど、AIエージェントの基盤技術の開発
- 関数呼び出し、MCP、A2Aなど、AIエージェント周辺のツールの構築
- RAGシステムと検索エンジンの構築
- ファクトチェック、引用、ガードレールなどのハルシネーション対策
- タスク特化・ドメイン特化のベンチマークの構築と、それに対する継続的な評価と改善
- 自己改善するシステムの研究開発
- AIエージェントを用いたオープンエンドな探索の開発
- 強化学習、教師あり学習、教師なし学習によるモデルの設計、学習、評価、改善
- GitHub Copilot、Cursor、Devin、Claude Codeなど、AIコーディング支援ツールの実践的なノウハウ
- 公共・応用の仕事: 論文、講演、協調的開示、オープンソースのツール、あるいは研究から得た洞察を、実際のシステムや組織の実践的な改善につなげた経験。論文の実績は必須ではありません。インシデントの報告書、失敗の分析、技術的な文章も評価します。