Mercari, inc.
Software Engineer, Platform Engineering - AI/GPU Infra (On-Prem) - Mercari
Minato City, Tokyo, Japan · posted 2026-11-12 · listed from another job board
Source: WORKABLE — view original listing and apply. No platform account required.
At a glance
- Workplace
- Onsite
- Location
- Minato City, Tokyo, Japan
- Region
- Apac
- Time zones
- UTC+9
- Employment type
- Full time
- Skills
- AI, AWS, GCP, Kubernetes, ML
- Posted
- 2026-11-12
About the job
JD in English follows. 和文の後に英文JDをご覧いただけます。
Software Engineer, Platform Engineering - AI/GPU Infra (On-Prem) - Mercari
- 雇用形態: 正社員
- 働き方: フレックスタイム制(コアタイムなし)
- 勤務地: 六本木
詳細はキャリアサイトの募集要項よりご確認ください。
メルカリグループについて
あらゆる価値を循環させ、あらゆる人の可能性を広げる
「地球資源が限られているなか、より豊かな社会をつくるために何ができるか」。2013年、創業者の山田進太郎が世界一周の旅で抱いた課題意識から、フリマアプリ「メルカリ」は生まれました。私たちは、物理的なモノやお金に限らずあらゆる価値を循環させることで、誰もがやりたいことを実現し、人や社会に貢献するための選択肢を増やすことができると信じています。テクノロジーの力で世界中の人々をつなぎ、あらゆる人の可能性が発揮される世界を実現していきます。メルカリグループの目指すべき方針については Mercari Culture Doc をご覧ください。
組織・チームのミッション
Mercari Engineering Principles
Mercari Engineering Principles は、メルカリのエンジニアリング組織における信念や行動の基盤となる共通認識を明文化したもので、メルカリのメンバー全員が共有するMission、Value、Cultureをエンジニアリングの視点から補完するものとなります。これらのPrinciplesは、私たちが長期的に実現しようとする理想的な姿を定義することで、最終的にメルカリのミッションを達成するために活用していきます。
- Passion For The Product
- Grow Together
- Solve Through Mechanisms
- Collaborate Openly
詳細についてはエンジニアリングカルチャー をご覧ください。メルカリのミッション・バリューについての詳細はこちらをご覧ください。
Platformチームは、CDNなどのエッジ領域からクラウド、サービスメッシュ(Istio)、物理データセンターに至るまでネットワーク全体を管理し、メルカリのエンジニアがより信頼性の高いサービスを提供し、開発効率を向上できるよう支援しています。メルカリがAI/LLM領域に向けて自社保有のコンピューティング基盤への投資を進めるなか、私たちはチーム内に新たにオンプレミスGPUインフラを担う役割を立ち上げます。本ポジションはそのオンプレ側のオーナーとして、データセンター設備の確保とGPUコンピューティングを支えるネットワーク基盤の構築、そして既存のクラウド・プラットフォームネットワークとの安全な統合を担います。私たちは主にデータセンター(DC)ネットワークエンジニアを求めており、GPUの設置・保守の実務経験をお持ちの方を特に歓迎します。また、本ポジションでは設備・接続・現地作業に関してコーポレートITチームと密に連携いただきます。
業務内容(具体的な業務)
- データセンター設備(ラック・電源・冷却)と、それを支えるネットワークを含む、メルカリのオンプレミスGPUインフラの設計・構築・運用
- GPUワークロード向けネットワーク基盤の設計・構築:コンピュートファブリック(InfiniBand/RoCE)、ストレージ/インバンド、サービスネットワーク、分離されたOOB管理
- オンプレGPUファブリックおよびクラウド/プラットフォーム接続におけるBGP(必要に応じてOSPF/IS-IS、VLAN/VRFを含む)によるルーティングの設計・構成・運用(ASN設計、経路集約、ルーティングポリシーを含む)
- データセンター事業者およびSIパートナーとの設備準備、機器調達、リードタイム、リモートハンズ/設置作業に関する調整
- 社内データセンターのエンドツーエンドの管理(ベンダー/SIとの折衝、商談・交渉、契約・調達対応を含む)
- データセンターでの実地ネットワーク作業(ケーブルの敷設・交換、ルーター・スイッチ・ファイアウォール等の機器設定)。本ポジションではデータセンターへの定期的な現地訪問が必要です
- オンプレGPU環境と既存のコーポレート・クラウド(GCP/AWS)・プラットフォームネットワークとの安全な統合
- GPUシステムおよびネットワーク機器の監視・アラート・ログ・運用引き継ぎの確立
- GPU PoCの実行支援、およびPoCから本番運用に至る道筋の定義
- プロビジョニングや運用の自動化、Infrastructure as Code(IaC)による構成管理
- データセンター設備・接続・現地作業に関するコーポレートITチームとの密な連携(本ポジションでは必須)
- ML Platform、インフラ、セキュリティ、調達など各ステークホルダーとの協働
- データセンター設備(ラック・電源・冷却・搬入経路)準備のオーナーシップ。DGX B200/B300クラスのNVIDIA Pre-delivery Site Surveyの確認・宣言を含む
- パートナーとのRFP・見積・選定サイクルの推進、および調達チームと連携したNDA・R&R/RACI・契約・PO対応
- 社内承認プロセス(JB Engineering board、投資委員会、Procurement Team)向けの技術・コスト資料の作成(クラウドGPU/TPUとのTCO・ROI比較を含む)
- ローカルLLMサービング基盤を支えるノード/GPUソフトウェアスタックの運用(NVIDIAドライバ/CUDA/NCCL、GPU Operator、DCGM、コンテナランタイム)、およびサービングスタック(vLLM、NVIDIA NIM)とLiteLLMルーティング層との連携
- モデル・チェックポイント向けストレージとデータ経路の構築・運用、およびオンプレとGCP/GKE間でワークロードをクラウドにフォールバックできるポータビリティの維持
- オンプレ推論環境のSLO・オンコール・障害対応・Runbook・BCP/DRの定義と運用(Mercari SREのプラクティスと整合)
- Enterprise Securityと連携し、オンプレGPU/コンピュートノードをクラウドと同等のセキュリティ水準に引き上げる取り組み(資産可視化、エンドポイント/ポスチャ管理、監査可能な踏み台、分離されたOOBアクセス)
- FinOpsと連携したGPU利用率・電力・トークンコスト削減のトラッキングとレポーティング(1ノードからマルチノードへのスケールを見越した対応)
ユニークなチャレンジ
- メルカリ初のオンプレミスGPUインフラをほぼゼロから立ち上げ、設備・ネットワーク・運用の準備をエンドツーエンドでオーナーシップを持って推進
- クラウドネイティブなネットワーク手法と、従来型のデータセンター/オンプレ運用との橋渡し
- 高密度コンピューティングシステム(例:DGX B200クラス)や高速ファブリック(例:400G InfiniBand/RoCE)の取り扱い
- 要件や調達スケジュールが変化するなかで現実的な意思決定を行いつつ、管理プレーンを分離し、安全かつ運用可能な環境を維持
- 8GPU 1ノードのPoC環境から、基盤設計をやり直さずにマルチノード構成へ拡張
- オンプレの小規模言語モデルと外部フロンティアLLMを、ユースケースおよびコスト・データ機密性のポリシーに応じて使い分けるハイブリッド運用
- フルクラウドネイティブな組織の中でオンプレ運用のプラクティスを立ち上げ、PCI-DSSやISMS等のコンプライアンス要求にも対応
応募要件
求める経験・スキル
- ネットワークに関する強固な基礎知識(TCP/IP、IPアドレス管理、OSIレイヤー2〜7、ルーティング、DNS、TLS、HTTP)
- データセンターのルーティング/スイッチング、特にBGP(ASN設計、経路集約、ルーティングポリシー)の設計・構成・トラブルシュートの実務経験(OSPF、VLAN/VRFを含む)
- 物理/データセンターネットワーク(スイッチ、ルーター、ファイアウォール、構造化配線)の設計・運用の実務経験
- 本番環境におけるLinuxサーバーの運用経験
- GPU/高密度システムを含むデータセンターでの実地経験:現地でのケーブルの敷設・交換、ルーター・スイッチ・ファイアウォールの設定(本ポジションではデータセンターへの定期的な現地訪問が必要です)
- ラック・電源・冷却・クロスコネクトなどのデータセンター運用、およびリモートハンズ/設置作業の調整経験
- データセンターの物理・設備運用の実務経験(電源設備の取り扱い、回路切り替え(PDU・ブレーカー・回路変更)を含む)、および障害対応・本番トラブル対応の経験
- データセンターのベンダーやSIパートナーの管理経験(商談・交渉、契約・調達対応を含む)
- オンプレとクラウド(GCPまたはAWS)のネットワーク統合(VPN、プロキシ、ルーティングを含む)の経験
- ネットワーク設計・運用におけるセキュリティマインド:ファイアウォールのルール設計・管理、Egress(外向き通信)ポリシー、ネットワークのセグメンテーション/分離
- PythonやBashを用いたワークフローの自動化、およびInfrastructure as Code(IaC)による構成管理の能力
- デザインドキュメントの作成、社内ステークホルダーや社外ベンダー/SIerとの連携経験
- 国内データセンターでの本番インフラ運用経験(搬入計画、サイトサーベイ、日本語での設備調整を含む)
- Linux/GPUノードをフリートとして運用した経験(プロビジョニング、ファームウェア・ドライバのライフサイクル管理、監視、障害対応)
- 本番プラットフォームにおけるSLOの定義およびオンコール対応の経験
- コストモデル・ROI・リスクを含む社内承認/調達ドキュメントを作成し、経営層レビューを通した経験
- メルカリのミッションやバリューに対する共感
歓迎する経験・スキル
- GPU/HPCインフラ、およびInfiniBandやRoCEなどの高性能ファブリックの経験
- モダンなデータセンターファブリックの設計経験:Spine/Leaf・Border Leaf構成、EVPN-VXLAN(GPU環境の経験を歓迎、CPU/汎用環境の経験も可)
- ベアメタルプロビジョニングに関わるネットワーク(DHCPリレー、PXEブート)の設計経験
- データセンターにおけるGPUシステム/サーバーの設置・保守の実務経験(物理設置、配線、継続的なメンテナンス)※特に歓迎
- NVIDIA DGXまたは同等のGPUアプライアンスの運用経験
- アウトオブバンド管理(BMC/Redfish/IPMI)やPDU管理の経験
- 高密度データセンター環境(高kW/ラック、冷却戦略)の設計経験
- ML/LLMサービング基盤やGPUスケジューリングに関する知識
- SIパートナーや調達プロセスとの協働経験
- GoやPythonを用いたインフラやミドルウェアの開発経験
- 本番環境でのLLM推論運用経験(vLLM、NVIDIA NIM/Triton等、およびQwen・Gemma・Llama等のOSSモデル)
- GPUスケジューリング/オーケストレーションの経験(Kubernetes+GPU Operator、Run:ai、Slurm)
- GCPとのハイブリッド統合の経験(GKE、Workload Identity Federation、DNSの内外分離、クラウドフォールバック)
- N