LLM深層学習エンジニア

最寄駅

東京メトロ銀座線 神田駅から徒歩2分 都営地下鉄新宿線 岩本町駅から徒歩3分 JR各線 神田駅から徒歩4分 各線 秋葉原駅から徒歩4分 東京メトロ丸ノ内線 淡路町駅から徒歩5分 ※ オフィスでホワイトボードを囲んで議論する文化のため、原則出社となります。 ただし、プライベートの状況なども最大限尊重しますので、自由度の高い勤務形態を検討可能です。

業務内容

【業務内容】
・学習データの収集・作成・クレンジング
・上記を行うためのアプリケーション開発
・学習の実施・モニタリング
・精度評価手法の検討・実装
・学習記録の整理・可視化
・プロジェクト全体の進捗管理
・計算資源のメンテナンス
・最新研究の調査・社内共有
・対外発表・記事の掲載
・採用

【実際の働き方】
直近では、LLMの性能改善サイクルを回すための仕組みづくりを行います。複数のドメインの評価データを整え、精度評価基準を整備して、定点観測できる体制を整えます。
並行して、現在開発している7Bモデルの学習データの追加、および、各種ハイパーパラメーターの調整を通して、精度改善を進めていきます。
RLHFを行うためのアプリケーション開発についても、企画をしていきます。
週に2回の全体タッチポイントの中で精度の定点観測結果を見ながら、次の開発方針を決めて進めていきます。それ以外の時間はSlack越しに会話しながら、チーム全体で相談しながら進めていきます。

【開発環境】
▼機械学習
・Python
・PyTorch
・HuggingFace系ライブラリ
・Weights&Biases, etc.

▼その他
・NVidia A100 GPUサーバー
・AWS
・Docker
・Poetry

応募条件

【必須スキル】
・自ら実験計画を立てることができる。仮説を持ち、それを検証するための方法を考え、実験することができる。
・実験結果をログとして記録し、複数を比較して考察することができる。それをチームにレポートして、認識を揃えることができる。
・BERTなどの言語モデルを学習させた経験がある。学習・推論させるだけなく、定量的な評価を行うことができる。

【歓迎スキル】
・機械学習分野における修士・博士の学位
・機械学習分野における国際会議での発表
・OSSや技術コミュニティへの貢献の実績
・強化学習やRLHFを利用した経験
・LoRA、Int8、adafactorなどを用いた省メモリ環境でLLMを学習させた経験
・データ収集を立案・実行した経験。そのためのアプリケーションを開発した経験
・GPUサーバーのメンテナンス経験

こだわりポイント

女性が活躍、即日スタート、経験者優遇、Wワーク可能、駅から徒歩5分以内、フレックスタイム制、週休2日制、交通費支給、社会保険完備、育児支援制度、その他特別制度あり

受動喫煙防止情報

屋内受動喫煙対策：なし

案件番号

496138118