ABEJA Tech Blog

中の人の興味のある情報を発信していきます

今年書いたネイティブコードが全部 Objective-C だった件 ~転生したら Swift 書く~

こちらは ABEJA アドベントカレンダー2022 の 5 日目の記事です。 はじめに こんにちは。CS 統括部システム開発グループ 1 の石川 (@ishikawa) です。 9 月に ABEJA は、本社オフィスを「Bizflex 麻布十番」に移転しました2。本社移転を受けて、Bizflex オフ…

転生したらデータサイエンスの国でクッキーの型職人になっていた件

こんにちは。システム開発グループでエンジニアをやっている鈴木です。 本記事はABEJAアドベントカレンダー2022の4日目の記事です! タイトルだけ見ると、なんのこっちゃって感じですが、本記事は真面目な書き方をするとデータサイエンティストとの協業がテ…

Notion DB をイイ感じに活用する Tips 3選 〜巷で人気の音ゲーの楽曲リストを例に〜

はじめに 皆さんこんにちは。 毎年の Advent Calendarで Notion やら Google AppSheet やら業務効率系の記事を書いている齋藤です。 本記事は ABEJA Advent Calendar 2022 の3日目の記事になります。 今回は、私が今年の元日(2022/01/01)公開した「プロセカN…

野球の投球の「危険度」を予測してみた ~「あ、この球、打たれるわ」をAIで判断~

目次 目次 はじめに アイデア 検証方法 データ準備 分析アプローチ データ取得 前処理・特徴量エンジニアリング 学習 結果 考察 まとめ ABEJAについて はじめに はじめまして!今年2月にABEJAにデータサイエンティストとして入社しました真鍋と申します。 こ…

掃除ロボットをかゆいところまで手の届く仕様に改造する

本日ご紹介するのは相棒を涙ながらに分解し再度構築した男の汗と涙の物語です

Kaggle Days World Championshipで優勝した話

ABEJAでデータサイエンティストをしている服部です。 2022年10月28, 29日にバルセロナにてKaggle Days World Championship Finalというデータサイエンスに関するイベント兼コンペティションが開催され、そこに参加しました。そして幸いなことに私の所属する…

小型かつ安価なセンサーを使って人の行動推定を行ってみる

はじめに こんにちは!ABEJAでプロダクトマネージャーをしている栗林です! ABEJAでは小売店舗での顧客行動を分析するInsight for Retailというプロダクトや、オフィスDX事業をはじめとして、物理世界の現象を機械学習などが適用可能なデジタルに変換する部…

目指せ脱属人化!社内ツールの開発と保守運用が楽になるTIPS紹介

はじめに 記事を書いた経緯 社内向けツール開発時の課題 ABEJAでの取り組みについて 作成した社内向けツールの例 社員の工数を管理するためのツール NotionとSalesforceを連携するためのツール Googleスライドのフォントを変換するためのツール 開発・運用時…

ABEJA GPTモデルにおけるアーキテクチャの工夫

1. はじめに 2. 先行研究からの学び 3. 前提 4. アーキテクチャ変更候補 活性化関数の変更 (SwishGLU) Transformer layerの並列化 biasパラメータ除去 Input-Output Embeddingの共有 (Weight tying) 5. 小規模モデルでの実験 実験設定 Transformer layerの並…

GPT-neoxの学習用にマルチノード並列学習環境を整えた with DeepSpeed

1. はじめに 2. 並列学習環境を調べる 並列学習方法を調べる ネットワーク、コンピューティング周りを調べる 3. インフラ環境を構築する コンパクトプレースメントポリシーの作成 Compute Engine を起動する (Fast Socket と gVNIC を利用する) 4. まずはシ…