ABEJA Tech Blog

中の人の興味のある情報を発信していきます

位置インデックス情報を操作して LLM に長文と錯覚させたらどうなるか?

LLM

ABEJAでデータサイエンティストをしている藤原です。 今回も LLM のロングコンテキスト言語処理(Long-context language modeling; LCLM)に関連するブログになります。前回のブログはこちらです。 様々なコンテキスト長における LLM の Self-Attention の Q…

心理的安全性ってどう測る?どう高める? システム開発部での取り組み

こんにちは!システム開発部でエンジニアをやっている春名です。 最近のテックブログはロボット関連が多いですが、 この記事では私がABEJAに入社した2023年から取り組んでいる「心理的安全性」に関する取り組みの内容をご紹介します。 心理的安全性といえば…

Uber が社内で運用している会計部門向けのAIエージェント『Finch』

こんにちは、ABEJA Platform に搭載しているアプリケーション、「ABEJA Insight for Retail」の開発と運用を担当している森永です。 導入いただいた企業様がよりデータドリブンな組織へと変革できるように日々新しい機能をリリースしていて、現在ベータ版と…

サクッとKeycloakに入門してみた(OIDCによるログイン・JWT検証・カスタムクレーム)

背景 Keycloakとは 動かしてみる ローカル環境でKeycloakを立ち上げる 概念を理解する OIDCでログインするための準備 カスタムクレームを設定 Group Attributeを利用する方法 User Attributeを利用する方法 audの設定 ブラウザでOIDCでアクセストークンを取…

NVIDIA H200 × 8でどれくらいの規模の事前学習を実施できるか

LLM

ABEJAでデータサイエンティストをしている岩城です。 NVIDIA H200 GPUはハイパフォーマンスコンピューティング (HPC) ワークロード向けに設計されたもので、LLMの推論を高速に行うことができます。 現在では様々なクラウドコンピューティングサービスがH200…

ユーザーに寄り添うQAエンジニアリング  ~ユーザー視点を活かす強み

こんにちは!ABEJAの中村です。 今回は、私がABEJAでQAエンジニアとして6年間にわたり取り組んできた経験、特にユーザー視点を活かしたQAエンジニアリングについてお話したいと思います。 ユーザー視点重視のQAエンジニアとは QAエンジニアの構成要素 説明 …

デジタル庁ガイドブックを使ってサービスのさらなるバリューアップに挑戦!

ABEJAでデザイナーをしている小林です! 現在、「ABEJA Insight for Retail」という小売業界向けのDXツールに関するダッシュボードのバリューアップを進めております。 来店から購入までの行動を分析するこのツールには、いくつかの課題があり、より使いやす…

ローカル LLM で動く Deep Research を参考に LangGraph に入門してみる

タイトル こんにちは、ABEJA Platform に搭載しているアプリケーション、「ABEJA Insight for Retail」の開発と運用を担当している森永です。 今回は LangChain 社より公開されている local-deep-researcher という、ローカル LLM で動作する Deep Research …

SO-101のモーター制御を深掘りして調整する 〜SO-101は指示通りの位置へ移動しているのか?〜

TL;DR SO-101はAI(VLAなどの基盤モデルやACTなどの模倣学習)の指示からモーター内部の制御によって指定した位置に移動している。 指示通りの位置へ移動できることは外乱、構造、制御の特性の影響があるので当たり前ではない。 SO-101はAIが指示した位置に…

NeMo 2.0の実行環境を構築してLLMの事前学習を始める方法

ABEJAでデータサイエンティストをしている岩城です。 今回は株式会社ハイレゾ様のGPUクラウドサービス「GPUSOROBAN」を利用させていただき、NeMo 2.0を用いて大規模言語モデルの事前学習を行いました。 本検証では、あえてNVIDIA公式のDockerコンテナを使用…