生成AIを「業務の道具」にしていくために

ここ数年で、生成AIをめぐる環境は大きく変わりました。
社内でも「資料作成に使ってみた」「ChatGPTを試してみた」という声を耳にすることが増えています。

一方で、実際の現場で話を伺うと、以下のような率直な悩みも少なくありません。

• 一部の人だけが個人的に使っている
• 試してみたものの、日々の業務の定番ツールとして定着していない
• セキュリティやガバナンスの面で、どこまで使ってよいのか判断しづらい

当社は、生成AIの案件に多数携わりながら、「既存の業務の中で、どこに適用すると無理なく役に立ちそうか」掘り下げることでナレッジを蓄積してきました。

本稿では、その中から下記の３つの取り組みをベースにしつつ、「実際にどのような設計を行ったのか」「どこに手応えがあったのか」という観点から、実案件における当社の工夫と成果を綴っていきたいと思います。次章では、その皮切りとして、専用GPTを用いた業務効率化の事例についてご紹介いたします。

• GPTs／プロンプト設計を多数組み合わせたオフィス業務の効率化
• 社内ドキュメントを情報源にしたRAG構成のアプリケーション
• 人事採用シートの情報整理と、それを支えるクラウド基盤

注）
本稿で「GPTs」とは、OpenAI社が提供するChatGPT上で、カスタム版のChatGPTを作成できる機能のことを指します。また、この機能で作成した個々の業務アシスタントは「カスタムGPT（以下、GPT）」と表記します。カスタムGPTは、指示（プロンプト）やツール、参照ドキュメント等を組み合わせ、特定用途に合わせて振る舞いを調整したものです。またセクション2.では、社内ドキュメントを検索しながら回答を生成するRAG（Retrieval-Augmented Generation：検索拡張生成）という方式についても少し触れます。

最初の事例は、オフィス業務の効率化です。ある組織では、日々の業務の中に以下に例示するような「調べる・まとめる・書く」作業が数多く含まれていました。

• 議事録の要約とアクション項目の整理
• 社内規程やマニュアルを参照した問い合わせ回答
• 報告書のたたき台作成／PPTX形式でのフォーマット整形
• 日本語・英語の両方で記載されたメディア掲載の網羅的リサーチ

実際の業務フローを細かく見ていくと、業務ごとに入力の形も、求められるアウトプットの完成度も大きく異なることが分かりました。

そこで当社は、お客様へ以下の方針を提案しました。

• 業務タイプごとに、小さめの専用GPTを用意する
• 生成AIが参照する外部ファイル／プロンプト／出力形式をそれぞれ何にすべきか厳密に設計する

具体的には、用途ごとに業務アシスタントを分けて設計しています。

• 「議事録をアップロードすると、要約＋TODOリストを出してくれるGPT」
• 「社内規程やマニュアルを踏まえて、レファレンス付きで問い合わせ回答するGPT」
• 「定型的な報告書の構成を踏まえてドラフトを作るGPT」

この方針で実装した結果として、下記のような効果が得られています。

• 利用者は、今やる作業に合ったGPTを選ぶだけでよくなる
• 使い方が個々人の工夫に依存しすぎず、一定の品質でアウトプットが得られる

実際、利用者からも、タスクに要する業務時間が短縮されたといったお声をいただいております。

このように、GPT実装方針の提案とそれに沿った専用ツールの作成を通じて、今後もより多くのお客様の業務改善を実現すべく、日々邁進しております。

次は、社内に点在するドキュメントを活用するために、クラウド上にRAG（Retrieval-Augmented Generation）を構築した事例です。RAGでは、まずユーザーの質問内容から関連しそうな資料を検索し、その内容をもとにLLMが回答文を生成します。
単なる全文検索だけではなく、探した情報を踏まえた回答まで自動で組み立てられる点が特徴です。

マニュアル、手順書、仕様書、FAQ、議事録など、社内には多くのドキュメントが存在しますが、事前調査の結果、実際には以下のような課題が見つかりました。

• どこに何があるか分かりづらい
• 対象とするドキュメント群を整形し、クラウド上に集約

RAGは仕組み自体はシンプルに見えますが、実運用で「答えに近い情報」を安定して返すためには、検索（Retrieval）側の設計が重要になります。精度とユーザー体験を向上させるために、特に工夫したのは次の2点です。

① 検索設計（キーワード×意味検索＋意味に基づく再ランキング）
社内文書には、略語・製品名・コード値・人名など「文字としての一致」が効く情報がある一方で、言い回しの違いを吸収して探したい場面もあります。
そこで、ユーザーの検索に対してキーワード検索（全文検索）とベクトル検索（意味の近さで探す検索）の結果を統合したハイブリッド検索を実施し、さらに統合後の上位候補に対して意味的な関連度に基づいて再ランキングする仕組みを構築しました。
これにより、検索の取りこぼしを減らしつつ、検索クエリに対して最適な候補が上位に表示され、最終的にユーザーが納得しやすい順序で検索結果を提示できるようになりました。

② 評価手法の確立
RAGは「検索できたか」だけでなく、検索結果に基づき生成された回答がユーザーの質問に見合う適切な情報を返しているかでユーザー体験が決まります。
そこで、（A）検索結果が必要な情報を含んでいるか／ノイズが多すぎないか、（B）回答がドキュメント中の根拠から外れていないかを分けて確認し、検索条件やプロンプトを調整して品質を上げていきました。

その上で、ユーザーインタフェースとして「入力内容に応じて複数のタスクを切り替えるアプリケーション」を用意しました。
ユーザーから見えるのは、シンプルな入力欄だけですが、その裏側では、入力内容に応じて、以下の機能が自動的に選ばれる仕組みになっています。

• 情報検索 ／ 情報源要約タスク
• 質問に対する回答文書生成タスク

例えば、ユーザーの質問の意図が情報検索や要約である場合には、アプリケーション側で情報検索／情報源要約タスクにつないで実行し、ユーザーの質問の意図が最終的な回答を求めている場合は、回答文書生成タスクにつながれて、検索や要約で得た情報に依拠した回答生成を実行する、という具合です。
この仕組みにより、ユーザーは直感的なチャット形式のインターフェースで必要な情報を取得できるようになりました。

その結果、たとえ複数あったとしても参照文書を容易に探索できるようになり、「まず文書を探して、開いて、読んでから判断する」というプロセスを経ずに、最初から「答えに近い形」の情報にアクセスできるようになりました。

三つ目は、ある企業の人事で用いるドキュメントから情報抽出および整理を行うアプリケーション基盤を構築した事例です。
その企業では、候補者ごとの経歴やスキル／選考ステータス／面接コメントや評価ポイントなどが、さまざまなフォーマットで記録されていました。
これらを人手で整理しようとすると、どうしても時間がかかり、過去のナレッジも十分に活かしきれないことがあります。

この案件では、生成AIを用いて、以下の処理を行うアプリケーションを構築しました。

• 人事ドキュメントから、必要な項目を抽出・正規化する
• ポジションやスキルセットごとに、候補者情報を整理・一覧化する
• 選考プロセスを俯瞰できるように、要約レポートを生成する

特に、当社が注力したのはアプリケーション基盤部分の構築と運用でした。

扱うデータが人事データであるという性質上、セキュアなクラウド基盤の設計が必須でしたので、下記の要素を組み合わせて、運用監視まで含めた構成としています。

• ネットワーク分離（不要な外部アクセスを遮断）
• 認証・認可（どのユーザーがどの情報にアクセスできるかの明確化）
• 操作ログ・監査ログの取得と保管、アラート設計

この取り組みを通じて感じたのは、生成AIで「何ができるか」だけを見るのではなく、どのデータを、どのルールのもとで扱うのかを同時に設計する必要がある、ということでした。

現在も運用をサポートさせていただく中で改善を続けており、「AIを使う」ことと「基盤として安心して預けられること」を両立させる難しさと手応えを、日々実感しています。

ここまで、三つの事例をご紹介しました。事例間で共通して意識しているポイントがいくつかあります。

1. AIが得意なことを見極める

• 「調べる・まとめる・書く・材料を揃える」部分をAIに任せ、「意思決定・承認・最終チェック」は人が行う、という線引きをあらかじめ設計に含める。
• AIが得意とする創造性を生かしつつ、確実性の高い部分は非AI領域で処理する方が効果的であることを念頭に置く。

2. 既存の業務フローを理解した上でプロンプト設計を行う

• お客様の既存の業務フローを十分に理解する。
• 生成AIの活用により業務フローのどの部分で時間短縮が実現できるか考える。

3. セキュリティ・運用・監査を、最初からサービスの一部として考えること

• 特にクラウド上での利用では、ネットワーク構成、認証・認可、ログ監査等を後付けではなく、最初からサービス設計の一要素として組み込むことが重要である。

当社は、下記のようなアプローチを得意としており、生成AIを用いた業務効率化の実績を堅実に積み上げてきました。

• 業務課題を実際に解決するGPTの迅速なご提供
• 社内ドキュメントから業務に使える形で回答を返すアプリケーションの構築
• アプリケーションとクラウド基盤・運用をセットで設計・構築する

今後も、オフィス業務の負荷軽減や、ナレッジ活用、バックオフィス領域での情報整理など、現場の皆さまのニーズに即応した、「業務の道具としての生成AI」を実現していきたいと考えておりますので、是非お気軽にお問い合わせください。