「新しく入った新人は、とても賢いのに、うちの会社のことは何も知らない」。生成AIは、まさにこの新人によく似ています。

計算や文章づくりは得意でも、あなたの会社の就業規則や商品ルールは知りません。そこで役立つのが「RAG(ラグ)」という考え方です。社内の手順書やFAQを新人に渡して、それを読ませたうえで答えさせる仕組みだと思ってください。

この記事では、専門用語をできるだけ使わず、RAGの意味と、今日試せる最初の一歩までをやさしく説明します。

生成AI・RAG・AIエージェントの関係を「新人」でたとえる

3つの言葉がよく一緒に出てきて、混乱しがちです。まずは新人の育成にたとえて整理します。

  • 生成AI(例:ChatGPT)=賢いけれど自社を知らない新人
  • RAG=その新人に社内マニュアルを渡して、調べて答えさせる仕組み
  • AIエージェント=渡した情報をもとに、自分で作業まで進める新人

生成AIは、たくさんの一般知識を持って入社してきた新人のようなものです。でも、あなたの会社の予約ルールやクレーム対応の手順は知りません。

そこで、社内文書を「参考資料」として渡し、それを見ながら答えてもらうのがRAG(正式には「検索拡張生成」)です。新人に「このマニュアルを見て答えてね」とお願いするイメージです。

さらに一歩進み、「調べるだけでなく、メール送信や登録作業までやっておいて」と任せる段階がAIエージェントです。

まずは「生成AI=新人」「RAG=マニュアルを渡す」の2つだけ覚えれば十分です。

なぜ普通のChatGPTだけでは自社の質問に答えられないのか

「ChatGPTがあるなら、それに社内のことを聞けばいいのでは?」と思うかもしれません。ここが大事なところです。

普通の生成AIは、世の中一般の情報で学んでいます。あなたの会社の内部ルールは学んでいません。だから自社のことを聞くと、それらしい**作り話(ハルシネーション)**をしてしまうことがあります。

たとえば「うちの返品対応の手順は?」と聞いても、AIは実際の手順を知りません。なんとなくもっともらしい答えを作ってしまい、それが間違っていることがあるのです。

RAGは、この弱点を二段構えで解決します。

  1. 質問がきたら、まず社内文書の中から関係する部分を探す
  2. 見つけた中身をもとに答える

つまり「知らないことを想像で答える」のではなく、「渡された資料を見て答える」ようになります。だから根拠のある回答になりやすいのです。

情報漏洩が心配な方は、ChatGPTを会社で使ってよい?情報漏洩を防ぐ使い方もあわせてご覧ください。

RAGが向いている社内の"あるある"な場面

RAGは、どんな会社でも同じように役立つわけではありません。特に向いているのは、「探すのに時間がかかる」「聞ける人が限られる」場面です。沖縄の小さな事業所でよくある状況で考えてみます。

沖縄の小さな事務所で、ベテラン女性スタッフが後輩に紙のファイルを広げながら手順を口頭で説明している。棚には年季の入ったバインダーが何冊も並び、若いスタッフはメモを取りながら少し困った表情をしている

  • 予約対応やクレーム対応の手順が、ベテランの頭の中にしかない
  • その人が休むと、問い合わせ対応が止まってしまう
  • マニュアルやFAQが、紙やPDFで数世代分たまっている
  • 「どこに書いてあったっけ」と、毎回探すのに時間がかかる

こうした場面では、RAGが「聞ける相手を増やす」役割を果たします。ベテラン一人に集中していた質問を、AIにも振れるようになるからです。

もちろん、AIがベテランの代わりに全部やってくれるわけではありません。あくまで「よくある質問の一次対応」を助ける位置づけです。判断が必要な難しい案件は、これまでどおり人が対応します。

まずは、その手前にある属人化を防ぐ業務マニュアルの作り方で、渡せる文書を整えておくのが近道です。

まず無料で試す:手元の1ファイルをAIに読ませてみる

RAGと聞くと、大がかりなシステムを想像するかもしれません。でも、無料で1ファイルから試す始め方があります。難しいプログラミングは不要です。

代表的なのは、次の2つです。

  • Google NotebookLM(グーグルの無料ツール。文書を読ませて質問できる)
  • ChatGPTのファイル添付(ファイルをアップロードして質問できる)

手順はどちらも似ています。

  1. 手順書やFAQを1つ、ファイルで用意する(Word・PDFなど)
  2. ツールにアップロードする
  3. 「〇〇のやり方は?」と、ふだんの言葉で質問する
  4. 答えが返ってきたら「どこに書いてあった?」と出典を確認する

ポイントは4番です。出典(元の場所)を確認すると、答えが本当にその文書に基づいているか、自分でチェックできます。

つまずきやすいところ

試すときに、次の点でつまずきやすいので先にお伝えします。

  • 画像だけのPDFは読めないことがある(写真を撮っただけの手順書など)
  • 表が崩れてうまく読み取れないことがある
  • 古い版と新しい版が混ざると、答えがブレる

まずは、文字がしっかり入った最新のファイル1つで試すのがおすすめです。AI初心者の方は、生成AIは何から始める?中小企業の第一歩も参考になります。

精度は"文書の準備"で決まる:渡す前のチェックリスト

RAGの答えの良し悪しは、渡す文書の状態でほぼ決まります。新人に古くて読みにくいマニュアルを渡せば、間違った答えを覚えてしまうのと同じです。

渡す前に、次の点を確認してください。

準備すること なぜ大事か
最新版だけにする 古い版があると、答えが古くなる
重複・古いファイルを消す どれが正しいかAIが迷う
1ファイルに詰め込みすぎない 情報が多すぎると探しにくくなる
表や画像はテキストで補足 AIが読めない部分を文字で補う
専門用語に社内での意味を添える 略語や社内用語の誤解を防ぐ

横にスクロールできます

特に大事なのは、いちばん上の「最新版だけにする」です。フォルダに「手順書_最新」「手順書_最新版2」「手順書_本当の最新」のようなファイルが並んでいませんか。まずはここを整理するだけでも、答えの安定感が変わります。

ファイル整理から手をつけたい方は、探す時間をなくすファイル整理・命名ルールをご覧ください。

個人お試し→部署→全社の順で広げる

いきなり全社ツールを買ったり、外注したりする必要はありません。次の順番で「本当に使えるか」を確かめながら広げるのが現実的です。

  1. 個人アカウントで1ファイル試す(自分の担当業務のFAQなど)
  2. 部署のFAQで試す(チームでよく聞かれる質問をまとめて)
  3. 全社ツールや外注を検討する(使える手応えが出てから)

この順なら、お金をかける前に効果を見極められます。「思ったより使える」「うちの文書はまず整理が必要だ」といった発見が、次の判断材料になります。

ここで一つ、大事な注意点があります。社外秘の情報や個人情報を無料ツールに入れる前に、社内ルールと利用規約を確認してください。脅すつもりはありませんが、お客様の名前や連絡先などは、扱いを決めてから使うのが安心です。

ルールづくりは、非エンジニアでも作れる生成AI社内ルールの最小セットが参考になります。また、AIが社内に根づかない悩みにはAIが社内で定着しない理由と続けられる仕組みもあわせてどうぞ。

RAGとAIエージェント、小さい会社はどちらを気にすべき?

最後に、判断の目安を示します。むずかしく考える必要はありません。線引きはとてもシンプルです。

  • 質問に「答えて」ほしいだけ → RAGで十分
  • 予約登録やメール送信など「作業まで」任せたい → AIエージェントを検討

多くの小さな会社では、まず「聞ける相手を増やす」ことから始めるのが現実的です。つまり、RAGから試すのがおすすめです。

作業の自動化まで一気に目指すと、準備も設定も一気に増えます。まずは「答えてくれるだけ」で、日々の問い合わせ対応がどれだけ楽になるかを体感してみてください。

その先で「作業も任せたい」と感じたら、そのときにAIエージェントを検討すれば間に合います。段階を踏むほうが、失敗も少なく済みます。AI導入でよくある失敗と、小さく始める進め方もあわせて確認しておくと安心です。

まとめ:今日の一歩は「1ファイルを読ませて聞いてみる」

最後にもう一度、シンプルに整理します。

  • 生成AI=賢いけれど自社を知らない新人
  • RAG=社内マニュアルを渡して答えさせる仕組み
  • AIエージェント=渡した情報で作業まで進める段階

今日の一歩は、手元の手順書やFAQを1つ、無料ツールに読ませて質問してみることです。むずかしい準備はいりません。

そして、答えの精度を決めるのは「渡す文書を最新版に整えること」です。まずは小さく試して、自社に合うかどうかを、自分の目で確かめてみてください。