生成AIを社内展開する前に決めたいこと。中小製造業のためのAIガバナンス設計

生成AIを使い始めること自体は、それほど難しくなくなりました。

議事録を要約する。メールの下書きを作る。資料を整理する。技術情報を調べる。

個人で試せば、すぐに便利さを実感できます。

ところが、会社として利用を広げようとすると、別の問題が出てきます。

• 「この図面は入力してよいのか」
• 「顧客名が入った資料はどうするのか」
• 「AIが作った文章は誰が確認するのか」
• 「AIエージェントにメール送信やファイル操作まで任せてよいのか」

生成AIの社内展開で難しいのは、ツールの使い方よりも、どこまで使ってよいかの線を引くことです。

個人で生成AIを使うだけなら、多少回答が間違っていても、その場で本人が気付いて直せることがあります。

しかし、会社の業務に組み込むと事情が変わります。AIが作った見積書を顧客に提出する。社内の品質情報を要約させる。AIエージェントがメールを送信する。こうなると、AIの利用は個人の作業ではなく、会社としての業務になります。

問題が起きたときに、「AIがそう回答したから」では済みません。

だからこそ、会社として利用を広げる段階では、便利な使い方を教えるだけでなく、何を入力してよいのか、どこまでAIに任せてよいのか、誰が最終確認するのかを決める必要があります。

生成AIガバナンスとは、AIを使わせないための規制ではなく、個人の便利な道具を、会社として安心して使える業務ツールに変えるための仕組みと考えると分かりやすいでしょう。

2026年3月31日、総務省・経済産業省の「AI事業者ガイドライン」は第1.2版に更新されました。第1.2版では、AIエージェントやフィジカルAIに関する定義、便益、リスク、留意事項などが追加されています。AIエージェントについては、自律的に動作することを踏まえ、人間の判断を適切に介在させることや、権限の設定、操作履歴の確認などが重要な留意点として整理されています。

ただし、このガイドラインは「この通りにしなければ違法になる」という一律の規制ではありません。AIの開発者、提供者、利用者が、それぞれの立場とリスクに応じて必要な対策を考えるための指針です。

一方で、個人情報保護法や著作権法、契約上の守秘義務など、AIの利用場面に応じて既存の法令や契約上の義務は別途適用されます。

まず「生成AIを使う」を4つに分ける

「生成AIを導入する」という言葉だけでは、リスクを判断できません。

議事録を要約する場合と、AIが基幹システムを操作する場合では、考えるべきことがまったく違うからです。

まず、用途を分けます。

用途	具体例	主に確認すること
検索・調査支援	手順書、規格、過去トラブルの検索	出典、情報の正しさ
文書作成支援	議事録、メール、報告書の下書き	誤記、機密情報、外部提出前の確認
分析支援	品質データの要約、傾向整理	数値、計算、因果関係の誤り
AIエージェント	メール送信、ファイル操作、システム連携	権限、承認、誤操作、操作履歴

最初の3つでは、多くの場合、AIは人の作業を補助します。

一方、AIエージェントは、情報を調べるだけでなく、外部システムと連携して次の操作まで進めることがあります。

ここでリスクが一段上がります。

たとえば、「メール文を作る」のと、「作ったメールを取引先に送信する」の間には大きな違いがあります。前者は下書きですが、後者は会社としての行為です。

同じ生成AIでも、使い方によって必要な管理方法は変わります。公開されているWeb情報を要約するだけなら、間違いがあっても元ページを確認できます。社内メールの下書きも、人が送信前に確認し、個人情報や機密情報の扱いに問題がないことを確認したうえで使うのであれば、比較的管理しやすい用途です。

一方で、品質判定に使う情報をAIに要約させたり、顧客への回答文をそのまま送ったりする場合は、誤りが外部に影響します。

さらにAIエージェントが、受注システムへの登録、ファイル更新、メール送信などを自動で行うようになると、誤回答が「間違った文章」で終わらず、「間違った操作」に変わります。

モデルを選ぶ前に「何を入力してよいか」を決める

生成AIの社内利用で、最初に問題になりやすいのが、どの情報を入力してよいのかという線引きです。

「有料版だから安全」「法人契約だから何でも入力できる」と考えるのは危険です。

入力したデータの扱いは、サービスや契約プラン、設定によって異なります。保存期間、モデルの学習に利用されるかどうか、管理者が利用状況をどこまで確認できるか、第三者提供の条件、データが保存される国・地域などを確認する必要があります。

そのため、「どのAIを使うか」と「どの情報を入力してよいか」は分けて考えます。

たとえば、次のような表を1枚作ります。

情報区分	例	基本的な扱いの例
公開情報	Webサイト、公開カタログ、公表資料	承認済みAIで利用可
社内一般情報	一般的な社内手順、機密性の低い議事録	利用環境と契約条件を確認
個人・顧客情報	氏名、メールアドレス、取引情報	利用目的と個人情報の取扱いを確認
技術・品質情報	図面、加工条件、不具合情報、検査データ	原則として個別に可否判断
高機密情報	原価、未公開設計、重要ノウハウ	利用環境、アクセス権、契約条件を含め慎重に判断

これは法律上決められた分類ではありません。自社で線を引くための一例です。

情報区分を作るときに注意したいのは、文書名だけで分類しないことです。

たとえば「議事録」は一見すると社内一般情報に見えます。しかし、顧客名、価格交渉、開発中の製品名、不具合情報などが含まれていれば、扱いは変わります。

同じように、「品質データ」もすべて同じではありません。公開済み製品の一般的な測定結果と、顧客クレームに紐づく不具合解析データでは、必要な管理レベルが違います。

そのため、「Excelだから」「議事録だから」とファイルの種類で判断するのではなく、その中に何の情報が入っているかで判断します。

最初から細かい分類を作りすぎる必要はありません。公開してよい情報、社内だけで使う情報、外部AIへの入力に慎重な情報。この粒度から始め、実際の利用で迷うケースが出たら分類を追加する方が運用しやすくなります。

重要なのは、「法人向けAIだから安全」という一括判断をしないことです。

特に個人情報については、個人情報保護委員会も、生成AIサービスへ個人情報を入力する場合、利用目的やサービス提供者による取扱いなどを確認するよう注意喚起しています。

製造業では、個人情報だけでなく、図面、製造条件、見積原価、顧客から預かった情報もあります。

生成AIで考えておきたい6つのリスク

生成AIガバナンスを考えるとき、すべてのリスクを網羅しようとすると動けなくなります。

最初は、次の6つから確認すると整理しやすくなります。

1．もっともらしい誤回答

生成AIは、正しい文章と同じ調子で誤った内容を出すことがあります。

とくに注意が必要なのは、規格値、法令、材料特性、設備仕様、品質判定、計算結果のように、間違っていても文章だけでは気付きにくい情報です。

AIの回答をそのまま正解にするのではなく、元資料や一次情報に戻れる状態を作ることが重要です。

2．機密情報・個人情報

入力した情報がどのように保存・利用されるかは、サービスや契約プラン、設定によって異なります。

• 会社として使うAIを決め、利用規約や契約内容を確認する
• 業務データを私的なAIアカウントへ貼り付けない
• 入力してよい情報の基準を社員に示す

技術的な対策だけでなく、この運用が必要です。

3．著作権・第三者の権利

生成AIが作った文章や画像だから、自由に使えるとは限りません。

既存の著作物との類似性などによっては、著作権上の検討が必要になる場合があります。また、自社に利用権限のない他社資料やソースコードをAIへ入力することにも注意が必要です。

文化庁は「AIと著作権に関する考え方」やチェックリストを公開しています。

外部に公開する成果物ほど、AIの出力だからではなく、通常の成果物と同じように権利関係を確認することが必要です。

4．バイアスとAIへの過度な依存

AIの出力には、学習データや入力内容の偏りが反映される場合があります。また、AIが出した答えを見ると、人は正しいと思い込みやすくなります。

採用、人事評価、安全判断、取引先評価など、影響の大きい判断をAIだけに任せない。人が確認するときも、「AIがそう言っているから」ではなく、根拠を確認する。ここまでが人の役割です。

5．AIエージェントの権限と誤操作

AIエージェントになると、誤回答だけでなく、誤った操作が問題になります。

• メールを送る
• ファイルを書き換える
• 注文を登録する
• データを削除する
• 外部サービスへ情報を送る

こうした操作を許す場合は、AIの能力より先に権限を設計します。

• 最初は閲覧だけにする
• 必要以上のシステムへ接続しない
• 重要な実行には承認を入れる
• 操作履歴を残す
• 異常時に止められるようにする

6．モデルやサービスの変更

クラウド型の生成AIでは、モデルやサービス仕様が更新されることがあります。

その結果、以前と同じ指示でも出力が変わる可能性があります。

そのため、一定の再現性が求められる業務では、「以前うまく動いたから、そのまま使い続ける」ではなく、定期的に確認する仕組みが必要です。品質判定や安全に関わる業務ほど、AIだけに結果を依存させない方がよいでしょう。

「人が確認する」だけではルールにならない

生成AIの利用ルールでは、「AIの出力は必ず人が確認する」と書かれることがあります。

しかし、それだけでは十分ではありません。何を確認するのかまで決めておかないと、担当者によって確認内容にばらつきが出るからです。

たとえば、メールの下書きなら、宛先、事実関係、金額、納期、表現を確認します。

品質レポートなら、数値が元データと一致しているか、AIが勝手に因果関係を作っていないか、不具合原因を断定していないかを確認します。

規格や法令の調査なら、AIの説明そのものではなく、元となった一次情報まで戻って確認します。

AIを使って作業時間が短くなっても、確認や修正に時間がかかれば、十分な効果が出ているとは言えません。作成時間だけでなく、確認・修正まで含めた全体の手間で評価します。

最初のAI利用ルールは、A4数枚でよい

AIガバナンスという言葉から、大企業向けの分厚い規程を想像する必要はありません。

最初に決めるのは、次のような項目です。

項目	最初に決めること
利用環境	会社として利用を認めるAIサービス
入力情報	入れてよい情報、禁止する情報
出力確認	誰が何を確認するか
外部利用	顧客提出・公開時の確認方法
AIエージェント	どの操作に人の承認を入れるか
問題発生時	利用停止・報告・相談先

重要なのは、禁止事項だけを書くことではありません。

「ここまでは使ってよい」「ここから先は確認が必要」という線を見せることです。

ルールが厳しすぎると、現場では使われません。逆に曖昧すぎると、担当者ごとに判断が変わります。

効果は「便利だった」ではなく、手間がどう変わったかを見る

生成AIを試した後に、「便利でした」で終わると、続けるべきか判断できません。

対象業務を決めたら、導入前後を比較します。

見るもの	確認する内容
作業時間	AI導入前後で何分変わったか
修正量	AI出力を人がどれだけ直したか
正確性	事実・数値・出典の誤りがどれくらいあったか
手戻り	AI利用によって逆に作業が増えていないか
ヒヤリハット	誤送信、誤入力、機密情報入力などが起きていないか

たとえば、報告書を30分で作っていたものが、AIを使って10分になった。しかし、AIの誤りを確認するのに25分かかる。

この状態なら、期待したほど効果は出ていません。

生成AIは、作成時間だけでなく確認まで含めた総作業時間で評価します。

RAGを入れれば解決するわけではない

社内文書を検索して生成AIの回答に使う仕組みとして、RAGがあります。

RAG（検索拡張生成）とは、社内の手順書や規程、過去の不具合事例などから、質問に関係する文書を検索し、その内容を参照しながら生成AIに回答させる仕組みです。

RAGなどの外部検索を使わない場合、生成AIは主に学習済みの知識と、その場で入力された情報をもとに回答します。RAGを使うと、質問に関連する自社文書を検索し、その内容を追加の参照情報として回答に使わせることができます。

たとえば、「この設備の点検手順を教えて」と質問したときに、社内の点検手順書を検索し、その記載内容をもとに回答させる、といった使い方です。

ただし、RAGを入れれば自動的に正しい回答になるわけではありません。

• 古い手順書が残っている
• 改訂版と旧版が混ざっている
• 誰でも見えてはいけない文書を検索できる
• 文書に書かれていない内容をAIが補ってしまう

こうした問題は残ります。

ここで見落とされやすいのが、AIの前に「正しい文書が何か」を決める作業です。

たとえば、同じ作業の手順書が共有フォルダに3つあり、そのうち1つが最新版だとします。

人であれば、ファイル名や更新日、担当者への確認から正しい文書を判断できるかもしれません。しかし、RAGに3つとも登録すれば、AIが古い手順書を参照して回答する可能性があります。

そのため、RAG導入時には、次のような運用も決めます。

• 最新版をどう識別するか
• 廃止文書をどう除外するか
• 文書の更新責任者は誰か
• 部門ごとの閲覧権限をどう反映するか
• 回答から参照した文書を確認できるか

RAG導入はAIプロジェクトに見えますが、実際には文書管理やアクセス権管理を見直すプロジェクトでもあります。

この整理ができれば、生成AIだけでなく、日常の情報検索や技術継承にも役立ちます。

最初の90日でやること

生成AIガバナンスを最初から完成させる必要はありません。

以下の90日間は、導入を進める際の一例です。実際の期間は、対象業務のリスク、会社の規模、既存ルールの整備状況などに合わせて調整します。

まず、対象を絞って運用し、実際に起きた問題を見ながらルールを直します。

最初の30日：現在の利用状況を把握する

まず、「誰が何を使っているか」を確認します。

• 社員が使っている生成AIを把握する
• どの業務に使っているか確認する
• どんな情報を入力しているか確認する
• 会社として認める利用環境を決める
• 情報区分表の暫定版を作る

この段階では、立派な規程を完成させなくても構いません。

「これは入れてよい」「これは入れない」という最低限の線を作ります。

60日目まで：低リスク業務で試す

次に、対象業務を2〜3個に絞ります。ここでも、業務名だけではなく、扱う情報と、間違った場合の影響を見て対象を選びます。

• 公開情報を使った調査・要約
• 機密情報を含まない社内文書の要約
• 個人情報や機密情報を含まない定型的な社内メールの下書き
• 文章構成案やアイデア出し

作業時間、修正量、誤りを記録します。

AIを使えるかではなく、この業務に使う意味があるかを確認します。

90日目まで：正式なルールと承認点を決める

実際に使った結果をもとに、次を決めます。

• 利用を認めるAI
• 情報区分
• 外部提出前の確認
• ログの扱い
• 問題発生時の連絡先
• AIエージェントの承認ポイント

そのうえで、RAGやAIエージェントなど、次の段階へ進むかを判断します。

まとめ：ガバナンスは「使わせない仕組み」ではない

生成AIガバナンスというと、利用を制限するための仕組みに見えます。

しかし、本来の役割は逆です。

何を入力してよいか分からない。どこまでAIに任せてよいか分からない。失敗したとき誰が責任を持つのか分からない。

この状態では、現場は安心して使えません。

最初に必要なのは、完璧な規程ではありません。

生成AIを「便利な個人ツール」から会社の仕組みに変えていくには、この順番が現実的です。

出典・参考リンク

総務省・経済産業省｜AI事業者ガイドライン（第1.2版）｜https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html

IPA・AISI｜AI事業者ガイドライン検討会｜https://www.ipa.go.jp/disc/committee/expert-group-on-aigfb.html

IPA｜DX動向2026調査のポイント｜https://www.ipa.go.jp/pressrelease/2026/press20260716.html

IPA｜情報セキュリティ10大脅威 2026｜https://www.ipa.go.jp/security/10threats/10threats2026.html

個人情報保護委員会｜生成AIサービスの利用に関する注意喚起等について｜https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/

文化庁｜AIと著作権について｜https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html

NIST｜Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile｜https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence

経済産業省・厚生労働省・文部科学省｜2026年版ものづくり白書｜https://www.meti.go.jp/report/whitepaper/mono/2026/index.html