Knowledge OS Product Design System

Phase 7
Trust, Privacy & AI Safety Guidelines

機微情報や業務資料を安全に扱い、ローカルAIとクラウドAIを 利用者が理解した上で選択できるようにするための、 信頼・プライバシー・AI安全設計ガイドラインです。

DOCUMENTKnowledge OS Design Principles v1.0.0
PHASEPhase 7 — Trust, Privacy & AI Safety
TARGETUI / AI / Data / Audit

Introduction

信頼は、機能ではなく設計全体でつくる

Knowledge OSは、相続、契約、顧客情報、社内文書など、 外部へ漏れてはいけない情報を扱う可能性があります。

そのため、安全性を「設定画面の注意書き」だけに任せてはいけません。 資料を追加するとき、AIに聞くとき、クラウドへ送信するとき、 回答を見るとき、削除するときのすべてに、安全設計が必要です。

AIが作った文章と、元資料に書かれている事実を、同じ見た目で表示しない。 AI回答、要約、提案には、AI生成内容であることを明示し、 元資料と根拠箇所を確認できるようにします。
クラウドAIへ資料を送信する場合 送信対象、送信先、送信目的を、利用者が送信前に確認できるようにします。

この章で定義するもの

  1. 信頼・安全の原則
  2. ローカル処理とクラウド処理
  3. 外部送信前の確認
  4. APIキーの扱い
  5. 個人情報・機微情報
  6. AI回答と元資料の区別
  7. 根拠資料の表示
  8. 回答不能・根拠不足・矛盾
  9. 自動保存・自動更新
  10. 削除確認
  11. 操作履歴・監査
  12. ログ・診断情報
  13. AIモデル切替
  14. AI向け実装指示
  15. レビュー基準

01 — Trust Principles

1信頼・プライバシー・AI安全の原則

1. 利用者が主導する

AIやシステムが、確認なしに外部送信・確定・削除を行いません。

2. 処理場所を隠さない

ローカル処理かクラウド処理かを、利用者が理解できるようにします。

3. 必要最小限だけ送る

クラウドへ送信する場合は、目的に必要な範囲に限定します。

4. AIと事実を分ける

AI回答、要約、提案を元資料の記載事実と混同させません。

5. 根拠を確認できる

AI回答には、参照した資料と該当箇所を表示します。

6. 不明は不明と伝える

根拠が不足しているときに、推測で回答を埋めません。

7. 後から追跡できる

重要操作は、誰が・いつ・何をしたか確認できるようにします。

8. 秘密情報をログへ残さない

APIキー、本文、個人番号などを通常ログへ出力しません。

優先順位

  1. 情報を外部へ出さない
  2. 利用者へ正しく説明する
  3. 利用者の確認を得る
  4. 必要最小限の情報だけ処理する
  5. 操作結果を記録する
便利さより確認可能性を優先する 1クリック減らすために、送信先や送信内容を隠してはいけません。

02 — Local & Cloud Processing

2ローカル処理とクラウド送信の表示

標準表示

AI処理を開始する画面では、現在利用する処理方法を明示します。

ローカル処理

この端末内で処理します

資料の内容は、原則として外部へ送信されません。

クラウド処理

外部のAIサービスへ送信します

送信する資料と送信先を確認してから実行します。

表示すべき情報

項目ローカルクラウド
処理場所この端末内外部AIサービス
送信先送信なしサービス名を表示
送信対象表示不要資料名・範囲を表示
確認通常は不要送信前に必須
利用不可時接続・モデル状態を案内APIキー・通信状態を案内

使ってはいけない表示

03 — External Transmission

3外部送信前の確認

クラウドAIへ資料または資料の一部を送信する場合は、 実行前に確認画面を表示します。

確認画面に必須の情報

外部のAIサービスへ送信します

送信先：OpenAI

送信する資料：相続手続きの進め方.pdf

送信範囲：選択した3ページ

目的：質問への回答作成

確認フロー

1
送信対象を決める

資料全体ではなく、必要なページ・文章・項目だけを選びます。

2
送信先を表示する

サービス名と処理方法を表示します。

3
利用者が確認する

資料名、範囲、目的を確認します。

4
送信する

利用者が明示的に実行した場合のみ送信します。

確認を省略してよい条件

管理者が組織方針として事前承認し、対象範囲・送信先・利用目的が固定され、 かつ利用者へ常時明示されている場合に限ります。

確認省略を初期値にしない 「今後確認しない」を初期状態で選択済みにしてはいけません。

04 — API Keys & Secrets

4APIキーの表示・保存

表示ルール

保存ルール

接続確認

状態標準文言
保存済み・未確認APIキーを保存しました。接続はまだ確認していません
接続成功正常に接続されています
接続失敗接続できませんでした。APIキーと通信状態を確認してください
期限切れ・無効APIキーを利用できません。新しいAPIキーを登録してください
保存成功と接続成功を分ける APIキーを保存できたことと、AIサービスを利用できることは別の状態です。

05 — Sensitive Information

5個人情報を含む資料の扱い

機微情報の例

個人を特定する情報

氏名、住所、生年月日、電話番号、メールアドレス

公的な識別情報

個人番号、免許証番号、旅券番号、基礎年金番号

財産・法務情報

口座、財産目録、遺言、相続関係、契約内容

健康・生活情報

病歴、介護、障害、生活状況

認証情報

パスワード、APIキー、秘密鍵、認証コード

組織の秘密情報

顧客情報、内部資料、未公開の契約・計画

標準動作

  1. 資料追加時に機微情報の可能性を判定する。
  2. ローカル処理を優先する。
  3. クラウド送信時は送信対象を最小化する。
  4. 必要に応じてマスキング候補を表示する。
  5. 利用者確認後に送信する。

自動マスキング

自動マスキングは候補として表示し、利用者の確認なしに元資料を変更しません。

元資料を直接上書きしない マスキング済みデータは、別の送信用データとして生成します。

禁止事項

06 — AI Output & Source Material

6AI回答と元資料の区別

視覚的な区別

内容表示必須要素
元資料元資料資料名、ページ、本文
AI回答AIによる回答回答、根拠資料、注意事項
AI要約AIによる要約要約、元資料を開く
AI提案AIからの候補採用・却下操作

AI回答に必須の表示

確定情報として扱わない

AI回答を、そのまま正式記録・顧客回答・申請書・契約文へ確定しません。

確認してから使用してください この内容は登録資料をもとにAIが整理したものです。 正式な判断や提出に使用する前に、元資料を確認してください。

禁止する見た目

07 — Evidence & Uncertainty

7根拠資料・回答不能・根拠不足・矛盾

根拠資料の表示

回答の直下に、参照した資料を表示します。

項目必要性
資料名必須
ページ番号・項目取得できる場合は必須
該当箇所の抜粋可能な限り表示
資料を開く必須
更新日新旧判断が必要な場合

AIが回答できない場合

登録されている資料からは確認できませんでした 関連する資料を追加するか、質問を言い換えてください。

根拠が不足している場合

十分な根拠を確認できませんでした 一部の資料から推測できる内容はありますが、確定できません。 参照資料を確認してください。

複数資料が矛盾する場合

資料によって記載内容が異なります それぞれの記載内容、資料名、更新日を並べて表示します。 AIが一方を勝手に正しいと決定してはいけません。

禁止事項

08 — Automatic Actions

8自動保存・自動更新の禁止条件

自動実行してよいもの

自動実行してはいけないもの

確認が必要な操作

操作確認内容
AI回答を保存保存先、保存内容、元資料との区別
AI提案を反映変更項目、変更前後
外部送信送信先、送信対象、目的
元資料更新対象資料、変更内容、元に戻せるか
AIは提案する。利用者が確認する。システムが実行する。

09 — Deletion & Audit

9削除確認・操作履歴

削除確認

削除対象、削除後の影響、元に戻せるかを明示します。

「相続手続きの進め方.pdf」を削除しますか？ この資料と、資料から作成した検索情報が削除されます。 この操作は元に戻せません。

削除の種類

種類扱い
一覧から除外資料を非表示にする。元ファイルは残る。
Knowledge OSから削除登録情報・検索情報を削除する。
元ファイルも削除別の強い確認を必須にする。

操作履歴に記録するもの

履歴に含める情報

項目例
日時2026年7月12日 14:30
実行者利用者名または端末
操作クラウドAIへ送信
対象資料名・ページ範囲
結果成功・失敗・中止

10 — Logs & Diagnostics

10ログと診断情報

ログに含めてはいけない情報

ログへ残してよい情報

診断情報を外部送信する場合

送信前に、含まれる情報と送信先を表示します。

診断情報をサポートへ送信します

含まれる情報：アプリのバージョン、OS情報、エラーコード、処理時刻

含まれない情報：資料本文、APIキー、パスワード

添付前の確認

エラーレポートへ資料を自動添付しない 問題調査に資料が必要な場合は、別途利用者が選択して送信します。

11 — AI Model Switching

11AIモデル切替時の説明

切替時に表示する情報

項目説明
処理場所ローカル / クラウド
送信先クラウドの場合はサービス名
利用できる機能要約、質問、分類など
速度・品質の違い一般利用者向けに簡潔に説明
プライバシー外部送信の有無

標準表現

ローカルAI

この端末内で処理します

資料を外部へ送信せずに利用できます。処理に時間がかかる場合があります。

クラウドAI

外部のAIサービスを利用します

より高い処理能力を利用できます。送信前に対象資料を確認します。

切替ルール

禁止事項

12 — AI Implementation Rules

12Cursor・Claude・Codex向け実装指示

共通指示

Knowledge OS Design Principles v1.0.0
Phase 7「Trust, Privacy & AI Safety Guidelines」に従ってください。

必須条件：
- ローカル処理とクラウド処理を明確に区別する
- クラウド送信前に、送信先・送信対象・送信目的を表示する
- 利用者の明示的な操作なしに外部送信しない
- AI回答と元資料を同じ見た目で表示しない
- AI回答には根拠資料と該当箇所を表示する
- 根拠不足時は推測で回答を埋めない
- 複数資料が矛盾する場合は、両方を表示する
- AI提案を自動で確定しない
- APIキーを平文保存・平文表示しない
- 個人情報、APIキー、資料本文を通常ログへ出力しない
- 削除操作では対象・影響・復元可否を表示する
- 重要操作を操作履歴へ記録する
- モデル切替時に処理場所と外部送信の有無を説明する

Cursor向け

UI実装では、ローカル処理・クラウド処理・AI生成内容・元資料を
視覚的に区別してください。
送信確認、削除確認、モデル切替確認を共通ダイアログとして実装し、
通常状態、Loading、成功、失敗、中止を用意してください。

Claude向け

安全に関する文章は、恐怖を与えず、事実と選択肢を明確に書いてください。
「危険です」だけで終わらせず、
何が送信されるか、何が送信されないか、次に何を選べるかを書いてください。

Codex向け

外部送信、秘密情報、操作履歴、ログ出力の処理をUIコンポーネントから分離してください。
秘密情報をログへ出さないよう、共通のマスキング処理と安全な保存層を使用してください。
外部送信処理には、確認済み状態を型または明示的な入力として要求してください。

13 — Review Checklist

信頼・プライバシー・AI安全レビュー

処理場所

外部送信

AI回答

秘密情報

削除・履歴

利用者が「何が起きるか」を理解してから実行できること。 これがKnowledge OSにおける安全設計の完成条件です。

Definition of Done

Phase 7の完成条件

完成の定義 安全機能が存在するだけでなく、利用者が処理場所・送信内容・AI生成内容を 正しく理解できる状態になったときに完成とします。

Closing

信頼できるAIは、説明できるAIです

AIの精度が高くても、どこで処理したか、何を送信したか、 どの資料を根拠にしたかが分からなければ、業務では安心して使えません。

外部へ送る前に確認する。
AIの文章と元資料を分ける。
根拠を示す。
分からないことは、分からないと伝える。
重要な操作は、後から確認できるようにする。

最終原則

  1. 処理場所を隠さない。
  2. 外部送信は利用者が確認してから行う。
  3. 必要最小限の情報だけを送る。
  4. AI回答を確定情報として扱わない。
  5. 元資料と根拠箇所を確認できるようにする。
  6. 根拠不足を推測で埋めない。
  7. 秘密情報をログへ残さない。
  8. 自動化より利用者の確認を優先する。
  9. 重要操作を履歴へ残す。
  10. 安全性を製品全体の体験として設計する。

Knowledge OS Design Principles v1.0.0
Phase 7 — Trust, Privacy & AI Safety Guidelines
Safety and Trust Rules for Local and Cloud AI