update doc and optimize
This commit is contained in:
@@ -0,0 +1,80 @@
|
||||
# KẾ HOẠCH 15 — Responsible AI & Data Governance
|
||||
|
||||
> Status 2026-07-06: **🟡 core implemented + tested (harness-owned) + enforced.**
|
||||
> Guard đã đặt trong harness: `.specify/scripts/bash/rai-guard.py` — `classify`
|
||||
> (PII/confidential/internal), `check-cloud` (PII/confidential → cloud không approval
|
||||
> ⇒ DENY, mở rộng C3), `model-card` (chặn model không card/thiếu field), **`retention`**
|
||||
> (gate breach + purge-có-audit), **`report`** (phân bố nhạy cảm). **Enforcement:**
|
||||
> `harness-preflight.sh` chặn PII→cloud TRƯỚC model-call; `model-router.sh` gọi preflight
|
||||
> khi `CASAN_PREFLIGHT=1` (opt-in, short-circuit). Test `phase-rai-tests.sh` **12/0** +
|
||||
> `phase-preflight-tests.sh` **5/0** (WSL), nối CI.
|
||||
> Còn lại: RAI report vào Evidence Pack (đã có governance-report tie-in); view trên Control Plane.
|
||||
>
|
||||
> Nhãn trạng thái: xem legend ở `CASAN_BACKLOG_STATUS.md`.
|
||||
> Phụ thuộc: **07** (C3 data-exfil, H5 audit) · **13** (view RAI/data trên Control
|
||||
> Plane) · **09** (Evidence Pack — nơi xuất báo cáo RAI). Bổ trợ **10** (traceability).
|
||||
|
||||
## 1. Bối cảnh (đối chiếu FPT §14.3–14.4)
|
||||
- **§14.3 Data readiness:** dữ liệu cần có chủ sở hữu, phân loại (public/internal/
|
||||
confidential/PII), chất lượng, và chính sách vòng đời (retention/xoá).
|
||||
- **§14.4 Responsible AI:** minh bạch (model card, nguồn dữ liệu), công bằng/an toàn
|
||||
nội dung, con người giám sát, khả năng giải trình & truy vết quyết định của AI.
|
||||
- **Đã có (điểm):** C3 mask PII trong audit; H4 content-safety/injection; H5 audit
|
||||
chain; H3 faithfulness. **Chưa có (khung):** classification policy, retention,
|
||||
model card, RAI report.
|
||||
|
||||
## 2. Nguyên tắc
|
||||
- **Phân loại trước khi xử lý:** dữ liệu vào pipeline phải gắn nhãn phân loại; PII/
|
||||
confidential kích hoạt kiểm soát chặt hơn (không lên cloud model nếu chưa duyệt).
|
||||
- **Minh bạch model:** mỗi model dùng (local/cloud) có **model card** (nguồn, phiên
|
||||
bản/digest, vai trò, giới hạn, rủi ro) — nối Plan-07 B4 (digest pinning).
|
||||
- **Con người giám sát rủi ro cao:** quyết định rủi ro cao có human-in-the-loop
|
||||
(nối C4 approval).
|
||||
- **Giải trình được:** mọi output AR có thể truy về requirement→code→test (Plan-10)
|
||||
+ prompt/model/token (H5) → RAI report tổng hợp.
|
||||
- **Retention & xoá có chính sách:** dữ liệu/telemetry có thời hạn giữ; xoá ghi audit.
|
||||
|
||||
## 3. Tasks
|
||||
|
||||
### Track 1 — Data classification & PII/retention
|
||||
| Task | Việc | File | Verify | Done |
|
||||
|---|---|---|---|---|
|
||||
| 15.1 | `data-classification.yaml`: nhãn (public/internal/confidential/PII) + rule gắn nhãn | mới `config/data-classification.yaml` | dữ liệu gắn nhãn đúng | schema chốt |
|
||||
| 15.2 | Gate: PII/confidential **không** lên cloud model nếu chưa duyệt (nối C3/C4) | `data-exfil-guard.sh` mở rộng | PII→cloud chưa duyệt → BLOCK | gate chạy |
|
||||
| 15.3 | Retention policy + xoá có audit | mới `retention-policy.yaml` + script | hết hạn → xoá + audit bản ghi | vòng đời dữ liệu |
|
||||
|
||||
### Track 2 — Model card & minh bạch
|
||||
| Task | Việc | File | Verify | Done |
|
||||
|---|---|---|---|---|
|
||||
| 15.4 | `model-card.yaml` mỗi model (nguồn/digest/vai trò/giới hạn/rủi ro) | mới, nối B4 digest | model dùng có card + digest khớp | minh bạch model |
|
||||
| 15.5 | Chặn model không có card/không pinned trong prod | `model-router.sh` | model lạ → yêu cầu card/approval | provenance |
|
||||
|
||||
### Track 3 — RAI report & giải trình
|
||||
| Task | Việc | File | Verify | Done |
|
||||
|---|---|---|---|---|
|
||||
| 15.6 | RAI report tổng hợp: classification coverage, PII handling, model cards, human-oversight events, traceability | Evidence Pack (Plan-09) | pack có mục RAI | báo cáo RAI |
|
||||
| 15.7 | Giải trình 1 output: truy REQ→code→test (Plan-10) + prompt/model/token (H5) | traceability + audit | 1 artifact → truy vết đầy đủ | giải trình được |
|
||||
| 15.8 | View RAI/data trên Control Plane (Plan-13) | Plan-13 UI | hiển thị classification/model-card/RAI | quan sát |
|
||||
|
||||
## 4. Red-team / test
|
||||
| Test | Kỳ vọng |
|
||||
|---|---|
|
||||
| `adv-pii-to-cloud-unapproved` (PII lên cloud chưa duyệt) | BLOCK |
|
||||
| `adv-model-without-card` (dùng model không có card trong prod) | BLOCK/approval |
|
||||
| `adv-retention-bypass` (giữ dữ liệu quá hạn không xoá) | phát hiện + cảnh báo |
|
||||
| `adv-unexplainable-output` (output không truy được về REQ/prompt) | RAI report đánh dấu thiếu |
|
||||
| `benign-rai-report` (run hợp lệ) | PASS + RAI report đầy đủ |
|
||||
|
||||
## 5. Tiêu chí HOÀN THÀNH
|
||||
- [ ] Dữ liệu được phân loại; PII/confidential có kiểm soát cloud + retention có audit.
|
||||
- [ ] Mỗi model có model card + digest pinned; model không card bị chặn trong prod.
|
||||
- [ ] RAI report xuất qua Evidence Pack; 1 output bất kỳ giải trình được đầy đủ.
|
||||
- [ ] View RAI/data trên Control Plane.
|
||||
- [ ] Red-team mục 4 xanh; core harness 218/0 không tụt.
|
||||
|
||||
## 6. Ghi chú trung thực
|
||||
- **[mới]** — hiện chỉ có kiểm soát điểm (C3 mask PII), chưa có khung data governance / RAI.
|
||||
- Đây là mảng bắt buộc cho bar tổ chức "rất cao" (FPT §14.3–14.4), không phải tính năng phụ.
|
||||
|
||||
---
|
||||
_Liên quan: `FPT_CASAN_Full.md` §14.3–14.4 · `CASAN_PLAN_07_PRODUCTION_HARDENING.md` (C3 data-exfil, B4 digest, C4 approval) · `CASAN_PLAN_09_EVIDENCE_PACK.md` (xuất RAI report) · `CASAN_PLAN_10_TRACEABILITY_EVAL.md` (giải trình) · `CASAN_PLAN_13_CONTROL_PLANE.md` (view)._
|
||||
Reference in New Issue
Block a user