Files

T

thanhnvandClaude Opus 4.8 fa3dd94c76 docs: restore casan-next-plans roadmap into docs/plans (was wrongly deleted)

The plan set (Plan-00..18, backlog/hardening/QA status, team allocation) is the ONGOING
roadmap, not a finished competition artifact — restored from history into docs/plans/.
Plan-01 (restructure) marked ✅ done; the rest remain to do.

Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>

2026-07-08 14:46:50 +09:00

5.6 KiB

Raw Blame History

KẾ HOẠCH 15 — Responsible AI & Data Governance

Status 2026-07-06: 🟡 core implemented + tested (harness-owned) + enforced. Guard đã đặt trong harness: .specify/scripts/bash/rai-guard.py — classify (PII/confidential/internal), check-cloud (PII/confidential → cloud không approval ⇒ DENY, mở rộng C3), model-card (chặn model không card/thiếu field), retention (gate breach + purge-có-audit), report (phân bố nhạy cảm). Enforcement: harness-preflight.sh chặn PII→cloud TRƯỚC model-call; model-router.sh gọi preflight khi CASAN_PREFLIGHT=1 (opt-in, short-circuit). Test phase-rai-tests.sh 12/0 + phase-preflight-tests.sh 5/0 (WSL), nối CI. Còn lại: RAI report vào Evidence Pack (đã có governance-report tie-in); view trên Control Plane.

Nhãn trạng thái: xem legend ở CASAN_BACKLOG_STATUS.md. Phụ thuộc: 07 (C3 data-exfil, H5 audit) · 13 (view RAI/data trên Control Plane) · 09 (Evidence Pack — nơi xuất báo cáo RAI). Bổ trợ 10 (traceability).

1. Bối cảnh (đối chiếu FPT §14.3–14.4)

§14.3 Data readiness: dữ liệu cần có chủ sở hữu, phân loại (public/internal/ confidential/PII), chất lượng, và chính sách vòng đời (retention/xoá).
§14.4 Responsible AI: minh bạch (model card, nguồn dữ liệu), công bằng/an toàn nội dung, con người giám sát, khả năng giải trình & truy vết quyết định của AI.
Đã có (điểm): C3 mask PII trong audit; H4 content-safety/injection; H5 audit chain; H3 faithfulness. Chưa có (khung): classification policy, retention, model card, RAI report.

2. Nguyên tắc

Phân loại trước khi xử lý: dữ liệu vào pipeline phải gắn nhãn phân loại; PII/ confidential kích hoạt kiểm soát chặt hơn (không lên cloud model nếu chưa duyệt).
Minh bạch model: mỗi model dùng (local/cloud) có model card (nguồn, phiên bản/digest, vai trò, giới hạn, rủi ro) — nối Plan-07 B4 (digest pinning).
Con người giám sát rủi ro cao: quyết định rủi ro cao có human-in-the-loop (nối C4 approval).
Giải trình được: mọi output AR có thể truy về requirement→code→test (Plan-10)
- prompt/model/token (H5) → RAI report tổng hợp.
Retention & xoá có chính sách: dữ liệu/telemetry có thời hạn giữ; xoá ghi audit.

3. Tasks

Track 1 — Data classification & PII/retention

Task	Việc	File	Verify	Done
15.1	`data-classification.yaml`: nhãn (public/internal/confidential/PII) + rule gắn nhãn	mới `config/data-classification.yaml`	dữ liệu gắn nhãn đúng	schema chốt
15.2	Gate: PII/confidential không lên cloud model nếu chưa duyệt (nối C3/C4)	`data-exfil-guard.sh` mở rộng	PII→cloud chưa duyệt → BLOCK	gate chạy
15.3	Retention policy + xoá có audit	mới `retention-policy.yaml` + script	hết hạn → xoá + audit bản ghi	vòng đời dữ liệu

Track 2 — Model card & minh bạch

Task	Việc	File	Verify	Done
15.4	`model-card.yaml` mỗi model (nguồn/digest/vai trò/giới hạn/rủi ro)	mới, nối B4 digest	model dùng có card + digest khớp	minh bạch model
15.5	Chặn model không có card/không pinned trong prod	`model-router.sh`	model lạ → yêu cầu card/approval	provenance

Track 3 — RAI report & giải trình

Task	Việc	File	Verify	Done
15.6	RAI report tổng hợp: classification coverage, PII handling, model cards, human-oversight events, traceability	Evidence Pack (Plan-09)	pack có mục RAI	báo cáo RAI
15.7	Giải trình 1 output: truy REQ→code→test (Plan-10) + prompt/model/token (H5)	traceability + audit	1 artifact → truy vết đầy đủ	giải trình được
15.8	View RAI/data trên Control Plane (Plan-13)	Plan-13 UI	hiển thị classification/model-card/RAI	quan sát

4. Red-team / test

Test	Kỳ vọng
`adv-pii-to-cloud-unapproved` (PII lên cloud chưa duyệt)	BLOCK
`adv-model-without-card` (dùng model không có card trong prod)	BLOCK/approval
`adv-retention-bypass` (giữ dữ liệu quá hạn không xoá)	phát hiện + cảnh báo
`adv-unexplainable-output` (output không truy được về REQ/prompt)	RAI report đánh dấu thiếu
`benign-rai-report` (run hợp lệ)	PASS + RAI report đầy đủ

5. Tiêu chí HOÀN THÀNH

Dữ liệu được phân loại; PII/confidential có kiểm soát cloud + retention có audit.
Mỗi model có model card + digest pinned; model không card bị chặn trong prod.
RAI report xuất qua Evidence Pack; 1 output bất kỳ giải trình được đầy đủ.
View RAI/data trên Control Plane.
Red-team mục 4 xanh; core harness 218/0 không tụt.

6. Ghi chú trung thực

[mới] — hiện chỉ có kiểm soát điểm (C3 mask PII), chưa có khung data governance / RAI.
Đây là mảng bắt buộc cho bar tổ chức "rất cao" (FPT §14.3–14.4), không phải tính năng phụ.

Liên quan: FPT_CASAN_Full.md §14.3–14.4 · CASAN_PLAN_07_PRODUCTION_HARDENING.md (C3 data-exfil, B4 digest, C4 approval) · CASAN_PLAN_09_EVIDENCE_PACK.md (xuất RAI report) · CASAN_PLAN_10_TRACEABILITY_EVAL.md (giải trình) · CASAN_PLAN_13_CONTROL_PLANE.md (view).

5.6 KiB Raw Blame History Unescape Escape