← Về thư mục
name: research-critism
description: "Use when reviewing deep research content. Phê bình, phản biện và đánh giá chất lượng nghiên cứu chuyên sâu, kiểm tra nguồn, logic, methodology, và mức độ đủ để duyệt."
version: 2.1.0
author: CEO AI OS
license: MIT
metadata:
hermes:
tags: [research, criticism, review, grill_qa, qa, fact_check]
related_skills: [research_pipeline, research_and_innovation, policy_lab]
Research Criticism & Panel Review
Khi nào dùng skill này
Dùng skill này khi:
* Bạn là Grill QA đang review một nghiên cứu chuyên sâu ở Stage 2 của research pipeline.
* Bạn cần đánh giá chất lượng của một topic.md hoặc research report.
* CEO yêu cầu phản biện một nghiên cứu trước khi duyệt.
* Cần tách rõ claim đã xác thực, claim còn nghi ngờ, và claim cần phản biện ngược.
* Cần quyết định có nên đưa bản nháp sang bước CEO duyệt hay phải sửa thêm.
Không dùng cho:
* QA thông thường (test, bug hunting, stress test UI) như requesting-code-review hoặc dogfood.
* Duyệt nội dung marketing hoặc copywriting.
Mục tiêu của review
- Kiểm tra câu hỏi nghiên cứu có sắc chưa.
- Kiểm tra nguồn và cấp độ tin cậy.
- Kiểm tra logic lập luận và khoảng trống bằng chứng.
- Tìm phản biện ngược và giả thuyết thay thế.
- Kết luận mức độ sẵn sàng cho CEO duyệt.
Mô phỏng Hội đồng Phản biện (5 vai trò Reviewer)
Để đạt tiêu chuẩn học thuật ARS trong giới hạn tối đa 3 subagent chạy song song của hệ thống, quy trình review được chia làm các bước:
- Batch A (3 agents chạy song song):
- Editor in Chief (EIC): Đánh giá mục tiêu, phạm vi, tính mới, câu hỏi nghiên cứu.
- Methodology Reviewer: Đánh giá phương pháp luận, biến độc lập (IV), biến phụ thuộc (DV), các loại bias, tính đại diện của dữ liệu.
-
Domain Reviewer: Đánh giá khung lý thuyết, độ bao phủ tài liệu tham khảo, đóng góp cho lĩnh vực.
-
Batch B (2 agents chạy song song):
- Perspective Reviewer: Đánh giá kết nối đa chiều, hàm ý chính sách, tác động xã hội.
-
Devil's Advocate: Phản biện ít nhất 2 luận điểm chính, phát hiện logical fallacy, đưa ra counter argument mạnh nhất.
-
Synthesis Pass (1 agent):
- Tổng hợp toàn bộ kết quả từ các reviewer trên.
- Đưa ra Editorial Decision: Accept, Minor revision, Major revision, hoặc Reject.
Quy trình phê bình (5 bước chung)
Bước 1: Framing check
Đọc mục tiêu và Câu hỏi nghiên cứu. Tự hỏi:
* Câu hỏi có đủ sắc bén không, hay đang quá rộng?
* Phạm vi có bị lệch mục tiêu không?
* Có đang trả lời câu hỏi khác với câu hỏi người dùng muốn không?
* Có yếu tố confirmation bias không?
* Nếu câu trả lời sai, hậu quả gì?
Bước 2: Source audit
Kiểm tra từng nguồn trong References:
* Nguồn có phải primary source (chính thức) không?
* Claim nào có số liệu, claim nào chỉ là diễn giải?
* Có nhầm lẫn giữa báo cáo, bài báo, tin tức, và trang tổng hợp không?
* APA citation có đúng format: Tổ chức. (Năm). *Tiêu đề*. URL không?
* URL có còn truy cập được không? Đánh dấu [unverified] nếu chưa verify.
Bước 3: Logic audit
- Phương pháp luận có phù hợp với mục tiêu không?
- Có khoảng trống suy luận (logical gap) không? Từ dữ liệu A có suy ra kết luận B hợp lý không?
- Có yếu tố survivorship bias, selection bias, availability bias không?
- Nếu là so sánh đa quốc gia: các nước có được soi dưới cùng một khung không?
- Kết luận có đi quá dữ liệu không?
- Có bỏ qua phương án thay thế hợp lý hơn không?
- Có nhảy cóc từ mô tả sang khuyến nghị không?
Bước 4: Counter argument
Với mỗi luận điểm chính, hãy đặt ít nhất 2 câu hỏi phản biện. Các hướng phản biện thường dùng:
- Counter hypothesis: Nếu giả định nền tảng là sai thì sao?
- Selection bias: Mô hình thành công nhất dùng làm chuẩn có thực sự sao chép được không?
- Alternative systems: Nước bị điểm thấp ở kênh chính thức có thực sự yếu thế không, hay họ có hệ thống thay thế hiệu quả?
- Feasibility và Resistance: Đề xuất có thể bị phản kháng từ cơ quan thực thi không?
- What if: Điều gì xảy ra nếu nguồn dữ liệu gốc bị lỗi thời hoặc thiếu chuyên môn?
Bước 5: Kết luận mức độ tin cậy
Chốt một trong các trạng thái:
| Mức |
Ý nghĩa |
Hành động |
| A: Đạt |
Nguồn chắc, logic chặt, không gap nghiêm trọng |
Ghi nhận, chuyển CEO duyệt |
| B: Cần sửa |
Có gap hoặc nguồn yếu ở một số chỗ |
Ghi cụ thể, block chờ R&D |
| C: Không đạt |
Sai phương pháp, thiếu nguồn trầm trọng, hoặc bias nặng |
Block, yêu cầu R&D làm lại từ Phase 1 |
Appendix (chỉ dùng khi context nghiên cứu về Việt Nam hoặc yêu cầu cụ thể)
Appendix: Data Integrity Checks (Việt Nam context)
Mở rộng Bước 2 khi nghiên cứu có liên quan đến Việt Nam:
- Số lượng đơn vị hành chính: Kiểm tra số tỉnh/thành trong báo cáo có đồng nhất với tài liệu nền tảng pháp lý (master_policy.md, master_tourism.md) và cập nhật mới nhất không.
- Mã văn bản pháp luật: Đảm bảo mã nghị định, quyết định, thông tư chính xác và nhất quán giữa các bảng so sánh.
- Bảng Chú giải Thuật ngữ (Glossary): Báo cáo có chứa viết tắt tiếng Anh (TSA, VNAT, GSO, STB, STAN, AOR, RevPAR, OTA) phải có glossary song ngữ Anh Việt ở đầu tài liệu.
- Phase Alignment: Đảm bảo R&D không nhảy cóc từ Phase 2 lên Phase 5 khi chưa hoàn thiện Phase 3 và 4.
Hypothesis Discipline Check
Khi review, bắt buộc phân biệt:
* Open Finding: Chỉ mô tả, so sánh, liệt kê — không có mối quan hệ nhân quả.
* Research Hypothesis: Phải có IV rõ ràng tác động đến DV và có thể kiểm chứng hoặc bác bỏ (falsifiable).
Nếu phát hiện giả thuyết giả (thực chất là open finding), phải flag và yêu cầu R&D quay lại Phase 3.
Anti Sycophancy Rule
- Grill QA không được đồng ý với mọi luận điểm mà không có phản biện thực chất.
- Devil's Advocate phải tấn công ít nhất 2 luận điểm chính, không chỉ xác nhận nhẹ nhàng.
- Nếu mọi luận điểm đều được chấp nhận, đó là dấu hiệu review kém chất lượng.
Khi hoàn thành review, ghi vào file topic.md của dự án dưới dạng section:
## Grill QA Review (research critism)
**Người review:** Grill QA
**Ngày:** {{YYYY/MM/DD}}
**Mức đánh giá:** [A / B / C]
### Phát hiện chính
1. {{Phát hiện 1}}
2. {{Phát hiện 2}}
### Yêu cầu sửa (nếu có)
* [ ] {{Yêu cầu 1}}
* [ ] {{Yêu cầu 2}}
### Lưu ý cho CEO
{{Ghi chú ngắn gọn cho CEO trước khi duyệt}}
Hoặc dạng 5 phần rút gọn:
1. Verdict
2. Top risks
3. Claims to keep
4. Claims to fix
5. Next action
Pitfalls
- Confirmation bias trong chính review. Luôn tự hỏi: tôi có đang bảo vệ quan điểm của mình không?
- Quá khắt khe với nguồn. Với research thị trường hoặc chính sách, không phải lúc nào cũng có primary source.
- Bỏ qua counter hypothesis. Nếu không thể nghĩ ra cách phản bác luận điểm chính, có thể chưa hiểu đủ sâu.
- Chỉ kiểm tra form mà không kiểm tra content. Phải đọc kỹ nội dung, không chỉ check format.
- Không tự ý sửa nội dung nghiên cứu. Grill QA chỉ review và ghi nhận. Ngoại lệ: phần Fact check có thể update trực tiếp.
- Bàn giao không kèm review bundle. Phải ghim link clickable dạng
https://vmi3427693.tail8c1aaf.ts.net/files/... kèm mô tả rõ các điểm cần CEO rà soát.
- Bỏ qua dữ liệu trong company kb. Phải đọc master files hiện có (master_tourism.md) để làm cơ sở cho nhận định liên quan đến Việt Nam.
Verification Checklist
- [ ] Đã đọc toàn bộ
topic.md (không chỉ scan).
- [ ] Đã kiểm tra từng nguồn trong References.
- [ ] Đã kiểm tra logical flow: premises đến evidence đến conclusion.
- [ ] Đã đặt ít nhất 1 counter hypothesis cho luận điểm chính.
- [ ] Devil's Advocate đã phản biện ít nhất 2 luận điểm chính.
- [ ] Synthesis pass đã tổng hợp kết quả của cả 2 batch.
- [ ] Đã ghi kết luận mức A/B/C.
- [ ] Đã ghi nhận vào file
topic.md (nếu cần).
- [ ] Đã kiểm tra: mỗi giả thuyết có IV và DV rõ ràng không.
- [ ] Không có dấu gạch nối trong văn xuôi hoặc danh sách (dùng số /*/bảng).
Relationship with other skills
- Dùng cùng
research-and-innovation để review nội dung research.
- Dùng cùng
policy-lab khi đề tài nghiêng về chính sách và so sánh quốc tế.
- Dùng cùng
research-pipeline để làm stage Review trong pipeline Draft → Review → Approve.