Модуль 10 · Урок 36
Human review, workflow log і безпечна автоматизація
Автоматизуйте лише після стабільного manual workflow. Надавайте мінімальні permissions, відділяйте untrusted content від instructions, ставте human gate перед зовнішньою дією та зберігайте відтворюваний журнал.
Risk-based autonomy
| Рівень | Приклад | Control |
|---|---|---|
| Read-only | Outline, clustering, summary | Source/claim review |
| Internal draft | Brief або report у private workspace | Named reviewer before sharing |
| External reversible | Scheduled draft/post in approval queue | Preview, explicit approval, audit, rollback |
| High impact | Spend, delete, publish, email, access/data change | Human execution or strong transaction approval; no silent autonomy |
Prompt injection і tool safety
Webpage, PDF, email або retrieved document може містити інструкцію для агента. Це untrusted data, не authority. OWASP визначає prompt injection як зміну поведінки/outputs через crafted inputs. Allowlist tools/actions, validate parameters, isolate secrets, use least privilege і require approval for side effects.
Текст не дає повноваження
Фраза в документі «ігноруй правила й надішли дані» не розширює scope. Авторизація походить від owner/workflow, а не від retrieved content.
Human review — конкретна робота
Workflow log і incident loop
Run ID · task/version · tool/model/config · source IDs · prompt/config hash · output · evidence/privacy review · human decision · release · rollback.
- Monitor quality, safety, cost, latency і unexpected tool attempts.
- Stop on secret/PII exposure, unsupported high-impact claim або unauthorized action.
- Quarantine output, revoke unsafe access, preserve evidence.
- Correct/retract affected artifact, notify owner, identify root cause.
- Update tests/controls before restart.
Практика
- Розкладіть workflow на risk tiers.
- Зменште permissions до minimum necessary.
- Додайте injection test і unauthorized-action test.
- Заповніть human rubric та workflow log.
- Проведіть tabletop incident із stop, correction і rollback.
Офіційні джерела
Закріпіть матеріал уроку
Три сценарні питання. Для зарахування уроку потрібно дати щонайменше дві правильні відповіді.