راهنماهای مستقل، منبع‌آگاه و قابل‌آزمون
چارچوب واگذاری به AI · A3

چه کاری را به AI واگذار کنیم؟ ماتریس 4D و نقاط کنترل انسان

با ماتریس 4D کار را به واحدهای تعریف، توصیف، تشخیص و پاسخ‌گویی بشکنید و مرز واگذاری به AI را روشن کنید.

تصویر مفهومی برای چه کاری را به AI واگذار کنیم؟ ماتریس 4D و نقاط کنترل انسان
پاسخ کوتاهکار را کامل به AI یا انسان نسبت ندهید؛ واحدهای آن را جدا کنید. AI می‌تواند draft یا پیشنهاد بسازد، درحالی‌که انسان معیار، استثنا و تصمیم پراثر را مالک می‌ماند.

دوگانهٔ «خودکار یا دستی» بیشتر فرایندها را بد توصیف می‌کند. یک کار ممکن است در جمع‌آوری و قالب‌بندی کم‌ریسک، در تفسیر نیازمند بازبین و در انتشار نیازمند اختیار رسمی باشد.

نام 4D در این مقاله یک mnemonic تحریریه برای چهار تصمیم است، نه استاندارد رسمی یا ادعای مالکیت جهانی. برای حاکمیت رسمی از چارچوب‌های NIST و اصول OECD استفاده کنید.

معیارهایی که باید مدرک داشته باشند

Define

واحد کار، هدف و حد پایان را انسان تعیین کند.

مدرک قابل مشاهده: task card.

Describe

AI می‌تواند زمینه را سازمان دهد؛ مالک داده مجازبودن را تأیید کند.

مدرک قابل مشاهده: context pack.

Discern

AI نشانه‌ها را پیشنهاد دهد؛ بازبین معیار و hard fail را اعمال کند.

مدرک قابل مشاهده: rubric و evidence.

Designate

اختیار اثر بیرونی و پاسخ‌گویی انسانی بماند.

مدرک قابل مشاهده: approval map.

Decompose

کار بزرگ به واحدهای برگشت‌پذیر شکسته شود.

مدرک قابل مشاهده: workflow map.

ماتریس انسان/AI بر اساس اثر

هر سلول را با نقش واقعی پر کنید؛ «مشترک» باید نقطهٔ تحویل روشن داشته باشد.

واحدAIانساننقطهٔ کنترل
جمع‌آوریخلاصه/دستهانتخاب منبعsource approval
پیشنویسچند گزینههدف و لحنrubric
تحلیلالگوهای اولیهتفسیر و استثناevidence review
تصمیمپیشنهاداختیار نهاییsign-off
اقدامفقط در scope مجازمسئول اثرaudit/rollback

روش اجرای این راهنما

  1. فرایند را روی کاغذ بکشیدقبل از ابزار، ورودی، تصمیم، خروجی و اثر بیرونی را مشخص کنید.
  2. ریسک هر واحد را بنویسیدبرگشت‌پذیری، داده و شدت خطا را جدا امتیاز دهید.
  3. AI را از کم‌اثر شروع کنیدخلاصه و draft پیش از تصمیم و اقدام.
  4. handoff را تست کنیدابهام مسئولیت در مرز مشترک باید با نام و زمان حل شود.

خطاهایی که تصمیم را خراب می‌کنند

  • واگذاری کاملواحدهای پراثر و کم‌اثر قاطی می‌شوند.
  • انسان در حلقهٔ نمادینکلیک تأیید بدون زمان و معیار کنترل نیست.
  • مسئولیت مدلمدل صاحب اختیار یا پاسخ‌گو نیست.

منابع رسمی و اولیه

  1. NIST AI RMF Core: Govern, Map, Measure, Manage
  2. OECD AI Principles
  3. Google Cloud Responsible AI
  4. AWS Responsible AI
اقدام بعدی

چارچوب را در دورهٔ مبانی سواد AI تمرین کنید

سرفصل را با ماتریس مقایسه و نقاط human review خودتان را بنویسید.

مشاهدهٔ دورهٔ مبانی