ارباب حلقه‌ها: انواع حلقه‌ها

وقتی درباره سیستم‌های مبتنی بر AI حرف می‌زنیم، معمولاً سه اصطلاح زیاد تکرار می‌شن: Human in the Loop، Human on the Loop و Human out of the Loop.

در حالت Human in the Loop یا HITL، انسان بخشی از اجرای کاره. سیستم یک مرحله رو انجام می‌ده، منتظر تصمیم یا تأیید انسان می‌مونه و بعد ادامه می‌ده. مثلاً agent تغییرات رو آماده می‌کنه، اما تا وقتی ما اون‌ها رو بررسی و تأیید نکنیم، چیزی deploy نمی‌شه.

در Human on the Loop یا HOTL، سیستم کار رو خودش انجام می‌ده و انسان ناظر حلقه‌ست. لازم نیست هر مرحله رو تأیید کنیم، اما می‌تونیم روند رو ببینیم و وقتی رفتار غیرعادی بود دخالت کنیم.

در Human out of the Loop یا HOOTL، اجرای معمول کار بدون حضور انسان انجام می‌شه. انسان workflow، محدودیت‌ها و شرایط توقف رو طراحی کرده، اما برای هر بار اجرا لازم نیست وارد حلقه بشه.

اگر به علامت بی‌نهایت DevOps نگاه کنیم، قبل از ظهور AI هم تلاش می‌کردیم بخش‌هایی از این حلقه بی‌نهایت رو به سمت HOOTL ببریم. CI و CD رو با کد و اسکریپت خودکار کردیم و بخش‌هایی مثل مانیتورینگ و مدیریت incident تا حدی به HOTL رسیدن؛ سیستم کار می‌کرد و ما از بیرون مراقبش بودیم.

با ورود LLMها و agentها، حالا داریم بخش‌هایی رو به سمت خودکار شدن می‌بریم که قبلاً به‌خاطر نیاز به تحلیل، تصمیم‌گیری یا کار با اطلاعات غیرساخت‌یافته به انسان وابسته بودن.

هر طور که نگاه کنیم، انسان یه جایی از این حلقه‌ها ایستاده و بدون شک در طراحی و ساخت اون‌ها هم دخیل بوده. از نظر من ما هیچ‌وقت قرار نیست حذف بشیم و حلقه‌ها بر ما حکومت کنن، ولی کسی که ارباب این حلقه‌ها باشه بدون شک کنترل رو در دست خواهد داشت.

این مطلب شروع یک مجموعه چندقسمتی با عنوان «ارباب حلقه‌ها»ست. قرار نیست هر قسمت فقط تعریف یکی از این سه اصطلاح باشه. در ادامه می‌خوام از زاویه‌های مختلف به خود حلقه‌ها، جایگاه انسان و agent در اون‌ها و تغییری که LLMها در مرز بین این نقش‌ها ایجاد کردن بپردازم.