عندما يتولى وكلاء الذكاء الاصطناعي العمل، ما الذي نخسره؟

أصبحت منتجات الوكلاء بارعة جدًّا في أداء المهام.

يمكن لـ Claude Code كتابة وإعادة هيكلة أجزاء كبيرة من الكود. ويمكن لـ Cursor مساعدة المطورين على التنقل عبر قواعد الكود بشكل أسرع. ويحاول Devin والوكلاء الآخرون الموجهون نحو المهام تولي مهام سير العمل الأطول. وبعيدًا عن البرمجة، يقوم الوكلاء بصياغة رسائل البريد الإلكتروني، ومعالجة المستندات، وتلخيص البيانات، وتحديث التذاكر، وأتمتة المهام المتكررة التي كانت تتطلب جهدًا بشريًا مباشرًا في السابق.

تقدم معظم هذه المنتجات نفس الوعد: زود الوكيل بسياق كافٍ، وسوف يتولى تنفيذ المزيد من المهام نيابة عنك. هذا الوعد مفيد، لكنه يثير أيضًا سؤالًا لم تجب عليه منتجات الوكلاء بشكل كامل: عندما يقوم الوكيل بمزيد من العمل، ما الذي نخسره؟

الإجابة ليست مجرد «الجهد اليدوي». قد تُنجز المهمة، لكن الإنسان ربما يكون قد تخطى جزءًا من العملية التي كانت تُساعد في تكوين الحكم: القراءة، والتتبع، وتصحيح الأخطاء، ومقارنة الخيارات، وارتكاب الأخطاء، وتعلم سبب كون حل ما أفضل من آخر.

هذا لا يعني أن الوكلاء ضارون بالتعلم. بل يعني أن منتجات الوكلاء يجب تصميمها مع أخذ التعلم في الاعتبار. فإذا اكتفت هذه المنتجات بتحسين النتائج فقط، فقد تزيل بالضبط التجربة التي تساعد البشر على تحسين المعايير التي يعتمد عليها الوكلاء.

من الطرق المفيدة للتفكير في هذه المشكلة استعارة «سلم الاستقلالية» من أنظمة القيادة الذاتية. هذه المقارنة ليست مثالية، لكنها تساعد في التمييز بين أنواع مختلفة من التقدم في منتجات الوكلاء:

• تقوم الوكلاء من المستوى L1 بتنفيذ المهام. يعطي الإنسان التعليمات، ويقوم الوكيل بتنفيذها.
• الوكلاء من المستوى L2 يتذكرون. يتعلمون عبر الجلسات من خلال تخزين التفضيلات والتصحيحات وسياق المشروع.
• تطبق الوكالات من المستوى L3 المعايير. يحدد الإنسان القواعد والقيود ومعايير اتخاذ القرار بدلاً من توجيه كل خطوة.
• الوكلاء من المستوى L4 يُحسّنون أداء الإنسان. لا يقتصر دور الوكيل على أداء العمل فحسب، بل يساعد الإنسان على الحفاظ على قدرته على الحكم وتعميقها.

لا يزال معظم القطاع يركز على المستويات الثلاثة الأولى. وهذا أمر منطقي. فالتنفيذ والذاكرة والمعايير هي مشكلات فورية تتعلق بالمنتج. لكن المستوى L4 هو المكان الذي تظهر فيه المخاطر طويلة المدى. فإذا توقف البشر عن التحسن، فإن المعايير التي توجه الوكلاء تتوقف عن التحسن أيضًا.

المستوى L1: الوكلاء ينفذون

مر تطوير تطبيقات الذكاء الاصطناعي بعدة مستويات من التجريد:

• في البداية، كان المطورون يستدعون النموذج عبر واجهة برمجة التطبيقات (API): إرسال نص، واستلام نص في المقابل.
• ثم جاءت هندسة المطالبات، حيث كانت المهارة الرئيسية هي تعلم كيفية طرح أسئلة أفضل.
• بعد ذلك جاءت هندسة السياق، حيث أصبحت المهمة تتمثل في تزويد النموذج بأمثلة وقيود وخلفية كافية ليتصرف بشكل مفيد في موقف معين.
• ثم جاءت هندسة التسخير: ربط النماذج بالأدوات، وسير العمل، والملفات، وقواعد البيانات، والمتصفحات، والمحطات الطرفية، وأنظمة الإنتاج.
• وتستندهندسة الوكيل على ذلك. فبدلاً من مطالبة النموذج بالرد على موجه واحد، نطلب منه تخطيط الخطوات واختيار الأدوات وفحص النتائج والتعافي من الأخطاء وإكمال المهام متعددة الخطوات بإشراف أقل.

تستمر السطح التقني في التغير، لكن العلاقة الأساسية في المستوى L1 تظل كما هي: الإنسان يحدد المهمة، والوكيل ينفذها. ولا تزال كل تفاعل قائمًا بذاته في الغالب. تُنجز المهمة، وتنتهي الجلسة، وتبدأ المهمة التالية من الصفر.

يعمل هذا المستوى بالفعل بشكل جيد بما يكفي لتغيير السلوك. يمكن للوكلاء التعامل مع المزيد من التنفيذ بجهد يدوي أقل. ومع انخفاض تكلفتهم وزيادة سرعتهم وموثوقيتهم، ترتفع المخرجات بينما تنخفض التكلفة.

لكن سهولة التنفيذ تخلق عنق زجاجة جديدًا. لا تزال كل جلسة متوازية تحتاج إلى إنسان لشرح المهمة، وتوفير السياق، ومراجعة النتائج، وتقييم الجودة، وتحديد الخطوة التالية. قد يكون الوكيل هو من يقوم بالعمل، لكن الإنسان لا يزال مسؤولاً عن تقييم جودة العمل.

يصبح التنفيذ أرخص. ويصبح التقييم أكثر أهمية.

L2: الوكلاء يتذكرون

يحل الوكيل من المستوى L1 المهمة المطروحة أمامه. أما الوكيل من المستوى L2 فيطرح سؤالًا مختلفًا: هل يمكن للوكيل أن يتعلم من هذا التفاعل حتى تسير الجلسة التالية بشكل أفضل؟

الوكيل من المستوى L1 البحت لا يحتفظ بحالة. بمجرد انتهاء الجلسة، يختفي السياق. وتبدأ المهمة التالية من الصفر. يكسر الوكلاء من المستوى L2 هذا النمط من خلال تراكم الخبرة عبر الجلسات. فهم يتذكرون تفضيلات المستخدم، وقواعد المشروع، والتعليقات المتكررة، والقرارات السابقة، وأنماط عمل المستخدم. الهدف هو تحويل التجربة الناتجة عن التفاعل بين الإنسان والوكيل إلى أصل قابل لإعادة الاستخدام.

وهذا أيضًا هو السبب في أنه لا ينبغي التعامل مع ذاكرة الوكيل على أنها موجه أطول أو مجلد من النصوص المحفوظة. فالذاكرة المفيدة تحتاج إلى بنية تحتية: تخزين دائم، واسترجاع دلالي، وإزالة التكرار، والتحديثات، وطريقة لفصل السياق القديم عن المعرفة التي لا تزال مفيدة. وهنا يكمن ارتباط عملنا في Zilliz بهذه المشكلة. غالبًا ما تُستخدم Milvus، والخدمات المُدارة Zilliz Cloud المبنية حولها، كطبقة استرجاع لذاكرة الوكيل لأنها تجعل السياق الماضي قابلاً للبحث بدلاً من مجرد أرشفته.

لكن ذاكرة المستوى الثاني (L2) لها حدود هيكلية. فمعظم ما يتعلمه الوكلاء في هذه المرحلة يأتي من السلوك القابل للملاحظة: ما قاله المستخدم، أو غيّره، أو قبله، أو رفضه، أو صححه. قد يتذكر الوكيل أنك أعدت كتابة فقرة، أو رفضت تنفيذًا ما، أو غيرت توقيع دالة. لكنه قد لا يفهم السبب.

هل كانت المشكلة تتعلق بالدقة، أو النبرة، أو قابلية الصيانة، أو المخاطر الأمنية، أو الأداء، أو وضع المنتج في السوق، أم شيئًا آخر؟ السلوك هو السطح المرئي للحكم. وغالبًا ما يظل المنطق الكامن وراءه مخفيًا.

وهذا يجعل المستوى L2 أفضل في التقاط المعرفة الصريحة مقارنة بالمعرفة الضمنية. فهو قادر على تذكر القواعد التي ذكرتها بشكل مباشر وتخزين أمثلة على القرارات السابقة. لكن الأمثلة لا تتحول تلقائيًا إلى مبادئ. قد يتذكر الوكيل ما حدث دون فهم المعيار الكامن وراءه.

تؤدي هذه الفجوة إلى المستوى L3.

L3: الوكلاء يطبقون المعايير

بمجرد أن يبدأ المستوى الأول والمستوى الثاني في العمل، فإن الخطوة التالية الواضحة هي التوازي.

إذا كان بإمكان وكيل واحد إكمال مهمة، فلماذا لا نشغل عشرة وكلاء؟ وإذا كان بإمكان الوكيل التعلم من جلسة واحدة، فلماذا لا نفتح العديد من الجلسات وندعهم جميعًا ينتجون العمل في آن واحد؟ هذا هو منطق «المهندس 10x» أو «المهندس 100x»: استخدام الوكلاء لمضاعفة الناتج.

في الممارسة العملية، يخلق التوازي تكلفة خاصة به. فكل جلسة لا تزال تتطلب من الإنسان تغيير السياق، وفهم المشكلة، ومراجعة العمل، وتقديم الملاحظات، وتحديد ما إذا كانت النتيجة جيدة بما يكفي. وبعد تجاوز نقطة معينة، يتوقف المزيد من الوكلاء عن الشعور بأنهم يمثلون رافعة فعالة ويبدأون في الشعور بأنهم عبء إضافي.

هذه ليست مجرد مشكلة في سير العمل. إنها حاجز معرفي. لا يتعامل البشر مع المهام المتوازية بالطريقة التي تتعامل بها الآلات. يؤدي التبديل بين المهام إلى استنزاف الانتباه. والذاكرة العاملة محدودة. كل عملية تبديل تزيد من احتمال إغفال التفاصيل، أو تطبيق معيار خاطئ، أو الموافقة على العمل بسرعة كبيرة.

لا ينبغي للمنتج الجيد أن يتعارض مع هذا القيد، بل يجب تصميمه بحيث يتكيف معه.

في المستوى L3، يتغير المدخل من «حل هذه المشكلة المحددة بهذه الطريقة المحددة» إلى «إليك المعايير التي يجب عليك تطبيقها». يتوقف الإنسان عن كونه المشغل الذي يوجه كل خطوة ويصبح الشخص الذي يحدد القواعد والقيود والتفضيلات ومعايير الجودة ومعايير اتخاذ القرار.

قد يستمر المستخدم في توجيه الوكيل خلال مهمة محددة، لكن قيمة هذا التوجيه لا ينبغي أن تنتهي مع انتهاء الجلسة. يجب أن يترك التفاعل وراءه معيارًا قابلاً لإعادة الاستخدام، وليس مجرد نص محفوظ. في المرة التالية التي تظهر فيها مهمة مماثلة، يجب أن يطبق الوكيل المعيار دون أن يطلب من الإنسان إعادة بناء السياق الكامل وإعادة إصدار نفس الحكم.

تتجه الصناعة بالفعل في هذا الاتجاه. تتيح العديد من منتجات الوكلاء للمستخدمين تحديد القواعد، والتعليمات، والذكريات، وقواعد المشاريع، وتفضيلات السلوك. الاتجاه صحيح، لكن معظم التطبيقات لا تزال في مراحلها المبكرة. غالبًا ما تكون القواعد نصوصًا ثابتة: تُحدَّث يدويًّا، ومجزأة، ولا ترتبط إلا بشكل فضفاض بالمنطق الكامن وراء قرارات المستخدم.

والنمط الأقوى هو نموذج الإدراك الشخصي الذي يتم تحديثه باستمرار: وهو تمثيل قابل للقراءة آليًا لكيفية قيام الشخص بالحكم واتخاذ القرارات وإجراء المقايضات. وينبغي أن يشفر هذا النموذج التفضيلات والقيم والقيود والاستثناءات والمعايير وأسلوب اتخاذ القرار كسياق يمكن للوكلاء استرجاعه وتطبيقه.

بدلاً من الاكتفاء بتخزين المحادثات السابقة، يجب أن يجعل تفكير المستخدم قابلاً للفهم من قبل الآلات.

تتغير مهمة المستخدم وفقًا لذلك. فبدلاً من شرح كل مهمة من الصفر، يقوم المستخدم بصيانة النموذج عن طريق صقل المعايير، وتحديث التفضيلات، وتصحيح الافتراضات، وتحويل الأحكام الضمنية إلى أحكام صريحة. وبمعنى ما، يقوم المستخدم بتحويل نفسه باستمرار إلى رموز: حيث يحول المزيد من تفكيره إلى شكل يمكن للوكلاء استخدامه.

عندما يكون التنفيذ غير مكلف، لا يحتاج الإنسان إلى تحديد كل تفاصيل التنفيذ قبل بدء المهمة. يحتاج الإنسان إلى تحديد ما هو الجيد، وما هو غير مقبول، وكيف يجب التعامل مع المفاضلات.

المستوى 4: العوامل تحافظ على التعلم البشري

تركز المستويات الثلاثة الأولى على جعل الوكلاء يخدمون البشر بشكل أفضل. أما المستوى L4 فيقلب السؤال: كيف يمكن للوكلاء مساعدة البشر على التحسن؟

هذا هو الجزء الذي لم تتعامل معه معظم منتجات الوكلاء بشكل كامل. عندما يقوم الوكلاء بمزيد من العمل نيابة عنا، ما الذي يختفي بالضبط من الجانب البشري في الحلقة؟

ظاهريًّا، نفقد الجهد اليدوي. هذه هي الفائدة الواضحة. لكننا قد نفقد أيضًا ثلاثة أمور أقل وضوحًا: الذاكرة المرتبطة بسياق العمل، والممارسة في إجراء المفاضلات، والتعرف على الأنماط الذي ينشأ من التعرض المتكرر للتفاصيل المعقدة.

لقد شعرت بذلك بشكل مباشر في البرمجة. عندما كنت أكتب الكود بنفسي، كنت أتذكر مكان كل سطر وكيف يعمل النظام لأنني قضيت وقتًا في قراءته وتصحيح أخطائه وتتبعه وإصلاحه يدويًّا. لم تنتج تلك العملية الكود فحسب، بل دربت عقلي على التعرف على البنية.

مع «كلود كود»، لا يزال الكود يُنتج، وغالبًا ما يكون ذلك أسرع. لكن بعد فترة، لا تصبح ذاكرتي عن النظام عميقة بنفس القدر. قد أعرف ما يفعله النظام، لكنني لا أتذكر دائمًا كيف تضافرت كل الأجزاء معًا. تُختزل تجربة البناء، ويختفي معها جزء من التعلم.

هذا ليس حجة ضد وكلاء البرمجة. بل هو حجة مفادها أن منتجات الوكلاء تحتاج إلى الحفاظ على أجزاء العمل التي تبني الحكم البشري.

يظهر النمط نفسه خارج مجال البرمجة. إذا قام الوكيل بصياغة كل مذكرة استراتيجية، فقد يفقد الإنسان ممارسة تنظيم الحجة. إذا قام الوكيل بتلخيص كل ورقة بحثية، فقد يفقد الإنسان عادة ملاحظة ما أغفله الملخص. إذا تولى الوكيل كل قرار تشغيلي، فقد يتوقف الإنسان عن تطوير الحدس الذي ينشأ من التعامل مع الاستثناءات المعقدة.

يختفي العمل. ويبقى الناتج. لكن حلقة التعلم قد تضعف.

هذه هي مشكلة المستوى 4.

الحكم البشري هو الحد الأقصى

هذه الخسارة مهمة لأن الوكلاء لا يعملون في فراغ. الوكيل هو عامل مضاعف، وليس بديلاً. نفس الأداة تنتج نتائج مختلفة جدًا في يد الخبير والمبتدئ. قد يصبح المهندس المخضرم الذي يستخدم وكيلًا أكثر فعالية بشكل كبير. أما المبتدئ فقد ينتج ببساطة مخرجات أكثر دون أن يطور حكمًا أفضل.

تعمل الوكالات على تعزيز المستوى المعرفي الحالي للمستخدم.

وهذا أمر مهم لأن المستوى L3 يعتمد على قيام البشر بتحديد المعايير التي يجب أن تتبعها الوكالات. لكن جودة هذه المعايير تعتمد على جودة الحكم البشري. إذا توقف الإنسان عن التحسن، فإن المعايير ستصبح في النهاية قديمة. وتصبح غير مكتملة، أو سطحية، أو غير متوافقة مع الواقع الحالي للعمل.

يعمل النظام بشكل أفضل كحلقة مفرغة:

• يحدد الحكم البشري المعايير.
• تنفذ الوكالات ضمن تلك المعايير.
• تُستخدم نتائج التنفيذ في تعزيز التعلم البشري.
• ويؤدي التعلم البشري إلى تحسين المعايير.

إذا نجحت الحلقة، يتحسن كلا الجانبين. ينفذ الوكيل المهام بفعالية أكبر، ويصبح الإنسان أكثر كفاءة في تحديد معنى الفعالية. إذا انقطعت الحلقة، يتدهور النظام. يتوقف الحكم البشري عن التطور. تصبح المعايير قديمة. يستمر الوكلاء في التحسين، لكنهم يفعلون ذلك ضمن إطار عمل يتخلف تدريجيًا عن الركب.

لهذا السبب يُعد الحكم البشري هو الحد الأقصى. فالوكلاء الأقوى لا يلغون الحاجة إلى بشر أقوى. بل يجعلون جودة الحكم البشري أكثر أهمية، لأن هذا الحكم يصبح الإطار الذي يعمل الوكيل ضمنه.

لماذا لا تستطيع الوكالات حل المشكلة بأكملها بمفردها

إحدى الإجابات واضحة: ستستمر العوامل في الازدياد قوة، لذا ربما ستنتج في النهاية معرفة أفضل، وقواعد أفضل، ومعايير أفضل من تلقاء نفسها.

وهناك حقيقة في ذلك. فالوكلاء قويون بالفعل في دمج الأفكار، واستكشاف مساحات الحلول، وإبراز مسارات قد لا يكون البشر قد فكروا فيها. يمكن للنموذج إنتاج جمل وتصميمات وحلول لم تظهر أبدًا في بيانات تدريبه. ويمكنه إعادة دمج الأنماط عبر المجالات وتوليد بدائل مفيدة.

هذه هي القيمة الحقيقية. لكن المستوى L4 يهتم بنوع مختلف من الإبداع. السؤال ليس فقط من يمكنه إيجاد إجابة أفضل، بل من يمكنه طرح سؤال جديد، أو إعادة صياغة المعيار، أو توسيع نطاق المشكلة.

تتميز العوامل بقدرتها على التعميم والدمج والبحث ضمن توزيع موجود. يمكنها إيجاد مسارات أفضل عبر تضاريس معروفة، وأحيانًا مسارات لم يجربها البشر من قبل. لكن تقرير ما إذا كان ينبغي إعادة رسم التضاريس نفسها أم لا هو أمر مختلف.

غالبًا ما ينبع هذا النوع من القرارات من السياق البشري: القيود المعاشة، والمصالح الشخصية، والفضول، وعدم الرضا، وتكلفة الوقوع في الخطأ. يمكن لأي شخص أن يصوغ فرضية تتعارض مع الإطار الحالي ويختبرها في مواجهة الواقع. والأهم من ذلك، يمكن لأي شخص أن يكون لديه سبب لمواصلة الاختبار حتى لو بدت الفكرة خاطئة أو محفوفة بالمخاطر أو عديمة الفائدة في البداية.

تعد الهندسة غير الإقليدية مثالاً مفيداً. لم تكن الخطوة المهمة مجرد السؤال: «ماذا لو تقاطعت الخطوط المتوازية؟» فقد يستطيع أي كائن أن يصوغ هذه الجملة. بل كانت الخطوة المهمة هي التعامل مع هذا الافتراض الغريب على أنه يستحق البحث، ثم تتبع نتائجه حتى أصبح فضاءً نظريًّا جديدًا. وقد تطلب ذلك المثابرة، والمصالح، وسببًا للاهتمام بالنتيجة.

يُعد إطار عمل الإبداع الذي وضعته مارغريت بودن مفيدًا هنا. فهي تميز بين ثلاثة أنواع من الإبداع:

• الإبداع التجميعي: الجمع بين الأفكار المألوفة بطرق جديدة.
• الإبداع الاستكشافي: البحث داخل فضاء مفاهيمي قائم.
• الإبداع التحويلي: تغيير قواعد الفضاء المفاهيمي نفسه.

يتمتع الفاعلون بالفعل بقوة في النمطين الأولين. فهم يجمعون بين الأفكار الموجودة ويستكشفون داخل الفضاءات المفاهيمية القائمة. أما النمط الثالث فهو أصعب. فالإبداع التحويلي لا يعتمد فقط على سرعة البحث. بل يعتمد على سبب اختيار شخص ما لرفض قاعدة قديمة، وتقبل تكلفة الفشل، ومواصلة اختبار فكرة لم تثبت ملاءمتها بعد.

والقول الأكثر دقة هو: يتمتع الوكلاء بأقصى قوة في الجمع والاستكشاف داخل المساحات القائمة. ولا تزال المعرفة التأسيسية الجديدة، ومساحات المشكلات الجديدة، وأطر القيم الجديدة تعتمد بشكل كبير على البشر.

التصميم من أجل الدورة، وليس فقط الناتج

ليس كل منتج وكيل بحاجة إلى حل المستوى 4. بعض المنتجات تحتاج فقط إلى مساعدة المستخدمين على إنجاز المهام بشكل أسرع. وهذا جيد. بينما تحتاج منتجات أخرى إلى الذاكرة والمعايير وتكامل أفضل لسير العمل.

ولكن على مستوى النظام البيئي، تحتاج بعض المنتجات إلى الحفاظ على حلقة التعلم. فإذا ساعد كل منتج وكيل الناس على القيام بقدر أقل من العمل، ولم يساعد أي منها الناس على مواصلة التعلم بعد توقفهم عن القيام بالعمل مباشرةً، فإن القدرات البشرية تضعف بمرور الوقت. ويتوقف مجال التحسين للوكلاء عن التوسع. ويظل النظام بأكمله مقيدًا بمستوى الحكم البشري الحالي.

وهنا تكمن أهمية تصميم المنتج. لا يقتصر المستوى L4 على مطالبة الوكيل بتلخيص ما قام به فحسب. فالمنتج المفيد من المستوى L4 يحافظ على أجزاء العمل التي تبني الحكم البشري، حتى عندما يتولى الوكيل معظم التنفيذ.

هناك بعض أنماط المنتجات المهمة هنا:

• الحفاظ على نقاط التقدير الرئيسية. يجب أن تظل بعض القرارات مرئية للإنسان، ليس لأن الوكيل لا يستطيع اتخاذها، بل لأن تلك القرارات تدرب على التقدير. يجب أن يحدد المنتج اللحظات المهمة ويبقيها قيد النظر.
• إعادة بناء العملية، وليس النتيجة فحسب. لا يكفي وجود منتج نهائي. يجب أن يبرز النظام فروع القرار الرئيسية، والمفاضلات، والمسارات البديلة، والمحاولات الفاشلة. يمكن للمستخدم الذي يرى النتيجة فقط الموافقة عليها أو رفضها. أما المستخدم الذي يرى مسار الاستدلال فيمكنه تحديث نموذجه الذهني.
• دعم الاستكشاف التعاوني. عندما يكون المستخدم مترددًا، يجب ألا يقفز الوكيل مباشرةً إلى إجابة. بل يجب أن يساعد في توسيع نطاق المشكلة: ما هي الأبعاد المهمة، وما هي الافتراضات المفقودة، وما هي المعلومات التي لا تزال مطلوبة، وما هي التكاليف التي ينطوي عليها كل خيار.
• تحدي الافتراضات البشرية. هذا لا يعني المعارضة لمجرد الاختلاف في الرأي. بل يعني التعرف على الثغرات أو التوترات في تفكير المستخدم وطرح أسئلة محددة الهدف تجعل تلك التوترات واضحة.

الهدف ليس إجبار البشر على العودة إلى كل خطوة يدوية. فذلك من شأنه أن يخل بالغرض من الوكلاء. الهدف هو الحفاظ على أجزاء العمل التي تحول التجربة إلى حكم.

لا ينبغي أن تقتصر منتجات الوكلاء على تحسين المخرجات فحسب. بل يجب أن تعمل على تحسين حلقة التغذية الراجعة: تحسين الحكم البشري، وتحسين المعايير، وتحسين أداء الوكلاء، وتحسين التعلم البشري من النتائج.

عندما تقوم الوكلاء الذكية بالعمل، يجب ألا نفقد حلقة التغذية الراجعة التي جعلت البشر أفضل في هذا العمل في المقام الأول.

نود أن نسمع آرائكم

إذا كنتم تعملون على تطوير الوكلاء، فأود أن أعرف رأيكم في هذا الأمر: ما هي أجزاء العمل التي يجب أن يتولى الوكلاء مسؤوليتها بالكامل، وما هي الأجزاء التي يجب أن تظل مرئية لأنها تساعد البشر على الاستمرار في التحسن؟