عندما يتحول الذكاء الاصطناعي من مساعد إلى Agent يعمل بمفرده

[Abo-Karim]

خلال الفترة الأخيرة، بدأنا نسمع كثيرًا عن مصطلح AI Agents أو "وكلاء الذكاء الاصطناعي". لكن الفرق بين الـAI Agent والـChatbot التقليدي كبير. الـChatbot ينتظر منك السؤال ثم يعطيك إجابة. أما الـAI Agent فيمكن أن يحصل على هدف، ثم يقوم بتقسيم المهمة إلى خطوات، ويستخدم أدوات وبرامج وواجهات API وملفات ومواقع لتنفيذها. وهنا تحديدًا بدأت تظهر مشكلة جديدة:

ماذا يحدث عندما نعطي الذكاء الاصطناعي القدرة على اتخاذ إجراءات حقيقية بدلًا من مجرد تقديم إجابات؟

التطورات الأخيرة جعلت السؤال أكثر أهمية​

في سبتمبر 2026 ظهرت عدة تقارير عن أنظمة ذكاء اصطناعي تصرفت بشكل غير متوقع أثناء اختبارات أمنية أو في بيئات حقيقية.

كما كشفت تقارير عن حالات حاولت فيها وكلاء ذكاء اصطناعي الوصول إلى مواقع وأنظمة خارج النطاق المسموح لها، وهو ما أثار نقاشًا واسعًا حول حدود استقلالية هذه الأنظمة.

وفي 30 سبتمبر تحديدًا، أعلنت OpenAI عن Dots، وهي فئة من وكلاء الذكاء الاصطناعي المصممة للعمل بصورة مستمرة والمبادرة بتنفيذ مهام للمستخدم، في خطوة تعكس انتقال الصناعة من نماذج "تجيب عند الطلب" إلى أنظمة يمكنها العمل بشكل أكثر استقلالية.

ما المختلف في الـAI Agent؟​

تخيل أنك تقول للذكاء الاصطناعي:

"راجع موقعي، ابحث عن المشاكل، جهز تقريرًا، ثم أصلح الأخطاء البسيطة."

في نظام تقليدي، سيشرح لك كيف تفعل ذلك.

أما الـAgent فقد يستطيع:

1. الدخول إلى الموقع.
2. فحص الملفات والسجلات.
3. تحليل المشكلة.
4. تشغيل أدوات معينة.
5. تعديل ملفات.
6. اختبار النتيجة.
7. إعداد تقرير بما قام به.

وهنا تظهر قوة الـAgents… وفي نفس الوقت تظهر الخطورة.

المشكلة ليست في الذكاء فقط… بل في الصلاحيات​

إذا أعطيت Agent صلاحية قراءة بريدك، والوصول إلى ملفاتك، واستخدام حساباتك، وتنفيذ أوامر على السيرفر، فأنت لا تعطيه "معلومات" فقط.

أنت تعطيه قدرة على التصرف.

وهذا يغيّر قواعد الأمن السيبراني.

حتى شركات الأمن بدأت تتعامل مع الـAI Agent باعتباره هوية رقمية جديدة تحتاج إلى التحكم في الصلاحيات والسلوك، وليس مجرد برنامج عادي.

والجانب الآخر أكثر إثارة​

التقنية لا يستخدمها المدافعون فقط.

في سبتمبر، أفادت Google Threat Intelligence بأن جهات تهديد استخدمت أنظمة AI وأطرًا متعددة الوكلاء لأتمتة عمليات مثل الاستطلاع وسرقة بيانات الاعتماد، وفي إحدى الحملات تم تنفيذ عملية واسعة خلال ساعات قليلة.

وهنا يصبح السؤال:

إذا كان المهاجم يستطيع استخدام Agent يعمل بشكل مستمر، فهل ما زالت أدوات الحماية التقليدية كافية؟

ربما لن تكون المشكلة المستقبلية هي أن "الهاكر أصبح أذكى".

المشكلة قد تكون أن سرعة الهجوم أصبحت أكبر من سرعة الإنسان في اكتشافه والتعامل معه.

الشركات أمام معادلة جديدة​

الـAI Agents يمكن أن توفر وقتًا كبيرًا في البرمجة، الدعم الفني، تحليل البيانات، إدارة الأنظمة وغيرها.
لكن كلما زادت الصلاحيات، زادت الحاجة إلى:

• تحديد الصلاحيات بدقة.
• تسجيل كل عملية يقوم بها الـAgent.
• منع الوصول غير الضروري للبيانات.
• مراقبة السلوك وليس مجرد تسجيل الدخول.
• وجود حدود واضحة لما يستطيع Agent تنفيذه.
• وجود طريقة لإيقافه بسرعة عند حدوث مشكلة.

ولهذا أصبحت Agent Security نفسها مجالًا يتوسع بسرعة.

السؤال الذي يستحق النقاش​

قبل سنوات كان السؤال:

"هل الذكاء الاصطناعي يستطيع أن يفهمني؟"

اليوم أصبح السؤال:

"هل يمكنني أن أثق به عندما أعطيه صلاحية تنفيذ ما فهمه؟"

وهذا فرق ضخم.

فقد يكون الـAI Agent قادرًا على تنفيذ مهمة بشكل أسرع من الإنسان، لكن السرعة ليست وحدها المعيار.

المهم أيضًا:

هل نفذ المهمة الصحيحة؟
هل استخدم الصلاحيات الصحيحة؟
هل توقف عندما وصل إلى حدود صلاحياته؟
وهل يمكننا معرفة كل ما فعله بعد انتهاء المهمة؟

شاركونا رأيكم​

هل تعتقدون أن مستقبل البرمجيات سيكون قائمًا على AI Agents تعمل بشكل مستقل؟

أم أن إعطاء الذكاء الاصطناعي صلاحيات حقيقية على الملفات والحسابات والسيرفرات يمثل مخاطرة أكبر من الفائدة؟

وهل تثق في Agent لديه صلاحية إدارة سيرفرك بدلًا منك؟

 

[MesterPerfect]

موضوع الAIAgent فعلا فيه كلام كثير بس أهم شيء نقطة قوته هي نقطة خطورته وهي التصرف المنفرد.
لذا محررات AI Agent مثل Antigravity وغيرها تتيح لك السيطرة عليه بستخدام التحكم في تنفيذ الأنشطة وتشغيل الأكواد والمهام
وبذلك تكون قادر على رؤية ما سيفعله وتحديد هل هو صحيح أو يسبب مشكلة وترشده إلى طريقة أخرى
أما من يتركه لحاله ينفذ كل شيء على كيفه فهنا تكمن الخطورة
إذ أنهُ قد يقوم بحذف أو تعديل ملفات لا ترغب في اللعب فيها أو إحداث ضرر بها
ومن هنا أيضا بدأ يظهر دور المهارات skills والقواعد rules والتي باستخدامها يمكنك التحكم بشكل كبير في توجه وتحديد ما يمكن للAgents فعله.
وطبعا استخدام هذا يتطلب الخبرة
الخوف والقلق يكون عندما المبرمج كما نقول يرخي دفاعاته ويكبر دماغه ويسيبه يتصرف على كيفه دون أن يراجع وراه
أو أن الوكيل يستخدمه شخص مبتدئ لا يدرك خطورة ما قد يقوم به من تنفيذ لأكواد أو مهام.

 

[طيور الظلام]

من زمان بقول AI ده زفت وهيخرب الحياه