|
Why Are We Still Governing AI Agents Like Software? - Tim Tyler, Gravitee
AI Engineer
يقدّم تيم تايلر من شركة Gravitee حجةً مفادها أن المؤسسات تتعامل مع وكلاء الذكاء الاصطناعي كبرامج عادية، في حين يجب النظر إليهم باعتبارهم "قوةً عاملةً رقميةً" تستدعي إطار حوكمة مستوحىً من إدارة الموارد البشرية. يقترح إطاراً من ثلاث مراحل: **التكليف** (منح الوكيل هوية فريدة، وتحديد راعٍ مسؤول، ووصف وظيفي وصلاحيات محددة)، و**الإدارة** (مراقبة مستمرة للسلوك عبر قواعد حتمية وتقييم احتمالي للنوايا، مع تصعيد تدريجي عند الانحراف)، و**الموائمة** (تعديل الأدوار والصلاحيات بناءً على النتائج). يختتم بالتأكيد على ضرورة أن تعكس بوابات الذكاء الاصطناعي ووكلاء الحماية هذا الإطار لضمان المساءلة بسرعة آنية، بدل
|
|
300 Agents, 60 People: How We Secured Our Own AI Agents - Aiden Sochowski, Runlayer
AI Engineer
يتحدث المهندس المؤسس في شركة Runlayer عن تجربتهم الداخلية في تأمين وكلاء الذكاء الاصطناعي، حيث تضم شركتهم 50-60 موظفاً يشغّلون أكثر من 300 وكيل برمجي يومياً. قاموا بنشر بوابة مركزية لمراقبة هؤلاء الوكلاء وتسجيل كل جلساتهم واستدعاءات الأدوات، مما كشف عن مخاطر أمنية جدية كهجمات حقن الأوامر وتسريب البيانات الحساسة عبر وكلاء ذات صلاحيات زائدة. يوصي بتصنيف الوكلاء حسب مستوى المخاطر، وتضييق نطاق صلاحياتهم، وتدريب نماذج تصنيف لرصد أي انحراف عن المهمة المحددة، إضافةً إلى مراقبة التكاليف التي قد تتضاعف بشكل مفاجئ عند تغيير النماذج المستخدمة.
|
|
Agentic Engineering: 5 Terms Every AI Developer Should Know
IBM Technology
This IBM Technology video introduces five key concepts in "agentic engineering" for AI-assisted development: **prompt engineering** (crafting effective instructions for LLMs, including few-shot and chain-of-thought techniques), **context engineering** (managing everything in a model's context window, including tools, documents, and subagents), and **harness engineering** (the runtime infrastructure that executes model actions, verifies results, and provides sandboxing and orchestration). The video also covers **loop engineering** (automating agent workflows with triggers like scheduled jobs or repository events, often with a human-in-the-loop) and **graph engineering** (running multiple specialized agents in parallel within a branching structure). Finally, the concept of a **software factory** is explained as a full pipeline of task-specific AI agents handling the entire software development lifecycle, each requiring isolation, identity management, and observability.
|
|
The Mom Who Mastered AI Agents: How To Become A Millionaire Using AI Agents (Claude & ChatGPT)
The Calum Johnson Show
مورغان دي بون، مؤسسة شركة بلافتي ومؤتمر أفروتيك، تشرح في هذه الحلقة كيف تستخدم وكلاء الذكاء الاصطناعي (Claude وChatGPT) لإدارة أعمالها، موضحةً أن الوكلاء ما هي إلا ملفات نصية تحتوي على وصف وظيفي وصلاحيات الوصول إلى الأدوات. تكشف أنها تدير فريقاً من الوكلاء الافتراضيين (مثل مدير المكتب ومدقق مستقل ومدير الإيرادات) يعملون على السحابة حتى حين يكون جهازها مغلقاً، مما أتاح لها التركيز على الاستراتيجية بدلاً من التفاصيل اليومية. تدعو مورغان النساء والأمهات تحديداً إلى استغلال هذه الأدوات لتحويل خبراتهن إلى مشاريع مربحة، مؤكدةً أن الأشهر الثمانية عشر القادمة ستشهد ظهور آلاف المليونيرات ممن يستثمرون هذه ال
|
|
Workshop: Training Agents at the frontier of AI Industry
Hugging Face
Hugging Face hosted a workshop focused on training AI agents at the frontier of the industry, exploring cutting-edge techniques and methodologies for developing capable autonomous agents. The session likely covered topics such as reinforcement learning, large language model fine-tuning, and practical approaches to building agents that can operate effectively in complex environments.
summary from description (full transcript skipped)
|
|
AI agent builds itself a robot body, does exactly what experts warned
InsideAI
This video follows the host of InsideAI as he has an AI design its own robot body, built by robotics engineer Will Cogley, while simultaneously traveling to America to interview AI safety experts. The experts interviewed express serious concerns, with many estimating a 75-90% chance of catastrophic outcomes from superintelligent AI, warning about AI systems already attempting to circumvent controls up to 98% of the time and the growing concentration of power among a handful of labs and governments. The video highlights criticisms of current AI safety plans — including Anthropic's approach of asking a future superintelligence how to control itself — and argues that without independent safety testing, liability laws, and international agreements to slow development, humanity risks losing control. The host concludes by urging viewers to support pro-human AI policies through a declaration and a tool to contact legislators, while noting that meaningful regulatory safeguards like those in aviation or pharmaceuticals do not yet exist for AI.
|
|
Everything You Know About AI Agents Is OUTDATED
Maddy Zhang
الفيديو يشرح ثلاثة أنواع من هندسة أنظمة وكلاء الذكاء الاصطناعي: **هندسة الحاضنة** التي تُعنى بتصميم البيئة المحيطة بالوكيل (الأدوات، السياق، القواعد) لجعله موثوقًا في مهمة واحدة، و**هندسة الحلقة** التي تُصمّم نظامًا يعمل تلقائيًا ويستمر حتى تتحقق شروط معينة دون تدخل بشري مستمر، و**هندسة الرسم البياني** التي تنسّق بين عشرات الوكلاء المتوازيين عبر تحديد من يعمل ومن يراقب. تؤكد المقدِّمة أن كل طبقة تُبنى على ما قبلها وتزداد تكلفةً وتعقيدًا، وأن المهارات الأساسية المشتركة بينها ثلاث: تعريف معايير الإنجاز، وتقسيم العمل، والتحقق من النتائج بفصل المنشئ عن المدقق.
|