“إنفيديا” تكشف عن منصة لمراقبة وكلاء الذكاء الاصطناعي ومنع تجاوز صلاحياتهم

كشفت شركة «إنفيديا» الأمريكية عن منصة أمنية جديدة تهدف إلى تعزيز سلامة وكلاء الذكاء الاصطناعي والحيلولة دون تجاوزهم الحدود والصلاحيات الممنوحة لهم.

وأفادت الشركة بأن منصة «أوبن إيجنت سيفتي» (Open Agent Safety Platform) تشمل برمجية «أوبن شيل» (OpenShell) مفتوحة المصدر، التي تُمكّن المطورين من وضع حدود آمنة لعمل الوكلاء والتحقق من التزامهم بها، فضلاً عن نظام «سينتري» (Sentry) للمراقبة الأمنية المستقلة.

وأضافت أن نظام «سينتري» يراقب نشاط وكلاء الذكاء الاصطناعي بصورة مستمرة، ويستطيع عزل الوكيل وإيقافه خلال أجزاء من الثانية عند محاولته تجاوز الحدود المحددة له. وام.