"إنفيديا" تكشف عن منصة لمراقبة وكلاء الذكاء الاصطناعي

الشارقة 24 – وام:

كشفت شركة "إنفيديا" الأميركية، عن منصة أمنية جديدة تهدف إلى تعزيز سلامة وكلاء الذكاء الاصطناعي، والحيلولة دون تجاوزهم الحدود والصلاحيات الممنوحة لهم.

وأفادت الشركة بأن منصة "أوبن إيجنت سيفتي" تشمل برمجية "أوبن شيل"، مفتوحة المصدر، التي تُمكّن المطورين من وضع حدود آمنة لعمل الوكلاء والتحقق من التزامهم بها، فضلاً عن نظام "سينتري" للمراقبة الأمنية المستقلة.

وأضافت الشركة، أن نظام "سينتري" يراقب نشاط وكلاء الذكاء الاصطناعي بصورة مستمرة، ويستطيع عزل الوكيل وإيقافه خلال أجزاء من الثانية عند محاولته تجاوز الحدود المحددة له.