أطلقت شركة مايكروسوفت مؤخرًا ميزة جديدة تُعرف باسم” التصحيح” والتي تمثل خطوة مهمة في جهود الشركة لمكافحة الأخطاء التي تنتج عن أنظمة الذكاء الاصطناعي المتعددة.
وتهدف هذه الميزة إلى تمكين العملاء الذين يستخدمون Microsoft Azure من الكشف بشكل تلقائي عن المحتوى غير الصحيح وإعادة كتابته، مما يعزز دقة المعلومات المقدمة.
وتتوفر ميزة التصحيح في المعاينة كجزء من Azure AI Studio وهي مجموعة أدوات أمان مُصممة للكشف عن الثغرات الأمنية وأخطاء “الهلوسة”.
وفي التقرير التالي نتعرف على ميزة التصحيح الجديدة من مايكروسوفت لمحتوى الذكاء الاصطناعي وكيف تعمل.
هي أداة جديدة من مايكروسوفت تعتمد على عملية جديدة لتصحيح أخطاء محتوى الذكاء الاصطناعي، حيث تستخدم نماذج لغوية صغيرة وكبيرة لمواءمة المخرجات مع المستندات الأساسية.
وأوضح متحدث باسم مايكروسوفت في مقابلة مع TechCrunch: “نأمل أن تدعم هذه الميزة الجديدة بناة ومستخدمي الذكاء الاصطناعي التوليدي في مجالات مثل الطب، حيث يتعين على المطورين ضمان دقة الاستجابات”.
وكتبت Microsoft في منشور رسمي على مدونتها: “التصحيح هو إحدى قدرات ميزة الكشف عن الأساس في Microsoft Azure AI Content Safety التي تساعد في إصلاح مشكلات الهلوسة في الوقت الفعلي قبل أن يراها المستخدمون”.
وستسمح مايكروسوفت للشركات بدمج أداة التصحيح الجديدة الخاصة بها مع أي نموذج ذكاء اصطناعي لتوليد النصوص، بما في ذلك Llama من Meta وGPT-4 من OpenAI.
تعمل ميزة “التصحيح” من مايكروسوفت على تحديد وتصحيح المعلومات الخاطئة عبر استخدام نموذج تصنيف يحدد المقاطع غير الصحيحة في النص الناتج عن الذكاء الاصطناعي، وإذا تم اكتشاف معلومات مضللة يقوم نموذج ثانِ بتصحيح الأخطاء من خلال محاذاة النص مع معلومات موثوق تُعرف بـ المستندات الأساسية.
المصدر: اليوم
