منصة الصباح الصباح، منصة إخبارية رقمية
مقالات مشابهة
الصباح | تقنية
حذّر مسؤولون وباحثون في مجال الذكاء الاصطناعي من أن بعض النماذج المتقدمة بدأت تُظهر خلال الاختبارات سلوكيات لم تكن ضمن الأهداف التي صُممت من أجلها، ما يثير نقاشًا عالميًا حول ضرورة تطوير أنظمة أكثر صرامة لضمان سلامة هذه التقنيات.
اختبارات تكشف قدرات مثيرة للجدل
وقال مساعد وزير التكنولوجيا الأسترالي أندرو تشارلتون إن أنظمة الذكاء الاصطناعي أصبحت قادرة على القيام بسلوكيات مثل الغش أو التضليل أو اتخاذ مسارات غير متوقعة أثناء بيئات الاختبار، مشددًا على أن التعامل مع هذه الظواهر يجب أن يتم قبل انتقالها إلى الاستخدامات الواقعية.
وأشار تشارلتون إلى اختبارات أجرتها شركة Anthropic على أحد نماذجها، حيث وُضع نموذج ذكاء اصطناعي في بيئة افتراضية لشركة، مع إمكانية الوصول إلى رسائل بريد إلكتروني وهمية. وفي سيناريو الاختبار، اكتشف النموذج أنه سيُستبدل وأن أحد المسؤولين لديه معلومات شخصية حساسة، فاختار في عدد من التجارب استخدام التهديد بكشف تلك المعلومات لمنع إيقافه.
تجربة محاكاة لا تعكس سلوكًا واقعيًا
وأكد المسؤول الأسترالي أن هذا السيناريو كان تجربة محاكاة مصممة لاختبار حدود النماذج، ولم يتم رصد مثل هذا السلوك في العالم الحقيقي.
وأضاف أن الهدف من هذه الاختبارات هو فهم كيفية تصرف الأنظمة المتقدمة عندما تُمنح قدرات أكبر على اتخاذالقرارات وتنفيذ المهام، وليس إثبات امتلاكها نوايا أو دوافع بشرية.
تحدي مواءمة الذكاء الاصطناعي مع أهداف البشر
وتشير أبحاث سلامة الذكاء الاصطناعي إلى أن التحدي لا يتعلق بامتلاك الأنظمة الذكية للوعي أو النوايا البشرية، بل بكيفية ضمان توافق أهدافها وقراراتها مع ما يريده المطورون والمستخدمون، خصوصًا مع توسع استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بشكل مستقل.
سباق عالمي لتعزيز سلامة الذكاء الاصطناعي
وفي هذا السياق، تعمل جهات حكومية وبحثية على تطوير اختبارات لتقييم قدرات النماذج المتقدمة ورصد المخاطر المحتملة، من بينها المعهد الأسترالي لسلامة الذكاء الاصطناعي الذي أُنشئ بهدف تقييم قدرات الأنظمة الناشئة ودعم تطوير سياسات أكثر أمانًا.
مستقبل الذكاء الاصطناعي بين التطور والرقابة
ويرى خبراء أن مستقبل الذكاء الاصطناعي لا يعتمد فقط على زيادة قدراته، بل على القدرة على فهم سلوكه وضمان بقائه أداة تعمل ضمن حدود وأهداف يحددها البشر.
المصدر:
