(SeaPRwire) –   مع تسابق الشركات لبناء أنظمة ذكاء اصطناعي أكثر قوة، يتم إهمال تدابير السلامة. وقد ألقى تقرير نُشر يوم الأربعاء نظرة فاحصة على كيفية تعامل الشركات، بما في ذلك OpenAI و Google DeepMind، مع الأضرار المحتملة لتقنيتها. وهو يرسم صورة مقلقة: فقد ثبت أن النماذج الرائدة من جميع مطوري التقارير بها نقاط ضعف، وقد اتخذت بعض الشركات خطوات لتعزيز السلامة، بينما تتخلف شركات أخرى بشكل خطير.

تم نشر التقرير من قبل معهد مستقبل الحياة، وهو منظمة غير ربحية تهدف إلى الحد من المخاطر الكارثية العالمية. وقد حظي نداء المنظمة في عام 2023 الداعي إلى وقف تدريب نماذج الذكاء الاصطناعي واسعة النطاق بدعم غير مسبوق من 30,000 موقّع، بما في ذلك بعض أبرز الأصوات في مجال التكنولوجيا. من أجل هذا التقرير، جمع معهد مستقبل الحياة لجنة من سبعة خبراء مستقلين – بمن فيهم الفائز بجائزة تورينج Yoshua Bengio و Inioluwa Deborah Raji من Encode Justice – قاموا بتقييم شركات التكنولوجيا عبر ستة مجالات رئيسية: تقييم المخاطر، والأضرار الحالية، وأطر السلامة، واستراتيجية السلامة الوجودية، والحوكمة والمساءلة، والشفافية والتواصل. وقد نظر استعراضهم في مجموعة من الأضرار المحتملة، من انبعاثات الكربون إلى خطر تحول نظام ذكاء اصطناعي إلى خارج نطاق السيطرة.

قال ستيوارت راسل، أستاذ علوم الكمبيوتر في جامعة كاليفورنيا، بيركلي، وأحد أعضاء اللجنة، في بيان: “تشير نتائج مشروع مؤشر سلامة الذكاء الاصطناعي إلى أنه على الرغم من وجود الكثير من الأنشطة في شركات الذكاء الاصطناعي التي تندرج تحت مسمى ‘السلامة’، إلا أنها ليست فعالة للغاية حتى الآن”.

على الرغم من نهجها “المسؤول” في تطوير الذكاء الاصطناعي، إلا أن Meta، الشركة الأم لـ Facebook، ومطوّرة سلسلة نماذج Llama الشهيرة، حصلت على أدنى تصنيف، حيث حصلت على درجة F بشكل عام. كما سارت X.AI، شركة الذكاء الاصطناعي التابعة لإيلون ماسك، بشكل سيء، حيث حصلت على درجة D- بشكل عام. لم تستجب لا Meta ولا x.AI لطلب التعليق.

حصلت OpenAI، الشركة التي تقف وراء ChatGPT – والتي وصفت في وقت مبكر من العام بأنها تُعطي الأولوية لـ”المنتجات الرائعة” على السلامة من قبل القائد السابق لأحد فرق السلامة بها – على درجة D+، وكذلك Google DeepMind. لم تستجب أي من الشركتين لطلب التعليق. حصلت Zhipu AI، وهي شركة تطوير الذكاء الاصطناعي الصينية الوحيدة التي وقّعت على خلال قمة سيول للذكاء الاصطناعي في مايو، على درجة D بشكل عام. لم يمكن الوصول إلى Zhipu للتعليق.

حصلت Anthropic، الشركة التي تقف وراء Claude، والتي جعلت من السلامة جزءًا أساسيًا من أخلاقياتها، على أعلى تصنيف. ومع ذلك، فقد حصلت الشركة على درجة C، مما يبرز أن هناك مجالًا للتحسين حتى بين أكثر اللاعبين أمانًا في الصناعة. لم تستجب Anthropic لطلب التعليق.

على وجه الخصوص، وجد التقرير أن جميع النماذج الرائدة التي تم تقييمها وجد أنها عرضة لـ “اختراقات السجون”، أو التقنيات التي تتجاوز ضوابط النظام. علاوة على ذلك، اعتبرت لجنة المراجعة الاستراتيجيات الحالية لجميع الشركات غير كافية لضمان أن تظل أنظمة الذكاء الاصطناعي المستقبلية الافتراضية التي تنافس ذكاء الإنسان آمنة وتحت سيطرة الإنسان.

تقول تيغان ماهاراج، الأستاذة المساعدة في قسم علوم القرارات في HEC مونتريال، التي خدمت في اللجنة: “أعتقد أنه من السهل جدًا أن يضلّ المرء بسبب النوايا الحسنة إذا لم يكن هناك أحد يحاسبه”. وتضيف ماهاراج أنها تعتقد أن هناك حاجة إلى “إشراف مستقل”، بدلاً من الاعتماد فقط على الشركات لإجراء تقييمات داخلية.

هناك بعض الأمثلة على “الثمار الساقطة المنخفضة”، كما تقول ماهاراج، أو الإجراءات البسيطة نسبيًا التي تتخذها بعض الشركات لتطوير سلامة تقنيتها بشكل هامشي. وتضيف: “بعض الشركات لا تقوم حتى بالأساسيات”. على سبيل المثال، يمكن لـ Zhipu AI و x.AI و Meta، التي حصلت كل منها على تقييمات سيئة لتقييمات المخاطر، اعتماد المبادئ التوجيهية الحالية، كما تقول.

ومع ذلك، فإن المخاطر الأخرى أكثر جوهرية للطريقة التي يتم بها إنتاج نماذج الذكاء الاصطناعي حاليًا، وسيتطلب التغلب عليها إنجازات تقنية. وقال راسل: “لا يوفر أي من الأنشطة الحالية أي نوع من الضمان الكمي للسلامة؛ كما أنه لا يبدو من الممكن تقديم مثل هذه الضمانات بالنظر إلى النهج الحالي للذكاء الاصطناعي عبر الصناديق السوداء العملاقة المدربة على كميات هائلة من البيانات. وسيصبح الأمر أكثر صعوبة مع تزايد حجم أنظمة الذكاء الاصطناعي هذه”. يقوم الباحثون بتطوير تقنيات للتعمق داخل الصندوق الأسود لنماذج تعلم الآلة.

شدد بينجيو، مؤسس ومدير علمي لمعهد مونتريال لخوارزميات التعلم، في بيان على أهمية مبادرات مثل مؤشر سلامة الذكاء الاصطناعي. وقال: “إنها خطوة أساسية في محاسبة الشركات على التزاماتها المتعلقة بالسلامة، ويمكن أن تساعد في تسليط الضوء على أفضل الممارسات الناشئة وتشجيع المنافسين على تبني نهج أكثر مسؤولية”.