حدود جديدة لأمان الذكاء الاصطناعي: اختبار مشترك بين المختبرات لتوحيد الصناعة
- دعا Ilya Sutskever من OpenAI إلى إجراء اختبارات مشتركة بين المختبرات لتعزيز أمان الذكاء الاصطناعي في ظل التقدم التكنولوجي السريع والمخاطر الشاملة في القطاع. - تجربة Anthropic لنموذج Claude عبر المتصفح تسلط الضوء على تحديات الأمان مثل هجمات حقن المطالبات، مما يدفع لتبني استراتيجيات تخفيف محسنة. - كشفت دراسة عن التزام ضعيف بالمعايير الطوعية للسلامة من قبل شركات الذكاء الاصطناعي الكبرى، بما في ذلك Apple، مما يثير التساؤلات حول فعالية التنظيم الذاتي. - أطلقت Cloud Security Alliance مبادرة أمان الذكاء الاصطناعي التي تقدم أطر عمل وأداة RiskRub.
دعا المؤسس المشارك وعضو مجلس إدارة OpenAI، إيليا سوتسكيفر، إلى تنفيذ اختبارات مشتركة بين المختبرات كإجراء حاسم لضمان سلامة أنظمة الذكاء الاصطناعي. تأتي تصريحاته وسط تزايد المخاوف بشأن المخاطر المرتبطة بتطورات الذكاء الاصطناعي، حيث يؤكد قادة الصناعة على الحاجة إلى بروتوكولات أمان تعاونية وموحدة. تتماشى دعوة سوتسكيفر لاختبارات المختبرات المشتركة مع الجهود الأوسع لتعزيز سلامة الذكاء الاصطناعي والحد من الأضرار المحتملة مع استمرار تطور التكنولوجيا بسرعة [1].
تؤكد التطورات الأخيرة في نشر وتنظيم الذكاء الاصطناعي على الحاجة إلى مثل هذه الأساليب التعاونية. فعلى سبيل المثال، أطلقت Anthropic، وهي لاعب رئيسي في قطاع الذكاء الاصطناعي، برنامجًا تجريبيًا لمساعدها الذكي Claude، المصمم للعمل مباشرة في متصفحات المستخدمين. تهدف هذه المبادرة إلى تعزيز فائدة الذكاء الاصطناعي من خلال دمجه في سير العمل الرقمي الأساسي، كما سلطت الضوء أيضًا على التحديات الكبيرة المتعلقة بالأمان والسلامة المرتبطة بوكلاء الذكاء الاصطناعي المعتمدين على المتصفح. برزت هجمات حقن الأوامر الفورية—حيث يقوم جهات خبيثة بالتلاعب بسلوك الذكاء الاصطناعي عبر تضمين تعليمات مخفية—كخطر رئيسي، مما دفع Anthropic إلى تنفيذ استراتيجيات تخفيف قوية مثل أذونات على مستوى الموقع، وتأكيدات على الإجراءات، ومصنفات متقدمة لاكتشاف الأنماط المشبوهة [2].
هذه المخاطر ليست محصورة على الشركات الفردية فقط. فقد وجدت دراسة حديثة أجراها باحثون من Brown وHarvard وStanford أن العديد من شركات الذكاء الاصطناعي لم تلتزم بالكامل بتعهداتها الطوعية المتعلقة بالسلامة، خاصة بعد تعهدات إدارة بايدن في 2023 بشأن سلامة الذكاء الاصطناعي. على سبيل المثال، حصلت Apple على تقييم ضعيف، حيث وُجد دليل على الامتثال لواحد فقط من كل ثمانية التزامات. تسلط الدراسة الضوء على حدود التنظيم الذاتي في صناعة تتطور بسرعة، وتثير تساؤلات حول فعالية التدابير الطوعية في ضمان المساءلة والسلامة [5].
استجابة لهذه التحديات، أطلقت Cloud Security Alliance (CSA) مبادرة سلامة الذكاء الاصطناعي في أواخر 2023، وجمعت قادة الصناعة والوكالات الحكومية والمؤسسات الأكاديمية لتطوير أدوات وأطر عملية لإدارة مخاطر الذكاء الاصطناعي. توفر المبادرة قوائم تحقق لاستعداد الذكاء الاصطناعي، وأطر حوكمة، وإرشادات أمنية للمنظمات، بهدف مواءمة التقدم التكنولوجي مع التوقعات التنظيمية. ومن الجدير بالذكر أن CSA قدمت أيضًا RiskRubric.ai، وهو نظام تصنيف يقيم سلامة وشفافية وموثوقية نماذج اللغة الكبيرة (LLMs)، مما يوفر للمؤسسات نهجًا قائمًا على البيانات لاعتماد الذكاء الاصطناعي [4].
تدعم الجهود التعاونية لتعزيز سلامة الذكاء الاصطناعي أيضًا منظومة متنامية من الممولين وبرامج المنح. تقدم منظمات مثل Long-Term Future Fund وSurvival and Flourishing Fund وAI Safety Fund دعمًا ماليًا للباحثين ورواد الأعمال والمؤسسات التي تعمل على الحد من مخاطر الذكاء الاصطناعي. تهدف هذه المبادرات إلى معالجة المخاطر الوجودية طويلة الأمد مع تعزيز الابتكار المسؤول في الوقت ذاته. بالإضافة إلى ذلك، تستثمر شركات رأس المال الاستثماري مثل Juniper Ventures وMythos Ventures في الشركات الناشئة التي تطور أدوات لتحسين أمان الذكاء الاصطناعي والامتثال والحوكمة [6].
تمثل الدعوة إلى اختبارات مشتركة بين المختبرات، كما دعا إليها سوتسكيفر، خطوة محورية نحو معالجة هذه التحديات النظامية. من خلال تمكين المعايير المشتركة والتقييم الشفاف عبر مختبرات تطوير الذكاء الاصطناعي، يمكن للصناعة تعزيز الثقة والمساءلة بشكل أكبر. هذا النهج مهم بشكل خاص مع ازدياد تعقيد وقدرات أنظمة الذكاء الاصطناعي، مما يستلزم جبهة موحدة لتقييم المخاطر المحتملة قبل النشر. لدى OpenAI وAnthropic وغيرهم من أصحاب المصلحة الرئيسيين فرصة—ومسؤولية—لقيادة هذا التحول من خلال تبني بروتوكولات السلامة التعاونية ووضع سابقة للابتكار المسؤول في مجال الذكاء الاصطناعي [1].
إخلاء المسؤولية: يعكس محتوى هذه المقالة رأي المؤلف فقط ولا يمثل المنصة بأي صفة. لا يُقصد من هذه المقالة أن تكون بمثابة مرجع لاتخاذ قرارات الاستثمار.
You may also like
إيرادات وأرباح Adobe في الربع الثالث تتجاوز التوقعات مدفوعة بالذكاء الاصطناعي وعدد المستخدمين النشطين شهريًا يتجاوز مليار، لكن التوجيه المالي للربع الرابع لم يكن "مفاجئًا" | ملاحظات حول التقارير المالية
بلغت إيرادات Adobe في الربع الثالث من السنة المالية 6.76 مليار دولار، بزيادة سنوية قدرها 13%، متجاوزة متوسط توقعات المحللين البالغ 6.7 مليار دولار؛ وبلغت ربحية السهم المعدلة وفقاً لمعايير غير GAAP 6.13 دولار، متفوقة على توقعات السوق البالغة 6.08 دولار. وقامت الشركة برفع نطاق التوجيه السنوي المعدل لربحية السهم إلى ما بين 24.45 و24.50 دولار، كما رفعت بشكل طفيف الحد الأعلى لهدف الإيرادات السنوية. إلا أن توجيهات الإيرادات للربع الرابع جاءت أقل بقليل من توقعات المحللين، ما أدى إلى تراجع سعر السهم بعد الإغلاق بنحو 2%.
استولت جماعة الحوثي على ميناء هام في البحر الأحمر، وتصاعدت حدة الصراع مع السعودية، وتفيد التقارير أن إيران استأنفت إنتاج الصواريخ الباليستية، وارتفعت أسعار النفط الخام بأكثر من 7% أثناء التداول
قال ضابط في الجيش اليمني إن مدينة المخا، الميناء الاستراتيجي على البحر الأحمر في محافظة تعز جنوب غرب اليمن، سقطت بيد قوات الحوثيين يوم الخميس. وقالت جماعة الحوثي في اليوم نفسه إن السعودية شنت 64 غارة جوية على عدة مناطق يمنية خلال 24 ساعة; وأضافوا أن الملاحة في البحر الأحمر "ليست مهددة" وأن عملياتهم العسكرية تندرج في إطار الدفاع عن النفس. قال مسؤولون في قطاع الشحن إن سيطرة الحوثيين على المخا ستتيح لهم المزيد من التقدم جنوباً و"السيطرة شبه الكاملة" على مضيق باب المندب، وأن فقدان المخا "سيؤثر بلا شك على أمن الملاحة البحرية في المنطقة".
عدَّلَت SpaceX بشكل كامل نموذج بناء مراكز بيانات الذكاء الاصطناعي: توسعة أبطأ، وتعزيز الموثوقية
وفقًا لتقارير إعلامية، أجرى إيلون ماسك تعديلات واسعة على الإدارة العليا لمراكز البيانات، حيث تولّى مسؤولية الإدارة أحد قدامى رواد قطاع الصواريخ. يطالب الفريق الإداري الجديد بإجراء اختبارات أكثر شمولًا قبل تشغيل مراكز البيانات، بالإضافة إلى تركيب المزيد من أنظمة الطاقة و التبريد الاحتياطية، مفضّلين بذلك رفع مستوى الاعتمادية على حساب سرعة البناء. وقد أدى حادث انقطاع الكهرباء في مركز بيانات ممفيس الأسبوع الماضي إلى توقف جزئي لنموذج Grok، وتسبب في تأثيرات متسلسلة على العملاء المستأجرين لقدرات الحوسبة مثل Anthropic وGoogle.
وزارة الخزانة الأمريكية تنفذ إعادة شراء سندات طويلة الأجل بأكثر من 5 مليارات دولار، لكن بيع السندات الأمريكية ما زال مستمراً، وعائد السندات لأجل 10 سنوات يقترب من 5%
ستة مليارات دولار تظل محدودة بالنسبة لسوق سندات الخزانة الأمريكية الذي يقدر بحوالي 32 تريليون دولار، كما أنها لم تحقق "تأثيراً صادماً" كان بعض المستثمرين قد توقعوه سابقاً. صرح استراتيجيو Deutsche Bank بأن الأمر يشبه أن وزارة الخزانة "خلقت وحشاً يجب تغذيته باستمرار الآن".
أسعار العملات المشفرة
المزيد
