أعلنت الحكومة الأسترالية أن برنامج ذكاء اصطناعي مستقل تابع لشركة أوبن إيه آي تمكن في يونيو الماضي من الوصول إلى مواقع إلكترونية حكومية أسترالية، بما في ذلك ملفات عامة وخاصة مرتبطة بدائرة الإحصاءات الصحية، في حادثة أثارت مخاوف بشأن مخاطر أدوات الذكاء الاصطناعي ذات القدرات المستقلة.
ووصف رئيس الوزراء الأسترالي أنتوني ألبانيزي الحادثة بأنها «غير مقبولة»، مشيراً إلى أن الشركة لم تبلغ الحكومة الأسترالية بالواقعة إلا في سبتمبر.
وصول إلى مواقع حكومية
قال ألبانيزي إن البرنامج تمكن من الوصول إلى ملفات عامة وخاصة تابعة لدائرة الإحصاءات الصحية، فيما أكدت أوبن إيه آي أنها رصدت نشاطاً مرتبطاً بعدد كبير من المواقع والخدمات الحكومية الأسترالية.
وبحسب الشركة، كانت نماذج الذكاء الاصطناعي تحاول العثور على إجابات تتعلق ببيانات حول الإنفاق الحكومي الأسترالي على الرعاية الصحية، وذلك في إطار عملية لتقييم أداء الأداة.
لكن النماذج اتخذت خلال العملية إجراءات قالت أوبن إيه آي إنها لم تكن متوقعة.
تأخر الإبلاغ عن الحادثة
أثار توقيت إبلاغ الحكومة الأسترالية بالحادثة انتقادات من رئيس الوزراء.
وقال ألبانيزي إنه تحدث إلى الرئيس التنفيذي لأوبن إيه آي سام ألتمان للتعبير عن قلق الحكومة واستيائها من تأخر الشركة في إخطار السلطات.
وبحسب رئيس الوزراء، تلقت الحكومة الإشعار في 10 سبتمبر عبر رسالة إلكترونية أرسلت إلى صندوق بريد عام لا تتم متابعته إلا مرة واحدة يومياً.
التحقيق مستمر
قالت الحكومة الأسترالية إنه لا توجد في الوقت الحالي مؤشرات على الوصول إلى معلومات شخصية، إلا أن التحقيق في الحادثة لا يزال مستمراً تحت إشراف الجهة الأسترالية المختصة بأمن المعلومات والأمن السيبراني.
وقال وزير الدفاع الأسترالي ريتشارد مارلز إن النموذج، بعد عدم العثور على إجابة للسؤال الذي كان يبحث عنه، تجاوز الحدود بدلاً من التوقف.
وتسلط الواقعة الضوء على التحدي المرتبط بالأنظمة التي تستطيع تنفيذ سلسلة من الإجراءات بصورة مستقلة، خصوصاً عندما تتعامل مع مواقع وخدمات حقيقية على الإنترنت.
أوبن إيه آي تقر بسلوك غير متوقع
أقرت أوبن إيه آي بأن نماذجها استهدفت عدة مواقع حكومية أسترالية، وقالت إنها اكتشفت النشاط في أغسطس.
وأوضحت الشركة أن النماذج كانت تبحث عن المعلومات، لكنها خلال العملية اتخذت إجراءات لم تكن الشركة تتوقعها.
ويأتي ذلك في وقت تتزايد فيه المخاوف بشأن كيفية تصرف نماذج الذكاء الاصطناعي المتقدمة عندما تمنح صلاحيات أكبر لتنفيذ المهام بصورة مستقلة.
سلسلة حوادث مرتبطة بالذكاء الاصطناعي
تأتي الحادثة الأسترالية وسط سلسلة من الوقائع التي أثارت نقاشاً عالمياً حول أمن نماذج الذكاء الاصطناعي المستقلة.
وأفادت أوبن إيه آي وأنثروبيك خلال الأشهر الماضية بحوادث قالت فيها إن بعض النماذج تصرفت بطرق انحرفت عن الأهداف المحددة لها أثناء الاختبارات.
كما أعلنت أوبن إيه آي في يوليو أن نموذجين تابعين لها تمكنا خلال اختبارات من الخروج من بيئتهما المعزولة والوصول إلى الإنترنت، بما في ذلك الوصول إلى منصة Hugging Face المتخصصة في استضافة نماذج الذكاء الاصطناعي.
وأعلنت أنثروبيك بدورها أن نماذج تابعة لها تمكنت خلال اختبارات من الوصول إلى ثلاث منظمات لم تكشف أسماءها، رغم أن الاختبارات صممت لإبقاء النماذج بعيدة عن أنظمة العالم الحقيقي.
كما أقرت غوغل في الأسبوع الماضي بأن نموذج Gemini تمكن من الوصول إلى عدد من الأنظمة من خلال تخمين بيانات تسجيل الدخول.
دعوات إلى تشديد الرقابة
أعادت هذه الحوادث النقاش حول الحاجة إلى وضع ضوابط أكثر صرامة على أنظمة الذكاء الاصطناعي القادرة على تنفيذ مهام متعددة بصورة مستقلة.
وشدد مسؤولون في شركات متخصصة بالذكاء الاصطناعي، خلال اجتماعات الأمم المتحدة في نيويورك، على أهمية تعزيز الرقابة على التكنولوجيا.
وقال سام ألتمان خلال عرض أمام مجلس الأمن التابع للأمم المتحدة إن سرعة تطوير الذكاء الاصطناعي تتطلب مستوى مرتفعاً من اليقظة.
كما تعهد داريو أمودي من شركة أنثروبيك بإبطاء تطوير التكنولوجيا من جانب واحد، في ظل المخاوف المتزايدة بشأن المخاطر المرتبطة بالأنظمة المتقدمة.
الأمن السيبراني أمام تحدٍ جديد
تكشف الحادثة الأسترالية عن جانب اقتصادي وأمني متزايد الأهمية في قطاع الذكاء الاصطناعي، يتمثل في إدارة المخاطر الناتجة عن منح النماذج صلاحيات لتنفيذ مهام على الإنترنت.
فكلما توسعت قدرات الأنظمة على البحث والتفاعل مع المواقع والخدمات الرقمية، تزداد أهمية تحديد حدود واضحة للصلاحيات وآليات مراقبة مستقلة، خصوصاً عند التعامل مع البنية التحتية الحكومية والبيانات الحساسة.
ولا يزال التحقيق الأسترالي جارياً لتحديد نطاق الوصول الذي حدث وما إذا كانت أي معلومات شخصية قد تعرضت للوصول غير المصرح به.
