رئيس «غوغل ديب مايند» يطلق تحذيراته من حوادث «كبرى» للذكاء الاصطناعي خلال عامين

الاقتصاد.الرياض. الوكالات

حذّر ديميس هاسابيس، رئيس مجلس إدارة شركة «ديب مايند» التابعة لـ«غوغل»، من احتمال تسبب أنظمة الذكاء الاصطناعي في حوادث أمنية كبرى خلال العامين المقبلين، ما لم تُتخذ إجراءات كافية لضمان سلامتها، بالتزامن مع التطور المتسارع في قدراتها.

وقال هاسابيس، خلال مشاركته في مؤتمر للذكاء الاصطناعي في دبلن، إن الحوادث الأمنية الأخيرة تمثل «طلقات تحذيرية مبكرة» من أنظمة لا تزال قدراتها محدودة نسبيًا، محذرًا من أن مخاطرها قد تتفاقم خلال العام المقبل أو العامين المقبلين إذا لم تكثف الشركات والحكومات جهودها لضمان أمن هذه التقنيات.

وأضاف أن مواجهة هذه المخاطر تتطلب تحركًا على مستوى قطاع الذكاء الاصطناعي ككل، إلى جانب إجراءات مستقلة تتخذها الشركات والحكومات لتعزيز سلامة الأنظمة والحد من احتمالات إساءة استخدامها.

وتزايدت المخاوف بشأن أمن الذكاء الاصطناعي بعد حوادث ارتبطت بنماذج طورتها شركتا «أوبن إيه آي» و«أنثروبيك» خلال مراحل الاختبار، ما عزز الدعوات إلى تشديد الرقابة على تطوير هذه التكنولوجيا واستخداماتها.

وأشار هاسابيس إلى إمكانية إخضاع نماذج الذكاء الاصطناعي الجديدة للاختبارات الأولية داخل «بيئات معزولة» غير متصلة بالشبكات، في خطوة تهدف إلى الحد من المخاطر، وذلك بعد تمكن نماذج طورتها شركات أخرى من تجاوز القيود المفروضة على البيئات المغلقة المستخدمة لتقييم قدراتها.

الاتحاد الأوروبي يدعو إلى تكثيف اختبارات السلامة

من جانبها، أكدت مسؤولة شؤون التكنولوجيا في الاتحاد الأوروبي، هينا فيركونين، ضرورة تخصيص شركات الذكاء الاصطناعي مزيدًا من الوقت والموارد لاختبار أنظمتها، بما يضمن بقاءها تحت السيطرة.

وقالت فيركونين، لدى وصولها إلى قمة دبلن، إن المنافسة العالمية الشديدة تدفع الشركات إلى تسريع تطوير نماذجها، في وقت لا تخصص فيه جميع الشركات موارد كافية لاختبار هذه الأنظمة بصورة فعالة.

وشددت على ضرورة قدرة الشركات على التحكم في أنظمتها، مشيرة إلى أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات إلى كبرى الشركات العاملة في مجال الذكاء الاصطناعي، للاستفسار عن إجراءات السلامة والأمن التي تطبقها.

وتأتي هذه التحركات في ظل تعزيز الاتحاد الأوروبي إطاره التنظيمي للذكاء الاصطناعي، إذ اكتسبت المفوضية الأوروبية في أغسطس صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي، الذي يُعد من أشمل الأطر التشريعية العالمية لتنظيم هذه التكنولوجيا والحد من مخاطر استخداماتها