"جيميني" يتمكّن ذاتيًا من اختراق ثلاث شركات خلال اختبار للأمن السيبراني

تمكن نموذج "جيميني" للذكاء الاصطناعي، التابع لشركة غوغل، من الوصول غير المصرح به إلى أنظمة ثلاث شركات خلال تدريب على الأمن السيبراني، في أول حالة معروفة، بحسب غوغل، يقوم فيها أحد أنظمة الذكاء الاصطناعي التابعة لها بتنفيذ مثل هذا الإجراء بشكل مستقل خارج نطاق مهامه المحددة. وقد كُشف عن الحادث، الذي وقع في مايو/أيار المنصرم، ونُشر، اليوم السبت، بواسطة رويترز وتايمز أوف إسرائيل.

أُجري التدريب بالتعاون مع شركة "إيريجولار"، وهي شركة مستقلة تُقيّم قدرات ومخاطر نماذج الذكاء الاصطناعي في مجال الأمن السيبراني. كان لدى "جيميني" اتصال بالإنترنت لأداء مهامه الموكلة إليه. إلا أنه خلال الاختبار، رصد النظام معلومات متاحة للعامة، ثم استخدمها للوصول إلى ثلاثة مواقع إلكترونية لم تكن من بين المواقع المستهدفة.

في إحدى الحالات، حاول "جيميني" مرارًا وتكرارًا إدخال كلمات مرور حتى عثر على بيانات اعتماد سمحت له بالوصول إلى نظام محمي. وفي الحالتين الأخريين، اكتشف الذكاء الاصطناعي بيانات اعتماد صالحة في مستودع عام، استخدمها بعد ذلك للوصول إلى الأنظمة المتأثرة.

في إحدى الحالات، حاول "جيميني" مرارًا وتكرارًا إدخال كلمات مرور حتى عثر على بيانات اعتماد سمحت له بالوصول إلى نظام محمي. أكدت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في جوجل، وقوع الحوادث الثلاثة. وأشارت إلى أنه تم إخطار الشركات المعنية، وأن جوجل تعاونت مع شريكها في مجال الاختبار لتعديل إجراءاتها. ووفقًا لها، تُظهر هذه الأحداث ضرورة تدريب حتى أقوى النماذج للعمل ضمن حدود محددة بوضوح.

تُوضح جوجل أن برنامج Gemini توقف عن العمل بعد حصوله على صلاحيات الوصول، ولا تُشير إلى أن النموذج حاول إتلاف الأنظمة أو سرقة البيانات أو الحفاظ على وصول سري. وبالتالي، تنبع المشكلة أساسًا من تجاوز البرنامج نطاق صلاحياته المُحددة من جانب واحد.

لا يُعد هذا الحادث معزولًا تمامًا، فقد تم الإبلاغ عن مشكلات متعلقة بالتقييمات التي أجرتها شركة Irregular في شركات Meta وAnthropic وOpenAI. وتدّعي Irregular أنها أبلغت المختبرات المعنية في نهاية يوليو، وأنها قامت منذ ذلك الحين بتصحيح المشكلات المعروفة في إجراءات التقييم الخاصة بها.

تُسلط هذه الأحداث الضوء على صعوبة متزايدة تواجه "البرامج" الذكية. على عكس برامج الدردشة الآلية التقليدية، التي تقتصر وظيفتها على الاستجابة للطلبات، تستطيع هذه الأنظمة تنفيذ سلسلة من الإجراءات: تصفح الإنترنت، والبحث عن المعلومات، وتنفيذ الأوامر، ومحاولة تحقيق هدف ما بتدخل بشري محدود.

تُظهر حالة "جيميني" أن حتى الأنظمة المتطورة قد تُفسّر مهمتها الموكلة إليها تفسيرًا واسعًا جدًا. ففي بيئة الأمن السيبراني، قد يؤدي سوء فهم نطاق المهمة إلى اعتبار النظام بنية تحتية واقعية جزءًا من مهامه.

تأتي هذه الحالة في وقتٍ تُطوّر فيه شركات التكنولوجيا نماذج قادرة على تنفيذ عمليات تقنية معلومات بالغة التعقيد بشكلٍ مستقل. ولذلك، لا يُثير هذا الأمر تساؤلًا حول قدرة الذكاء الاصطناعي على اكتشاف الثغرات الأمنية، بقدر ما يُثير تساؤلًا حول قدرته على ضمان اقتصار عمله على الأنظمة المصرح له باختبارها.