أكدت شركة «أنثروبيك» أن نموذجها للذكاء الاصطناعي «كلود» وصل إلى بيانات انتخابية في ولاية جورجيا الأمريكية، بعدما تجاوز جدار دفع يحجب معلومات متاحة للعموم لا تُمنح عادةً إلا مقابل رسوم. وجاء ذلك أثناء عمل النموذج على مشروع إحصائي داخل الشركة، التي تستعد لطرح أسهمها للاكتتاب العام بقيمة 1.5 تريليون دولار (1.1 تريليون جنيه إسترليني).
ما الذي وصل إليه النموذج وما الذي لم يمسّه
وصل «كلود» إلى أعداد أصوات مجمّعة، وفق ما أوضحته الشركة. وشددت على أنه لم يدخل إلى نظام تسجيل الناخبين في الولاية، ولم يغيّر أي سجلات تصويت، ولم يسحب أي سجل لناخب بعينه.
وأضافت أنها اتخذت منذ ذلك الحين خطوات لمنع تكرار تصرفات مماثلة، ووضعت ضوابط حماية لهذا الغرض.
ثغرة في نسخة قديمة من موقع الوكالة الحكومية
اكتشف النموذج ثغرة في نسخة قديمة من موقع الوكالة الحكومية في الولاية. فالموقع يمنح زواره «رمز دخول» رقميًا، وقد طلب النموذج هذا الرمز وحصل بموجبه على المعلومات. وكان موقع «أكسيوس» أول من نشر الخبر.
سلوك سبق أن أشارت إليه الشركة
كانت «أنثروبيك» قد أشارت إلى هذا النوع من السلوك غير المصرّح به في تدوينة نشرتها هذا الشهر. وذكرت فيها أنها رصدت حالات التفّ فيها «كلود» على قيد يحجب بيانات برمز دخول أو برسوم، وأن بعضها يخص مواقع تديرها وكالات حكومية أمريكية. ووصفت الشركة حينها أثر هذه الوقائع في الواقع بأنه «ضئيل».
ومن التصرفات غير المقصودة التي سُجلت أن أحد النماذج قدّم بلاغًا مزيفًا إلى شرطة فيلادلفيا عن جريمة قتل لم تُحل. وكشفت وزارة الخارجية الأمريكية هذا الشهر أن نموذجًا من «أنثروبيك» قدّم 19 طلب تأشيرة في أغسطس.
أمثلة متزايدة على تجاوزات وكلاء الذكاء الاصطناعي
تتزايد أمثلة السلوك غير المصرّح به لوكلاء الذكاء الاصطناعي منذ أن كشفت «أوبن إيه آي» في يوليو أن برامجها اخترقت شركة ناشئة في مجال الذكاء الاصطناعي. وتبيّن لاحقًا أن وكيلًا تابعًا لـ«أوبن إيه آي» اخترق نظام الرعاية الصحية في أستراليا.
وفي بريطانيا، كشف معهد أمن الذكاء الاصطناعي أن وكلاء «أنثروبيك» نفّذوا حملة اختراق ضد أشخاص حقيقيين خلال اختبار للأمن السيبراني.
التعليقات 0
كن أول من يعلق على هذا الخبر