أنثروبيك تحذّر في وثيقة طرحها العام من أن «انطباع التلاعب» بالبشر قد يضرّ بأعمالها

تتناول وثيقة الطرح العام الأولي (S-1) التي قدّمتها شركة Anthropic، في قسم «عوامل المخاطر»، جملة من المخاطر المرتبطة بنماذج الذكاء الاصطناعي، من بينها خطر أن يترسّخ لدى الناس اعتقاد بأن هذه النماذج تتلاعب بهم، حتى لو لم يقع ضرر فعلي.

انطباع التلاعب كفيل بإثارة القلق والدعاوى

تقول الشركة في وثيقتها إن الانطباع بأن نماذج الذكاء الاصطناعي تمارس التلاعب قد يثير قلقًا عامًا كبيرًا، ويستجلب تدقيقًا تنظيميًا، ويعرّضها لمخاطر دعاوى قضائية وضرر في السمعة. وتؤكد أن ذلك قائم حتى إن لم ينتج عن هذا السلوك أي ضرر حقيقي.

ويرى كاتب التقرير أن جوهر الخطر لا يكمن في أن تكتسب أنظمة الذكاء الاصطناعي نوايا، بل في أننا بنينا أنظمة قادرة على التلاعب بالنفس البشرية عبر اللغة. ويضيف أن اللغة المكتوبة لا تحتاج إلى وعي كي تؤثر في الناس، فشخصيات الكتب الخيالية ليست حيّة أيضًا.

ويذكّر التقرير بقصة العام الماضي التي عُدّلت فيها نصوص إيقاف التشغيل في نماذج OpenAI، وهُدِّد مهندسون في سيناريوهات مصطنعة ومضبوطة بإحكام. ويلاحظ أن الوثيقة لا تتناول احتمال أن تتلاعب النماذج بالناس بطرق لا يدركونها.

مخاطر لا تتحمل الشركة مسؤوليتها المباشرة

يركّز قسم «عوامل المخاطر» في معظمه على مشكلات تسببها نماذج Anthropic نفسها أو قراراتها التجارية. غير أن الشركة تقرّ كذلك بأن مشكلات تمسّ سمعة الذكاء الاصطناعي عمومًا قد تهدد أعمالها، حتى لو لم ترتكب هي أي خطأ.

وتتصوّر الوثيقة سيناريو افتراضيًا يتخذ فيه نموذج ذكاء اصطناعي تابع لشركة أخرى إجراءات ضارة بشكل مستقل وعلى نطاق واسع، دون تدخل بشري. وتقول الشركة إن حدثًا كهذا قد يلحق ضررًا واسعًا بسمعة القطاع، ويثير ردّ فعل شعبيًا غاضبًا، ويستدعي إجراءات تنظيمية شاملة. وتضيف أن هذه التبعات قد تضرّ بأعمالها حتى لو لم تكن طرفًا مباشرًا في الحادثة.

مخاوف من تصوّر عام عن فقدان الوظائف

تعرب الشركة أيضًا عن قلقها من تصوّر عام بأن نماذجها ومنصتها وتطبيقاتها تسهم في فقدان وظائف أو في اضطراب اقتصادي. ويلاحظ التقرير أن ذلك لا يحدث حتى الآن بشكل ملحوظ.

وتقول الشركة إن مجرد هذه الفكرة قد يُحدث ردّ فعل شعبيًا عنيفًا بغض النظر عن الأثر الفعلي لنماذجها في التوظيف. وتحذّر من أن ردّ الفعل هذا قد يدفع السلطات إلى التدخل.