• وثقت Anthropic خمس حالات استُخدم فيها Claude في أبحاث بيولوجية قد تدعم تطوير أسلحة
  • استخدم أحد الموزعين بنية تحتية في الولايات المتحدة وحسابات مصطنعة وآلية تحويل احتياطية إلى نموذج آخر لتجاوز الضوابط الإقليمية وضوابط السلامة

الوقائع

قالت Anthropic إنها حددت خمس حالات استُخدم فيها Claude في أبحاث بيولوجية قد تدعم تطوير أسلحة بيولوجية. وخضع النشاط للتحقيق بين ديسمبر ٢٠٢٥ وأغسطس ٢٠٢٦، وشمل أبحاثًا تتعلق بإنفلونزا الطيور وفيروسات الأورثوبوكس والسموم الحيوانية والذيفانات.

تعلقت إحدى الحالات بموزع أتاح لباحثين في منطقة لا تقدم Anthropic خدماتها فيها الوصول إلى Claude عبر بنية تحتية في الولايات المتحدة. وبحسب Anthropic، اعتمدت المنصة أيضًا على خدمة ذات سياسة عدم الاحتفاظ بالبيانات، وموزعين يعملون في السوق الرمادية، وحسابات مصطنعة. وإذا رفض Claude طلبًا، كان بوسع المنصة إرساله إلى نموذج آخر للذكاء الاصطناعي عبر نظام تحويل احتياطي.

قالت Anthropic إن الموزع خدم أكثر من اثني عشر عميلًا لا صلة بينهم، وتبادل عشرات الآلاف من الرسائل مع Claude على مدى عدة أيام. وحظرت Anthropic لاحقًا حسابات مرتبطة بالنشاط، وقالت إنها عززت إجراءات الحماية لديها. ولم تفد Anthropic بأن أيًا من الحالات أسفر عن إنتاج سلاح بيولوجي أو بأنها حددت خططًا لهجوم وشيك.

التقييم

يبين تقرير Anthropic أن إنفاذ إجراءات الحماية قد يصبح أصعب عندما يمر الوصول إلى نموذج للذكاء الاصطناعي عبر وسيط. فقد يمنع مزود ما مستخدمين في مناطق معينة من الوصول إلى الخدمة أو يرفض طلبًا حساسًا، لكن موزعًا قد يقف بين المزود والشخص الذي يقدم ذلك الطلب.

ويضيف توجيه الطلبات تعقيدًا آخر. ففي الحالة التي وصفتها Anthropic، كان من الممكن إرسال الطلبات التي رفضها Claude إلى نموذج آخر للذكاء الاصطناعي. ولذلك لم يكن رفض مزود واحد يعني بالضرورة انتهاء محاولة المستخدم للحصول على إجابة. كما يتعين على المزودين الموازنة بين المراقبة ومتطلبات الخصوصية المشروعة. ويستخدم بعض العملاء خدمات تحتفظ بقدر ضئيل من بيانات المدخلات أو لا تحتفظ بها أصلًا، ما قد يقلل من المعلومات المتاحة عند التحقيق في نشاط مشبوه.

بالنسبة إلى قراء BTW، تعتمد سلامة الذكاء الاصطناعي بصورة متزايدة على البنية التحتية المحيطة بالنموذج، إلى جانب النموذج نفسه. وتؤثر هوية الحساب ووصول الموزعين وبيانات اعتماد واجهة برمجة التطبيقات والتوجيه وحفظ السجلات في ما يمكن للمزود رؤيته ومنعه، مع ضرورة أن تحمي هذه الضوابط في الوقت نفسه الخصوصية المشروعة للعملاء.

ما ينبغي متابعته

تابعوا التغييرات في القواعد التي تنظم موزعي خدمات الذكاء الاصطناعي، وخدمات الخوادم الوكيلة، والوصول من المناطق غير المدعومة. ومن شأن تشديد عمليات التحقق من الهوية، أو ضوابط واجهات برمجة التطبيقات، أو سياسات توجيه النماذج، أو إدخال تغييرات على خدمات عدم الاحتفاظ بالبيانات، أن يوضح كيفية استجابة المزودين لفجوات الوصول التي حددتها Anthropic.