تستعد شركة "ميتا بلاتفورمز" لإحداث نقلة نوعية في الجزئية الخاصة بتقييم المخاطر المحتملة للميزات الجديدة التي تطرحها في تطبيقاتها المختلفة، وذلك من خلال الاستغناء عن العنصر البشري وأتمتة 90% من عمليات تقييم المخاطر لتكون من خلال توسيع استخدام الـ AI.
ظلت ميتا لسنوات تستعين بفرق من المراجعين بتقييم المخاطر المحتملة للتأكد من أنها لا تنتهك خصوصية المستخدمين، وأنها لا تُلحق الضرر بالقاصرين مع التأكد من أنها لا تُفاقم انتشار المحتوى المُضلّل.
وحتى وقت قريب، كانت ما يُعرف داخل ميتا بمراجعات الخصوصية والنزاهة تُجرى بالكامل تقريبًا بواسطة مُقيّمين بشريين، ولكن الآن وفقًا لوثائق داخلية للشركة حصلت عليها إذاعة NPR، سيتم قريبًا أتمتة ما يصل إلى 90% من جميع تقييمات المخاطر.
وفي بيانها، ذكرت ميتا أن تغييرات مراجعة مخاطر المنتج تهدف إلى تبسيط عملية اتخاذ القرار، مضيفةً أن "الخبرة البشرية" لا تزال تُستخدم في "القضايا الجديدة والمعقدة"، وأن "القرارات منخفضة المخاطر" فقط هي التي تتم أتمتتها.
لكن تُظهر وثائق داخلية راجعتها إذاعة NPR أن ميتا تدرس أتمتة المراجعات في المجالات الحساسة، بما في ذلك المتعلقة بسلامة الذكاء الاصطناعي، والمخاطر المتعلقة بفئة الشباب، وفئة النزاهة، وتشمل أمورًا مثل المحتوى العنيف ونشر الأكاذيب.
يعني هذا الأمر أن التحديثات الخاصة بخوارزميات ميتا، وميزات الأمان الجديدة، والتغييرات في كيفية السماح بمشاركة المحتوى عبر منصات الشركة، ستتم الموافقة عليها في الغالب بواسطة نظام مُدعّم بالذكاء الاصطناعي وبالتالي لم يعد يخضع لتدقيق الموظفين المُكلفين بمناقشة كيف يُمكن أن يكون لتغيير المنصة تداعيات غير متوقعة أو إساءة استخدامه.
ويُنظر إلى هذا التغيير على أنه انتصار مدوٍ لمطوري المنتجات، الذين سيتمكنون الآن من إصدار تحديثات وميزات التطبيقات بسرعة أكبر. لكن موظفي ميتا الحاليين والسابقين يخشون أن يكون دفع الأتمتة الجديد على حساب السماح للذكاء الاصطناعي باتخاذ قرارات دقيقة يمكن أن تتسبب في أضرار حقيقية.
وقال مسؤول تنفيذي سابق في ميتا، طلب عدم الكشف عن هويته: "بما أن هذه العملية تعني عمليًا إطلاق المزيد من التطبيقات بشكل أسرع، مع تدقيق ومعارضة أقل صرامة، فهذا يعني أنك تخلق مخاطر أعلى".
وأضاف: "من غير المرجح منع الآثار الخارجية السلبية لتغييرات المنتجات قبل أن تبدأ في التسبب بمشاكل في العالم".
وأعلنت ميتا في بيان أنها استثمرت مليارات الدولارات لدعم خصوصية المستخدمين.
الجدير بالذكر أنه منذ عام 2012، تخضع ميتا لمراقبة لجنة التجارة الفيدرالية بعد أن توصلت الوكالة إلى اتفاق مع الشركة بشأن كيفية تعاملها مع المعلومات الشخصية للمستخدمين، ونتيجة لذلك، أصبحت مراجعات خصوصية المنتجات إلزامية، وفقًا لموظفي ميتا الحاليين والسابقين.