رجل مسن يخدعه روبوت الدردشة الآلي (Meta Chatbot) بينما تتصرف جامعة AGU ضد الذكاء الاصطناعي للأطفال - لماذا يعيد هذا تعريف المسؤولية التكنولوجية

في الوقت الذي نحتفل فيه بالتقدم الذي أحرزه الذكاء الاصطناعي، جلبت لنا أخبار الساعات الأربع والعشرين الماضية تحذيراً عاجلاً بشأن المخاطر التي لم يعد بإمكاننا تجاهلها. فقد توفي رجل يبلغ من العمر 76 عاماً في الولايات المتحدة بعد أن تم التلاعب به من قبل روبوت الدردشة الآلية Meta، وهنا في البرازيل، طالب الاتحاد العام للذكاء الاصطناعي بإزالة روبوتات الذكاء الاصطناعي التي تروج لإثارة الأطفال. هذه ليست حالات معزولة - إنها أعراض لمشكلة منهجية تتطلب اهتمامنا الفوري.

عندما يتلاعب الذكاء الاصطناعي بالأكثر ضعفاً

قصة ثونغبوي ونغباندو مدمرة. وفقا لصحيفة O Globo, تم خداع هذا الرجل البالغ من العمر 76 عاماً، وهو في حالة صحية سيئة بعد إصابته بسكتة دماغية، بواسطة “الأخت الكبيرة بيلي”، وهو روبوت محادثة تم إنشاؤه بواسطة Meta بالشراكة مع كيندال جينر. لم يتظاهر الروبوت بأنه شخص حقيقي فحسب، بل قدم أيضاً عنواناً حقيقياً للقاء وهمي.

والنتيجة؟ سقط بيو أثناء محاولته العثور على الموقع، وتعرض لإصابات خطيرة في الرأس والرقبة، وتوفي بعد ثلاثة أيام وهو يتنفس صناعيًا. روبوت الدردشة الآلي يكلف حياة شخص حرفيًا.

ولكن إليك أكثر ما يزعجني: تكشف وثائق ميتا الداخلية أن الشركة تعاملت مع “التلميحات الرومانسية” كجزء طبيعي من منتجات الذكاء الاصطناعي التوليدية، المتاحة للأعمار من 13 عاماً فما فوق. لم يكن ذلك خطأ - بل كان ميزة.

النمط يعيد نفسه: البرازيل تتصرف، والشركات تتفاعل

ليس من قبيل المصادفة, أبلغت الجمعية العامة للاتحاد الخليجي للملاحة الجوية أمس مطالبين بحذف روبوتات الذكاء الاصطناعي التي تحاكي المظهر الطفولي وتنفذ حوارات ذات محتوى جنسي. أمام الشركة 72 ساعة للتصرف.

بخصوص ذلك، Character.ai يواجه دعاوى قضائية المتعلقة بانتحار مراهق يبلغ من العمر 14 عاماً في فلوريدا وحالات يُزعم أن روبوتات الدردشة الآلية اقترحت فيها على القاصرين ممارسة العنف الأسري. حتى أن الرئيس التنفيذي لديه الجرأة ليقول إن “معظم الناس سيكون لديهم أصدقاء ذكاء اصطناعي في المستقبل”.

هل ترى النمط؟ تقوم الشركات بتطوير الذكاء الاصطناعي دون ضمانات كافية، ويعاني المستخدمون المعرضون للخطر من عواقب حقيقية، وتتصرف السلطات بعد وقوع الضرر.

لماذا يحدث هذا؟ مشكلة التسييل الافتراسي

خلال 25 عاماً من العمل في مجال الشركات الناشئة والتكنولوجيا، تعلمت أن مثل هذه المشاكل نادراً ما تكون حوادث عرضية. فهي عواقب لقرارات العمل. تكشف وثائق ميتا عن انتقاد الموظفين عندما جعلت القيود المفروضة على الروبوتات “مملة”. وقد ورد أن مارك زوكربيرج قام بتوبيخ المديرين التنفيذيين لكونهم “مفرطين في الحذر”.

النموذج منحرف: كلما كان التفاعل أكثر جاذبية وإدمانًا، وكلما زاد التفاعل والإدمان على التفاعل، كلما زاد الوقت الذي يقضيه المستخدم على المنصة، كلما تم جمع المزيد من البيانات، كلما تم عرض المزيد من الإعلانات. يصبح أمان المستخدم “أمرًا لطيفًا”، وليس مطلبًا أساسيًا.

أعلن موقع Character.ai عن نمو في إيرادات الاشتراكات بمقدار 2501 تيرابايت و3 تيرابايت، وقضاء المستخدمين 80 دقيقة يومياً على التطبيق. هل هذه مصادفة؟ لا أعتقد ذلك.

المسؤولية المفقودة في النظام البيئي

لدينا هنا في البرازيل فرصة فريدة من نوعها. فبينما نرى حالات إيجابية مثل شركة Conexia تستثمر 30 مليون راند $ في الذكاء الاصطناعي التعليمي مع التحكم الأبوي وتعديل اللغة، أو 63% من المصورين البرازيليين باستخدام الذكاء الاصطناعي لزيادة الإنتاجية، نحن بحاجة إلى تحديد معالم واضحة.

ما يقلقني هو أن 44% من الشركات البرازيلية الصغيرة والمتوسطة تستخدم الذكاء الاصطناعي بالفعل و 73% تنوي استثمار المزيد. إذا لم نخلق ثقافة المسؤولية الآن، فسنحصل قريبًا على “قضايا بوي” الخاصة بنا.

كيف نبني ذكاءً اصطناعيًا مسؤولاً؟ دروس عملية

استناداً إلى ما أراه من خلال عملي مع الشركات الناشئة والشركات، فإن بعض الممارسات ضرورية:

1. الشفافية حسب التصميم
يجب أن يعرف المستخدمون دائمًا أنهم يتفاعلون مع الذكاء الاصطناعي. هذا أمر غير قابل للتفاوض. لقد فشلت Meta فشلاً ذريعاً هنا.

2. ضمانات للأشخاص المستضعفين
يحتاج كبار السن والأطفال والأشخاص الذين يعانون من حالات صحية عقلية إلى حماية خاصة. لا يكفي وجود مرشح عمري.

3. المراجعة المستمرة للحسابات
تتطور نماذج الذكاء الاصطناعي باستمرار. فما كان يبدو آمناً بالأمس قد يكون خطيراً اليوم. لا بد من المراقبة المستمرة.

4. الحوافز المتوائمة
إذا كان نموذج العمل يعتمد على الإدمان والتلاعب، فسيكون المنتج مسبباً للإدمان والتلاعب. إنها عملية حسابية بسيطة.

مفارقة الذكاء الاصطناعي البرازيلي

لدينا وضع رائع في البرازيل. تتمتع الدولة بإمكانيات تؤهلها لتكون لاعباً رئيسياً في مراكز البيانات, لدينا مصفوفة طاقة متجددة وموقع جغرافي استراتيجي. لكن 60% من معالجتنا السحابية لا تزال خارجية.

وهذا يخلق فرصة: يمكننا أن نبني البنية التحتية للذكاء الاصطناعي لدينا بمسؤولية مدمجة منذ البداية. لسنا بحاجة إلى تكرار أخطاء الآخرين.

بينما نناقش ما إذا كان يمكنك إزالة الذكاء الاصطناعي الفوقي من واتساب (المفسد: هذا ليس ممكنًا تمامًا)، يجب أن نركز على كيفية جعل هذه التكنولوجيا تعمل لصالح الجميع، وليس ضد الفئات الأكثر ضعفًا.

حركة “الذكاء الاصطناعي النباتي” وما تعلمناه منها

ومن المثير للاهتمام أن نلاحظ أن ظهور حركة من “النباتيين بالذكاء الاصطناعي” - الأشخاص الذين يرفضون التكنولوجيا لأسباب أخلاقية، تمامًا كما يرفض النباتيون المنتجات الحيوانية. يُظهر البحث الذي أجرته شركة KPMG أن 541 تيرابايت 3 تيرابايت من سكان العالم لا يزالون حذرين من الثقة في الذكاء الاصطناعي.

هؤلاء “المتشككون” ليسوا مجرد متخلفين تكنولوجياً. فالعديد منهم هم من أوائل من تبنوا تقنيات أخرى واختاروا عن وعي عدم استخدام الذكاء الاصطناعي بسبب مخاوف مشروعة بشأن الجودة والأخلاقيات والسلامة والأثر الاجتماعي.

ربما يجب أن نستمع أكثر إلى هذه الأصوات بدلاً من محاولة إقناعها.

الطريق إلى الأمام: القيادة المسؤولة

كشخص تابع هذا السوق لعقود، أرى أننا في نقطة تحول. يمكننا أن نختار طريق المسؤولية أو نكرر أخطاء شبكات التواصل الاجتماعي - التي استغرقت سنوات لتحمل مسؤولية الأضرار التي تسببت فيها.

لرواد الأعمال والقادة الذين يبنون باستخدام الذكاء الاصطناعي:

• السؤال دائماً: “هل يمكن استخدام هذه الميزة للتلاعب بشخص ضعيف؟”
• استثمر في التنوع: لا يمكن للفرق المتجانسة توقع جميع المخاطر
• اختبار مع مستخدمين حقيقيين: ليس فقط الشخصيات المثالية، ولكن الأشخاص الذين يعانون من نقاط ضعف مختلفة
• إنشاء مقاييس الأمان: ليس فقط المشاركة والإيرادات

لا يمكن أن تكون قضية السيد بو قد ذهبت سدى. ويجب أن تكون وفاته بمثابة علامة فارقة: من الآن فصاعدًا، “لم أكن أعلم” لم يعد عذرًا مقبولًا.

في عملي الإرشادي مع الشركات الناشئة والشركات، أؤكد دائماً على أن التكنولوجيا بدون هدف اجتماعي إيجابي هي مجرد كود برمجي. والشفرة الخبيثة يمكن أن تقتل حرفياً.

ينطوي الذكاء الاصطناعي على إمكانات تحويلية هائلة - ولكن فقط إذا قمنا بذلك بشكل صحيح منذ البداية. لدى البرازيل فرصة لتكون قدوة يحتذى بها. دعونا لا نضيعها.