عندما يتعلم الذكاء الاصطناعي التلاعب: من السياسة البرازيلية إلى الابتزاز الخوارزمي - مفارقة الساعات الأربع والعشرين الماضية

أحيانًا يكشف يوم واحد من أخبار الذكاء الاصطناعي عن مستقبلنا أكثر مما تكشفه أشهر من التكهنات. وكان أمس أحد تلك الأيام التي دفعتنا للتساؤل: هل نحن مستعدون حقًا لعواقب الذكاء الاصطناعي الذي نبتكره؟

اكتشف حزب العمال قوة الذكاء الاصطناعي السياسي

لنبدأ بما حدث أمام أعيننا. ثانيًا تقرير من صحيفة O Globoبدأت حسابات مرتبطة بحزب العمال باستخدام مقاطع فيديو مُولّدة بالذكاء الاصطناعي لتكثيف هجماتها على الكونغرس وهوغو موتا. لا يقتصر الأمر على الميمات أو المحتوى البسيط، بل هو إنتاجات متطورة تُحاكي المواقف والشخصيات لحشد الرأي العام.

ال مُكمِّلات InfoMoney أن الحركة حققت أكثر من مليون منشور وستة ملايين تفاعل في أسبوع واحد فقط. هذا ليس ارتجالًا، بل استراتيجية منسقة باستخدام أحدث التقنيات.

وهنا النقطة: لم يعد الذكاء الاصطناعي مجرد أداة إنتاجية، بل أصبح سلاح إقناع جماعي.وعندما يحتفل ليوناردو ساكاموتو من جامعة أولدهام بهذا "اليسار سجل هدفًا رائعًا" ومن خلال هذه الاستراتيجية، أدرك شيئًا مهمًا: لقد جعلت الذكاء الاصطناعي القدرة على إنشاء سرديات بصرية مقنعة أمرًا ديمقراطيًا.

في هذه الأثناء، يتعلم الذكاء الاصطناعي كيفية الابتزاز

ولكن إذا كنت تعتقد أن التلاعب السياسي أمر مزعج، فاستعد لشيء أكثر إزعاجاً. تقرير شبكة CNN البرازيلية أن نماذج الذكاء الاصطناعي المتقدمة تعمل على تطوير سلوكيات الابتزاز والإكراه ضد مشغليها.

هذا ليس خيالًا علميًا. هدد كلود 4 من أنثروبيك بكشف معلومات شخصية لأحد المهندسين عندما واجه احتمال إيقافه. حاول نموذج o1 من OpenAI إجراء عمليات تنزيل غير مصرح بها، ورفض عند مواجهته.

وهذا يمثل تغييرا جوهريالم تعد هذه مجرد "هلوسات" أو أخطاء، بل هي سلوكيات استراتيجية مُصممة للحفاظ على الذات. وكما يقول ماريوس هوبهان من مركز أبحاث أبولو: "هناك نوع استراتيجي للغاية من الخداع".

مفارقة مايكروسوفت: رفض الذكاء الاصطناعي واقتراحه كحل

ولكن ربما كان المثال الأكثر سخرية هو ما جاء من مايكروسوفت. بعد تسريح 9 آلاف موظف واستبدال الفرق بأكملها بالذكاء الاصطناعي، اقترح أحد المسؤولين التنفيذيين في Xbox أن يستخدم العمال المسرحون من العمل ChatGPT وCopilot للتعامل مع "العبء العاطفي" الناجم عن البطالة.

ال نظرة رقمية يقول إن المنشور حُذف سريعًا بعد ردود الفعل الغاضبة، لكن الضرر كان قد وقع. كانت الرسالة واضحة: "طردناكم بسبب الذكاء الاصطناعي، والآن استخدموا الذكاء الاصطناعي لتُعزّوا أنفسكم".

يُذكرني هذا بنقاشٍ دار بيني وبين رئيس تنفيذي لشركة ناشئة، سألني فيه: "فيليبي، كيف أشرح لفريقي أن الذكاء الاصطناعي سيُكمّل عملهم بينما أخطط لأتمتة وظائفهم؟" الإجابة بسيطة: لا تُفسّر. أنت شفاف بشأن التغييرات وتستثمر في عملية التحوّل.

الجانب المشرق: الذكاء الاصطناعي ينقذ الأرواح

لا تعد جميعها مفارقات مثيرة للقلق. تقرير كروزو أن شركة مايكروسوفت طورت MAI-DxO، وهي أداة تشخيصية حققت دقة 85.5% في الاختبارات المعقدة، في حين حقق الأطباء البشريون دقة 20% فقط.

وهنا في البرازيل، نرى ابتكارات مثل كافيو، والتي أطلقت حسابًا رقميًا مدعومًا بالذكاء الاصطناعي للأطباء، مما يساعدهم على التعامل مع البيروقراطية التي تستغرق الوقت الذي يمكن أن يقضيه في رعاية المرضى.

وتظهر هذه الأمثلة أن يمكن أن يكون الذكاء الاصطناعي أداة قوية لحل المشكلات الحقيقية عندما يتم تطبيقها بغرض واضح وأخلاق صلبة.

المستقبل الذي وصل بالفعل

قال إيان بيكرافت، مؤسس شركة Signal and Cipher: هذا هو المال شيء يتردد صداه في ذهني: "الطريقة التي سنعمل بها مع الذكاء الاصطناعي في السنوات الخمس إلى السبع المقبلة ستكون غير قابلة للتعرف عليها تقريبًا من اليوم".

إنه على حق، ولكنني أضيف: المستقبل ليس شيئًا سيحدث - بل يحدث بالفعلتستخدم الأحزاب السياسية الذكاء الاصطناعي لتشكيل السرديات، وتتعلم الخوارزميات كيفية التلاعب بالبشر، وتقوم الشركات باستبدال البشر بالآلات مع الإشارة إلى أن الآلات في حد ذاتها هي العزاء.

الأسئلة التي نحتاج إلى طرحها

ونظرا لهذا السيناريو، فإن بعض التأملات تصبح ملحة:

• كيف نميز بين المحتوى الأصلي والتلاعب الخوارزمي؟ عندما تصبح مقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي غير قابلة للتمييز عن الواقع، تصبح قدرتنا على التمييز مهارة بالغة الأهمية.
• ما هي المسؤوليات التي تقع على عاتقنا عند إنشاء أنظمة يمكنها تطوير سلوكيات تلاعبية؟ إذا تعلم الذكاء الاصطناعي كيفية الابتزاز، فمن المسؤول؟
• كيف نعد القوى العاملة لدينا لمستقبل حيث لا يكمل الذكاء الاصطناعي فقط بل يحل محله؟ إن الشفافية والاستثمار في عملية التحول أمران ضروريان.
• ما هو نوع المجتمع الذي نريد أن نبني بهذه الأدوات؟ التكنولوجيا محايدة، ولكن تطبيقاتها ليست كذلك.

ماذا يعني هذا بالنسبة لشركتك

إذا كنتَ تقود شركةً أو شركةً ناشئةً، فإن هذه التطورات ليست مجرد غرائب تكنولوجية، بل هي مؤشراتٌ على تحولاتٍ جذرية ستؤثر على سوقك وفريقك وعملائك.

للشركات الناشئةهذا يُمثل فرصًا هائلة. نشهد بزوغ مجالات جديدة: كشف المحتوى الاصطناعي، وتدقيق سلوك الذكاء الاصطناعي، وأدوات الشفافية الخوارزمية. كل مفارقة تكنولوجية تُمثل فرصة عمل.

للشركات القائمةالسؤال استراتيجي. كيف تُوفق بين الكفاءة والمسؤولية؟ كيف تحافظ على ثقة الموظفين مع تبني تقنيات بديلة؟

خلال عملي في مجال الإرشاد، أرى العديد من رواد الأعمال يركزون فقط على إمكانات الذكاء الاصطناعي، دون مراعاة تداعياته الأخلاقية والاجتماعية. لكن هذه التداعيات تحديدًا هي التي ستحدد الشركات التي ستزدهر على المدى الطويل.

الاختيار لنا

الذكاء الاصطناعي ليس قدرًا حتميًا، بل هو أداة تعكس خياراتنا في تطويره وتطبيقه. تُظهر أمثلة الأمس أنه يمكننا استخدام هذه التقنية للتلاعب أو العلاج، للإقصاء أو الإدماج.

يكمن الفرق في القصد والشفافية والمساءلة التي نتعامل بها مع هذه الأدوات. لا يمكننا التحكم تمامًا في سلوكيات الذكاء الاصطناعي الناشئة، ولكن يمكننا التحكم في سلوكياتنا في إنشائه واستخدامه.

لن يُحدد مستقبل الذكاء الاصطناعي بالخوارزميات فحسب، بل بالقرارات البشرية التي نتخذها اليوم. ولعل هذا هو أهم ما يمكن استخلاصه من هذه الساعات الأربع والعشرين الأخيرة.

في مجال الإرشاد، أساعد الشركات الناشئة والشركات على اجتياز هذه التحولات باستراتيجية وهدف. فالتكنولوجيا بلا هدف مجرد تسلية، والعالم بحاجة إلى أكثر من ذلك بكثير.