مدونة فيليبي ماتوس

رادار الذكاء الاصطناعي: بين الهلوسة والحوكمة - مفارقة الثقة في عصر الذكاء الاصطناعي

7 أكتوبر 2025 | بواسطة ماتوس أيه آي

TEeP9fJPILC_m0AuNr_Cq_dee19817fc0f4657931df1262617d8c3

ومع تزايد تقدم نماذج الذكاء الاصطناعي، تظهر حقيقة متناقضة في الأفق التكنولوجي: إذ تظهر الأنظمة الأكثر تطوراً معدلات متزايدة من الهلوسة، مما يهدد الموثوقية في الوقت الذي نحتاج إليه أكثر من أي وقت مضى. إن هذه المفارقة ليست مجرد تحدي تقني، بل هي تحذير من الحاجة الملحة إلى حوكمة فعالة، كما أبرزت ذلك التقارير الأخيرة للأمم المتحدة والمبادرات الحكومية في مختلف أنحاء العالم.

أزمة الثقة في أنظمة الذكاء الاصطناعي المتقدمة

حالة روبوت الذكاء الاصطناعي الخاص بشركة Cursor، التي أبلغ عنها صحيفة ساو باولو، هو أمر رمزي: أرسل مساعد افتراضي تنبيهات إلى العديد من العملاء حول تغيير في السياسة لم يكن موجودًا على الإطلاق. والأمر الأكثر إثارة للقلق هو اكتشاف أن معدل الهلوسة في الأنظمة الجديدة وصل إلى 79%، على الرغم من الاستثمارات التي بلغت مليار دولار من شركات مثل OpenAI وGoogle.

وتثير هذه الظاهرة سؤالا حاسما: كيف يمكننا أن نثق في أنظمة الذكاء الاصطناعي في المهام الحرجة عندما تصبح أقل جدارة بالثقة مع ازدياد قوتها؟ إنها مفارقة كنت أراقبها عن كثب لسنوات أثناء عملي مع الشركات الناشئة والابتكار التكنولوجي.


انضم إلى مجموعات WhatsApp الخاصة بي! تحديثات يومية بأهم أخبار الذكاء الاصطناعي و المجتمع النشط والمتنوع. *المجموعات باللغة الإنجليزية.*


تجربة جامعة كارنيجي ميلون، التي أبلغ عنها تيك تودوويؤكد هذا القلق: فشلت شركة يديرها مساعدو الذكاء الاصطناعي حصريًا في إكمال أكثر من 75% من المهام الموكلة إليها. وتتناقض هذه النتيجة بشكل مباشر مع السرديات المثيرة للقلق بشأن الاستبدال الجماعي للعمال بالذكاء الاصطناعي.

مفترق طرق الحوكمة العالمية

وبالتوازي مع هذه التحديات التقنية، يسلط تقرير برنامج الأمم المتحدة الإنمائي الضوء على البعد السياسي للذكاء الاصطناعي، والذي استشهد به القيمة الاقتصادية ومن قبل مكتب البريد البرازيلي. الدراسة قاطعة: الذكاء الاصطناعي قادر على تعزيز التنمية البشرية وتعميق التفاوتات القائمة.

ما يلفت انتباهي في هذا التقرير هو مدى الاستعجال الذي يدعو به إلى التدخل الفعال من جانب الحكومات. لا يتعلق الأمر فقط بالتنظيم، بل يتعلق أيضًا بـ توجيه هذه التقنيات بشكل نشط نحو الاستخدامات التي تعزز التحسينات في جودة الحياة بشكل عام. وتتوافق هذه الرؤية بشكل مثالي مع ما دافعت عنه في محاضراتي واستشاراتي: فالتكنولوجيا، دون توجيه أخلاقي واجتماعي، قد تؤدي بسهولة إلى تضخيم المشاكل بدلاً من حلها.

وفي البرازيل، نرى مثالاً عملياً لهذه الحوكمة في دمج الذكاء الاصطناعي في النظام القضائي. أطلق المجلس الأعلى للقضاء العمالي الإصدار 1.06 من Chat-JT، والذي يدمج التكنولوجيا التوليدية في العملية القضائية الإلكترونية، كما ورد في مستشار قانوني. وتستحق هذه الحالة اهتماما خاصا، لأنها تضع الذكاء الاصطناعي في سياق حيث الدقة والموثوقية أمران أساسيان للغاية.

الذكاء الاصطناعي والأعمال: من اقتصاد المليار دولار إلى تحديات التنفيذ

في حين أننا نناقش قضايا الثقة والحوكمة، فإن القطاع الخاص يتحرك بسرعة نحو اعتماد الذكاء الاصطناعي. أعلنت شركة توزيع الوقود Vibra Energia عن تحقيق وفورات مذهلة بلغت حوالي مليار ريال برازيلي في رأس المال الثابت بفضل تنفيذ الذكاء الاصطناعي في الخدمات اللوجستية والتخطيط، وفقًا لـ القيمة الاقتصادية.

وتعتبر هذه الحالة مثيرة للاهتمام بشكل خاص لسببين: أولاً، إنها توضح الإمكانات التحويلية للذكاء الاصطناعي لتحقيق الكفاءة التشغيلية؛ ثانياً، تقوم الشركة بتوجيه الاستثمارات بشكل خاص نحو الشركات الناشئة التي أسستها النساء، وهي الخطوة التي أشيد بها لتعزيز التنوع في منظومة الابتكار.

في عملي في تسريع وتوجيه الشركات الناشئة، رأيت نمطًا مشابهًا: الشركات القادرة على دمج الذكاء الاصطناعي بشكل استراتيجي غالبًا ما تشهد مكاسب كبيرة في الكفاءةولكن يتعين عليهم أن يدركوا مخاطر الاعتماد المفرط على أنظمة لا تزال تعاني من عيوب كبيرة.

مستقبل العمل: التأهيل المستمر كضرورة حتمية

لا تزال مسألة تأثير الذكاء الاصطناعي على سوق العمل تثير نقاشات ساخنة. من ناحية أخرى، لدينا وجهة نظر مطمئنة للمحامي رونالدو ليموس، الذي يؤكد بشكل قاطع أنه "لن تفقد وظيفتك بسبب الذكاء الاصطناعي"، كما ورد في تقرير سي إن إن البرازيل. ومن ناحية أخرى، فإن ملاحظة ولاية أن الذكاء الاصطناعي يتطلب تأهيلًا مستمرًا لجميع الأجيال المهنية.

إن خبرتي في تطوير أنظمة الابتكار وتدريب المواهب التكنولوجية تقودني إلى منصب متوسط: لن نرى استبدالًا جماعيًا للوظائف بالذكاء الاصطناعي، بل سنشهد تحولًا عميقًا في المهارات المطلوبة لكل مهنة تقريبًا.

وهذا في الواقع أحد الأسباب التي دفعتني إلى المشاركة في تأسيس سيريوس، أول جامعة جديدة في أميركا اللاتينية، تركز على التدريب المبتكر لمحترفي التكنولوجيا. نحن بحاجة إلى نماذج تعليمية تعمل على إعداد الناس ليس فقط لاستخدام أدوات الذكاء الاصطناعي، بل أيضًا لتطوير المهارات التكميلية التي تجعلنا لا يمكن الاستغناء عنا: الإبداع، والتفكير النقدي، والذكاء العاطفي، والقدرة على التعاون.

الذكاء الاصطناعي في مناطق جديدة: حالة فن الطهي

ومن الأمثلة الرائعة على توسع الذكاء الاصطناعي في مجالات غير متوقعة، نجد فن الطهي. كما ورد في مكتب البريد البرازيليتعمل الذكاء الاصطناعي على تحويل الصناعة من خلال تحسين العمليات وتخصيص التجارب الطهوية. وما يثير اهتمامي بشكل خاص في هذه الحالة هو التوازن الدقيق بين الابتكار التكنولوجي والحفاظ على الثقافة.

يتبنى الطهاة المشهورون مثل فيران أدريا الذكاء الاصطناعي كأداة إبداعية، لكنهم يعبرون أيضًا عن مخاوف مشروعة بشأن الحفاظ على التقاليد الطهوية. إن هذا التوتر بين الابتكار والتقاليد هو نموذج مصغر للتحدي الأكبر الذي نواجهه مع الذكاء الاصطناعي في مختلف الصناعات.

الطريق إلى الأمام: إرشادات للشركات والمهنيين

في ظل هذا السيناريو المعقد، ما الذي يمكن للشركات والمهنيين فعله للتنقل بنجاح في عصر الذكاء الاصطناعي؟ استنادًا إلى خبرتي في دعم أكثر من 10000 شركة ناشئة وجذب أكثر من مليار ريال برازيلي من الاستثمارات، أشارك بعض الإرشادات التي طبقتها في توجيهي:

  • احتضن الذكاء الاصطناعي بتمييز نقدي:تنفيذ أنظمة الذكاء الاصطناعي حيث تضيف قيمة حقيقية، ولكن مع الحفاظ على الإشراف البشري في العمليات الحرجة.
  • استثمر في التدريب المستمر:تعزيز ثقافة التعلم المستمر، وخاصة في المهارات التي لا يمكن للذكاء الاصطناعي استبدالها بسهولة.
  • تطوير بروتوكولات التحقق:إنشاء آليات لتحديد الهلوسة والأخطاء في أنظمة الذكاء الاصطناعي والتخفيف منها.
  • تنويع فرقك:تعمل الفرق المتنوعة على تطوير أنظمة الذكاء الاصطناعي الأكثر قوة والتي تكون أقل عرضة للتحيز.
  • المشاركة بنشاط في المناقشة حول الحوكمة:لا ينبغي للشركات أن تتبع اللوائح فحسب، بل يجب أن تساهم في صياغتها بشكل مسؤول.

الاستنتاج: التعامل مع المفارقة بحكمة

يقدم لنا المشهد الحالي للذكاء الاصطناعي مفارقة أساسية: أنظمة أكثر تقدمًا ولكنها أقل موثوقية؛ أكثر قوة، ولكن أيضا أكثر خطورة. إن مفتاح التعامل مع هذا السياق لا يكمن في تبني التكنولوجيا بشكل أعمى أو رفضها بسبب الخوف، بل في تبني موقف من الحماس الحذر والمسؤولية النشطة.

في برامجي الإرشادية ومحاضراتي حول الذكاء الاصطناعي للأعمال، أكدت أن الميزة التنافسية الحقيقية لا تكمن في مجرد تنفيذ الذكاء الاصطناعي، بل في تنفيذه بشكل استراتيجي وأخلاقي وبما يتماشى مع القيم الإنسانية الأساسية. الشركات التي تستطيع تحقيق التوازن بين الابتكار التكنولوجي والمسؤولية الاجتماعية ستكون القادة الحقيقيين للعقد المقبل.

وكما أقول دائمًا لرواد الأعمال الذين أرشدهم: يجب أن تكون التكنولوجيا حليفتنا في بناء مستقبل أكثر ازدهارًا وعدالة، وليس هدفًا في حد ذاته. لم يكن هذا المبدأ أكثر أهمية من الآن، عندما نواجه إحدى أقوى الأدوات التي ابتكرتها البشرية على الإطلاق.


✨تمت المراجعة بالكامل يمكنك التسجيل من خلال النشرات الصحفية من 10K Digital على بريدك الذكاء الاصطناعي الحديث.

➡️ انضم إلى مجتمع 10K من هنا


منشورات ذات صلة

عرض الكل

عرض الكل
arالعربية