#اقتصاد_سكاي
سلعخام برنت65.16+0.2(+0.31%)خام مربان65.62+0.09(+0.14%)النفط الأميركي الخفيف62.19+0.24(+0.39%)الفضة33.1+0.501(+1.54%)الذهب3254.04+20.3171(+0.63%)البلاديوم949.92+4.1256(+0.44%)البلاتين989.95+15.2578(+1.57%)عملاتالدولار الأميركي مقابل الجنيه المصري50.44-0.02(-0.04%)الدولار الأميركي مقابل الدرهم الإماراتي3.6727-0.0002(-0.01%)الدولار الأميركي مقابل الريال السعودي3.7506-0.0001(0%)الدولار الأميركي مقابل الدينار الكويتي0.3075+0.00028(+0.09%)الدولار الأميركي مقابل الريال القطري3.6412+0.0073(+0.2%)الدولار الأميركي مقابل الريال العماني0.385+0.0001(+0.03%)الدولار الأميركي مقابل الدينار البحريني0.377+0.00008(+0.02%)الدولار الأميركي مقابل الدينار العراقي13090(0%)الدولار الأميركي مقابل الليرة التركية38.7999+0.0325(+0.08%)الدولار الأميركي مقابل الدرهم المغربي9.322-0.0094(-0.1%)الدولار الأميركي مقابل الدينار الليبي5.4787+0.0087(+0.16%)الدولار الأميركي مقابل اليورو0.9003-0.0016(-0.18%)الدولار الأميركي مقابل الجنيه الإسترليني0.7569-0.001837(-0.24%)الدولار الأميركي مقابل الين الياباني147.99-0.46(-0.31%)الدولار الأميركي مقابل الليرة اللبنانية895000(0%)الدولار الأميركي مقابل اليوان الصيني7.1994-0.0024(-0.03%)الدولار الأميركي مقابل الفرنك السويسري0.8409-0.0044(-0.52%)بيتكوين102952.29+266.9(+0.26%)إيثريوم2471.21-15.04(-0.6%)أسواقسوق أبوظبي9669.98+31(+0.32%)شركة الخليج للمشاريع الطبية2.18+0.28(+14.74%)الشارقة للأسمنت0.73+0.04(+5.8%)بنك رأس الخيمه الوطني6.6-0.24(-3.51%)E7 GROUP1-0.03(-2.91%)LULU RETAIL1.39+0.02(+1.46%)شركة اشراق للاستثمار0.437+0.001(+0.23%)سوق دبي المالي5347.29+13.36(+0.25%)شركة دبي للمرطبات ش.م.ع.21+0.9(+4.48%)TALABAT HOL1.44+0.03(+2.13%)الشركة الوطنية الدولية القابضة1.8-0.09(-4.76%)شركة الإستشارات المالية الدولية ش.م.ك.م.5.99-0.2(-3.23%)دريك آند سكل إنترناشيونال ش.م.ع0.316+0.002(+0.64%)السوق السعودي11494.94+6.34(+0.06%)المصافي65.8+5.9(+9.85%)العبداللطيف13.74+0.86(+6.68%)الموارد139.4-8.6(-5.81%)الخليج للتدريب27-1.35(-4.76%)باتك2.32-0.04(-1.69%)أمريكانا2.15-0.03(-1.38%)بورصة مصر31799.06+222.05(+0.7%)PREMIUM HEA0.212+0.019(+9.85%)SAMAD MISR 112.5+9(+8.7%)PREMIUM HCG0.02-0.007(-25.93%)EGYPTIANS F9.64-1.21(-11.15%)سوق الكويت8070.72+5.96(+0.07%)DAR AL THUR128+7(+5.79%)نابيسكو1158+57(+5.18%)KWT HOTELS CO224-35(-13.51%)CONSUMER INDUST107-7(-6.14%)مجموعة جي أف اتش المالية ش م ب92.9+4.4(+4.97%).شركة الصفاة للاستثمار ش.م.ك131-5(-3.68%)بورصة قطر10610.12+0.87(+0.01%)الحياة للتأمين2.997+0.164(+5.79%)الخليج الدولية3.25+0.081(+2.56%)Al Rayan ET2.274-0.058(-2.49%)المتحدة للتنمية1.067-0.013(-1.2%)إزدان1.024+0.021(+2.09%)سوق مسقط4359.069-17.365(-0.4%)زجاج مجان0.013+0.001(+8.33%)مسقط للغازات0.085+0.005(+6.25%)صحار للطاقة0.11-0.078(-41.49%)TAKAFUL OMAN0.043-0.002(-4.44%)OQ EXPLORATION0.285+0.005(+1.79%)OQ BASE IND0.107+0.001(+0.94%)بورصة البحرين1920.113+3.725(+0.19%)بيت التمويل الخليجي0.303+0.009(+3.06%)مصرف السلام0.213+0.001(+0.47%)شركة ناس0.076-0.007(-8.43%)بورصة تونس11309.79-8.07(-0.07%)أخباردبي تقفز للمركز الرابع عالمياً في مؤشر IMD للمدن الذكيةمعهد ألماني يتوقع انكماشا للاقتصاد بسبب حرب الرسومغولدمان ساكس يخفض توقعاته لركود الاقتصاد الأميركيما هي أبرز أولويات ترامب الاقتصادية خلال جولته الخليجية؟انطلاق منتدى الاستثمار السعودي - الأميركي 2025
سلعخام برنت65.16+0.2(+0.31%)خام مربان65.62+0.09(+0.14%)النفط الأميركي الخفيف62.19+0.24(+0.39%)الفضة33.1+0.501(+1.54%)الذهب3254.04+20.3171(+0.63%)البلاديوم949.92+4.1256(+0.44%)البلاتين989.95+15.2578(+1.57%)عملاتالدولار الأميركي مقابل الجنيه المصري50.44-0.02(-0.04%)الدولار الأميركي مقابل الدرهم الإماراتي3.6727-0.0002(-0.01%)الدولار الأميركي مقابل الريال السعودي3.7506-0.0001(0%)الدولار الأميركي مقابل الدينار الكويتي0.3075+0.00028(+0.09%)الدولار الأميركي مقابل الريال القطري3.6412+0.0073(+0.2%)الدولار الأميركي مقابل الريال العماني0.385+0.0001(+0.03%)الدولار الأميركي مقابل الدينار البحريني0.377+0.00008(+0.02%)الدولار الأميركي مقابل الدينار العراقي13090(0%)الدولار الأميركي مقابل الليرة التركية38.7999+0.0325(+0.08%)الدولار الأميركي مقابل الدرهم المغربي9.322-0.0094(-0.1%)الدولار الأميركي مقابل الدينار الليبي5.4787+0.0087(+0.16%)الدولار الأميركي مقابل اليورو0.9003-0.0016(-0.18%)الدولار الأميركي مقابل الجنيه الإسترليني0.7569-0.001837(-0.24%)الدولار الأميركي مقابل الين الياباني147.99-0.46(-0.31%)الدولار الأميركي مقابل الليرة اللبنانية895000(0%)الدولار الأميركي مقابل اليوان الصيني7.1994-0.0024(-0.03%)الدولار الأميركي مقابل الفرنك السويسري0.8409-0.0044(-0.52%)بيتكوين102952.29+266.9(+0.26%)إيثريوم2471.21-15.04(-0.6%)أسواقسوق أبوظبي9669.98+31(+0.32%)شركة الخليج للمشاريع الطبية2.18+0.28(+14.74%)الشارقة للأسمنت0.73+0.04(+5.8%)بنك رأس الخيمه الوطني6.6-0.24(-3.51%)E7 GROUP1-0.03(-2.91%)LULU RETAIL1.39+0.02(+1.46%)شركة اشراق للاستثمار0.437+0.001(+0.23%)سوق دبي المالي5347.29+13.36(+0.25%)شركة دبي للمرطبات ش.م.ع.21+0.9(+4.48%)TALABAT HOL1.44+0.03(+2.13%)الشركة الوطنية الدولية القابضة1.8-0.09(-4.76%)شركة الإستشارات المالية الدولية ش.م.ك.م.5.99-0.2(-3.23%)دريك آند سكل إنترناشيونال ش.م.ع0.316+0.002(+0.64%)السوق السعودي11494.94+6.34(+0.06%)المصافي65.8+5.9(+9.85%)العبداللطيف13.74+0.86(+6.68%)الموارد139.4-8.6(-5.81%)الخليج للتدريب27-1.35(-4.76%)باتك2.32-0.04(-1.69%)أمريكانا2.15-0.03(-1.38%)بورصة مصر31799.06+222.05(+0.7%)PREMIUM HEA0.212+0.019(+9.85%)SAMAD MISR 112.5+9(+8.7%)PREMIUM HCG0.02-0.007(-25.93%)EGYPTIANS F9.64-1.21(-11.15%)سوق الكويت8070.72+5.96(+0.07%)DAR AL THUR128+7(+5.79%)نابيسكو1158+57(+5.18%)KWT HOTELS CO224-35(-13.51%)CONSUMER INDUST107-7(-6.14%)مجموعة جي أف اتش المالية ش م ب92.9+4.4(+4.97%).شركة الصفاة للاستثمار ش.م.ك131-5(-3.68%)بورصة قطر10610.12+0.87(+0.01%)الحياة للتأمين2.997+0.164(+5.79%)الخليج الدولية3.25+0.081(+2.56%)Al Rayan ET2.274-0.058(-2.49%)المتحدة للتنمية1.067-0.013(-1.2%)إزدان1.024+0.021(+2.09%)سوق مسقط4359.069-17.365(-0.4%)زجاج مجان0.013+0.001(+8.33%)مسقط للغازات0.085+0.005(+6.25%)صحار للطاقة0.11-0.078(-41.49%)TAKAFUL OMAN0.043-0.002(-4.44%)OQ EXPLORATION0.285+0.005(+1.79%)OQ BASE IND0.107+0.001(+0.94%)بورصة البحرين1920.113+3.725(+0.19%)بيت التمويل الخليجي0.303+0.009(+3.06%)مصرف السلام0.213+0.001(+0.47%)شركة ناس0.076-0.007(-8.43%)بورصة تونس11309.79-8.07(-0.07%)أخباردبي تقفز للمركز الرابع عالمياً في مؤشر IMD للمدن الذكيةمعهد ألماني يتوقع انكماشا للاقتصاد بسبب حرب الرسومغولدمان ساكس يخفض توقعاته لركود الاقتصاد الأميركيما هي أبرز أولويات ترامب الاقتصادية خلال جولته الخليجية؟انطلاق منتدى الاستثمار السعودي - الأميركي 2025
خاص

ما أسباب تفاقم هلوسة الذكاء الاصطناعي بعد كل تحديث؟

سكاي نيوز عربية - أبوظبي
الذكاء الاصطناعي
الذكاء الاصطناعي

رغم تسارع التطورات في مجال الذكاء الاصطناعي التوليدي، وانتشار استخدام هذه التكنولوجيا في شتى القطاعات، نظراً لإمكاناتها الهائلة في تحسين أنماط العمل، وتسهيل حياة البشر، إلا أن هذه التقنية تعاني من خلل يزداد حدة مع كل تحديث تخضع له.

فقد تبين أنه كلما أصبحت برامج الذكاء الاصطناعي التوليدي أقوى بفضل التحديثات التي تخضع لها، كلما زادت جرأتها على الكذب بثقة واختلاق معلومات وتقديمها على أنها حقائق مُطلقة، حيث تُعرف هذه الظاهرة بـ"هلوسة الذكاء الاصطناعي"، وهي تجعل الآلة تتحدث عن معلومات لا وجود لها.

وهذه الظاهرة لم تعد مجرد خلل هامشي تعاني منه برامج الذكاء الاصطناعي كما في السابق، بل أصبحت مشكلة تتسع وتزداد تعقيداً في مشهد مثير للقلق، إذ تقف كبرى شركات التقنية عاجزة عن فهم أسباب هذه "الهلوسات"، مما يثير تساؤلات كبيرة حول موثوقية واستدامة تكنولوجيا الذكاء الاصطناعي.

نظام عالمي جديد يتشكل بفعل التكنولوجيا والذكاء الاصطناعي

الهلوسة تزداد مع التحديثات

وبحسب تقرير أعدته "صحيفة نيويورك تايمز" واطلع عليه موقع "اقتصاد سكاي نيوز عربية"، فإنه ولأكثر من عامين، دأبت شركات مثل OpenAI وغوغل، على تحسين أنظمة الذكاء الاصطناعي الخاصة بها بشكل مطرد، وخفّضت وتيرة الأخطاء الناتجة عن "الهلوسة"، ولكن المفارقة تكمن في أنه عند خضوع هذه الأنظمة للتحديثات، فإنها تُصاب بالهلوسة بمعدل أعلى من السابق، وذلك وفقاً لاختبارات قامت بها الشركات المطورة لهذه الأنظمة، إضافة إلى اختبارات أجراها شركات وباحثون مستقلون.

فمثلاً وجدت شركة OpenAI أن "o3" وهو أقوى نظام لدى الشركة يُصاب بالهلوسة بنسبة 33 في المئة عند خضوعه لاختبار "PersonQA" المعياري، والذي يتضمن الإجابة عن أسئلة حول شخصيات عامة، وهذه النسبة هي ضعفيْ معدل الهلوسة، الذي كانت تسجّله النسخة القديمة من النظام والتي تحمل إسم " o1". أما نظام o4-mini الجديد من OpenAI، فقد سجّل مُعدّل هلوسة بلغت نسبته 48 في المئة أي أكثر من 3 أضعاف المعدل، عند خضوعه لاختبار "PersonQA" وهي نسبة مرتفعة جداً.

كما أنه وعند خضوع أنظمة OpenAI لاختبار آخر يحمل إسم "SimpleQA" مخصص لطرح أسئلة أكثر عمومية، كانت معدلات الهلوسة لنظامي "o3" و o4-miniمرتفعة جداً، ووصلت إلى 51 في المئة و79 في المئة على التوالي. أما نظام "o1" القديم، فقد سجّل مُعدّل هلوسة بلغ 44 في المئة. وفي ورقة بحثية تتناول تفاصيل هذه الاختبارات، ذكرت شركة OpenAI أن هناك حاجة إلى مزيد من البحث لفهم أسباب هذه النتائج.

أحدث نوبات الهلوسة

وفي مشهد حديث لظاهرة "هلوسة الذكاء الاصطناعي"، تسبب روبوت دعم فني، تابع لأداة البرمجة الناشئة Cursor في أزمة غير متوقعة الشهر الماضي، عندما نَبّه المستخدمين إلى تغيير مزعوم في سياسة الشركة، زاعماً أنه لم يعد يُسمح لهم باستخدام Cursor على أكثر من جهاز واحد، حيث أشعل هذا القرار غضب الكثير من المستخدمين الذي عمدوا إلى التهديد بإلغاء اشتراكاتهم مع الشركة.

ولكن المفاجأة الكبرى كانت في اكتشاف أن هذا التغيير لم يكن حقيقياً على الإطلاق، فقد تبيّن أن روبوت الذكاء الاصطناعي اخترع هذه السياسة من تلقاء نفسه، وذلك بحسب مايكل ترول، المؤسس والرئيس التنفيذي لـCursor.

هلوسة مستعصية

ومنذ ظهور ChatGPT لأول مرة في نهاية عام 2022، أثارت ظاهرة "هلوسة الذكاء الاصطناعي"، مخاوف بشأن موثوقية هذه التكنولوجيا، وبما أن أنظمة الذكاء الاصطناعي تتعلم من كميات ضخمة من البيانات، تفوق ما يمكن للبشر فهمه، فإن خبراء التكنولوجيا يجدون صعوبة في تحديد لماذا تتصرف هذه البرامج بهذه الطريقة. والمقلق أن هذه الهلوسات موجودة في أغلب أنظمة الذكاء الاصطناعي التوليدي، مثل تلك التي تطورها شركات ديب مايند وديب سيك وأنثروبيك وغيرها.

ويرى بعض الخبراء أن "هلوسة الذكاء الاصطناعي" قد تكون متأصلة في التقنية نفسها، مما يجعل التغلب على هذه المشكلة أمراً شبه مستحيل، خصوصاً أن روبوتات الذكاء الاصطناعي تعتمد على أنظمة رياضية معقدة، تساعدها في تخمين أفضل إجابة ممكنة، حيث يقول عمرو عوض الله، الرئيس التنفيذي لشركة فيكتارا المختصة بتطوير أدوات ذكاء اصطناعي للشركات، إن "الهلوسة" لن تزول ابداً رغم أن الشركات تبذل قصارى جهدها لحل هذه المشكلة.

بدورها تقول لورا بيريز-بيلتراشيني، الباحثة في جامعة إدنبرة وعضو الفريق الذي يجري دراسة معمّقة، حول مشكلة هلوسة الذكاء الاصطناعي، إنه نظراً لطريقة تدريب أنظمة الذكاء الاصطناعي فإن هذه البرامج، تميل إلى التركيز على القيام بمهمة واحدة فقط، وتبدأ تدريجياً في نسيان المهام الأخرى، مشيرة إلى أن هذه الأنظمة خلال فترة "التفكير" أو"المعالجة" التي تسبق التوصل إلى الإجابة، تكون عرضة للهلوسة في كل خطوة، ومع ازدياد مدة "التفكير"، تزداد احتمالية تراكم الأخطاء وتفاقمها.

لا تفهم كالبشر

من جهتها تقول مستشارة الذكاء الاصطناعي المعتمدة من أوكسفورد هيلدا معلوف، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن "هلوسة الذكاء الاصطناعي" ترجع إلى الطريقة التي تعمل بها هذه البرامج، التي لا "تفهم" المعلومات كما يفعل البشر، بل تختار الكلمات أو الإجابات بناءً على ما يبدو لها أنه صحيح، وليس بناءً على ما هو حقيقي فعلاً، وهذه الطبيعة "الاحتمالية" لنماذج الذكاء الاصطناعي مثل ChatGPT وGemini هي ناتجة عن أنماط التدريب التي خضعت لها، لافتة إلى أن ظاهرة "هلوسة الذكاء الاصطناعي" تثير قلقاً كبيراً، ويمكن أن تُؤدي إلى عواقب وخيمة في المجالات عالية المخاطر مثل الرعاية الصحية والقانون والتعليم.

لماذا يهلوس الذكاء اصطناعي؟

وبحسب معلوف فإن "هلوسة الذكاء الاصطناعي" تحدث لعدة أسباب، منها أن هذه الأنظمة تُدرَّب أحياناً على بيانات غير دقيقة أو متناقضة، كما أنها تعتمد بشكل كبير على "الارتباطات الإحصائية"، أي على الربط بين الكلمات بدلاً من فهم الحقيقة، إضافة إلى ذلك هناك بعض القيود التي يتم وضعها على طريقة عمل برامج الذكاء الاصطناعي، والتي تجعلها أكثر عرضة للأخطاء، مشيرة إلى أنه رغم أن شركات الذكاء الاصطناعي تستخدم تقنيات متقدمة، مثل "التعلم من ملاحظات البشر"، لمحاولة تقليل هذه الأخطاء، إلا أن النتائج لا تكون دائماً مضمونة، في حين أن انعدام قدرة المهندسين على فهم عمليات صنع القرار في برامج الذكاء الاصطناعي، يُعقّد مسار اكتشاف الهلوسة وتصحيحها.

ما الحلول المتوفرة؟

وشددت معلوف على أن معالجة "هلوسة الذكاء الاصطناعي" تتطلب اتباع نهج شامل ومتكامل، يشمل إعطاء الأولوية لدمج أدوات التحقق من الحقائق داخل أنظمة الذكاء الاصطناعي، مع العمل على تحسين البرامج على فهم هذه الأدوات والتفاعل معها، كما ينبغي على صانعي السياسات وضع إرشادات لنشر الذكاء الاصطناعي في المجالات الحساسة، مع ضمان بقاء الرقابة البشرية جزءاً لا يتجزأ منها، تفادياً لأي كارثة قد تحدث، مشددة على ضرورة إطلاع المعلمين والمستخدمين على حدود قدرات الذكاء الاصطناعي، وتعزيز التقييم النقدي للمحتوى المُنتج باستخدامه، إذ لا يُمكن ترسيخ موثوقية أنظمة الذكاء الاصطناعي وتسخير إمكاناتها بمسؤولية إلا من خلال الجهود التعاونية.

لماذا تتفاقم "الهلوسة" بعد التحديثات؟

من جهته يقول رئيس شركة "تكنولوجيا" مازن الدكاش، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن "هلوسة الذكاء الاصطناعي" ليست عيباً في الكود يمكن إصلاحه أو خللاً سطحياً يمكن تجاوزه بتحديث أو تعديل تقني سريع، بل هي نتيجة طبيعية لطريقة عمل برامج الذكاء الاصطناعي، وللأسف فإن إنتاج معلومات غير صحيحة أو مختلقة، سيبقى احتمالاً قائماً ما لم يحدث تحول جذري في طريقة بناء هذه الأنظمة.

ويكشف الدكاش أن ارتفاع نسب "هلوسة برامج الذكاء الاصطناعي" بعد التحديثات التي تخصع لها، يعود لعدة أسباب، فبعض التحديثات تركز مثلاً على تحسين الأداء في مهام معينة أو على بيانات محددة، مما قد يُضعف أداء البرنامج في مهام أخرى ويفقده شيئاً من التوازن في إنتاج المعرفة، كما أنه بعد التحديثات تزداد قدرة برامج الذكاء الاصطناعي، على توليد نصوص أكثر تعقيداً من السابق، وهذا يساعدها على ابتكار إجابات تبدو صحيحة ومقنعة من حيث الشكل ولكنها خاطئة من حيث المضمون، أي أن النموذج يصبح أكثر قدرة على الإقناع وليس بالضرورة أكثر مصداقية.

هلوسات المستقبل أخطر

وشدد الدكاش على أنه إذا بقيت البنية المعتمدة لتطوير برامج الذكاء الاصطناعي ذاتها، فسيظل العالم يواجه نفس النوع من الهلوسات، وربما تكون أكثر خطراً في المستقبل، كونها ستصدر من أنظمة قادرة على اتخاذ قرارات ذات طابع تنفيذي، وذلك مع ظهور الذكاء الاصطناعي العام، أو ما يُعرف بالذكاء الاصطناعي الخارق، ولذلك فإن الحل يكمن في إعادة هندسة الجوانب المعمارية لأنظمة الذكاء الاصطناعي الحالية، لتصبح قادرة على "التحقق" من المعلومات وليس فقط "الإجابة".

انطلاق أسبوع دبي للذكاء الاصطناعي بمشاركة آلاف الخبراء

اقتصاد

كيف شوّهت الرسوم المؤجلة بيانات الاقتصاد العالمي؟
خاص

سباق الشحن.. كيف أشعلت رسوم ترامب فوضى الاقتصاد العالمي؟

وفد اقتصادي من أبوظبي يزور اليابان
اقتصاد عربي

وفد اقتصادي من أبوظبي يزور اليابان لتعزيز الشراكات التجارية

.
Business مع لبنى

الفيدرالي الأميركي يحدد مصير الأسواق

أسهم شركات السلاح الهندية تحلق بعد نشوب التوترات مع باكستان
أخبار باكستان

أسهم شركات السلاح الهندية تحصد مكاسب بمليارات الدولارات

اقرأ أيضاً

شركة "هيوماين"
أخبار السعودية

السعودية تطلق شركة "هيوماين" للذكاء الاصطناعي

TSMC
أخبار الشركات

11.6 مليار دولار إيرادات TSMC في شهر.. زيادة بـ 48 بالمئة

أشهر تطبيقات التصفح للإنترنت
خاص

خطوة جديدة قد تهدد هيمنة "غوغل".. ما القصة؟

الذكاء الاصطناعي
خاص

"الإنفاق على الـ AI".. شركات التكنولوجيا تبعث برسائل حاسمة