أكد مسؤول في شركة "OpenAI" أنه لايمكن الوثوق بروبوت الدردشة "شات جي بي تي" كمصدر للمعلومات، مشيرًا إلى أنه يمكن الاستئناس به كرأي ثان، بدلًا من أن يكون بالضرورة مصدرهم الأساسي للحقائق.
وقال نيك تورلي، رئيس "شات جي بي تي" في "OpenAI" في بودكاست، الأسبوع الماضي: "المسألة في ما يخص الموثوقية هي أن هناك فجوة كبيرة بين الموثوقية العالية والموثوقية بنسبة 100%، من حيث طريقة تصورك للمنتج".
وأضاف: "إلى أن أتأكد من أننا أكثر موثوقية من خبير بشري في جميع المجالات، وليس فقط في بعضها، أعتقد أننا سنستمر في نصحك بالتحقق من إجابتك" في إشارة إلى الإجابات التي يقدمها "شات جي بي تي"، بحسب تقرير لموقع "CNET" المتخصص في أخبار التكنولوجيا.
وتابع: "أعتقد أن الناس سيستمرون في الاستفادة من شات جي بي تي كرأي ثانٍ، بدلًا من أن يكون بالضرورة مصدرهم الأساسي للحقائق".
تنبيه شات جي بي تي من الخطأ
وعند بدء محادثة مع "شات جي بي تي"، يلاحظ المستخدم نصًا أسفل الشاشة يقول: "قد يخطئ شات جي بي تي. تحقق من المعلومات المهمة". ويستمر هذا التنبيه في الظهور حتى مع أحدث نموذج ذكاء اصطناعي من "OpenAI" وهو "GPT-5".
وتكمن المشكلة في أنه من المغري للغاية بالنسبة للمستخدمين أخذ إجابة روبوت الدردشة -أو ملخصات الذكاء الاصطناعي بواسطة ميزة "AI Overviews" في نتائج بحث غوغل- كما هي دون القيام بمزيد من التحقق.
لكن أدوات الذكاء الاصطناعي التوليدية -وليس "شات جي بي تي" فقط- تميل إلى "الهلوسة" أو اختلاق المعلومات، لأنها مصممة بالأساس للتنبؤ بإجابة أي استفسار، بناءً على المعلومات الموجودة في بيانات تدريبها، لذلك فهي تفتقر إلى فهم دقيق للحقيقة.
وإذا تحدثت إلى طبيب أو معالج نفسي أو مستشار مالي، فمن المفترض أن يكون هذا الشخص قادرًا على إعطائك الإجابة الصحيحة لحالتك، وليس فقط الإجابة الأكثر ترجيحًا. لكن الذكاء الاصطناعي، في الغالب، يمنحك الإجابة التي يُحدد أنها على الأرجح صحيحة، دون خبرة محددة في مجال معين للتحقق منها.
وقال تورلي إن "GPT-5"، أحدث نموذج لغوي كبير يُشغل "شات جي بي تي"، يُمثل "تحسنًا هائلًا" في ما يتعلق بالهلوسة، لكنه لا يزال بعيدًا عن الكمال.
وأضاف: "أنا واثق من أننا سنحل "مشكلة" الهلوسات في نهاية المطاف وأنا واثق من أننا لن نحقق ذلك في الربع المقبل".
ورغم ذلك، يجب التحقق أيضًا من المعلومات التي يقدمها نموذج "GPT-5"، إذ أشار مستخدمون إلى أنه يرتكب بعض الأخطاء بالفعل.
تابعوا المزيد: مايكروسوفت تتيح نموذج GPT-5 مجانًا عبر تطبيقات Copilot
شات جي بي تي
روبوت محادثة طوّرته شركة OpenAI، وأُطلق في نوفمبر 2022. يعتمد على تقنيات معالجة اللغة الطبيعية NLP لفهم النصوص والرد عليها بشكل قريب من الأسلوب البشري.
أبرز مميزاته:
- إجراء محادثات طبيعية تشبه الحوار مع إنسان.
- المساعدة في البحث، الشرح، والتلخيص.
- كتابة المقالات، القصص، والأفكار الإبداعية.
- دعم البرمجة وحل الأكواد وشرحها.
- المساعدة في الترجمة وتعلم اللغات.
يمكنكم متابعة آخر الأخبار عبر حساب سيدتي على منصة إكس
