هل تعاني من الصداع أو التهاب الجيوب الأنفية؟ كيف يبدو كسر الإجهاد؟ هل يجب أن تقلق بشأن الألم في صدرك؟ إذا بحثت عن هذه الأسئلة الآن على جوجل، فمن المحتمل أن تكون الإجابات مكتوبة بواسطة الذكاء الاصطناعي.

في شهر مايو، كشفت جوجل عن ميزة جديدة تسمى AI Overviews، والتي تستخدم الذكاء الاصطناعي التوليدي، وهو نوع من تكنولوجيا التعلم الآلي التي يتم تدريبها على المعلومات من جميع أنحاء الويب وتولد إجابات تحادثية لاستعلامات بحث معينة في ثوانٍ.

وفي غضون أسابيع من إطلاق الأداة، واجه المستخدمون إجابات غير صحيحة وغريبة حول مواضيع مختلفة. وتراجعت الشركة لاحقًا عن هذه الميزة لبعض عمليات البحث أثناء محاولتها التخفيف من تلك الأخطاء.

قال الخبراء إن المخاطر كبيرة بشكل خاص عندما يتعلق الأمر بإجابات الذكاء الاصطناعي على الأسئلة الصحية. قد توجه هذه التكنولوجيا الأشخاص نحو العادات الصحية أو الرعاية الطبية اللازمة، ولكنها أيضًا لديها القدرة على التضليل. يمكن للذكاء الاصطناعي في بعض الأحيان اختلاق الحقائق. وإذا كانت إجاباتها مصممة من قبل مواقع ويب لا تستند إلى أسس علمية، فقد تقدم نصائح تتعارض مع الإرشادات الطبية أو قد تعرض صحة الشخص للخطر.

لقد تم بالفعل عرض نظام ينتج إجابات سيئة بناءً على أدلة خاطئة. على سبيل المثال، عندما سُئل “كم عدد الصخور التي يجب أن أتناولها”، طلبت تراكبات الذكاء الاصطناعي من بعض المستخدمين تناول صخرة واحدة على الأقل يوميًا للحصول على الفيتامينات والمعادن. (تمت إزالة النصيحة بصلةموقع ساخر.)

قال الدكتور كارانديب سينغ، كبير مسؤولي الذكاء الاصطناعي الصحي في جامعة كاليفورنيا في سان دييغو هيلث: “لا يمكنك تصديق كل ما تقرأه”. في الصحة، مصدر معلوماتك ضروري.

وقالت هيما بوداراجو، المدير الأول لإدارة المنتجات في جوجل، والتي تساعد في قيادة عملية إصلاح الذكاء الاصطناعي، إن هناك “حواجز أمنية إضافية” أمام عمليات البحث الصحية، لكنها رفضت الخوض في التفاصيل بشأنها. وقال إن عمليات البحث التي تعتبر خطيرة أو واضحة، أو التي تشير إلى أن شخصًا ما في وضع ضعيف، مثل إيذاء النفس، لن تؤدي إلى إطلاق تنبيهات الذكاء الاصطناعي.

ورفضت جوجل تقديم قائمة مفصلة بمواقع الويب التي تدعم المعلومات الواردة في تراكبات الذكاء الاصطناعي، لكنها قالت إنها عملت مع الأداة. خريطة جوجل المعرفيةنظام معلومات حالي يستخرج مليارات الحقائق من مئات المصادر.

تشير إجابات البحث الجديدة إلى بعض الموارد؛ بالنسبة للأسئلة الصحية، غالبًا ما تكون هذه مواقع مثل Mayo Clinic وWebMD ومنظمة الصحة العالمية ومركز البحث العلمي PubMed. لكن هذه ليست قائمة شاملة: يمكن للأداة أيضًا السحب من ويكيبيديا ومنشورات المدونات وReddit ومواقع التجارة الإلكترونية. ولا يخبر المستخدمين عن الحقائق التي جاءت من أي مصادر.

من خلال نتيجة بحث متسقة، يمكن للعديد من المستخدمين التمييز على الفور بين موقع ويب طبي حسن السمعة وشركة حلوى. لكن كتلة النص التي تجمع معلومات من مصادر متعددة يمكن أن تكون مربكة.

وقالت الدكتورة سيما ياسمين، مديرة مبادرة الاتصالات الصحية في جامعة ستانفورد: “إذا كان الناس ينظرون إلى المصدر، فهذا كل شيء”، مضيفة: “لا أعرف ما إذا كان الناس يبحثون أو ما إذا كنا قد قمنا بتثقيفهم بما فيه الكفاية. للنظر “. قالت أبحاثها الخاصة جعلتها المعلومات الخاطئة متشائمة بشأن اهتمام المستخدم العادي بالنظر إلى ما هو أبعد من الإجابة السريعة.

أما عن دقة استجابة الشوكولاتة، فيقول طبيب القلب بجامعة تافتس وأستاذ الطب د. وقال داريوش مظفريان إن بعض الحقائق في الغالب صحيحة، ولخص البحث حول الفوائد الصحية للشوكولاتة. لكنها لا تفرق بين الأدلة القوية المقدمة من التجارب العشوائية والأدلة الضعيفة من الدراسات الرصدية، أو تقدم أي محاذير بشأن الأدلة.

وقال الدكتور مظفريان: صحيح أن الشوكولاتة تحتوي على مضادات الأكسدة. لكن الادعاء بأن استهلاك الشوكولاتة يمكن أن يساعد في منع فقدان الذاكرة؟ وأضاف أنه لم يتم إثبات ذلك بشكل واضح، و”هناك حاجة إلى الكثير من التحذيرات”. إن إدراج مثل هذه الادعاءات بجانب بعضها البعض يعطي الانطباع بأن بعضها قائم على أساس أفضل مما هو عليه في الواقع.

حتى لو لم يتغير العلم وراء إجابة معينة، فقد تتغير الإجابات مع تطور الذكاء الاصطناعي نفسه.

وقالت متحدثة باسم جوجل في بيان: إن الشركة عملت على عرض إخلاء المسؤولية في الردود المطلوبة، بما في ذلك الإشارات إلى معلومات لا ينبغي اعتبارها نصيحة طبية.

ليس من الواضح كيف تقيم النظرات العامة للذكاء الاصطناعي قوة الأدلة أو تأخذ في الاعتبار نتائج الأبحاث المتضاربة، مثل ما إذا كانت القهوة مفيدة لك. قالت الدكتورة ياسمين: “العلم ليس مجموعة من الحقائق الثابتة”. وتساءل هو وغيره من الخبراء عما إذا كانت الأداة تدحض النتائج العلمية القديمة أو ببساطة تفوت الفهم الأخير للمشكلة.

قال الدكتور دانييل بيترمان، الطبيب والباحث في الذكاء الاصطناعي في معهد دانا فاربر للسرطان وبريجهام: «يمكن اتخاذ قرار مهم – التمييز بين جودة الأدلة – بين ما يفعله البشر طوال الوقت وما يفعله الأطباء». ومستشفى النساء. “إنهم يقومون بتحليل الأدلة.”

وقال إنه إذا كانت أدوات مثل نظرة عامة على الذكاء الاصطناعي ستلعب هذا الدور، “فنحن بحاجة إلى فهم أفضل لكيفية تعاملهم مع المصادر المختلفة وكيفية استخدامهم للعدسة النقدية للوصول إلى ملخص”.

قال الخبراء إن النظام الجديد يعزز الاستجابة العامة للذكاء الاصطناعي من خلال روابط فريدة للمواقع الطبية ذات السمعة الطيبة مثل Mayo Clinic وCleveland Clinic، وهذه المواقع المجهولة تشكل مصدر قلق. لقد تصدرت مثل هذه المواقع تاريخيًا نتائج العديد من عمليات البحث الصحية.

وقال متحدث باسم جوجل إن النظرات العامة للذكاء الاصطناعي مصممة لمطابقة أو تلخيص المعلومات التي تظهر في أهم نتائج البحث، ولكن ليس لتحل محل هذا المحتوى. وقال المتحدث إن الهدف من ذلك هو مساعدة الناس على التعرف على المعلومات المتاحة.

ورفضت Mayo Clinic التعليق على الردود الجديدة. وقال ممثل من كليفلاند كلينك إن الأشخاص الذين يبحثون عن معلومات صحية يجب عليهم “البحث مباشرة عن مصادر معروفة وموثوقة” والاتصال بمقدم الرعاية الصحية إذا واجهوا أي أعراض.

قال ممثل عن Scripps Health، وهي منظمة رعاية صحية مقرها كاليفورنيا تم الاستشهاد بها في بعض ملخصات نظرة عامة على الذكاء الاصطناعي، في بيان: “إن الاستشهادات في الإجابات التي تم إنشاؤها بواسطة الذكاء الاصطناعي من Google تساعد في ترسيخ Scripps Health كمصدر حسن السمعة للمعلومات الصحية”.

ومع ذلك، أضاف الممثل: “لدينا مخاوف من أننا لا نستطيع ضمان المحتوى الذي يتم إنتاجه بواسطة الذكاء الاصطناعي بنفس الطريقة التي يمكننا بها بالنسبة للمحتوى الخاص بنا الذي تم التحقق منه من قبل خبرائنا الطبيين”.

وقال الخبراء إنه بالنسبة للأسئلة الطبية، فإن دقة الإجابة ليست مهمة فقط، ولكن أيضًا كيفية تقديمها للمستخدمين. “هل أعاني من نوبة قلبية؟” خذ سؤال وقال الدكتور ريتشارد كومينا، مدير أمراض القلب في مركز ويكسنر الطبي بجامعة ولاية أوهايو، إن استجابة الذكاء الاصطناعي تتكون من ملخص مفيد للأعراض.

ولكن كان عليه أن يقرأ قائمة طويلة من الأعراض قبل أن يطلب منه النص الاتصال بالرقم 911. سأل الدكتور كومينا أيضًا “هل أعاني من سكتة دماغية؟” بحثت عن ذلك. وطلبت من المستخدمين على الخط الأول الاتصال بالرقم 911 – لمعرفة ما إذا كانت الأداة ستنتج استجابة أكثر إلحاحًا. وقال إنه ينصح المرضى الذين يعانون من أعراض نوبة قلبية أو سكتة دماغية بطلب المساعدة على الفور.

وشجع الخبراء الأشخاص الذين يبحثون عن معلومات صحية على التعامل مع الإجابات الجديدة بحذر. في الأساس، يجب على المستخدمين ملاحظة التفاصيل الدقيقة ضمن بعض الإجابات العامة للذكاء الاصطناعي: “هذا لأغراض إعلامية فقط. للحصول على المشورة الطبية أو التشخيص، استشر أحد المتخصصين. الذكاء الاصطناعي التوليدي هو أمر تجريبي.

داني بلوم تقرير مساهم.