Effectiveness of ChatGPT and DeepSeek in Urology Medical Education: Randomized Controlled Trial.

چکیده اصلی

BACKGROUND: Since its release in November 2022, generative AI (GenAI) tools, including ChatGPT, have gained widespread attention across various sectors, including medical education. OBJECTIVE: This study seeks to examine the effectiveness and feasibility of GenAI tools (ChatGPT o3‑mini [OpenAI] and DeepSeek R1) in enhancing urology teaching outcomes for medical undergraduates. METHODS: We assessed the accuracy of responses from ChatGPT o3-mini and DeepSeek R1 to authoritative urology multiple-choice questions. Then, a randomized controlled trial was performed to compare the learning outcomes of students using ChatGPT o3-mini and DeepSeek R1 with those using traditional learning methods. Additionally, a questionnaire was designed to survey medical undergraduates' perspectives on the application of AI in urology education. RESULTS: DeepSeek R1 demonstrated higher accuracy than ChatGPT o3-mini in answering urology-related multiple-choice questions. In the test following the self-study period, the DeepSeek R1 group surpassed both the control and ChatGPT o3-mini groups in total scores across various question types. Despite the superior scores in the ChatGPT o3-mini group, statistical significance was not achieved relative to the control group. Survey results revealed that most students had a positive attitude toward AI-assisted learning, believing it could effectively enhance medical education. CONCLUSIONS: DeepSeek-assisted self-study was associated with higher posttest scores than traditional internet-based learning, whereas ChatGPT showed numerically higher but nonsignificant results. These findings offer evidence-based insights into the embedding of GenAI within medical education frameworks, providing guidance for educators in developing teaching strategies and for institutions in formulating relevant policies.

ترجمه فارسی چکیده

پیش‌زمینه: از زمان انتشار در نوامبر ۲۰۲۲، ابزارهای هوش مصنوعی تولیدکننده متن، از جمله چت‌جی‌پی‌تی، توجه گسترده‌ای در بخش‌های مختلف، از جمله آموزش پزشکی، جلب کرده‌اند. هدف: این مطالعه به بررسی اثربخشی و امکان‌سنجی ابزارهای هوش مصنوعی تولیدکننده متن (چت‌جی‌پی‌تی o3‑mini [OpenAI] و دیپ‌سیک R1) در بهبود نتایج آموزشی اورولوژی برای دانشجویان پزشکی می‌پردازد. روش‌ها: ما دقت پاسخ‌های چت‌جی‌پی‌تی o3‑mini و دیپ‌سیک R1 به سوالات چندگزینه‌ای معتبر اورولوژی را ارزیابی کردیم. سپس یک آزمایش کنترل شده تصادفی برای مقایسه نتایج یادگیری دانشجویانی که از چت‌جی‌پی‌تی o3‑mini و دیپ‌سیک R1 استفاده می‌کردند با دانشجویانی که از روش‌های یادگیری سنتی استفاده می‌کردند، انجام شد. علاوه بر این، یک پرسشنامه طراحی شد تا نظرات دانشجویان پزشکی در مورد کاربرد هوش مصنوعی در آموزش اورولوژی مورد بررسی قرار گیرد. نتایج: دیپ‌سیک R1 در پاسخ به سوالات چندگزینه‌ای مرتبط با اورولوژی دقت بالاتری نسبت به چت‌جی‌پی‌تی o3‑mini نشان داد. در آزمون پس از دوره مطالعه شخصی، گروه دیپ‌سیک R1 در امتیازات کل در انواع سوالات، هم از گروه کنترل و هم از گروه چت‌جی‌پی‌تی o3‑mini پیشی گرفت. با وجود امتیازات برتر در گروه چت‌جی‌پی‌تی o3‑mini، معناداری آماری نسبت به گروه کنترل حاصل نشد. نتایج پرسشنامه نشان داد که اکثر دانشجویان دیدگاه مثبتی نسبت به یادگیری کمک‌هوشمندانه هوش مصنوعی دارند و معتقدند که می‌توانند آموزش پزشکی را به طور مؤثر تقویت کنند. نتیجه‌گیری: مطالعه شخصی کمک‌یافته به دیپ‌سیک با امتیازات پس‌آزمون بالاتری نسبت به یادگیری مبتنی بر اینترنت سنتی مرتبط بود، در حالی که چت‌جی‌پی‌تی نتایج عددی بالاتری اما غیرمعنادار نشان داد. این یافته‌ها بینش‌های مبتنی بر شواهد در مورد ادغام هوش مصنوعی تولیدکننده متن در چارچوب‌های آموزش پزشکی ارائه می‌دهند و راهنمایی برای معلمان در توسعه استراتژی‌های آموزشی و برای نهادها در تدوین سیاست‌های مرتبط ارائه می‌دهند.

متن کامل اصلی