How appropriate are ChatGPT-5's answers to acne questions?: A category-based evaluation by dermatologists.

چکیده اصلی

Online conversational tools have become increasingly common sources of health information, with many patients seeking acne advice through such platforms. Although they may enhance awareness and encourage early consultation, their medical reliability remains uncertain. Because acne is one of the most frequently searched dermatologic conditions, verifying the accuracy of automated responses is crucial to prevent misinformation. This study aimed to evaluate ChatGPT-5 responses to frequently asked acne questions in dermatology practice and to determine category-specific strengths and limitations based on blinded expert assessment. The analysis focused on identifying error patterns with potential implications for patient education and clinical safety. Twenty-five commonly asked patient questions were classified into 4 categories: skin care routine, nutrition and lifestyle, diagnosis and general information, and treatment and medications. Each question was entered into the publicly available ChatGPT-5 interface in 3 independent sessions, yielding 75 unique responses. Three dermatologists independently rated each response as "appropriate" or "inappropriate," and reasons for rejection were categorized using a predefined 9-item list. Of 75 responses, 49 (65.3%) were appropriate. Appropriateness was highest for skin care (83.3%) and nutrition (77.8%) and lowest for treatment (50.0%) and diagnosis (33.3%). Inter-rater agreement was low. The most frequent reasons for inappropriateness were misleading information and overly technical language, followed by lack of risk disclosure. ChatGPT-5 may provide helpful introductory information for patients; however, diagnostic and treatment guidance often lacked clarity and safety detail, underscoring the need for dermatologist oversight.

ترجمه فارسی چکیده

ابزارهای گفتگوی آنلاین منابع رایج اطلاعات سلامت شده‌اند و بسیاری از بیماران برای مشاوره آکنه از این پلتفرم‌ها استفاده می‌کنند. اگرچه این ابزارها می‌توانند آگاهی را افزایش دهند و مشاوره زودهنگام را تشویق کنند، اما اعتمادپذیری پزشکی آن‌ها نامشخص است. این مطالعه هدف داشت تا پاسخ‌های ChatGPT-5 به سوالات متداول آکنه را در عمل پوست‌پزشکی ارزیابی کند و نقاط قوت و محدودیت‌های مخصوص هر دسته را بر اساس ارزیابی تخصصی ناشناس تعیین نماید. تحلیل بر شناسایی الگوهای خطا با اهمیت بالقوه برای آموزش بیمار و ایمنی بالینی تمرکز داشت. ۲۵ سوال متداول بیمار در ۴ دسته طبقه‌بندی شدند: روتین مراقبت پوست، تغذیه و سبک زندگی، تشخیص و اطلاعات عمومی، و درمان و داروها. هر سوال در ۳ جلسه مستقل در رابط عمومی ChatGPT-5 وارد شد که منجر به ۷۵ پاسخ منحصر‌به‌فرد گردید. سه پوست‌پزشک به‌طور مستقل هر پاسخ را «مناسب» یا «نامناسب» ارزیابی کردند و دلایل رد به‌کارگیری یک لیست ۹ آیتمی از پیش تعیین شده طبقه‌بندی شدند. از ۷۵ پاسخ، ۴۹ (۶۵.۳٪) مناسب بودند. مناسب‌بودن در مراقبت پوست (۸۳.۳٪) و تغذیه (۷۷.۸٪) بیشترین و در درمان (۵۰.۰٪) و تشخیص (۳۳.۳٪) کمترین میزان بود. توافق بین ارزیاب‌ها پایین بود. شایع‌ترین دلایل نامناسب بودن اطلاعات گمراه‌کننده و زبان فنی بیش از حد بود، که به دنبال آن نبودن افشای ریسک قرار داشت. ChatGPT-5 ممکن است اطلاعات مقدماتی مفیدی برای بیماران ارائه دهد؛ با این حال، راهنمایی تشخیصی و درمانی اغلب شفافیت و جزئیات ایمنی را نداشت که نیاز به نظارت پوست‌پزشکان را برجسته می‌کند.

متن کامل اصلی