When Innovation Leaves People Behind: Reframing Accountability in Commercial Digital Health.

چکیده اصلی

Digital technologies are increasingly integrated across health care systems; however, accumulating evidence shows that these tools often perform unevenly across population groups. Biases in AI-enabled tools can reinforce existing health inequities, particularly when systems are developed and validated using datasets that exclude underserved populations. Studies demonstrate systematic underestimation of illness severity, diagnostic inaccuracies, and measurement bias affecting ethnic minority groups, rural populations, people with disabilities, people experiencing homelessness, and other groups with limited access to health care. These disparities highlight structural vulnerabilities in the data that inform machine learning systems, where socially patterned access to care shapes what is recorded and therefore learned. Commercial adoption patterns further exacerbate inequities due to socioeconomic gradients in digital engagement and a lack of accountability measures for adherence to regulatory frameworks within National Health Service procurement processes. In this Viewpoint, we argue that ensuring accountability in digital health care requires transparent reporting of subgroup performance, representative development of datasets, and ongoing monitoring of distributional impacts. Achieving equitable and reliable digital health care demands regulatory and methodological standards that prioritize fairness and generalizability within the commercialization sector and are monitored across the pre- and postdeployment life cycle.

ترجمه فارسی چکیده

تکنولوژی‌های دیجیتال به تدریج در سیستم‌های مراقبت سلامت ادغام می‌شوند؛ با این حال، شواهد تجمعی نشان می‌دهد که این ابزارها اغلب به طور نابرابر در گروه‌های جمعیتی عمل می‌کنند. سوگیری‌های ابزارهای مبتنی بر هوش مصنوعی می‌توانند نابرابری‌های موجود سلامت را تقویت کنند، به ویژه زمانی که سیستم‌ها با استفاده از مجموعه داده‌هایی توسعه و اعتبارسنجی می‌شوند که جمعیت‌های تحت پوشش کم‌توجهی را حذف می‌کنند. مطالعات نشان می‌دهند که تخمین سیستماتیک شدت بیماری، خطاهای تشخیصی و سوگیری‌های اندازه‌گیری که گروه‌های اقلیت قومی، جمعیت‌های روستایی، افراد دارای معلولیت، افراد تجربه‌کننده بی‌خانمانی و سایر گروه‌هایی با دسترسی محدود به مراقبت سلامت را تحت تأثیر قرار می‌دهند. این نابرابری‌ها آسیب‌پذیری‌های ساختاری در داده‌هایی را که سیستم‌های یادگیری ماشین را هدایت می‌کنند، برجسته می‌کنند، جایی که دسترسی اجتماعی‌شکل‌یافته به مراقبت شکل‌دهنده آن چیزی است که ثبت و در نتیجه یادگیری می‌شود. الگوهای پذیرش تجاری نابرابری‌ها را به دلیل گرادیان‌های اقتصادی-اجتماعی در مشارکت دیجیتال و نبود معیارهای مسئولیت‌پذیری برای رعایت چارچوب‌های نظارتی در فرآیندهای خرید خدمات سلامت ملی، تشدید می‌کنند. در این دیدگاه، ما استدلال می‌کنیم که تضمین مسئولیت‌پذیری در مراقبت سلامت دیجیتال نیازمند گزارش شفاف عملکرد زیرگروهی، توسعه نماینده مجموعه داده‌ها و نظارت مداوم بر تأثیرات توزیعی است. دستیابی به مراقبت سلامت دیجیتال عادلانه و قابل اعتماد نیازمند استانداردهای نظارتی و روش‌شناختی است که عدالت و کلیت‌پذیری را در بخش تجاری‌سازی اولویت‌بندی کنند و در طول چرخه حیات پیش از و پس از پیاده‌سازی نظارت شوند.

متن کامل اصلی