آیا هوش مصنوعی می تواند منصفانه تصمیم بگیرد که چه کسی پیوند عضو انجام می دهد؟


برای پاسخگویی به چالش نحوه توزیع اندام ، واکسن و سایر انواع مراقبت های بهداشتی ، سازمان ها به هوش مصنوعی و تجزیه و تحلیل متکی هستند. اما بسیاری از آنها ملاحظات اخلاقی را بعنوان یک فکر پیگیری تلقی می کنند. این یک اشتباه است چنین عواملی باید در ابتدای تلاش برای ایجاد الگوریتم یا مدل تحلیل هوش مصنوعی مورد توجه قرار گیرند.

سازمان های بهداشتی ، مانند بسیاری از مشاغل دیگر ، در تلاش برای به حداکثر رساندن بهره وری عملیاتی در یک محیط محدود به منابع ، با چالش های جدی روبرو هستند. این تلاش یک بیمارستان برای بهینه سازی کارکنان باشد یا دولتی که سعی در توزیع و توزیع عادلانه دوزهای واکسن Covid-19 دارد ، این وظایف می تواند بسیار زیاد باشد. یک روش امیدوار کننده برای مدیریت پیچیدگی شامل تجزیه و تحلیل و هوش مصنوعی مبتنی بر داده (AI) است.

چنین تکنیک هایی ، گرچه قدرتمند هستند ، همچنین می توانند مفروضات اخلاقی بنیادی مسئله دار را پنهان کنند و یا به نتایج اخلاقی مشکوکی منجر شوند. مطالعه ای را که اخیراً منتشر شده است ، در نظر بگیرید که در برخی از بیمارستانهای پیشرفته از نظر فناوری برای کمک به اولویت بندی بیماران پیوند کلیه در بیماران مزمن کلیه ، استفاده شده است. مشخص شد که این مدل ها بیماران سیاه پوست را مورد تبعیض قرار می دهند: اگر عملکرد کلیه آنها با همان فرمول بیماران سفید پوست ارزیابی شود ، یک سوم بیماران سیاه پوست در یک گروه شدیدتر از بیماری کلیوی قرار می گیرند. “اگرچه این تنها آخرین مورد از بسیاری از مطالعات است که نقایص چنین مدلهایی را نشان می دهد ، بعید است که آخرین باشد.

آیا می توان از هوش مصنوعی و تجزیه و تحلیل به گونه ای استفاده کرد که کارایی عملیاتی را بهبود بخشد بدون اینکه اصول اخلاقی ما را به خطر بیندازد؟ پاسخ مثبت است – اگر اهداف و محدودیت های اخلاقی که اکنون غالباً به عنوان یک فکر اضافی در نظر گرفته می شوند ، از همان ابتدا هنگام طراحی مدل ها در نظر گرفته شوند. ما در مورد تجربیات اخیر در زمینه ترکیب اخلاق ، تجزیه و تحلیل و کارایی عملیاتی در جهان تخصیص اعضا بحث خواهیم کرد و به درسی که برای سایر حوزه های مراقبت های بهداشتی و فراتر از آن دارد نگاه خواهیم کرد.

مرکز پنجره

یک چالش اساسی برای ازدواج با اخلاق و کارآیی ایجاد تعادل بین اهداف مختلف است. برخی از این اهداف فقط به کارایی (مثلاً سالهای امید به زندگی ، نجات جان ، بهبود کیفیت زندگی ، هزینه های کل) مربوط می شوند و اغلب می توانند به صورت ریاضی تنظیم شوند. موارد دیگر مربوط به ابعاد اخلاقی تصمیمات تخصیص است و یا توصیف آنها دشوار است و یا به روشهای مختلف ناسازگار است. در مورد پیوند اعضا ، علاوه بر شاخص های مختلف عملکردی که سیاستگذاران از آنها مراقبت می کنند ، ممکن است بسیاری از ملاحظات متناقض عدالت وجود داشته باشد که باید مورد توجه قرار گیرند تا بیماران بر اساس لیست طولانی عوامل مورد تبعیض قرار نگیرند. مانند نژاد ، جنسیت ، سن و موقعیت جغرافیایی.

روش فعلی با تخصیص با استفاده از یک فرمول ارزیابی سروکار دارد که براساس تعدادی از معیارهای مختلف (واجد شرایط) مانند زمان انتظار ، مراقبت های پزشکی فوری ، نزدیکی به اهدا کننده و غیره به متقاضیان امتیاز می دهد. با این حال ، تصمیم گیری در مورد تعداد امتیازات اعطای یک معیار کاری دلهره آور است: تغییر تعداد امتیازات در هر معیار می تواند نتایج را در برخی ابعاد بهبود بخشد ، اما آنها را در میان بسیاری دیگر بدتر می کند ، اغلب به روش های غیر قابل پیش بینی. سازمان ها برای ارائه مدلی که سیاست مورد نظر را اجرا می کند ، به طور معمول تعدادی فرمول ارزیابی را تهیه می کنند و با انجام شبیه سازی آنها را آزمایش می کنند. سپس امیدوار کننده ترین ها در دنیای واقعی آشکار می شوند و اگر مشخص شود که برای گروهی از بیماران محروم هستند ، بهبود می یابند. به عبارت دیگر ، تجزیه و تحلیل انصاف از طریق پست انجام می شود و اثرات تبعیض آمیز در حال حرکت مشخص می شود.

توجه به تعهدات اخلاقی در اواخر بازی ، دستیابی به نتایج قابل قبول اخلاقی را به سه دلیل دشوار می کند:

  • تصمیمات اجرایی ، مانند تخصیص اعضای بدن ، شامل فرایندها ، افراد و سایر منابع است که تغییر آنها پس از اجرا دشوار است.
  • از آنجا که افراد ممکن است تحمل کمی نسبت به تبعیض یا سایر نتایج غیرمنصفانه داشته باشند ، ارزیابی اخلاقی بعدی ممکن است منجر به رد شدید مدل ها و تصمیمات مراقبت های بهداشتی شود.
  • عدم رعایت اصول اخلاقی از همان ابتدا آرزوها را محدود می کند – یا ، به عبارت دیگر ، تجدید نظر در عملکردها پس از عمل ممکن است برداشت از آنچه در عمل قابل دستیابی است را منحرف کند.

روند ایده آل با درک آغاز می شود همه چيز از ابعاد هدف و سپس تلاش برای پیدا کردن بهترین راه برای رسیدن به همه آنها تا حد ممکن. بنابراین تهیه مدلها و فرایندهای تجزیه و تحلیل داده ها که از همان ابتدا می خواهند همه اهداف از جمله ملاحظات اخلاقی را متعادل کنند ضروری است.

برای تخصیص اعضای بدن برای پیوند ، این بدان معنی است که حتی قبل از شروع به ساخت الگوریتم های هوش مصنوعی یا مدل های تجزیه و تحلیل ، به اخلاق “ورق خالی” می دهید تا نتایج توزیع را عادلانه توصیف کند. به عنوان مثال ، چند درصد از اعضای بدن باید به سیاه پوستان یا زنان ارائه شود؟ به محض پرداختن به این موضوعات و وجود ستاره شمالی در افق ، از داده ها ، هوش مصنوعی و تجزیه و تحلیل برای ایجاد سیاستی استفاده کنید که این اهداف را تحقق می بخشد ، یا حداقل تا حد امکان به آنها نزدیک می شود.

به عنوان مثال ، یکی از ما بر روی ابزاری آنلاین کار کرده است که از این روش برای تسهیل توسعه سیاست های تخصیص ریه استفاده می کند. رابط این ابزار از “لغزنده” استفاده می کند که به سیاست گذاران اجازه می دهد تا تعیین کنند که شاخص های مهم عملکرد و اخلاق در رابطه با وضعیت موجود تغییر خواهند کرد. سپس ، با استفاده از شبیه سازی ، یادگیری ماشین و بهینه سازی ریاضی ، این ابزار یک سیاست توزیع مناسب ایجاد می کند – یعنی. چند امتیاز برای هر روز در لیست انتظار ، برای هر سال اضافی از زندگی پس انداز ، برای هر مایل که کاندیدا به آن نزدیکتر است ، و غیره

این رویکرد اخلاق در طراحی که توصیف کردیم به دنبال دستیابی به نوعی “تعادل انعکاسی” (استفاده از اصطلاحی مربوط به فیلسوف جان راولز) است که در آن اخلاق و کسانی که نهادها را اداره می کنند با شناسایی مجموعه ای از ملاحظات شروع می کنند. برای نامزدهایی که مهم به نظر می رسند (در مورد اعضای بدن ممکن است پیش آگهی ، امید به زندگی و غیره باشد). سپس از این تحلیل برای مدل سازی روشهای مختلف تجارت این ملاحظات و نتایج حاصل استفاده می شود. نتیجه این تجزیه و تحلیل توسط همه ذینفعان مربوطه ارائه و مورد توجه قرار گرفته و منجر به تجدیدنظر در لیست ملاحظات یا وزن دهی آنها می شود که منجر به دور جدیدی از تجزیه و تحلیل ها و غیره می شود. وقتی ذینفعان می گویند ، “من فکر می کنم که شما بیش از حد حق بیمه برای سن تعیین می کنید” ، “می توان اسلایدرها را تنظیم کرد” تا به آنها نشان دهد دقیقاً چه اتفاقی می افتد در صورت تغییر مصالحه ، که می تواند بحث بیشتری ایجاد کند و (امیدوارم ) درک بیشتر

نمونه توزیع اندام همچنین شامل درسهایی در زمینه انتشار واکسنهای تایید شده Covid-19 در ماههای آینده است. مقامات برای توزیع و توزیع با چالش مهمی روبرو خواهند شد: با توجه به اینکه تولید و توزیع ظرفیت برای تأمین تقاضای زیاد ماهها به طول خواهد انجامید ، کشورهای جهان باید تصمیم بگیرند که چه کسی می تواند ابتدا واکسینه شود. انواع ابزارها و اصولی که در مورد آنها بحث کردیم می تواند کمک کند.


منبع: bighat-news.ir

Leave a reply

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>