3 سؤال: نحوه کمک به دانش آموزان در تشخیص تعصبات احتمالی در مجموعه داده های هوش مصنوعی خود | اخبار MIT


هر سال ، هزاران دانش آموز دوره هایی را می گذرانند که به آنها می آموزد که چگونه مدل های هوش مصنوعی را مستقر کنند که می تواند به پزشکان کمک کند تا بیماری ها را تشخیص دهند و درمان های مناسب را تعیین کنند. با این حال ، بسیاری از این دوره ها یک عنصر اصلی را از دست می دهند: آموزش دانشجویی برای تشخیص مضرات در داده های آموزش مورد استفاده برای توسعه مدل ها.
لئو آنتونی سلی ، یک دانشمند ارشد علمی در انستیتوی مهندسی پزشکی و علوم در MIT ، پزشک مرکز پزشکی بث اسرائیل دیاسون و استادیار دانشکده پزشکی هاروارد ، این کاستی ها را در یک مستند می کند مقاله جدید و او امیدوار است که توسعه دهندگان دوره ها را ترغیب کند تا به دانشجویان آموزش دهند تا داده های خود را با جزئیات بیشتری ارزیابی کنند ، قبل از اینکه آن را در مدل های خود بگنجانند. بسیاری از مطالعات قبلی نشان داده اند که مدل ها ، که بیشتر بر روی داده های بالینی توسط مردان سفید پوست آموزش دیده اند ، در هنگام استفاده از گروه های دیگر به خوبی کار نمی کنند. در اینجا ، سلی تأثیر چنین تعصب و چگونگی معلمان می تواند آن را در آموزه های خود برای مدل های هوش مصنوعی انجام دهد.
در: چگونه اعتیادها این مجموعه داده ها را وارد می کنند و چگونه می توان به این مضرات رسیدگی کرد؟
الف: تمام مشکلات داده در هر مدل سازی داده پخته می شود. در گذشته ، ما ابزارها و دستگاههایی را توصیف کرده ایم که برای افراد خوب کار نمی کند. به عنوان نمونه ، ما دریافتیم که اکسیمز Impulse سطح اکسیژن را برای افراد رنگارنگ بیش از حد ارزیابی می کند ، زیرا افراد رنگارنگ کافی در آزمایشات بالینی دستگاه ها ثبت نشده اند. ما به دانش آموزان خود یادآوری می کنیم که وسایل پزشکی و تجهیزات در مردان جوان سالم بهینه شده اند. آنها هرگز برای یک زن 80 ساله با نارسایی قلبی بهینه نشده اند و با این وجود ما از آنها برای این اهداف استفاده می کنیم. و FDA نیازی به دستگاه ندارد تا روی این جمعیت متنوعی که از آن استفاده خواهیم کرد ، به خوبی کار کند. تمام آنچه آنها نیاز دارند اثبات این است که روی اشیاء سالم کار می کند.
علاوه بر این ، سیستم سوابق الکترونیکی سلامت به شکلی است که به عنوان عناصر ساختمان AI استفاده می شود. این سوابق به گونه ای طراحی نشده اند که یک سیستم آموزشی باشد و به همین دلیل باید مراقب استفاده از سوابق الکترونیکی سلامت باشید. سیستم سوابق الکترونیکی سلامت باید جایگزین شود ، اما این به زودی اتفاق نمی افتد ، بنابراین ما باید باهوش تر باشیم. ما باید در استفاده از داده هایی که اکنون داریم ، هرچند بد ، در ساخت الگوریتم ها خلاق تر باشیم.
یکی از مسیری امیدوارکننده که ما در حال بررسی آن هستیم ، توسعه داده های ترانسفورماتور دیجیتال در سوابق E -Health ، از جمله نتایج آزمایشگاه آزمایشگاهی است اما محدود به آن نیست. مدل سازی پیوند اصلی بین آزمایشات آزمایشگاهی ، علائم زندگی و درمان می تواند تأثیر داده های مفقود شده را در نتیجه عوامل تعیین کننده اجتماعی اعتیاد های ضمنی به سلامت و تأمین کننده کاهش دهد.
در: چرا برای دوره های AI مهم است که منابع تعصب بالقوه را پوشش دهند؟ هنگام تجزیه و تحلیل محتوای چنین دوره هایی ، چه چیزی پیدا کردید؟
الف: دوره MIT ما از سال 2016 آغاز شد و در یک لحظه متوجه شدیم که ما مردم را ترغیب می کنیم تا در ساخت مدل هایی که در برخی از اقدامات آماری از کارآیی مدل تجسم یافته اند ، به رقابت بپردازیم وقتی که در واقع داده هایی که ما استفاده می کنیم با مشکلاتی که مردم آگاه نیستند ، بزرگ است. در آن زمان ما تعجب می کردیم: این مشکل چقدر مشترک است؟
این ظن ما بود که اگر به دوره هایی که برنامه درسی بصورت آنلاین یا دوره های آنلاین در دسترس بود ، نگاهی بیندازید ، هیچ یک از آنها حتی نگران این نیستند که به دانش آموزان بگویند که باید در مورد داده ها پارانوئید باشند. و به اندازه کافی واقعی وقتی به دوره های مختلف آنلاین نگاه کردیم ، همه چیز مربوط به ساختن مدل است. چگونه مدل را می سازید؟ چگونه داده ها را تجسم می کنید؟ ما دریافتیم که از 11 دوره ای که به آن نگاه کردیم ، فقط پنج بخش از اعتیاد در مجموعه داده ها و تنها دو مورد حاوی بحث قابل توجهی در مورد تعصب بودند.
این گفته شد که ما نمی توانیم جای خود را به این دوره ها بدهیم. من داستانهای زیادی را شنیده ام که در آن افراد بر اساس این دوره های آنلاین خودکشی می کنند ، اما در عین حال ، با توجه به اینکه چقدر آنها تأثیرگذار هستند ، چقدر تأثیرگذار هستند ، ما باید واقعاً از نیاز آنها دو برابر شویم تا مهارت های مناسب را آموزش دهیم زیرا بیشتر و بیشتر افراد به این مولتیوهای هوش مصنوعی جذب می شوند. برای افراد مهم است که واقعاً خود را به آژانس تجهیز کنند تا بتوانند با هوش مصنوعی همکاری کنند. ما امیدواریم که این سند یک پروژکتور از این رسوب عظیم را به روشی که اکنون به دانش آموزان خود آموزش می دهیم ، بدرخشد.
در: دوره های شامل چه نوع محتوا باید شامل شود؟
الف: یکی ، در ابتدا لیست کنترل سؤالات را به آنها می دهد. این اطلاعات از کجا آمده است؟ ناظران چه کسی بودند؟ چه کسی پزشکان و پرستاری بودند که داده ها را جمع آوری کردند؟ و سپس کمی در مورد چشم انداز این نهادها بیاموزید. اگر این یک بانک اطلاعاتی ICU است ، آنها باید بپرسند که چه کسی این کار را در ICU انجام می دهد و چه کسی به ICU نمی رسد ، زیرا این قبلاً یک تعصب نمونه برداری را معرفی می کند. اگر همه بیماران اقلیت حتی در ICU بستری نباشند زیرا نمی توانند به موقع به ICU برسند ، مدل ها برای آنها کار نمی کنند. در واقع ، برای من ، 50 درصد از محتوای دوره واقعاً باید داده ها را درک کنند ، اگر نه بیشتر ، زیرا مدل سازی خود پس از درک داده ها آسان است.
از سال 2014 ، کنسرسیوم داده های بحرانی MIT در حال سازماندهی Datathons (داده های “Hackathons”) در سراسر جهان است. در این اجتماعات ، پزشکان ، پرستاران ، سایر کارکنان بهداشت و دانشمندان داده جمع آوری می شوند تا از طریق پایگاه داده ها ترکیب شوند و سعی در بررسی سلامت و بیماری ها در زمینه محلی داشته باشند. کتابهای درسی و اسناد مجله بیماری ها را بر اساس مشاهدات و آزمایشات مربوط به یک شکل جمعیتی باریک ، معمولاً از کشورهایی که دارای منابع تحقیقاتی هستند ، ارائه می دهند.
هدف اصلی ما در حال حاضر ، آنچه می خواهیم به آنها آموزش دهیم مهارت های تفکر انتقادی است. و ماده اصلی تفکر انتقادی ، اتحاد افراد با منشأ مختلف است.
شما نمی توانید تفکر انتقادی را در یک اتاق پر از مدیران یا در اتاقی پر از پزشک آموزش دهید. محیط فقط در آنجا نیست. وقتی ما دیتاتانس داریم ، حتی لازم نیست به آنها بیاموزیم که چگونه تفکر انتقادی را انجام می دهید. به محض اینکه ترکیب صحیح مردم را به ارمغان می آورید – و نه تنها با منشأ مختلف بلکه از نسل های مختلف – حتی لازم نیست به آنها بگویید که چگونه به طور انتقادی فکر کنند. این فقط اتفاق می افتد محیط برای این نوع تفکر مناسب است. بنابراین ، اکنون ما به شرکت کنندگان و دانش آموزان خود می گوییم ، لطفاً ساخت هیچ مدلی را شروع نکنید ، مگر اینکه واقعاً درک کنید که چگونه داده ها از منشا گرفته شده اند ، کدام بیماران آن را به پایگاه داده تبدیل کرده اند ، از چه دستگاه هایی برای اندازه گیری استفاده شده است و این دستگاه ها دائماً برای افراد دقیق هستند؟
هنگامی که ما در سراسر جهان وقایع داریم ، آنها را ترغیب می کنیم تا به دنبال مجموعه های داده محلی باشند تا مناسب باشند. مقاومت وجود دارد زیرا آنها می دانند که آنها می دانند که مجموعه داده های آنها چقدر بد است. ما می گوییم که خوب است. در اینجا نحوه رفع این مشکل آورده شده است. اگر نمی دانید چقدر بد هستند ، به جمع آوری آنها به روشی بسیار بد ادامه خواهید داد و آنها بی فایده هستند. باید اعتراف کنید که برای اولین بار آن را برطرف نخواهید کرد و این کاملاً خوب است. MIMIC (اطلاعات پزشکی مشخص شده برای یک بانک اطلاعاتی فشرده ساخته شده در مرکز پزشکی Deaconess Beth Israel) یک دهه قبل از اینکه یک طرح مناسب داشته باشیم ، طول کشید و فقط یک طرح مناسب داریم زیرا مردم به ما گفته اند که بیان چهره چقدر بد است.
ما ممکن است پاسخ همه این سؤالات را نداشته باشیم ، اما می توانیم در افراد چیزی ایجاد کنیم ، که به آنها کمک می کند تا درک کنند که مشکلات زیادی در داده ها وجود دارد. من همیشه هیجان زده ام که به پست های وبلاگ توسط افرادی که در Datathon شرکت کرده اند ، که می گویند دنیای آنها تغییر کرده است ، هیجان زده ام. آنها اکنون مجذوب تر از این زمینه هستند زیرا از پتانسیل عظیم آگاه هستند ، اما در صورت عدم انجام صحیح این کار ، خطر عظیم آسیب را نیز دارند.




