مقالات

آیا هوش مصنوعی حکمرانی در مورد استفاده از فناوری فتوولتائیک را برای همیشه تغییر داده است؟


از هفت اصل مطرح شده در دستورالعمل چهاردهم ICMS برای هوش مصنوعی در مراقبت دارویی، نظارت انسانی ممکن است بیشترین سردرگمی را ایجاد کند.

این گزارش در اواخر سال 2025 پس از یک فرآیند اجماع بین المللی جامع شامل نهادهای نظارتی، محققان دانشگاهی و صنعت علوم زیستی منتشر شد.1 به‌جای تلاش برای «قانون‌گذاری» یک فناوری خاص، دستورالعمل‌ها حول هفت اصل قابل اجرا سازماندهی شده‌اند: رویکرد مبتنی بر ریسک، نظارت انسانی، اعتبار و قابلیت اطمینان، شفافیت، حریم خصوصی داده‌ها، انصاف و برابری، و حاکمیت و مسئولیت‌پذیری.

از جمله یافته‌های مورد استفاده در این گزارش عظیم این است که قابلیت اطمینان یک سیستم هوش مصنوعی را نمی‌توان به‌عنوان یک تمرین یک‌بار انجام داد. تا زمانی که این سیستم در حال استفاده است باید درست باقی بماند. اما این در عمل به چه معناست؟ در جایی که پیش‌نویس قبلی راهنمایی در اینجا سبک‌تر از توصیه‌ها بود (چیزی که در طول یک دوره مشاوره مطرح شد)، نسخه نهایی نشان می‌دهد که چگونه چارچوب پیشنهادی با سازمان‌های نظارتی و سیستم‌های کیفیتی که در حال حاضر استفاده می‌شوند، مطابقت دارد. همچنین آنچه را که به عنوان مدرکی برای یکپارچگی مداوم سیستم مورد نیاز است، روشن می کند.

ریسک به عنوان راهنمای قطعی مدیریت

این هوش مصنوعی در چارچوب PV تاکید زیادی بر ریسک به عنوان پایه و اساس همه اصول با هم دارد. به این معنا که یک رویکرد مبتنی بر ریسک باید همه اقدامات دیگر را تعیین کند، در مقابل یک استراتژی فراگیر برای تحت کنترل نگه داشتن هوش مصنوعی – که خود شکست خواهد بود. همه عناصر دیگر (سطح شواهد، نظارت و مستندات مورد نیاز یک مورد استفاده از هوش مصنوعی) باید بر اساس آنچه در صورت شکست هوش مصنوعی در خطر است تعیین شود. یادداشت‌های راهنما، ابزار تهیه پیش‌نویس مورد استفاده برای یادداشت‌های داخلی و سیستمی که مستقیماً به ارزیابی علیت وارد می‌شود، به سطوح بسیار متفاوتی از بررسی نیاز دارند.

این طرز تفکر است که باید رویکردهای نظارت انسانی و نحوه اندازه‌گیری آن را به عنوان بخشی از مجموعه گسترده‌تری از مقررات حاکمیتی هدایت کند. وجود نظارت انسانی به تنهایی یک نتیجه قابل اعتماد را تضمین نمی کند. همچنین باید بر اساس ریسک شناسایی شده تطبیق داده شود. این چیزی است که شرکت ها هنوز با آن دست و پنجه نرم می کنند.

با توجه به مقررات مربوط به اعتبار و پایداری، دستورالعمل‌های CIOMS نیاز به نظارت را فراتر از نقطه راه‌اندازی مشخص می‌کنند که می‌تواند دوباره در زمینه ریسک قرار گیرد. ورودی‌های یک مدل هوش مصنوعی از موردی به مورد دیگر متفاوت خواهد بود، در حالی که درخواست‌ها همراه با نسخه اصلی مدل هوش مصنوعی تکامل یافته و تغییر می‌کنند. اعتبارسنجی یک سیستم یک بار، درست قبل از فعال شدن یک مورد استفاده جدید از هوش مصنوعی، کافی نیست.

تصمیم گیری در مورد زمانی که یک سیستم هوش مصنوعی ارزیابی می کند

بنابراین چگونه سیم های PV می توانند تعیین کنند که یک یک مورد جدید استفاده از هوش مصنوعی آیا آماده پخش زنده است؟ راهنمای CIOMS شامل یک ابزار عملی برای قضاوت در مورد آماده بودن یک مورد استفاده از هوش مصنوعی در قالب یک “شبکه کنترل” (در اصل یک ابزار تشخیصی) است. این امر به تصمیم گیرندگان کمک می کند تا در ملاحظاتی مانند اینکه آیا ریسک به طور رسمی ارزیابی شده است یا خیر، آیا فرآیند نظارت به درستی فرموله شده است و آیا پیش بینی هایی برای بررسی منظم مدیریت وجود دارد یا خیر، کمک می کند. تا زمانی که چنین معیارهایی شناسایی و مورد توجه قرار گیرند، نیازی به توقف پیشرفت نیست.

در مورد اینکه چه زمانی باید کارشناسان PV مربوطه را درگیر کرد، این نیز در راهنما ارائه شده است. پس از کش و قوس های زیاد در مورد موضوع، گروه کاری به نفع مشارکت زودهنگام SME ها (به طور ایده آل از مرحله مفهومی یک پروژه جدید مبتنی بر هوش مصنوعی) تصمیم گرفت تا شانس پیش بینی و پرداختن به نقاط کور بالقوه با مدل هوش مصنوعی پیشنهادی را قبل از شروع کار واقعی به حداکثر برساند.

استفاده آگاهانه از اعتماد یک بار نشان داده شد

از جمله پیامدهای این دستورالعمل‌ها، مواردی است که در مورد رویکردهای بررسی دستی فعلی و اینکه چگونه تیم‌ها با انجام آن بازبینی‌ها فقط در مواقع ضروری سازگار می‌شوند – زمانی که هنوز غریزه این است که همه چیز را مرتباً برای اطمینان بررسی کنید. راهنمایی (در حدود سطح یا عمق کنترل‌های انسانی که به تدریج کاهش می‌یابد زیرا اعتماد به عملکرد معمول هوش مصنوعی افزایش می‌یابد) را می‌توان به عنوان ۱۲ ماه متوالی نتایج قابل اعتماد و قابل اعتماد تفسیر کرد که به اندازه کافی شاخص خوبی برای کاهش بازبینی‌های دستی است – به عنوان مثال. فقط آن دسته از بازیابی داده‌ها با برچسب‌های اطمینان پایین بازگردانده شدند. با این حال، هیچ چیزی در اینجا رسمی نشده است و پذیرش نظارتی بسیار مهم خواهد بود. در حال حاضر، دستورالعمل های CIOMS خواستار ادامه گفتگو بین صنعت و تنظیم کننده ها هستند.

فراتر از حوزه PV به طور خاص، رگولاتورها بر روی تفکری مشابه در مورد ریسک، حاکمیت و هوش مصنوعی، از جمله نیاز به نظارت مداوم بر استفاده از سیستم مستقر در طول زمان، همگرایی دارند. در اوایل سال 2026، FDA و EMA به طور مشترک 10 دستورالعمل خود را صادر کردند که استفاده از هوش مصنوعی را در طول چرخه زندگی داروها پوشش می دهد.2

از این گذشته، اعتماد به یک سیستم هوش مصنوعی چیزی نیست که بتوان آن را یک بار ثابت کرد و سپس فرض کرد که ثابت بماند. باید با هر عرضه مدل جدید، هر به روز رسانی مجدداً نشان داده شود و برای هر سال سیستم در حال تولید باقی بماند. در آینده، حکمرانی باید هم فراگیر باشد و هم نظم و انضباط مستمری باشد که سازمان‌ها مستقیماً در نحوه عملکرد خود تعبیه کنند.

جیسون برایانت مدیر کل پلتفرم های هوش مصنوعی در آریس گلوبال است.

این مقاله بر اساس بحث پادکست تبادل هوش مصنوعی ArisGlobal با دنی لورنز، یکی از اعضای فعال گروه کاری CIOMS XIV است.

مراجع
  1. شورای سازمان های بین المللی علوم پزشکی (CIOMS)، “هوش مصنوعی در مراقبت دارویی”، گزارش چهاردهم گروه کاری CIOMS، ژنو، 4 دسامبر 2025. https://cioms.ch/working_groups/working-group-xiv-artificial-intelligence-in-pharmacovigilance/
  2. آژانس دارویی اروپا و سازمان غذا و داروی ایالات متحده، “EMA و FDA اصول مشترکی را برای هوش مصنوعی در توسعه دارو تعیین کردند”، 14 ژانویه 2026. https://www.ema.europa.eu/en/news/ema-fda-set-common-principles-ai-medicine-development-0


Source link

نوشته های مشابه

همچنین ببینید
بستن
دکمه بازگشت به بالا