آیا هوش مصنوعی حکمرانی در مورد استفاده از فناوری فتوولتائیک را برای همیشه تغییر داده است؟

از هفت اصل مطرح شده در دستورالعمل چهاردهم ICMS برای هوش مصنوعی در مراقبت دارویی، نظارت انسانی ممکن است بیشترین سردرگمی را ایجاد کند.
این گزارش در اواخر سال 2025 پس از یک فرآیند اجماع بین المللی جامع شامل نهادهای نظارتی، محققان دانشگاهی و صنعت علوم زیستی منتشر شد.1 بهجای تلاش برای «قانونگذاری» یک فناوری خاص، دستورالعملها حول هفت اصل قابل اجرا سازماندهی شدهاند: رویکرد مبتنی بر ریسک، نظارت انسانی، اعتبار و قابلیت اطمینان، شفافیت، حریم خصوصی دادهها، انصاف و برابری، و حاکمیت و مسئولیتپذیری.
از جمله یافتههای مورد استفاده در این گزارش عظیم این است که قابلیت اطمینان یک سیستم هوش مصنوعی را نمیتوان بهعنوان یک تمرین یکبار انجام داد. تا زمانی که این سیستم در حال استفاده است باید درست باقی بماند. اما این در عمل به چه معناست؟ در جایی که پیشنویس قبلی راهنمایی در اینجا سبکتر از توصیهها بود (چیزی که در طول یک دوره مشاوره مطرح شد)، نسخه نهایی نشان میدهد که چگونه چارچوب پیشنهادی با سازمانهای نظارتی و سیستمهای کیفیتی که در حال حاضر استفاده میشوند، مطابقت دارد. همچنین آنچه را که به عنوان مدرکی برای یکپارچگی مداوم سیستم مورد نیاز است، روشن می کند.
ریسک به عنوان راهنمای قطعی مدیریت
این
این طرز تفکر است که باید رویکردهای نظارت انسانی و نحوه اندازهگیری آن را به عنوان بخشی از مجموعه گستردهتری از مقررات حاکمیتی هدایت کند. وجود نظارت انسانی به تنهایی یک نتیجه قابل اعتماد را تضمین نمی کند. همچنین باید بر اساس ریسک شناسایی شده تطبیق داده شود. این چیزی است که شرکت ها هنوز با آن دست و پنجه نرم می کنند.
با توجه به مقررات مربوط به اعتبار و پایداری، دستورالعملهای CIOMS نیاز به نظارت را فراتر از نقطه راهاندازی مشخص میکنند که میتواند دوباره در زمینه ریسک قرار گیرد. ورودیهای یک مدل هوش مصنوعی از موردی به مورد دیگر متفاوت خواهد بود، در حالی که درخواستها همراه با نسخه اصلی مدل هوش مصنوعی تکامل یافته و تغییر میکنند. اعتبارسنجی یک سیستم یک بار، درست قبل از فعال شدن یک مورد استفاده جدید از هوش مصنوعی، کافی نیست.
تصمیم گیری در مورد زمانی که یک سیستم هوش مصنوعی ارزیابی می کند
بنابراین چگونه سیم های PV می توانند تعیین کنند که یک
در مورد اینکه چه زمانی باید کارشناسان PV مربوطه را درگیر کرد، این نیز در راهنما ارائه شده است. پس از کش و قوس های زیاد در مورد موضوع، گروه کاری به نفع مشارکت زودهنگام SME ها (به طور ایده آل از مرحله مفهومی یک پروژه جدید مبتنی بر هوش مصنوعی) تصمیم گرفت تا شانس پیش بینی و پرداختن به نقاط کور بالقوه با مدل هوش مصنوعی پیشنهادی را قبل از شروع کار واقعی به حداکثر برساند.
استفاده آگاهانه از اعتماد یک بار نشان داده شد
از جمله پیامدهای این دستورالعملها، مواردی است که در مورد رویکردهای بررسی دستی فعلی و اینکه چگونه تیمها با انجام آن بازبینیها فقط در مواقع ضروری سازگار میشوند – زمانی که هنوز غریزه این است که همه چیز را مرتباً برای اطمینان بررسی کنید. راهنمایی (در حدود سطح یا عمق کنترلهای انسانی که به تدریج کاهش مییابد زیرا اعتماد به عملکرد معمول هوش مصنوعی افزایش مییابد) را میتوان به عنوان ۱۲ ماه متوالی نتایج قابل اعتماد و قابل اعتماد تفسیر کرد که به اندازه کافی شاخص خوبی برای کاهش بازبینیهای دستی است – به عنوان مثال. فقط آن دسته از بازیابی دادهها با برچسبهای اطمینان پایین بازگردانده شدند. با این حال، هیچ چیزی در اینجا رسمی نشده است و پذیرش نظارتی بسیار مهم خواهد بود. در حال حاضر، دستورالعمل های CIOMS خواستار ادامه گفتگو بین صنعت و تنظیم کننده ها هستند.
فراتر از حوزه
از این گذشته، اعتماد به یک سیستم هوش مصنوعی چیزی نیست که بتوان آن را یک بار ثابت کرد و سپس فرض کرد که ثابت بماند. باید با هر عرضه مدل جدید، هر به روز رسانی مجدداً نشان داده شود و برای هر سال سیستم در حال تولید باقی بماند. در آینده، حکمرانی باید هم فراگیر باشد و هم نظم و انضباط مستمری باشد که سازمانها مستقیماً در نحوه عملکرد خود تعبیه کنند.
جیسون برایانت مدیر کل پلتفرم های هوش مصنوعی در آریس گلوبال است.
این مقاله بر اساس بحث پادکست تبادل هوش مصنوعی ArisGlobal با دنی لورنز، یکی از اعضای فعال گروه کاری CIOMS XIV است.
مراجع
- شورای سازمان های بین المللی علوم پزشکی (CIOMS)، “هوش مصنوعی در مراقبت دارویی”، گزارش چهاردهم گروه کاری CIOMS، ژنو، 4 دسامبر 2025.
https://cioms.ch/working_groups/working-group-xiv-artificial-intelligence-in-pharmacovigilance/ - آژانس دارویی اروپا و سازمان غذا و داروی ایالات متحده، “EMA و FDA اصول مشترکی را برای هوش مصنوعی در توسعه دارو تعیین کردند”، 14 ژانویه 2026.
https://www.ema.europa.eu/en/news/ema-fda-set-common-principles-ai-medicine-development-0




