آموزش محدودیت های ربات برای انجام ایمن وظایف باز | اخبار MIT

اگر کسی به شما توصیه می کند که “محدودیت های خود را بشناسید”، احتمالاً به شما پیشنهاد می کند که کارهایی مانند ورزش را در حد اعتدال انجام دهید. با این حال، برای ربات، این شعار نشان دهنده محدودیت ها یا محدودیت های یادگیری یک کار خاص در محیط ماشین برای انجام ایمن و صحیح کارهای خانه است.
به عنوان مثال، تصور کنید از یک ربات بخواهید آشپزخانه شما را تمیز کند، در حالی که فیزیک محیط اطراف خود را درک نمی کند. چگونه دستگاه می تواند یک طرح چند مرحله ای عملی ایجاد کند تا اطمینان حاصل شود که اتاق بدون لک است؟ مدلهای زبان بزرگ (LLM) میتوانند آنها را تقریب بزنند، اما اگر مدل فقط روی متن آموزش داده شود، احتمالاً جزئیات کلیدی در مورد محدودیتهای فیزیکی ربات، مانند اینکه تا چه حد میتواند به آن برسد یا موانعی در نزدیکی وجود دارد را از دست میدهد. فقط به LLM ها پایبند باشید و احتمالاً لکه های ماکارونی را از روی تخته های کف خود خواهید گرفت.
برای هدایت روباتها در این وظایف باز، محققان آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT (CSAIL) از مدلهای بصری برای دیدن آنچه در نزدیکی دستگاه است و مدلسازی محدودیتهای آن استفاده کردند. استراتژی تیم شامل طرح ریزی طرحی از سوی LLM است که در شبیه ساز بررسی می شود تا مطمئن شود که ایمن و واقع بینانه است. اگر این توالی اقدامات غیرممکن باشد، مدل زبان طرح جدیدی ایجاد می کند تا زمانی که به برنامه ای برسد که ربات بتواند آن را اجرا کند.
این روش آزمون و خطا، که محققان آن را “برنامه ریزی برای ربات ها از طریق کد رضایت بخش مستمر محدودیت” (PRoC3S) می نامند، برنامه های بلندمدت را آزمایش می کند تا اطمینان حاصل شود که تمام محدودیت ها را برآورده می کنند و به یک ربات اجازه می دهد تا وظایف متنوعی مانند نوشتن فردی را انجام دهد. حروف، رسم ستاره و مرتب سازی و قرار دادن بلوک ها در موقعیت های مختلف. در آینده، PROC3S ممکن است به رباتها کمک کند تا وظایف پیچیدهتری را در محیطهای پویا مانند خانهها انجام دهند، جایی که ممکن است از آنها خواسته شود تا یک کار چند مرحلهای معمول را انجام دهند (مانند “برای من صبحانه درست کن”).
Nishanth Kumar SM ’24، دانشجوی دکترا، نویسنده ارشد یک مقاله گفت: “LLM و سیستم های رباتیک کلاسیک مانند برنامه ریزی کار و حرکت نمی توانند این نوع وظایف را به تنهایی انجام دهند، اما هم افزایی آنها در کنار هم حل مشکلات پایان باز را ممکن می کند.” مقاله جدید PROC3S. ما یک شبیه سازی در حرکت از آنچه در اطراف ربات اتفاق می افتد ایجاد می کنیم و بسیاری از برنامه های عملیاتی ممکن را امتحان می کنیم. مدلهای بینایی به ما کمک میکنند تا دنیای دیجیتالی بسیار واقعی بسازیم که به ربات اجازه میدهد در مورد اقدامات احتمالی برای هر مرحله از یک برنامه افق بلند استدلال کند.
کار این تیم ماه گذشته در مقاله ای در کنفرانس آموزش ربات (CoRL) در مونیخ آلمان ارائه شد.
یک ویدیو پخش کنید
آموزش یک ربات در مورد محدودیت های آن برای کارهای نامحدود
MIT CSAIL
روش محققان از یک LLM از پیش آموزش داده شده روی متن از سراسر اینترنت استفاده کرد. قبل از درخواست از PROC3S برای انجام یک کار، تیم مدل زبان خود را با یک کار مثال (مانند رسم مربع) که به هدف مرتبط بود (کشیدن یک ستاره) ارائه کرد. کار نمونه شامل شرح فعالیت، یک برنامه بلند مدت و جزئیات مربوط به محیط ربات است.
اما این طرح ها در عمل چگونه عملی شدند؟ در شبیه سازی، PROC3S با موفقیت از هر 10 بار، ستاره ها و حروف را ترسیم کرد. همچنین می تواند بلوک های اعداد را در اهرام و خطوط مرتب کند و اشیایی مانند میوه ها را با دقت در بشقاب قرار دهد. در هر یک از این نمایشهای دیجیتال، روش CSAIL وظیفه درخواستی را بهطور پیوستهتر از رویکردهای قابل مقایسه مانند “LLM3” و “Code as Policies” انجام میدهد.
مهندسان CSAIL سپس رویکرد خود را به دنیای واقعی آوردند. روش آنها با آموزش قرار دادن بلوکها در خطوط مستقیم، نقشههایی را بر روی یک بازوی روباتیک ایجاد و اجرا کرد. PROC3S همچنین به دستگاه اجازه می دهد تا بلوک های آبی و قرمز را در کاسه های همسان قرار دهد و همه اشیاء را نزدیک مرکز میز حرکت دهد.
کومار و یکی از نویسندگان، Aidan Curtis SM ’23، که همچنین یک همکار فوق دکتری است که در CSAIL کار می کند، می گویند که این یافته ها نشان می دهد که چگونه LLM می تواند برنامه های ایمن تری ایجاد کند که افراد بتوانند در عمل به آنها اعتماد کنند. محققان یک ربات خانگی را تصور می کنند که می تواند درخواست کلی تری داشته باشد (مانند “برای من تراشه بیاور”) و به طور قابل اعتمادی مراحل خاص مورد نیاز برای انجام آن را درک کند. PROC3S میتواند به یک ربات کمک کند تا برنامههای آزمایشی را در یک محیط دیجیتالی یکسان انجام دهد تا یک مسیر عملی قابل اجرا پیدا کند – و مهمتر از آن، یک صبحانه خوشمزه برای شما بیاورد.
برای کارهای آینده، هدف محققان بهبود نتایج با استفاده از یک شبیهساز فیزیک پیشرفتهتر و گسترش به کارهای پیچیدهتر با افق طولانیتر از طریق تکنیکهای دادهکاوی مقیاسپذیرتر است. علاوه بر این، آنها قصد دارند PROC3S را برای ربات های متحرک مانند چهارپاها برای کارهایی که شامل راه رفتن و اسکن محیط اطراف است، اعمال کنند.
اریک روزن، محقق موسسه هوش مصنوعی، که در این مطالعه شرکت نداشت، گفت: استفاده از مدلهای اولیه مانند ChatGPT برای کنترل اعمال ربات میتواند منجر به رفتار خطرناک یا نادرست ناشی از توهم شود. «PRoC3S این مشکل را با استفاده از مدلهای پایه برای هدایت وظایف در سطح بالا برطرف میکند، در حالی که از تکنیکهای هوش مصنوعی استفاده میکند که صراحتاً درباره جهان استدلال میکند تا از اقدامات ایمن و صحیح مطمئن شود. این ترکیبی از رویکردهای مبتنی بر برنامهریزی و مبتنی بر دادهها میتواند کلید توسعه رباتهایی باشد که قادر به درک و اجرای قابل اعتماد طیف وسیعتری از وظایف نسبت به آنچه در حال حاضر ممکن است، باشد.
نویسندگان مشترک کومار و کورتیس نیز وابسته به CSAIL هستند: جینگ کائو، محقق MIT و استادان دپارتمان مهندسی برق و علوم کامپیوتر MIT، لزلی پاک کائبلینگ و توماس لوزانو-پرز. کار آنها تا حدی توسط بنیاد ملی علوم، دفتر تحقیقات علمی نیروی هوایی، دفتر تحقیقات دریایی، دفتر تحقیقات ارتش، جستجوی اطلاعات MIT و موسسه هوش مصنوعی حمایت شد.



