زبان طبیعی عملکرد LLM را در کدنویسی، برنامه ریزی و رباتیک افزایش می دهد | اخبار MIT


مدل های زبان بزرگ (LLM) به طور فزاینده ای برای کارهای برنامه نویسی و روباتیک مفید می شوند، اما برای مشکلات استدلالی پیچیده تر، به نظر می رسد شکاف بین این سیستم ها و انسان ها زیاد است. این سیستمها بدون توانایی یادگیری مفاهیم جدید مانند انسانها، نمیتوانند انتزاعهای خوبی را شکل دهند – اساساً نمایشهای سطح بالایی از مفاهیم پیچیده که جزئیات کمتر مهم را حذف میکنند – و در نتیجه وقتی از آنها خواسته میشود کارهای پیچیده را انجام دهند، دچار تزلزل میشوند.
خوشبختانه، محققان آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT (CSAIL) گنجینه ای از انتزاعات به زبان طبیعی را کشف کرده اند. در سه مقاله که در کنفرانس بینالمللی نمایشهای یادگیری در این ماه ارائه میشود، این گروه نشان میدهد که چگونه کلمات روزمره ما منبع غنی بافت برای مدلهای زبان هستند و به آنها کمک میکنند تا بازنماییهای جامع بهتری برای ترکیب کد، برنامهریزی هوش مصنوعی و ناوبری و دستکاری رباتیک بسازند. .
سه چارچوب مجزا، کتابخانههایی از انتزاعات را برای وظایف خود میسازند: لیلو (استقراء کتابخانه از مشاهدات زبان) می تواند کد را ترکیب، فشرده و مستند کند. جهنم (اکتساب دامنه اقدام) تصمیم گیری ثابت برای عوامل هوش مصنوعی را بررسی می کند. و LGA (انتزاع با هدایت زبان) به ربات ها کمک می کند تا محیط خود را بهتر درک کنند تا برنامه های عملی تری ایجاد کنند. هر سیستم یک روش عصبی نمادین است، نوعی از هوش مصنوعی که شبکههای عصبی انسانی و اجزای منطق برنامهای را ترکیب میکند.
LILO: یک چارچوب عصبی نمادین که رمزگذاری می شود
از مدلهای زبان بزرگ میتوان برای نوشتن سریع راهحلها برای کارهای کدگذاری در مقیاس کوچک استفاده کرد، اما هنوز نمیتوانند کل کتابخانههای نرمافزاری را مانند آنچه توسط مهندسان نرمافزار انسانی نوشته شدهاند طراحی کنند. برای گسترش قابلیتهای توسعه نرمافزار، مدلهای هوش مصنوعی باید کد را در کتابخانههای برنامههای کوتاه، قابل خواندن و قابل استفاده مجدد بازسازی کنند (کاهش و ترکیب کنند).
ابزارهای بازسازی مانند آنهایی که قبلا توسط MIT توسعه یافته بودند کوک الگوریتم می تواند به طور خودکار انتزاع ها را شناسایی کند، بنابراین محققان CSAIL با اشاره به Lilo و Stitch دیزنی، این رویکردهای بازسازی الگوریتمی را با LLM ترکیب کردند. روش عصبی نمادین LILO آنها از LLM استاندارد برای نوشتن کد استفاده میکند، سپس آن را به Stitch متصل میکند تا انتزاعیهایی را پیدا کند که به طور جامع در یک کتابخانه مستند شدهاند.
تاکید منحصر به فرد LILO بر زبان طبیعی به سیستم اجازه می دهد تا کارهایی را انجام دهد که به عقل سلیم انسانی نیاز دارد، مانند شناسایی و حذف تمام حروف صدادار از یک رشته کد و ترسیم دانه های برف. در هر دو مورد، سیستم CSAIL بهتر از LLM های مستقل و همچنین الگوریتم یادگیری کتابخانه MIT قبلی به نام DreamCoder عمل کرد و توانایی خود را در ایجاد درک عمیق تر از کلمات در اعلان ها نشان داد. این نتایج دلگرمکننده به این نکته اشاره میکند که LILO چگونه میتواند در مواردی مانند نوشتن برنامههایی برای دستکاری اسنادی مانند صفحات گسترده اکسل، کمک به هوش مصنوعی در پاسخ به سؤالات مربوط به تجسمسازی و ترسیم گرافیکهای دوبعدی کمک کند.
Gabe Grand SM ’23، دانشجوی دکترای MIT در رشته مهندسی برق و علوم کامپیوتر، شریک CSAIL و نویسنده اصلی این مطالعه، گفت: «مدلهای زبان ترجیح میدهند با توابعی که به زبان طبیعی نامگذاری شدهاند کار کنند». کار ما انتزاعهای واضحتری برای مدلهای زبان ایجاد میکند و نامها و اسناد زبان طبیعی را به هر کدام اختصاص میدهد، که در نتیجه کدهای قابل تفسیر بیشتری برای برنامهنویسان ایجاد میکند و عملکرد سیستم را بهبود میبخشد.»
هنگامی که برای یک کار برنامهنویسی از شما خواسته میشود، LILO ابتدا از LLM برای پیشنهاد سریع راهحلها بر اساس دادههایی که روی آنها آموزش دیده است، استفاده میکند و سپس سیستم به آرامی به طور جامعتری برای راهحلهای خارجی جستجو میکند. سپس Stitch به طور موثر ساختارهای رایج در کد را شناسایی می کند و انتزاعات مفید را استخراج می کند. اینها سپس به طور خودکار توسط LILO نامگذاری و مستند می شوند و در نتیجه برنامه های ساده شده ای ایجاد می شود که می تواند توسط سیستم برای حل وظایف پیچیده تر استفاده شود.
چارچوب MIT برنامههایی را در زبانهای برنامهنویسی دامنه خاص مانند Logo مینویسد، زبانی که در MIT در دهه 1970 برای آموزش برنامهنویسی به کودکان توسعه یافت. بزرگسازی الگوریتمهای بازسازی خودکار برای مدیریت زبانهای برنامهنویسی عمومیتر مانند پایتون، تمرکزی برای تحقیقات آینده خواهد بود. با این حال، کار آنها نشان دهنده یک گام به جلو در این است که چگونه مدل های زبان می توانند فعالیت های کدگذاری پیچیده را تسهیل کنند.
آدا: زبان طبیعی برنامه ریزی وظایف هوش مصنوعی را راهنمایی می کند
درست مانند برنامهنویسی، مدلهای هوش مصنوعی که کارهای خانگی چند مرحلهای و بازیهای ویدیویی مبتنی بر فرمان را خودکار میکنند، فاقد انتزاع هستند. تصور کنید در حال پختن صبحانه هستید و از هم اتاقی خود بخواهید که یک تخم مرغ داغ را سر میز بیاورد – او به طور شهودی دانش اولیه اش از آشپزی در آشپزخانه شما را به دنباله ای از اقدامات انتزاعی می کند. در مقابل، یک LLM که در اطلاعات مشابه آموزش دیده است، هنوز در مورد آنچه که برای ساختن یک برنامه انعطافپذیر نیاز دارد، استدلال میکند.
چارچوب Ada به رهبری CSAIL که به نام ریاضیدان معروف آدا لاولیس نامگذاری شده است، که بسیاری او را اولین برنامه نویس جهان می دانند، این چارچوب را با توسعه کتابخانه هایی از طرح های اولیه مفید برای کارهای مجازی و بازی های آشپزخانه ارتقا می دهد. این روش در مورد وظایف بالقوه و توصیف زبان طبیعی آنها آموزش داده می شود، سپس یک مدل زبانی انتزاع عملی را از این مجموعه داده پیشنهاد می کند. یک اپراتور انسانی بهترین برنامه ها را در یک کتابخانه یادداشت و فیلتر می کند تا بتوان بهترین اقدامات ممکن را در طرح های سلسله مراتبی برای وظایف مختلف پیاده سازی کرد.
لیو وانگ، محقق ارشد آدا، دانشجوی کارشناسی ارشد MIT در رشته مغز و علوم شناختی، شریک CSAIL و یکی از نویسندگان LILO می گوید: «به طور سنتی، مدل های زبان بزرگ به دلیل مسائلی مانند استدلال در مورد انتزاعات، با وظایف پیچیده تری دست و پنجه نرم می کردند. اما ما میتوانیم ابزارهایی را که مهندسان نرمافزار و رباتیکها استفاده میکنند با LLM برای حل مشکلات سخت، مانند تصمیمگیری در محیطهای مجازی، ترکیب کنیم.»
هنگامی که محققان مدل زبان بزرگ GPT-4 را به طور گسترده در Ada گنجانیدند، سیستم وظایف بیشتری را در شبیه ساز آشپزخانه و Mini Minecraft نسبت به خط پایه تصمیم گیری هوش مصنوعی Code-as-Rules انجام داد. آدا از اطلاعات اولیه پنهان شده در زبان طبیعی استفاده می کند تا بفهمد چگونه شراب خنک را در کابینت قرار داده و یک تخت بسازد. نتایج نشان دهنده بهبود خیره کننده در دقت کار به ترتیب 59 و 89 درصد است.
با این موفقیت، محققان امیدوارند کار خود را به خانه های واقعی تعمیم دهند، با این امید که آدا بتواند در سایر کارهای خانگی کمک کند و به چندین روبات در آشپزخانه کمک کند. در حال حاضر، محدودیت اصلی آن استفاده از یک LLM عمومی است، بنابراین تیم CSAIL میخواهد یک مدل زبان قویتر و دقیقتر را پیادهسازی کند که میتواند به برنامهریزی گستردهتر کمک کند. وانگ و همکارانش همچنین در حال بررسی ترکیب Ada با یک چارچوب دستکاری رباتیک تازه از CSAIL: LGA (انتزاع هدایتشده زبان) هستند.
انتزاع با هدایت زبان: نمایشی برای وظایف روباتیک
Andi Peng SM ’23، یک دانشجوی مهندسی برق و علوم کامپیوتر در MIT و یکی از شرکتهای وابسته به CSAIL، و همکارانش روشی را برای کمک به ماشینها توسعه دادهاند که به ماشینها کمک میکند محیط اطراف خود را بیشتر شبیه انسان تفسیر کنند و جزئیات غیر ضروری را در محیطهای پیچیده مانند کارخانهها حذف کنند. یا یک آشپزخانه درست مانند LILO و Ada، LGA تمرکز جدیدی بر این دارد که چگونه زبان طبیعی ما را به این انتزاعات بهتر هدایت می کند.
در این محیطهای بدون ساختار بیشتر، یک ربات حتی با آموزشهای اولیه از قبل، به عقل سلیم در مورد آنچه که وظیفه دارد نیاز دارد. به عنوان مثال از یک ربات بخواهید که یک کاسه را به شما بدهد و ماشین به درک کلی از اینکه کدام ویژگی در محیط اطرافش مهم است نیاز دارد. از آنجا، می تواند در مورد نحوه ارائه کالای مورد نظر به شما استدلال کند.
در مورد LGA، افراد ابتدا یک مدل زبان از پیش آموزش دیده با توصیف کلی از کار با استفاده از زبان طبیعی ارائه می دهند، مانند “کلاهم را برای من بیاور”. سپس مدل این اطلاعات را به انتزاعی در مورد عناصر اساسی مورد نیاز برای انجام آن کار ترجمه می کند. در نهایت، یک خط مشی تقلیدی که بر روی چندین نمایش آموزش داده شده است، می تواند این انتزاعات را برای هدایت ربات به سمت گرفتن آیتم مورد نظر اعمال کند.
کارهای قبلی انسان را ملزم میکرد تا یادداشتهای دقیقی در مورد کارهای مختلف دستکاری برای پیشآموزش یک ربات بگیرد که میتوانست گران باشد. قابلتوجه، LGA مدلهای زبان را برای تولید انتزاعهایی شبیه به حاشیهنویسان انسانی، اما در زمان کمتر هدایت میکند. برای نشان دادن این موضوع، LGA سیاستهای رباتیکی را برای کمک به Boston Dynamics با چهارپای Spot در برداشت میوه و انداختن نوشیدنی در سطل بازیافت توسعه داد. این آزمایشها نشان میدهد که چگونه روش توسعهیافته MIT میتواند جهان را اسکن کند و برنامههای مؤثری را در محیطهای بدون ساختار ایجاد کند، که به طور بالقوه وسایل نقلیه خودران در جادهها و روباتهای کار در کارخانهها و آشپزخانهها را هدایت میکند.
پنگ میگوید: «در رباتیک، حقیقتی که اغلب نادیده میگیریم این است که چقدر باید دادههایمان را اصلاح کنیم تا یک ربات در دنیای واقعی مفید باشد. فراتر از به خاطر سپردن آنچه در تصویر برای آموزش رباتها برای انجام وظایف وجود دارد، میخواستیم از بینایی رایانه و الگوهای زیرنویس در ارتباط با زبان استفاده کنیم. با ایجاد زیرنویسهای متنی از آنچه ربات میبیند، نشان میدهیم که مدلهای زبان اساساً میتوانند دانش مهم جهانی را برای ربات بسازند.
چالش LGA این است که برخی از رفتارها را نمی توان به زبان توضیح داد و باعث می شود که برخی وظایف مشخص نشده باشند. پنگ و همکارانش برای گسترش شیوه نمایش ویژگیها در یک محیط، در نظر دارند رابطهای تجسم چندوجهی را در کار خود بگنجانند. در همین حال، LGA راهی برای رباتها فراهم میکند تا در هنگام کمک به انسان، حس بهتری از محیط اطراف خود داشته باشند.
یک “مرز هیجان انگیز” در هوش مصنوعی
رابرت هاوکینز، استادیار دانشگاه ویسکانسین-مدیسون که در این مقاله دخالتی نداشت، میگوید: «یادگیری کتابخانه یکی از هیجانانگیزترین مرزها در هوش مصنوعی را نشان میدهد، و راهی برای کشف و استدلال بر روی انتزاعات ترکیبی ارائه میدهد. هاوکینز خاطرنشان میکند که تکنیکهای قبلی برای بررسی این موضوع «از لحاظ محاسباتی برای استفاده در مقیاس بسیار گران بوده است» و با لامبداهایی که تولید میکنند یا کلمات کلیدی مورد استفاده برای توصیف ویژگیهای جدید در بسیاری از زبانها مشکل دارند. آنها تمایل دارند «سالادهای لامبدا» مات تولید کنند، تودههای بزرگی از عملکردهایی که تفسیر آنها دشوار است. این مقالات اخیر با قرار دادن مدلهای زبان بزرگ در یک حلقه تعاملی با جستجوی نمادین، فشردهسازی و الگوریتمهای زمانبندی، راه جذابی را به جلو نشان میدهند. این کار امکان دستیابی سریع به کتابخانه های قابل تفسیر و سازگارتر را برای کار در دست فراهم می کند.
با ساختن کتابخانههایی از انتزاعهای کد با کیفیت بالا با استفاده از زبان طبیعی، سه روش عصب نمادین، مدیریت مسائل و محیطهای پیچیدهتر را در آینده برای مدلهای زبان آسانتر میکنند. این درک عمیق تر از کلمات کلیدی دقیق در یک اعلان، راهی به جلو در توسعه مدل های هوش مصنوعی شبیه انسان ارائه می دهد.
اعضای MIT CSAIL نویسندگان ارشد هر مقاله هستند: Joshua Tenenbaum، استاد علوم مغز و شناختی، هم برای LILO و هم Ada. جولی شاه، رئیس بخش هوانوردی و فضانوردی، LGA؛ و جاکوب آندریاس، دانشیار مهندسی برق و علوم کامپیوتر، برای هر سه. همه نویسندگان اضافی MIT دانشجویان دکترا هستند: مدی باورز و تئو ایکس اولاسون برای LILO، جیایوان مائو و پراتیوشا شارما برای آدا، و بلیندا زی لی برای LGA. موکسین لیو از کالج هاروی ماد با همکاری LILO; Zachary Siegel از دانشگاه پرینستون، Jaihai Feng از دانشگاه کالیفرنیا، برکلی، و Noah Korneev از مایکروسافت در نویسندگان مشترک Ada; و Ilya Sukholutzky، Theodore R. Summers، و Thomas L. Griffiths از پرینستون از نویسندگان مشترک LGA بودند.
LILO و Ada تا حدی توسط MIT Quest for Intelligence، MIT-IBM Watson AI Lab، Intel، دفتر تحقیقات علمی نیروی هوایی ایالات متحده، آژانس پروژه های تحقیقاتی پیشرفته دفاعی ایالات متحده، و دفتر تحقیقات دریایی ایالات متحده پشتیبانی می شدند. پروژه اخیر همچنین از مرکز مغزها، ذهن ها و ماشین ها بودجه دریافت می کند. LGA از بنیاد ملی علوم ایالات متحده، بشر دوستی باز، شورای تحقیقات علوم طبیعی و مهندسی کانادا، و وزارت دفاع ایالات متحده کمک مالی دریافت کرده است.




