Ба Windows ва GitHub Copilot овардани моделҳои маҳаллӣ ва абзорҳои қумӣ

Ҳангоми истифодаи агентҳо, таҳиягарон ҳам ба интихоб ва ҳам назорат ниёз доранд. Онҳо ба технологияҳое ниёз доранд, ки барои агентҳои худ сарҳадҳои возеҳ пешниҳод мекунанд ва интихоби моделро бо суръат, кор ва профили арзиш барои ҳар як вазифа осон мекунанд. Аз ин рӯ, GitHub моделҳои сарҳадӣ аз провайдерҳои асосии моделҳо ва инчунин имконоти ба монанди Project HydraFusion, оркестре, ки як ё якчанд моделҳоро барои ҳар як вазифа интихоб мекунад, ҳангоми мувозинат кардани кор, арзиш ва таъхир. Аз ин рӯ, Windows Microsoft Containers Execution Containers (MXC) -ро таҳия кардааст, то барои таъмини бехатарии сессияҳои рамзгузории агентии интерактивӣ ва ғайриинтерактивӣ кӯмак расонад.

Дар охири моҳ, GitHub Copilot муайян хоҳад кард, ки кай вазифа тавассути иктишофии дастгоҳ беҳтар иҷро карда мешавад ва кай он бояд моделҳои миқёси абрро истифода барад. Ба ҷои маҷбур кардани таҳиягарон барои идоракунии қарорҳои инфрасохтор, GitHub Copilot ба таври худкор хулосаҳои маҳаллӣ ва абриро паси парда ҳамоҳанг мекунад. Барои NVIDIA RTX Spark Windows компютерҳои фардӣ ба монанди Surface Laptop Ultra, ин маънои онро дорад, ки мо рамзгузории маҳаллиро дар GitHub Copilot бо моделҳои пурқуввати маҳаллӣ ва сахтафзор имкон медиҳем, ки таҷрибаи олиро дар канор пешкаш кунанд.

Натиҷа интизор аст, ки қадами навбатӣ дар рӯъёи HydraFusion бошад: оркестри интеллектуалӣ, ки на танҳо моделҳои гуногун, балки муҳитҳои ҳисоббарории сершумор, аз ҷумла канорро дар бар мегирад. GitHub Copilot метавонад фармонҳоро дар ин муҳитҳо бо дастрасии назоратшаванда ба файлҳо, шабакаҳо, қобилиятҳои система ва маълумоти эътимоднок иҷро кунад. Таҳиягарон метавонанд бо боварӣ ва амният автоматӣ кунанд.

Чаро хотира барои агенти рамзгузории маҳаллӣ муҳим аст

Хулосаи маҳаллӣ аз буҷаи хотира оғоз мешавад. Surface Laptop Ultra дар атрофи NVIDIA RTX Spark сохта шудааст, ки то 128 ГБ хотираи ягона ва то 1 петафлоп ҳисоббарории AI дорад.

Бо GPU дискретӣ, хотираи видеоии бахшидашуда як маҳдудияти муҳим аст: интиқоли маълумоти моделӣ байни хотираи система ва GPU метавонад хароҷоти изофӣ илова кунад. Хотираи ягона ба CPU ва GPU дастрасӣ ба ҳавзи физикии муштарак медиҳад. Ин имкон медиҳад, ки иқтидори бештарро барои сарбории корӣ дастрас кунад, аммо ин ҳама онро барои модели вазнҳо дастрас намекунад.

Системаи оператсионӣ, замимаҳои шумо ва вақти иҷрои хулоса низ ба хотира ниёз доранд. Кэш-арзиши калидӣ, ки ҳолати таваҷҷӯҳро барои нишонаҳо, ки модел аллакай коркард кардааст, нигоҳ медорад. Вақте ки агент файлҳоро мехонад ва натиҷаҳои асбобро мегирад, контексти он метавонад афзоиш ёбад, истифодаи хотира ва кори заруриро барои коркарди дархости навбатӣ афзоиш диҳад.

Нигоҳ доштани модел дар байни дархостҳо метавонад аз кори такрории боркунӣ пешгирӣ кунад. Аммо, он вақти вокуниши доимиро кафолат намедиҳад; дарозии контекст, фишори хотира ва боқимондаи сарбории корӣ ҳоло ҳам муҳим аст. Аз ин рӯ, саволи муфид на танҳо он аст, ки оё модел мувофиқат мекунад, балки он аст, ки чӣ гуна он дар як вазифаи пурраи рамзгузорӣ рафтор мекунад.

Муаррифии MAI Code 1.1 Flash барои рамзгузории маҳаллӣ

Барои ба ҳаёт овардани ин таҷрибаи рушди маҳаллӣ, Microsoft AI версияи маҳаллии MAI Code 1.1 Flash-ро таҳия кард, ки модели омехтаи коршиносон бо рамзгузорӣ оптимизатсияшуда бо 137 миллиард умумӣ ва 6,8 миллиард параметрҳои фаъол. Кор дар дастгоҳ квантизатсия ва рамзгузории спекулятсиониро барои кам кардани изофаи модел ва беҳтар кардани вокуниши ниҳоӣ дар баробари нигоҳ доштани иҷрои вазифа ва сифати истифодаи асбоб, ки дар ҳалқаи агент муҳим аст, татбиқ мекунад.

Квантизатсия дақиқии истифодашавандаро барои муаррифии вазнҳо ва фаъолсозии модел коҳиш медиҳад ва талаботи хотираро коҳиш медиҳад. Азбаски код ба таври возеҳ таназзул намекунад, арзёбии релиз бояд муваффақияти вазифаи рамзгузорӣ ва инчунин изи пойро чен кунад: як аломати нодуруст метавонад хатои синтаксисӣ, идентификатори нодуруст, занги асбоби нодуруст ё фарқияти шикастаро ба вуҷуд орад.

Рамзи спекулятсионавӣ хотираи кории иловагиро барои гузариши баландтари рамзкушоӣ ва таъхири поён ба охир савдо мекунад. Таҳиягар блокҳои аломати номзадро пешниҳод мекунад ва модели ҳадаф онҳоро тафтиш мекунад.

Барои агенти рамзгузорӣ, бартарии муҳим ин аст, ки оё модели хурдтар метавонад ҳамон вазифаҳоро иҷро кунад. Пойгоҳи хурдтар танҳо дар сурати фаҳмидани тағирот дар сифати код ва истифодаи асбоб муфид аст.

Бо версияи аввалини интиқоли MAI Code 1.1 Flash дар Surface Laptop Ultra мо ба иҷрои зерин дар дарозии контексти гуногун ноил мешавем, бо истифодаи баландтарин хотираи 75,5 ГБ дар контексти 256к. Дар контексти 64k ва 128k, интиқоли коркарди фаврӣ мутаносибан ба 923,5 ва 769,8 токен дар як сония мерасад.

Версияи квантии MAI Code 1.1 Flash, ки мо дар дастгоҳ истифода мебарем, қобилиятро дар муқоиса бо варианти абрии Bfloat16, ки дар 53 ГБ меояд, 80% кам кардани андоза нигоҳ медорад.

Ду роҳи истифодаи моделҳои маҳаллӣ дар GitHub Copilot

GitHub Copilot ду роҳи истифодаи моделҳои маҳаллиро дар GitHub Copilot CLI, барномаи Copilot ва Code VS илова мекунад. Таҳиягарон метавонанд ба оркестри зеҳнии Auto Copilot иҷозат диҳанд, ки кай истифода бурдани хулосаи маҳаллӣ ё абриро интихоб кунанд ё онҳо метавонанд ба таври возеҳ модели маҳаллиро барои ҷараёнҳои корӣ, ки назорати мустақимро талаб мекунанд, интихоб кунанд.

Бо Auto, таҳиягарон лозим нест, ки қарор кунанд, ки ҳар як вазифа бояд дар куҷо иҷро карда шавад. Дар давоми як сессияи бисёрҷанба, Copilot метавонад контексти вазифа ва ҳолати кэшро баррасӣ кунад, зеро он корро байни моделҳои маҳаллӣ ва абрӣ масир мекунад ва ҳангоми таҳаввулоти сессия кори муфид ва кэшро нигоҳ медорад.

Ин таҷрибаи тартибдодашуда интихоби мустақими моделро мукаммал мекунад ва ба таҳиягарон имкон медиҳад, ки интихоби оптимизатсияи ҷойгиркунии модели Copilot ва интихоби модели мушаххаси маҳаллиро худашон интихоб кунанд.

Интихоби возеҳи модели маҳаллӣ ҷараёнҳои корро дастгирӣ мекунад, ки ба провайдери мушаххас, модел ё нуқтаи ниҳоӣ ниёз доранд. Таҳиягарон метавонанд MAI Code 1.1 Flash-ро тавассути провайдери Windows ML интихоб кунанд ё GitHub Copilot-ро ба нуқтаҳои ниҳоии маҳаллии бо OpenAI мувофиқ пайваст кунанд ва аз моделҳое, ки ин нуқтаҳо фош мекунанд, интихоб кунанд.

Чӣ тавр қуттиҳои регҳо барои бехатарии иҷрои асбоб кӯмак мекунанд

Фармонҳои қабати агент одатан дастрасии ҳисоберо, ки онҳоро идора мекунад, мерос мегиранд. Гузаронидани хулоса ба дастгоҳ инро тағир намедиҳад. Sandboxing сиёсатеро ба равандҳо ва хидматҳои маҳаллии агент оғоз мекунад, ки дастрасиро ба файлҳо, шабакаҳо, маълумоти эътимоднокӣ, қобилиятҳои система ва роҳҳои иҷроро назорат мекунад, новобаста аз он ки кадом модел кор дархост кардааст.

GitHub Copilot Containers Microsoft Execution ё MXC-ро истифода мебарад, китобхонаи кушодаи дастаи Windows, ки сиёсатро ба идоракунии системаи амалиётии ватанӣ тарҷума мекунад. Дар Windows, GitHub Copilot сатҳи BaseContainer-и пуштибонии ProcessContainer-ро истифода мебарад. Дар macOS, он камарбанди бехатариро истифода мебарад. Дар Linux, он bubblewrap-ро истифода мебарад. Ин пуштибони маҳаллӣ ба мошини алоҳидаи виртуалӣ ё тасвири контейнер ниёз надоранд, аммо мо нақша дорем, ки дар оянда онҳоро тавассути MXC дастрас кунем.

Вақте ки қумбокс фаъол карда мешавад, фармонҳои ҷабҳа ва ба таври нобаёнӣ серверҳои маҳаллии Модели Контекст Протокол ва серверҳои забон дар дохили сарҳади раванд кор мекунанд. Асбобҳои файлии дарунсохт дар дохили худи GitHub Copilot кор мекунанд: дастгоҳи агент дархостҳои онҳоро бар зидди сиёсати муассир месанҷад, аммо ин санҷишҳо ҷудокунии раванди кӯдакон аз ҷониби OS нестанд. Серверҳои дурдасти MCP низ берун аз қуттии раванди маҳаллӣ ҳастанд; вақте ки назорати қуттии MCP татбиқ мешавад, GitHub Copilot сиёсати пайвастшавии онҳоро дар ҷараёни тафтиш тафтиш мекунад.

Кушодани GitHub Copilot CLI ва иҷро кардани фармони slash `/sandbox` ба шумо имкон медиҳад, ки танзимоти худро дар вақти дилхоҳ танзим кунед.

Мисоли воқеии ҷаҳонӣ: Панели анбори ҳаррӯза

Барои нишон додани он, ки ин технологияҳо чӣ гуна якҷоя кор мекунанд, биёед як мисоли воқеиро истифода барем.

Кореро баррасӣ кунед, ки анборҳои маҳаллиро мехонад, санҷишҳои онҳоро дар нусхаҳои корӣ иҷро мекунад ва ҳар саҳар як гузориши HTML менависад. Анборҳои манбаъ бояд танҳо барои хондан боқӣ монанд ва равандҳои санҷиш набояд ба шабака дастрасӣ пайдо кунанд. Интихоби модел мустақил аст: ҳамон кор метавонад модели танзимшудаи маҳаллӣ ё абриро истифода барад.

Сангбоксро барои лоиҳаи худ фаъол созед

Муколамаи танзимотро бо пахш кардани тасвири фишанг дар барномаи GitHub Copilot ва интихоби лоиҳаи худ дар менюи чап кушоед. Барои ин мисол, мо репои ‘copilot-sdk’-ро истифода хоҳем бурд, ки лоиҳаи кушодаи GitHub Copilot Runtime/SDK-ро дарбар мегирад.

Даргиронидани гузариши ‘Seanss new Sandbox’ ба таври нобаёнӣ, вақте ки шумо дар ин лоиҳа кор мекунед, қумбоксро фаъол мекунад. Бо нобаёнӣ, кори кунунии он мустақиман хондан/навиштан аст, дар ҳоле ки қисми боқимондаи система барои агент асосан танҳо барои хондан ё дастнорас боқӣ мемонад.

Эҷоди автоматикунонии нав

Бахши “Автоматика”-ро дар новбари чап интихоб кунед ва тугмаи “Оғоз кардани автоматика” -ро клик кунед, то муколамаро кушоед, ки ба шумо имкон медиҳад автоматикунонии навро танзим кунед.

Пас аз муқаррар кардани унвони равшан ва вақти триггери ҳаррӯза соати 9:00, дастурҳои асосиро часбонед, то агентро тавассути эҷоди панели ҳаррӯза барои тригатсия роҳнамоӣ кунад.

Нусхабардорӣ
Create today’s public triage dashboard for github/copilot-sdk using only GitHub issue and PR metadata (no local repos, code, tests, or off-repo links), summarizing open/closed/merged items, recently updated work, stale items, labels, authors, assignees, and age; generate .\dashboard\index.html with inline CSS and SVG, append today’s results to .\history.json for up to seven dates, and finish with exactly three lines: report path, failures, and skipped or unavailable work.

Интихоби модели нави локалии MAI Code 1.1 ва репои ‘copilot-sdk’, ки мо регборкуниро дар он фаъол кардем, ба агент имкон медиҳад, ки бо посбонҳо кор кунад, ки ба коҳиш додани тағироти ғайричашмдошт дар мошини маҳаллии шумо кӯмак мекунад – ҳамзамон ба агенти шумо имкон медиҳад, ки скриптҳоро дар феҳристи кории ҷории худ барои триаж ва сохтани панели интерактивӣ эҷод кунад ва иҷро кунад.

Пас аз захиракунӣ, клик кардани “Ҳозир иҷро кунед” ба иҷрои автоматикунонии нав фавран барои тасдиқ оғоз мекунад.

Натиҷаро тафтиш кунед

Пас аз он ки агенти GitHub Copilot супоришро анҷом медиҳад, шумо метавонед артефактҳои сессияро кушоед, то нусхаи тавлидшудаи панели идоракуниро бубинед, ки ҳамарӯза нав карда мешавад. Ҳама чиз ба таври маҳаллӣ анҷом дода мешавад ва бо қуттиҳои қумӣ муҳофизати асосиро аз тағироти номатлуби система ҳангоми тавлид ва иҷро кардани скриптҳо барои иҷрои вазифа.

Бастан

Ин танҳо ибтидои сафари мост. Моделҳои маҳаллӣ ва абзорҳои қумӣ ҳоло ба кор медароянд, то ба таҳиягарон интихоби бештар дар бораи куҷо рафтани иктишофӣ ва назорати равшантар аз он, ки агентҳо чӣ кор карда метавонанд. Бо GitHub Copilot ба рушди маҳаллӣ оғоз кунед.

Ташаккур

PM: Райан Хетт, Такер Бернс, Лей Сю, Пирс Богган, Нху До, Грег Ву, Рамия Кришна Акула, Деметриус Нелон, Харалд Киршнер

Муҳандисӣ: Эндрю Феллер, Деврай Мехта, Маккиннон Бак, Роман Буланенко, Крис Дерн, Даниел Паган, Кит Махони, Висенте Ривера, Остин Ходжес, Анис Муҳаммад Хоҷа Моҳидин, Стюарт Шефер, Ша Вишванатан, Карлос Александро Беккер, Логан Рамос

Илм: Ани Баласубраманиам, Шенгю Фу, Аашна Гарг, Аакаш Гоэл, Картик Вижаян, Ҷеннифер Жу, Вивек Прадип

Маркетинг: Кэти Лю, Алянна Кастилло

Ин рӯйхат на ҳамаро фаро мегирад, ки дар ин лоиҳа кор кардаанд. Ташаккури махсус ба дастае, ки инро ҷамъ овардааст.