Երբ վարժեցված մոդելն ի վերջո անցնում է գործի, այդ պահը կոչվում է ԱԲ ինֆերենս: Պարզ ասած՝ մոդելի կիրառումն է՝ կանխատեսում անելու համար: Մոդելն արդեն սովորել է տվյալների հիման վրա: Այժմ, ստացած գիտելիքը կիրառում է նոր խնդիրների լուծելու համար: Օրինակ՝ ձեր հեռախոսն օգտագործում է ինֆերենսը դեմքը ճանաչելու համար: Ավելին, չաթբոտի յուրաքանչյուր պատասխան հիմնված է հենց դրա վրա: Այսպիսով, ինֆերենսն աննկատորեն ապահովում է AI-ի այն աշխատանքը, որին դուք առնչվում եք ամեն օր: Այս ուղեցույցը մանրամասն բացատրում է, թե ինչպես է այն աշխատում և ինչու է դա կարևոր:
Ի՞նչ է իրականում ԱԲ ինֆերենսը
ԱԲ ինֆերենսը մեքենայական ուսուցման կանխատեսումների փուլն է: Սկզբում ինժեներները վարժեցնում են մոդելը տվյալների մեծ բազայի հիման վրա: Այնուհետև նրանք «սառեցնում են» ստացած գիտելիքներն ու գործարկում այն: Դրանից հետո մոդելն ըստ պահանջի պատասխանում է նոր հարցերի: Այլ կերպ ասած՝ ինֆերենսը ստատիկ մոդելը վերածում է օգտակար գործիքի: Մեքենայական ուսուցումը հնարավոր է դարձնում այս ամբողջ շրջափուլը:
Պատկերացրեք մի ուսանողի, որն ամիսներ շարունակ սովորում է: Ի վերջո, գալիս է քննության օրը: Այնուհետև ուսանողն իր հիշողության օգնությամբ պատասխանում է նոր հարցերին: Ինֆերենսն աշխատում է գրեթե նույն սկզբունքով: Քանի որ այս փուլում մոդելն այլևս չի սովորում, այն պարզապես պատասխանում է հարցումներին: Արդյունքում՝ ինֆերենսն անհամեմատ ավելի արագ է, քան վարժեցման ընթացքը:
Արագությունը որոշում է փորձառությունը
Այստեղ արագությունն է ձևավորում ամբողջ փորձառությունը: Մոդելը միայն մեկ անգամ վարժեցնելու համար կարող են շաբաթներ պահանջվել: Այնուամենայնիվ, այն պետք է պատասխանի յուրաքանչյուր հարցմանը միլիվայրկյանների ընթացքում: Այս տարբերության պատճառով թիմերը ինֆերենսին մոտենում են որպես առանձին ուղղության: Նրա այն անդադար բարելավում են՝ հաշվի առնելով ծախսերն ու հապաղումը: Արդյունքում՝ միևնույն մոդելը կարող է թվալ դանդաղաշարժ կամ չափազանց արագագործ:
ԱԲ վարժեցումն ընդդեմ ինֆերենսի. հիմնական տարբերությունը
Մարդիկ հաճախ նույնացնում են վարժեցումն ու ինֆերենսը: Այնուամենայնիվ, այս երկու փուլերը բոլորովին տարբեր նպատակներ ունեն: Վարժեցումը սովորեցնում է մոդելին՝ օգտագործելով տվյալների հսկայական ծավալներ: Ինֆերենսը, ընդհակառակը, պարզապես օգտագործում է այն, ինչ մոդելն արդեն գիտի: Դրանց միջև եղած այս բաժանումը ձևավորում է յուրաքանչյուր ԱԲ համակարգ: Հետևաբար, այս տարբերությունը հասկանալն օգնում է պատկերացնել իրական ծախսերը:
Վարժեցումը մնում է դանդաղ, ծանր և թանկարժեք գործընթաց: Այն կարող է տևել օրեր՝ աշխատելով բազմաթիվ մեքենաների վրա: Ինֆերենսը, սակայն, օգտատերերի համար պետք է ակնթարթային թվա: Այդ պատճառով ինժեներներն այս փուլում ամեն կերպ ձգտում են օպտիմալացնել արագությունը: Ավելին, նեյրոնային ցանցերի մոդելների համեմատությունները հաճախ հանգում են հենց ինֆերենսի արագությանը: Կարճ ասած՝ վարժեցումը կերտում է ուղեղը, իսկ ինֆերենսը՝ գործի դնում այն: Այս տարբերությունը բացատրում է նաև ԱԲ բյուջեների մեծ մասը: Իրոք, մեծ ծանրաբեռնվածություն ունեցող ծառայությունները նորից ու նորից վճարում են հենց ինֆերենսի համար:
ԱԲ ինֆերենսի շարժիչի ներսում
«Հում» մոդելները չեն կարող ինքնուրույն աշխատել: ԱԲ ինֆերենսի շարժիչն է կատարում հիմնական ծանր աշխատանքը: Ծրագիրը բեռնում է մոդելը և տվյալներ փոխանցում դրան: Այնուհետև այն արագ և հուսալիորեն վերադարձնում է պատասխանները: Հայտնի շարժիչները մաղում են են ինֆորմացիան՝ հիշողությունը խնայելու համար: Արդյունքում՝ մեծ մոդելները կիրառելի են դառնում են ավելի փոքր սարքերի վրա:
Այս շարժիչները խելացի հնարքներ են օգտագործում գործընթացն արագացնելու համար: Օրինակ՝ դրանք հեռացնում են մոդելի չօգտագործվող մասերը: Դրանք նաև խմբավորում են բազմաթիվ հարցումներ միաժամանակ: Քանի որ արդյունավետությունից է կախված արժեքը, յուրաքանչյուր միլիվայրկյանը կարևոր է: Այսպիսով լավ շարժիչը կարող է զգալիորեն նվազեցնել ծախսերը: Ամպային հարթակները հաճախ այս աշխատանքը կատարում են ձեր փոխարեն:
Ինչու է հապաղման ցուցանիշն կարևոր
Հապաղումը կարող է ազդել այն բանի վրա, թե ինչպես են մարդիկ գնահատում ԱԲ-ն: Ոչ ոք չի սիրում երկար սպասել պատասխանի: Ուստի շարժիչները ձգտում են պատասխաններ տալ միլիվայրկյանների ընթացքում: Հնարավորության դեպքում դրանք նաև քեշավորում են հաճախ հանդիպող արդյունքները: Ավելին, դրանք զուգահեռաբար մշակում են մի քանի հարցումներ: Կարճ ասած՝ խելացի ինժեներիան ձեզնից թաքցնում է բարդ մաթեմատիկական հաշվարկները:
Ինչո՞ւ են կարևոր ԱԲ ինֆերենսի չիպերը
Ինֆերենսի աշխատանքի վրա ազդում է նաև սարթավորումը: ԱԲ ինֆերենսի չիպերն այս հաշվարկները կատարում են արդյունավետորեն: Ի տարբերություն վարժեցման չիպերի, դրանք արագ են և էներգախնայող: Այժմ հեռախոսները, մեքենաներն ու տեսախցիկները հագեցած են դրանցով: Հետևաբար, «խելացի» գործառույթները կարող են աշխատել առանց ամպային տեխնոլոգիաների: Այս փոփոխությունը նաև թույլ է տալիս ձեր տվյալները պահել ձեզ ավելի մոտ:
Մասնագիտացված չիպերը նույնպես կտրուկ նվազեցնում են էներգիայի սպառումը: Լավ չիպը գործարկում է նույն մոդելն անհամեմատ քիչ էներգիայով: Արդյունքում՝ մարտկոցներն ավելի երկար են դիմանում, իսկ ծախսերը նվազում են: Չիպեր արտադրող առաջատար ընկերությունները ամեն տարի մրցում են էլ ավելի լավերը նախագծելու համար: Միևնույն ժամանակ, պահանջարկը շարունակում է արագորեն աճել: Այսպիսով, սարքավորումների այս շուկան զարգանում է արագ տեմպերով:
Որտե՞ղ է Ձեզ հանդիպում ԱԲ ինֆերենսն առօրյայում
Դուք ապավինում եք ինֆերենսին անհամեմատ ավելի շատ, քան կարծում եք: Որոնման յուրաքանչյուր արդյունք գործողության մեջ գտնվող մոդելի է գալիս: Oրինակ, ձայնային օգնականըձեր խոսքը վերածում են հրամանների: Սթրիմինգային հավելվածները ընտրում են ֆիլմերն ու հաղորդումներն կանխատեսումների միջոցով: Քանի որ այս արդյունքներն ակնթարթային են թվում, կատարված աշխատանքը մնում է անտեսանելի: Այնուամենայնիվ, ինֆերենսն անդադար աշխատում է այս ամենի թիկունքում:
Բիզնեսները նույնպես մեծապես հիմնվում են դրա վրա: Օրինակ՝ բանկերը հայտնաբերում են զեղծարարությունները միլիվայրկյանների ընթացքում: Հիվանդանոցները օգտագործում են այն՝ սկանավորումներնավելի արագ ընթերցելու համար: IBM-ը նշում է, որ այսօր հենց ինֆերենսն է ապահովում ԱԲ իրական արժեքի մեծ մասը: Այսպիսով, իրական օգուտը զգացվում է միայն այն ժամանակ, երբ մոդելներն իրականում աշխատում են: Կարճ ասած՝ վարժեցումը հայտնվում է լրահոսի գլխագրերում, բայց ինֆերենսն է կատարում ամենօրյա աշխատանքը:
Նորարական սարքերըէլ ավելի առաջ են մղում այս միտումը: «Խելացի» տեսախցիկներն այժմ վերլուծում են տեսարանները հենց տեղում: Մեքենաները նույնպես «ընթերցում են» ճանապարհն առանց որևէ հապաղման: Քանի որ ցանցով տվյալների փոխանցումն ու հետադարձ կապը ժամանակ են պահանջում, տեղային ինֆերենսը հաղթում է: Արդյունքում՝ պատասխաններն ընկալվում են որպես ակնթարթային և գաղտնի: Այս փոփոխությունը վերափոխում են հավելվածներ ստեղծելու եղանակները։
Ինչո՞ւ ԱԲ ինֆերենսը կշարունակի զարգանալ
ԱԲ ինֆերենսը գտնվում է ժամանակակից տեխնոլոգիաների առանցքում: Մոդելների ծավալմանը զուգընթաց՝ ինֆերենսի պահանջարկը միայն աճում է: Ավելի արագագործ չիպերն ու առավել արդյունավետ շարժիչներն էլ ավելի առաջ կմղեն այն: Քանի որ օգտատերերն ակնթարթային պատասխաններ են ակնկալում, արագությունը շարունակում է մնալ գլխավոր գործոնը: Մատչելի ինֆերենսը դռներ է բացում փոքր թիմերի համար: Շուտով կարելի է ակնկալել էլ ավելի խելացի գործիքների հայտնվելը ամենատարբեր վայրերում: Կարճ ասած՝ վարժեցումը կարող է ստեղծել այդ «կախարդանքը», սակայն հենց ինֆերենսն է, որ ի վերջո այն հասցնում է մեզ: