Í nóvember 2016, Microsoft kom þágu AI-máttur vél þýðing, aka Tauga Vél Þýðing (NMT), að teymið og notendur eins. Í síðustu viku, Microsoft kom NMT getu til að brún ský með því að fá NPU, AI-hollur örgjörva sambyggður Félagi 10, Þrjár í asíu er nýjasta flaggskip símann. Nýja flís gerir AI-máttur þýðingar í boði á tækinu jafnvel í fjarveru nettenging, gerir kerfið til að framleiða þýðingar sem gæði er á sambærileg við netinu kerfi.

Til að ná þessu bylting, vísindamenn og verkfræðingar frá Microsoft og þrjár í asíu starfað í að laga tauga þýðing að þetta nýja tölvunarfræði umhverfi.

Háþróaðasta NMT kerfi sem nú er í framleiðslu (ég., notuð á mælikvarða í skýi af fyrirtækjum og forrit) eru með tauganet arkitektúr mörg lög af því að sameina LSTM net, athygli reiknirit, og þýðingu (tengd) lag.

Fjör útskýrir hér, í einfalda hátt, hvernig þetta fjöl-lag tauganet aðgerðir. Nánari upplýsingar, skaltu vísa til "hvað er vél þýðing page"á Microsoft Þýðandi síðuna.

Í þetta ský NMT framkvæmd, þessir mið-LSTM lög neyta stór hluti af tölvunarfræði vald. Til að vera fær um að keyra fullur NMT á farsíma, það væri nauðsynlegt til að finna aðferð sem gæti draga úr þessum útreikninga kostar en varðveita, eins mikið og mögulegt er, þýðingu gæði.

Þetta er þar þrjár í asíu er Tauga Vinnslu Eining (NPU) kemur inn að leika. Microsoft vísindamenn og verkfræðinga tók sér af NPU, sem er hannaður sérstaklega að skara fram úr í lágt-leynd AI útreikninga, til að losa sig starfsemi sem hefði verið óviðunandi hægt að vinna á helstu CPU.

Framkvæmd

Framkvæmd nú í boði á Microsoft Þýðandi app fyrir þrjár í asíu Félagi 10 hámarkar þýðingu offloading mest reikna-ákafur verkefni til NPU.

Sérstaklega, þetta framkvæmd í stað þessir mið-LSTM net lögin með djúpt flesir-áfram tauganet. Djúpt fæða-áfram tauga net eru öflug en þurfa mjög mikið magn af útreikningur vegna mikils tengsl milli taugafruma.

Tauga net treysta fyrst og fremst á fylki multiplications, aðgerð sem er ekki flókið frá stærðfræði sjónarhóli en mjög dýr þegar gerðar á mælikvarða sem þarf til, svo djúpt tauganet. Í þrjár í asíu NPU skarar í framkvæma þessi fylki multiplications í gegnheill samhliða tísku. Það er líka mjög duglegur frá vald nýting sjónarmiði, mikilvægur gæði á rafhlöðu máttur tæki.

Í hvert lag um þetta fæða-áfram net, NPU reiknar bæði hrátt taugafruma framleiðsla og síðari ReLu örvun virka duglegur og með mjög lágt leynd. Með því að fá nægan hár-hraði minni á NPU, það virkar þetta útreikninga í samhliða án þess að þurfa að borga kostnað fyrir að flytja gögn (ég., hægja árangur) milli CPU og NPU.

Þegar endanleg lag um þetta djúpt fæða-áfram netið er reiknuð, kerfið hefur ríkt byggður á frummálinu setningu. Þetta fulltrúa er þá borða í gegnum vinstri til hægri LSTM "tengd" til að framleiða hver miða tungumál orð, með sama athygli reiknirit notað í netinu útgáfu af NMT.

Eins og Anthony Aue, Skólastjóri Hugbúnaður Þróun Verkfræðingur í Microsoft Þýðandi lið útskýrir: "að taka kerfi sem keyrir á öflugur ský netþjóna í gagna og keyra það óbreytt á farsíma er ekki möguleiki. Farsímum hafa takmarkanir í tölvunarfræði vald, minni, og máttur notkun að ský lausnir ekki. Að hafa aðgang að NPU, ásamt nokkrum öðrum byggingarlist klip, leyft okkur að vinna í kringum margir af þessum takmarkanir og að hanna kerfi sem getur keyrt fljótt og vel á-tækið án þess að þurfa að brjótast þýðing gæði."

Framkvæmd af þessum þýðing gerðir á nýjar NPU flís leyft Microsoft og þrjár í asíu að skila á-tæki tauga þýðing á gæði sambærilegt til að ský-kerfi byggt jafnvel þegar þú ert burt rist.