Novemberben 2016, Mikroszkóp hozott a jótétemény-ból AI-energiát termelő gép fordítás, aka neuron gép fordítás (NMT),-hoz előhívó és vég használók hasonló. múlt héten Mikroszkóp hozott NMT képesség-hoz él-ból felhő az NPU, az an-dedikált processzorra a rendszerbe integrálódott 10. Máté, Huawei utolsó zászlóshajója telefon. A új forgács ideiglenes tákolmány AI-energiát termelő fordítás elérhető-on berendezés egyenletes hiányában Internet belépés, felhatalmazó a rendszer-hoz termel fordítás kinek tulajdonság van-ra névérték-val a online rendszer.

Ennek eléréséhez áttörést, a kutatók és mérnökök a Microsoft és a Huawei együttműködött átalakítása neurális fordítást erre az új számítástechnikai környezetben.

A legfejlettebb NMT rendszerek jelenleg a termelés (azaz használt skálán a felhő a vállalkozások és az alkalmazások) használ egy neurális hálózati architektúra ötvözi több réteg LSTM hálózatok, a figyelem algoritmusát, és a fordítási (dekóder) réteget.

Az animáció alábbi magyarázza, egyszerűsített módon, hogy ez a többrétegű neurális hálózat funkcióit. További részletekért kérjük, olvassa el a "Mi a gépi fordítás oldal"a Microsoft Translator webhelyen.

Ebben a felhő NMT végrehajtása, ezek a középső LSTM rétegek fogyasztanak nagy része a számítási teljesítmény. -Hoz képesnek lenni megtenni fuss teli NMT-ra egy mozgatható berendezés, volt szükséges-hoz állást találni szerkezet amit tudna csökken ezek számítási költségek rövid idő konzerváló, annyi amennyire lehet, a fordítás tulajdonság.

Ez az, ahol Huawei a neurális feldolgozó egység (NPU) kerül szóba.  Mikroszkóp állítják a kutatók és mérnök elvitt előny-ból NPU, melyik van különösen mérnök-hoz Kitűnik-on alacsony-lappangás AI számítások,-hoz tehermentesítés működések amit lett volna elfogadhatatlanul lassú-hoz folyamat-on fő CPU.

Végrehajtása

A végrehajtás már elérhető a Microsoft Translator app Huawei mate 10 optimalizálja a fordítást a kirakása a legtöbb számítási-igényes feladatokat a NPU.

Pontosabban, ez a megvalósítás helyettesíti ezeket a középső LSTM hálózati rétegeket egy mély feed-Forward neurális hálózat. Mély feed-Forward neurális hálózatok hatékony, de szükség nagyon nagy mennyiségű számítás miatt a magas kapcsolat között neuronok.

Neurális hálózatok támaszkodik elsősorban a mátrix multipliációk, egy olyan művelet, amely nem bonyolult a matematikai szempontból, de nagyon drága, ha végzett a skála szükséges egy ilyen mély neurális hálózat. A Huawei NPU kiemelkedik a teljesítő e mátrix konkrét szaporítási ciklust egy masszívan párhuzamos módon. Ez is egész hathatós-ból egy erő hasznosítás álláspont, egy fontos tulajdonság-ra elem energiát termelő berendezés.

A feed-Forward hálózat minden rétegében az NPU kiszámítja mind a nyers neuron kimenetet, mind az azt követő ReLu-aktiválási funkció és nagyon alacsony késleltetésű. Mellett emelőerő a bőséges magas-sebesség memória-on NPU, ez előad ezek számítások-ban párhuzamos nélkül birtoklás-hoz fizet a ár részére adatátvitel (i.e., lassú legyőz előadás) között a CPU és a NPU.

Amint a végső réteg e mély feed-Forward hálózat kiszámításra kerül, a rendszer gazdag képviselete a forrás nyelvi mondat. Ez a képviselet ezután táplálják keresztül balról jobbra LSTM "dekóder" termelni az egyes célnyelv szót, ugyanazzal a figyelmet algoritmus használt online változata az NMT.

Másként Himnusz Auea Microsoft fordító csapatának fő szoftverfejlesztő mérnök a következőt magyarázza: "vesz egy rendszert, hogy fut a nagy teljesítményű felhő szerverek egy adatközpont és futás változatlan a mobiltelefon nem életképes választás. A mobil eszközök korlátozták a számítási teljesítmény, a memória és az áramhasználat korlátait, amelyeket a felhőmegoldások nem. Férnek hozzá az NPU, valamint néhány más építészeti csíp, lehetővé tette számunkra, hogy a munka körül sok ilyen korlátok és a tervezési rendszer, amely képes futtatni gyorsan és hatékonyan on-Device, anélkül, hogy kompromisszumra fordítási minőséget."

A végrehajtás-ból ezek fordítás minták-on újító NPU hasábburgonya engedélyezett Mikroszkóp és Huawei-hoz szállít-ra-berendezés neurális fordítás-on egy tulajdonság összehasonlítható azzal-ból felhő-kiindulópontul szolgáló rendszereket egyenletes amikor vagy távoli a rács.