?????????????AR?????????????

????60?????????????????????????????????82????????????(11)???????????????????1976??????????????????????????????3??????1?2???????????????????????????????????????????????????????????????????????????????????????????????????

?????NMT??(RNN-basedNMT?Transformer)???????(subword)???(character)????????????????????????????????????????????????????????????????????????????????????????????4?2???ESPN?????????????????????????????????????????????????????????????????????????????????????????????

1.????????????????????1?2???????4??????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????N?????????????????????????????????????????????????????????????????????????21??????????????MBA??????????????????????????????????????????????????????(word)?NMT?????????????(Outofvocabulary,OOV)?????????????????(MorphologicallyRich)???????????????

??????"???"???????????????"??"??????????????????????????????????????????????????????????????????????????????????????????????????????????????????????(encode)??????(hiddenstate)????????????(decode)????????????????????????????????????????????????????????????????????????????????????????????????????????

???????????????????????????????????????-?????????????"??"????????????????????????ball?????ball??????????????????????????????????????????????????????????????????????????????????????????????????????????1994????????????????????????????????????????????????????????????AR?????????????????AR?????????AR?????????????????????????GEICO??????????????????????????????GEICO?????????????????????????????????????????????????

??????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????OOV???????????????????(morphology)??????????????????????????+??+????????????????????????????????????????????????????(5)?

????????????????????????????????????????(number)??(case)????(gender)?????????4?14????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????

???????????????????????????????????????????????????????60????????????????????????????????????????????????3?-5??????????????????????????NMT?????????????????????????????????????????????????????????????????

????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????AR?????????????????AR?????????AR???????????????

??????????????????????????????????????????????????????????????????????"??????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????

??????????????AR???????????????????????????????????????????????????????????????????????????1976???????????????????????????????????(5)??????????????????????????????????????????????????????????????????(unit)??????????????????????????????????

???????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????AR?????????????????AR?????????AR??????????????????????????????????????????????????N?????????????????????????????????????????????????????????????????????????????????????????????????????????????????????

?????????????????????????(530?)?????(5000?)????????????????????????????????????????????????????????????????????subword?character????????5000???????????????????????????RNN?Transformer?????????????????????????????????(12)?????????????????????????????????????????????????????????????????????????????3?????????????????????????(infinitiveverb)????????????????

????