Unsupervised Neural Machine Translation with Generative Language Models Only

[icoxfog417]

一言でいうと

事前学習済み言語モデルで教師なし機械翻訳を行う研究。promptを使いZero-shotで複数元文と翻訳文のペアを生成し、それらをpromptとしたFew-shotで(より正確な)元文と翻訳文を作成する。Few-shotで得られたペアはセパレーターを間に挟んで結合し、Fine-Tuningのデータセットとして使用する。

論文リンク

https://arxiv.org/abs/2110.05448

著者/所属機関

Jesse Michael Han, Igor Babuschkin, Harrison Edwards, Arvind Neelakantan, Tao Xu, Stanislas Polu, Alex Ray, Pranav Shyam, Aditya Ramesh, Alec Radford, Ilya Sutskever

• OpenAI

投稿日付(yyyy/MM/dd)

2021/10/11

概要

新規性・差分

手法

結果

コメント