Nazwa modeluZbiory danych (trening)Referencja do zasobuObsługiwane językiWielkość danych [GB] (plain text)XLNetBooksCorpusangielskiWikipediaangielskiWikipedia + BooksCorpus 13GBGiga5angielski16GBClueWeb 2012-B19GBCommon Crawl110GBModele językowe budowane w oparciu o architekturę transformatorów.
