heise+ | Megabyte: Metas Transformer-Architektur für maschinelles Lernen erklärt from Heise's blog

Metas Transformer-Modell verzichtet auf einen Tokenizer und verarbeitet Daten byteweise. Damit soll es gleichermaßen Texte, Bilder und Audio beherrschen.

Source: https://www.heise.de/hintergrund/Megabyte-Metas-Transformer-Architektur-fuer-maschinelles-Lernen-erklaert-9290201.html?wt_mc=rss.red.ho.ho.rdf.beitrag_plus.beitrag_plus