Ny modell i öppen källkod på gång – Schweiz släpper egen

Schweiz har skapat en egen språkmodell, Apertus, som nu släpps som öppen källkod.

All träningskod, dokumentation och träningsdata ska göras tillgängliga för allmänheten, rapporterar Engadget.

Bakom utvecklingen av modellen står Swiss Federal Technology Institute of Lausanne (EPFL), ETH Zürich och Swiss National Supercomputing Centre (CSCS). Träningen har gjorts på 15 biljoner tokens från över 1 000 språk – varav 40 procent är icke-engelska – och bygger uteslutande på offentligt tillgänglig data.
Modellen har också tränats speciellt för att kunna följa Schweiz lagar för dataskydd och upphovsrätt.

Målet med modellen ska vara att kunna erbjuda ett alternativ till dom kommersiella AI-modeller, en lösning som kan fungera som samhällsinfrastruktur i likhet med vägar eller elnät.

Apertus finns tillgänglig via Swisscom och Hugging Face i två versioner, med 8 respektive 70 miljarder parametrar.