A H2O nevű AI startup egy új, nyílt forrású, kisméretű modellt mutatott be, amely kifejezetten mobilalkalmazásokra lett szabva. A Danube modell fejlesztéséhez a Llama 2 és a Mistral modellek technikai megoldásait alkalmazták, és kiemelkedő teljesítményt értek el a hasonló nagyságú modellek között (a Danube 1.8 milliárd paraméteres).
A közeljövőben várhatóan egyre több készülékben lesznek beépített, lokálisan futó LLM-ek. A Samsung már elindította ezt a trendet az S24 sorozatú okostelefonjaival, és a hírek szerint az Apple is hasonló fejlesztéseken dolgozik.
