KI-Verarbeitung findet, um nicht immer auf den Server zurückgreifen zu müssen, vermehrt im Browser statt.
Google hat dazu eine neue JavaScript-Library implementiert: LiteRT.js erlaubt es, Machine-Learning-Modelle lokal laufen zu lassen, ist speziell auf Mobilgeräte zugeschnitten, funktioniert aber auch auf Desktops. Google verspricht damit "native KI-Performance" und merkt an, dass die Leistung der neuen Bibliothek besser sei als die der bestehenden Library TensorFlow.js. LiteRT.js basiert auf der bewährten Inferenzbiblithek LiteRT und wurde mithilfe von Webassembly für die Nutzung im Browser fitgemacht.
Zur Technik im Vergleich zu TensorFlow.js merkt Google
in seinem Developer-Blog an: "Während frühere Web-KI-Lösungen wie TensorFlow.js auf weniger leistungsfähige JavaScript-basierte Kernel setzten, stellen wir Webentwicklern nun unsere native, plattformübergreifende Runtime mit all ihren Optimierungen direkt zur Verfügung. LiteRT.js ermöglicht eine beeindruckende Leistung, indem es .tflite-Modelle direkt im Browser ausführt und dabei die modernste Hardwarebeschleunigung von LiteRT nutzt, darunter XNNPACK für die CPU, ML Drift für die GPU und das in Kürze erscheinende WebNN für NPUs."
(ubi)
