Alternatívy k Jevu a lokálna prevádzka

Otvorené SDK nie je otvorený model

TypeSafe podľa OpenRouteru nezverejnil váhy Jevu ani odborný článok o ňom; všetci používatelia volajú ten istý hostovaný proprietárny model. S17

Laya je iný projekt

Modelová karta Laya od Convai Innovations uvádza otvorené váhy a licenciu Apache 2.0. Projekt ponúka rozhodovacie rozhranie; nie je oficiálnym Jevom od TypeSafe. Autorove porovnania s Jevom nepredstavujú náš kontrolovaný test rovnakých vstupov. S20

Ako by sme vyberali

Pri malom objeme môže mať jednoduché API nižšie celkové prevádzkové náklady než správa vlastného modelu. Pri citlivých dátach môže lokálna prevádzka dávať zmysel aj bez úspory. Bezplatné váhy neznamenajú nulovú cenu servera a údržby.

Pre jednoznačné pravidlá odporúčame kód. Pre pevný zoznam značiek a dostatok označených dát stojí za porovnanie aj tradičný klasifikátor. Ak úloha potrebuje súvislý text, použite generatívny model. Nevyhlasujeme jedného víťaza pre všetky situácie.

Čo musí férové porovnanie obsahovať

Rovnaký cieľ, rovnakú testovaciu vzorku, známy hardvér, načítanie modelu, sieťový čas, spotrebu a chyby. Lokálny čas výpočtu nemožno bez vysvetlenia porovnávať s celkovou odozvou vzdialeného API.