A Google megalkotta az első döntési modelljét a Gemini számára

A dedikáltan döntéshozatalra kihegyezett modell javíthatja a Gemini hatékonyságát, megbízhatóságát és a teljesítményét is.
Szécsi Dániel (DemonDani)
Szécsi Dániel (DemonDani)
14:24
A Google megalkotta az első döntési modelljét a Gemini számára

A mesterséges intelligencia rendkívül komplex működéséhez nemcsak az élvonalbeli modelleket kell folyamatosan fejlesztenie a vállalatoknak, hanem sok más “célszerszámot” is nyújtanak, hogy az ökoszisztéma jobb legyen. Ennek jegyében alkotta meg a Google az első olyan modellt, ami kifejezetten a döntéshozatalra fókuszál.

A teljesen új Gemini Decisions API révén érhető el az ugyancsak új Gemini Decision 1 modell. Erre a cég úgy hivatkozik, mint egy új végpont a gyors, zárt halmazú döntéshozatalra.

A Decisions API kifejezetten olyan korlátozott választási lehetőségekhez tervezett alapelemeket biztosít, mint például az eszközválasztás, a szabályzat-ellenőrzés, a modellalapú útvonaltervezés és a kontextusértékelés. A Gemini Decision 1 modellel a hétköznapi munka hatékonysága jelentősen növelhető minden szempontból. A felhasználók időt és pénzt takaríthatnak meg ezáltal, és kiválthatják a korábban erre a célra alkalmazott félmegoldásokat. 

Az ügynökök útvonaltervezését, a következtetés alkotását, a rangsorolását és a multimodális megértését felölelő teljesítménytesztek során a Gemini Decision 1 abszolút vezető szerepbe csöppent, a rangsor élén áll a legmagasabb sikerarányokkal és a legkevesebb hibával.

Galéria megnyitása

A Gemini Decision 1 nem token által token generál választ: a megadott opciókat egyetlen előterjesztési lépésben pontozza, a szükséges szabályrendszer szerint. Mivel nincs tokenenkénti dekódolás,  a medián késleltetést a modellszámítás idejének 50-100 ms-án belül marad és a végpontok közötti késleltetés is legfeljebb 150-250 ms lehet. Mivel a kimeneti tokenekért nem számolnak fel díjat, a Decisions API-val használt Gemini Decision 1 modell a teszteken közel ötször olcsóbbnak bizonyult, mint a korábban ilyen célra használt Gemini 3.5 Flash-Lite az Interactions API-val.

Galéria megnyitása

Fontos, hogy a Gemini Decision 1 modell létrehozása során a kutatók a Gemini natív multimodális architektúrájára építettek. Ennek köszönhetően a döntési modell képes szöveget, képeket, hangfájlokat, videókat és PDF-fájlokat közvetlenül, egyetlen feldolgozási lépésben értelmezni. A különböző adatformákat egyetlen közös bemenetben kombinálhatja, így például biztosítónál egy kárigénybejelentő PDF dokumentumot és a kárról készült fényképeket egy munkafolyamatban tudja kezelni. A bemeneti anyag akár a 256 ezer tokent is elérheti, és legfeljebb 1000 független kérdést válaszolhat meg a modell. 

Az eldöntendő kérdések háromféle típusúak lehetnek, és egyetlen kérésben keveredhetnek. A “bináris” típus egy igen/nem állítás igazának valószínűségét becsüli. A “választás” 2 és 255 közötti lehetőségből választ nyertest, és minden jelöltre normalizált valószínűséget ad. A “pontozás” pedig nullától induló, rendezett skálán osztályoz, folytonos, súlyozott pontszámmal és szintenkénti valószínűségekkel. A bizonytalan esetek automatikusan egy tartalék rendszerhez vagy emberi ellenőrhöz irányíthatók.

Galéria megnyitása

A Google-nél már aktív használatban van a Decisions API egy alacsony késleltetésű vezérlőrétegként, és a funkciókat egyszerűen az opciók meghatározásával valósítják meg, a korábbi alternatív megoldások helyett. Az új modellben rejlő lehetőségek jobb megértéséhez a Google azt is elmondta, mire használja a Gemini Decision 1-et.

A Gemini Notebook a Decisions API-t valós idejű útválasztóként használja, hogy a beérkező lekérdezéseket azonnal az egyes kérésekhez legmegfelelőbb modellhez és a legjobb érvelési szintre irányítsa. A Decisions API a mindennapi lekérdezéseket akár 40%-kal alacsonyabb késleltetéssel szolgálja ki, és csak akkor nyúl az élvonalbeli modellekhez, ha a jobb eredményért erre valóban szükség van.

A Google Keresőben a biztonságot fokozza a Gemini Decision 1 modell, ezzel tudja a rendszer az eddiginél sokkal hatékonyabban szűrni az irányelvekkel szemben álló viselkedést.

Azt is elmondta a Google, hogy Stitch új, gyors vázlatkészítő funkciója már teljesen a Decisions API-t használja, hogy másodpercek alatt működőképes vázlatokat hozzon létre, és szinte azonnal alkalmazza módosításokat. A Google Labs kísérleti CC szolgáltatásában a Decisions API-val egy pillanat alatt képes lesz a legjobb emoji reakciókat kiemelni, így a felhasználó gyorsabban reagálhat. 

 A Gemini Decision 1 a megszokottól eltérő működése révén sokkal olcsóbb, de például a képek, videók feldolgozása során itt is megszaladhatnak a költségek. Ennek korlátozására a Google lehetőséget nyújt majd a feldolgozási felbontás szabályozására a vizuális részletesség szintjén, így a költségek ezen a fronton is kordában tarthatók. 1 millió bemeneti token feldolgozás ideális esetben mindössze 0,1 dollárból megoldható, és ahogy azt fentebb már említettük, kimeneti token-költség nincs. A Google AI Studio révén ingyenesen lehet kísérletezni az újdonsággal.

Hírlevél feliratkozás
A feliratkozással elfogadom a Felhasználási feltételeket és az Adatvédelmi nyilatkozatot.

0 hozzászólás

A komment írásához előbb jelentkezz be!

Még nem érkeztek hozzászólások ehhez a cikkhez!

Segíts másoknak, mondd el, mit gondolsz a cikkről.
Vissza az oldal tetejére