Změna hry v AI: nastupují decision modely

Pamatujete si na pana vrátného? Seděl u okýnka s hrnkem kafe, ani se nezvedl ze židle, a stejně za dvě vteřiny věděl, kam vás poslat. „Faktury? Druhé patro vlevo. Reklamace? Až za rohem. Pan ředitel? Ten tu dneska není, i kdyby byl.“

Neřešil vaše problémy. Jen rychle a spolehlivě rozhodl, kdo je vyřeší. A bez něj by se celá budova ucpala.

Umělá inteligence teď dostává přesně takového vrátného. Říká se mu decision model.

Od profesorů k vrátným

Doteď se o AI mluvilo hlavně jako o velkých jazykových modelech. Obří, chytré, drahé a pomalé. Takoví profesoři, kteří na každou otázku odpoví esejí. Jenže většina firemních otázek esej nepotřebuje. Potřebuje jednu odpověď: ano, nebo ne. Tohle, nebo tamto.

Decision model nic dlouhého nepíše. Přečte e-mail, dotaz nebo dokument a vrátí hotové rozhodnutí: kategorii, odpověď ano/ne, nebo jak moc si je jistý. To, co velkému modelu trvá vteřiny, zvládne v řádu milisekund. A za zlomek centu.

Letos na podzim se jich objevilo hned několik, od specializovaných komerčních modelů přes volně dostupné, které si firma může pustit u sebe, až po rozhraní od velkých hráčů. Trend je jasný: kromě profesorů teď chce každý i dobrého vrátného.

Proč je to změna hry

Největší kouzlo není v samotném modelu, ale v tom, kam ho postavíte. Vrátný sedí u vchodu.

Nejdřív levně roztřídit, pak teprve volat drahé. Decision model bleskově pozná, o jaký typ požadavku jde. Jednoduché věci rovnou pošle správným směrem. Drahého „profesora“ zavolá jen tehdy, když je to opravdu potřeba. Výsledek: platíte za drahou AI jen u zlomku případů a všechno je rychlejší.

Je to jako s rodinnou lékařkou. Taky vás s rýmou neposílá rovnou na neurochirurgii.

Kde se to hodí v praxi

Zákaznická podpora. Každý dotaz se okamžitě zařadí a odejde na správné oddělení. Žádné „přepojuji vás na kolegu“ třikrát za sebou.
Aplikace a weby. Volba nastavení, stylu nebo dalšího kroku proběhne bez čekání. Uživatel ani nepozná, že tam nějaká AI je.
AI agenti. Agent, který za vás něco vyřizuje, musí neustále drobně rozhodovat: odpovědět, počkat, nebo se zeptat? Decision model mu slouží jako rychlé reflexy.

Třetí vlna AI

Nejdřív přišly chatboty. Pak pomocníci na programování. Teď se mluví o třetí vlně: osobních agentech, kteří za vás proaktivně vyřídí e-maily, naplánují kalendář nebo vám zavolají, že je potřeba něco urgentně podepsat.

Takový agent dělá stovky drobných rozhodnutí denně, většinu z nich na pozadí. Kdyby každé z nich řešil drahý velký model, byl by pomalý a provozovat by ho šlo jen za cenu menšího auta. Bez rychlých a levných vrátných se třetí vlna neobejde.

Jen pozor: agent, který za vás telefonuje a podepisuje, je pořád černá skříňka, které dáváte klíče od bytu. Proč u firemních procesů doporučujeme opatrnost, píšeme v článku Černá skříňka.

Proč nás to těší

Decision modely jsou vlastně potvrzení toho, co děláme dlouho. Nedáváme AI volnou ruku. Pokládáme jí úzkou otázku s pevnou sadou odpovědí a výsledek ověříme pravidlem. Přesně takhle decision model funguje. Psali jsme o tom v článku Kontrolovatelné automatizace.

A naše pravidla zůstávají stejná. Většinu práce dělají obyčejné programové nástroje. AI nasadíme jen tam, kde by nestačily. A tam většinou vystačí menší model, který je levnější, bezpečnější a dá se mít plně pod kontrolou. Proti autonomním agentům, kteří spolu „vyjednávají“, vyjde řádově levněji. Hlavně ale neděláme nic kvůli hypu: i ten nejrychlejší vrátný se musí vyplatit.

Chcete vědět, jestli by se rychlý „vrátný“ hodil i k vám, třeba na třídění e-mailů nebo objednávek? S tím umíme poradit, ozvěte se nám.