AI ir automatizacija

AI funkcijos, kurių vieta produkte, ir AI demonstracijos

Atskirkite demonstracijos magiją nuo produkto atsakomybės: atsako laikas, gedimai ir klientų pasitikėjimas

2025 m. rugsėjo 11 d.

Manweba

Demonstracija gali sužavėti salę vienu sėkmingu klausimu. Produkto funkcija turi atlaikyti tuščius įvedimus, lėtus modelius, klaidingus atsakymus ir žmogų, kuris kaltins jūsų įvaizdį, o ne modelio tiekėją. Išleiskite tik antrąją rūšį.

Pradėkite nuo užduoties, o ne nuo modelio

Užrašykite naudotojo užduotį vienu sakiniu: „Parenk atsakymą pagal šią užklausą“, „Pasiūlyk tris žymas“, „Apibendrink šio kliento užsakymų istoriją aptarnavimo komandai“. Jei užduoties negalite įvardyti neištarę žodžio „dirbtinis intelektas“, ieškote demonstracijos.

Rinkitės funkcijas, kuriose klaidingą atsakymą lengva ištaisyti: pasiūlymus, juodraščius, reitingus. Venkite tylios automatikos negrįžtamiems veiksmams, kol jų nepatvirtina žmogus.

Leisti ar neleisti į produkciją

Leisti: aiški užduotis, ištaisomos klaidos ir iš anksto apgalvotas atsarginis kelias
Leisti: atsako laikas ir kaina telpa į naudotojo kelią (arba darbas keliauja į foninę eilę)
Leisti: šaltiniai ar žymos ten, kur žmonės rezultatą gali palaikyti faktu
Neleisti: efektinga demonstracija, veikianti tik su vienu sėkmingu klausimu
Neleisti: tylūs negrįžtami veiksmai, kuriuos lemia modelio atsakymas
Neleisti: sukimosi indikatorius, virstantis gūžtelėjimu, be galimybės pakartoti, pataisyti ar perduoti žmogui

Suprojektuokite gedimą prieš sėkmės kelią

Laiko limitai, atsisakymai, tuščia paieška ir nepatikimi atsakymai yra patirties dalis. Parodykite aiškų atsarginį kelią: pakartoti, pataisyti ranka arba perduoti žmogui. Niekada nepalikite sukimosi indikatoriaus, kuris virsta gūžtelėjimu.

Funkcijos rezultatas su aiškiai įvardytais gedimais

typescript

1type DraftResult =
2  | { status: 'ok'; draft: string; model: string }
3  | { status: 'empty_context' }
4  | { status: 'timeout' }
5  | { status: 'refused'; reason: string };
6
7export async function draftSupportReply(
8  ticketId: string,
9): Promise<DraftResult> {
10  const context = await loadTicketContext(ticketId);
11  if (!context.trim()) return { status: 'empty_context' };
12
13  try {
14    const draft = await generateDraft(context, { timeoutMs: 8_000 });
15    return { status: 'ok', draft: draft.text, model: draft.model };
16  } catch (error) {
17    if (isTimeout(error)) return { status: 'timeout' };
18    if (isRefusal(error)) {
19      return { status: 'refused', reason: error.message };
20    }
21    throw error;
22  }
23}

Loading code…

Atsako laikas ir kaina yra produkto apribojimai

Jei funkcijai reikia dvylikos sekundžių ir pažangiausio modelio, kad atrodytų protinga, jos vieta greičiausiai yra foninėje užduotyje, o ne naudotojo kelyje. Numatykite tokenų biudžetą užklausai. Talpykloje laikykite pasikartojančias užklausos dalis. Matuokite p95 kaip ir bet kurios kitos API.

Pasitikėjimui reikia įrodymų

Kai ieškote atsakymo dokumentuose, rodykite šaltinius. Pažymėkite, kad tekstas sugeneruotas. Saugokite užklausų ir atsakymų istoriją ginčams su klientais spręsti (su saugojimo terminais). Žmonės atleidžia netobulą juodraštį, bet neatleidžia tylios fikcijos, pateiktos kaip faktas.

Apibendrinimas

Demonstracijos parduoda galimybę. Produktai parduoda atsakomybę. Susiekite dirbtinio intelekto funkcijas su konkrečia užduotimi, pirmiausia suprojektuokite gedimus ir traktuokite atsako laiką, kainą bei atsakymo kilmę kaip sąsajos dalį, o ne kaip priedą.

Susiję straipsniai

AI ir automatizacija

Dirbtinis intelektas smulkiam verslui: naudingos automatizacijos ir brangios demonstracijos

Laiškų rūšiavimas, kainos skaičiavimas ir CRM sinchronizavimas – kada verta imtis modelio, o kada laimi taisyklės

Skaityti straipsnį

AI ir automatizacija

Kalbos modelių funkcijų kaštų valdymas produkcijoje

Biudžetai, talpyklos ir modelių pakopos, kad dirbtinis intelektas liktų produkto kaštu, o ne netikėta sąskaita

Skaityti straipsnį

Norite, kad jūsų produktas būtų toks pat apgalvotas?

Žiūrėti paslaugas Pradėti projektą

1type DraftResult =
2  | { status: 'ok'; draft: string; model: string }
3  | { status: 'empty_context' }
4  | { status: 'timeout' }
5  | { status: 'refused'; reason: string };
6
7export async function draftSupportReply(
8  ticketId: string,
9): Promise<DraftResult> {
10  const context = await loadTicketContext(ticketId);
11  if (!context.trim()) return { status: 'empty_context' };
12
13  try {
14    const draft = await generateDraft(context, { timeoutMs: 8_000 });
15    return { status: 'ok', draft: draft.text, model: draft.model };
16  } catch (error) {
17    if (isTimeout(error)) return { status: 'timeout' };
18    if (isRefusal(error)) {
19      return { status: 'refused', reason: error.message };
20    }
21    throw error;
22  }
23}