AI product-д model-оос илүү юу хэрэгтэй вэ

AI product хийхэд model сонгох нь чухал. Гэхдээ production AI product бол model call биш.

Миний харж байгаа practical definition ийм:

Model
+ Knowledge
+ Tools
+ Workflow
+ Permissions
+ Usage
+ Credits
+ Observability
+ Human handoff
+ Distribution

Эдгээрийн аль нэг нь байхгүй бол demo ажиллаж болох ч product дээр асуудал гарна.

Knowledge

Agent зөв хариулахын тулд domain context хэрэгтэй.

PDF, document, URL, pasted text, structured data, review state, source tracking, retrieval quality гээд knowledge layer нь prompt-оос тусдаа product problem.

Tools and workflow

AI гадны системтэй ажиллах үед tool attachment, validation, credentials, permissions, logs, error handling хэрэгтэй болно.

Workflow байхгүй бол agent нэг удаагийн хариулт өгөөд дуусна. Workflow байвал task үргэлжилнэ, шалгагдана, human handoff руу шилжинэ.

Usage and credits

AI usage үнэтэй. SaaS product дээр хэн хэдэн credit хэрэглэв, ямар model ашиглав, refund хийх үү, organisation pooled balance яаж ажиллах вэ гэдэг нь monetisation биш, core architecture.

Credits буруу байвал product economics эвдэрнэ.

Observability

Production AI дээр “яагаад ийм хариу өгсөн бэ?” гэдэг асуулт байнга гарна.

Conversation, tool call, model, provider, token usage, cost, agent, channel, user, organisation гээд trace хийх зүйл олон.

Human handoff

AI бүхнийг дангаараа шийдэхгүй. Operator reply, handoff, status, unread, search, filtering, audit trail зэрэг нь real product дээр хэрэгтэй.

Гол санаа

AI product хүчтэй болох нь ганц model choice-оос биш. Product system бүхэлдээ найдвартай болохоос хамаарна.

Тийм учраас би Intelligo, Ignite, Mazaal-аас сурсан зүйлээ нэг ижил чиглэлд харж байна: AI-г feature биш, operating system-тэй product гэж барих хэрэгтэй.