Когато AI започне да действа: как бизнесът запазва контрола

Изкуственият интелект в бизнеса постепенно преминава от системи, които отговарят на въпроси, към системи, които могат да предприемат действия. AI агентите вече могат да проверяват информация, да работят с бизнес данни, да актуализират записи, да комуникират и да изпълняват задачи, съставени от множество последователни стъпки.

Следващата промяна е още по-съществена: AI вече не е задължително да чака човек да му възложи конкретна задача. Той може да следи процес във времето, да помни какво очакваме да се случи и да реагира, когато нещо изисква внимание.

Това променя и най-важния въпрос пред бизнеса.

Вече не е достатъчно да попитаме „Какво може да направи AI?“. Трябва да знаем и при какви условия му позволяваме да го направи, как ограничаваме действията му и как разбираме какво е извършил.

Това е разликата между впечатляваща AI демонстрация и система, на която може да бъде поверена реална бизнес работа.

Повече автономност означава по-голяма нужда от контрол

При познатия чат модел човек задава въпрос, AI генерира отговор и човекът решава какво да направи с него.

При AI агентите моделът е различен. Агентът може да получи цел, да използва различни инструменти, да провери бизнес информация и да извърши действие.

Например да намери просрочените задължения на клиент, да провери кореспонденцията с него и да подготви последваща комуникация.

Това създава огромна възможност за автоматизация, но и нов тип отговорност.

Ако една система може не само да препоръчва, а да действа, организацията трябва да знае какви данни може да вижда, какво има право да променя, с какви инструменти разполага, кога може да действа самостоятелно и кога трябва да спре за човешко решение.

Gartner прогнозира, че до 2027 г. 40% от предприятията ще ограничат автономността или ще изведат от употреба автономни AI агенти заради пропуски в управлението, установени след реални инциденти. Според анализаторите проблем възниква именно когато организациите не правят достатъчно ясно разграничение между това какво агентът технически може да направи и до какво реално трябва да има достъп.

Това разграничение е фундаментално за използването на AI в корпоративна среда.

Бизнес контекстът е необходим, но не е достатъчен

За да бъде полезен в реалния бизнес, AI трябва да разбира средата, в която работи.

Затова ERP системата е естествена основа за корпоративния AI. В ERP.net се намират не просто отделни данни, а свързани клиенти, продукти, поръчки, складови операции, финансови документи, роли, правила и процеси.

Operator.net може да работи с този реален бизнес контекст. Агентите могат да използват ERP.net данни и бизнес обекти, а при конкретна организация могат да бъдат обвързани и с нейни специфични правила, инструкции, разрешения и допълнителни инструменти.

Но когато AI започне да действа, контекстът сам по себе си вече не е достатъчен.

AI трябва да разбира бизнеса, но и да работи в ясно определени граници.

Автономният AI не означава неконтролиран AI

Една от най-важните идеи при Operator.net е, че автономността не се управлява с един общ избор „AI има достъп“ или „AI няма достъп“.

Контролът може да бъде задаван на различни нива.

Агентът има определена роля и инструкции. Разполага само с активираните за него capabilities – инструментите, чрез които може да извършва конкретни операции. Агент, свързан с определена ERP.net организация, може допълнително да работи според нейните permission policies, entity instructions и други организационни настройки.

В същото време действията с фирмените данни остават свързани с реалните потребителски права. Самото използване на AI не дава автоматично по-високо ниво на достъп.

Така автономността може да бъде увеличавана постепенно.

Един агент може само да анализира информация. Друг може да предлага следваща стъпка. Трети може да получи право да актуализира конкретни данни. Чувствителни операции могат да останат зависими от човешко решение.

Това е много по-практичният модел за корпоративния AI: не избор между пълна забрана и пълна свобода, а точно определена автономност според задачата, достъпа и риска.

А какво се случва, когато AI продължава да работи и след разговора?

Тук започва следващата стъпка в развитието на технологията.

В Operator.net я наричаме Digital Entities – дигитални същности.

Обикновеният AI агент обикновено започва работа, когато човек или система го активира. Digital Entity агентът може да продължи да следи дадена ситуация във времето, да запазва важна информация и да реагира, когато нещо изисква внимание.

Operator.net описва дигиталните същности като агенти, които могат да помнят задачи, срокове и отворени въпроси през дни и седмици, да следят какво се е случило – включително какво не се е случило – и да предприемат действие, когато е необходимо.

Разликата става много ясна при един прост пример:

„Ако до четвъртък не сме получили този имейл, уведоми ме.“

За човек това е естествена задача. За автоматизацията тя е по-интересна, защото условието не е свързано с настъпването на събитие, а с неговата липса.

Автономният агент трябва да запази контекста, да помни какво очакваме, да следи ситуацията във времето и да реагира, ако условието стане актуално.

Същият принцип може да се използва при договорни ангажименти, неполучен отговор от клиент, приближаващ срок, проблемна доставка, запас под определено ниво или друг процес, който не трябва просто да бъде забравен между две работни сесии.

Това вече е значително повече автономност.

И точно затова въпросът за контрола става още по-важен.

Памет, внимание и текущо състояние

Дигиталните същности са проектирани да поддържат контекст във времето, а не просто да изпълнят една задача и да приключат.

Те могат да запазват дългосрочна памет, текущо състояние и списък с ангажименти, върху които продължават да работят.

В експерименталната архитектура на дигиталните същности ERP.BG разработва и концепция за симулирани вътрешни състояния като увереност и умора. Целта не е AI да „чувства“ в човешкия смисъл, а тези състояния да влияят практически върху поведението му.

Например поредица от неуспешни опити би могла постепенно да намалява увереността в избрания подход и да насочи същността към различна стратегия. „Умората“ може да помогне да се избегне безкрайно повторение на една и съща неуспешна операция.

Това все още е експериментална част от концепцията. Digital Entities са в beta фаза, а симулираните емоционални състояния засега не са активни за потребителските акаунти.

Но идеята зад тях поставя важен принцип:

автономността не означава AI да продължава на всяка цена.

Добре управляваната автономност включва механизми, които определят кога системата може да продължи сама, кога трябва да промени подхода си и кога е по-разумно да спре.

Ако AI действа самостоятелно, работата му трябва да остава проследима

Контролът има и още една страна – проследимостта.

Когато AI участва в реални бизнес операции, крайният резултат невинаги е достатъчен. Организацията трябва да има видимост върху това какво е било извършено и в какъв контекст.

Това е особено важно при автономната работа.

Operator.net изгражда AI автоматизациите и дигиталните същности така, че самостоятелната им работа да не бъде просто невидима активност във фонов режим. Тези агенти запазват контекст и история на работата си, докато платформата поддържа механизми за наблюдение и диагностика на действията и автоматизираните процеси.

Така бизнесът не трябва просто да „вярва“, че AI е свършил правилното нещо. Работата му трябва да може да бъде проверена.

Именно тази проследимост е една от важните граници между полезната автономия и истинската „черна кутия“.

Прозрачността е важна и за хората извън организацията

Контролът върху AI не се изчерпва с това какво вижда организацията отвътре.

Представете си AI агент, който управлява календар и самостоятелно уговаря срещи от името на конкретен човек.

Технически задачата може да бъде изпълнена напълно коректно. Но ако получателят смята, че разговаря директно с човек, а всъщност комуникира с AI агент, възниква друг проблем – този на доверието.

Това вече има и регулаторно измерение.

От 2 август 2026 г. се прилагат изискванията за прозрачност по член 50 на европейския AI Act. За определени интерактивни AI системи правилата изискват хората да бъдат информирани, когато взаимодействат директно с AI, освен ако това е очевидно. Предвидено е и машинно разпознаваемо маркиране при определени видове AI генерирано или манипулирано съдържание.

В Operator.net подходът е подобна прозрачност при автономната AI комуникация да бъде решавана на ниво платформа, вместо всеки потребител да трябва сам да изгражда необходимите механизми.

Но по-важният принцип е по-общ:

хората трябва да знаят кога срещу тях стои AI.

Не само защото нормативната среда постепенно го изисква, а защото доверието между компании, клиенти, партньори и служители зависи от тази яснота.

Истинският въпрос не е колко автономен може да стане AI

Следващите години вероятно ще донесат още по-автономни AI системи.

Те ще помнят повече, ще наблюдават процеси за по-дълъг период, ще координират различни дейности и все по-често сами ще преценяват кога дадена ситуация изисква внимание.

Но технологичната надпревара не трябва да бъде само за максимална автономност.

За бизнеса по-важен е балансът:

достатъчно контекст, за да взема AI смислени решения; достатъчно права, за да върши реална работа; и достатъчно ясни граници, за да остане тази работа контролируема и проследима.

Именно върху този модел се развиват ERP.net и Operator.net.

ERP.net осигурява бизнес контекста – данни, процеси и логика. Operator.net добавя AI агенти, които могат да работят с този контекст и да предприемат действия. Автономните агенти развиват концепцията още една стъпка напред – към AI, който може да помни, наблюдава и реагира във времето.

С увеличаването на възможностите обаче трябва да се развиват и механизмите за управление.

Защото целта не е бизнесът да даде максимална свобода на AI. Целта е да му даде точно толкова автономност, колкото конкретната задача изисква – при ясни правила, проследими действия и човешки контрол там, където той има значение.