Какво изисква AI Act от агента за продажби

Регламент (ЕС) 2024/1689 – Регламентът на ЕС за изкуствения интелект (AI Act) – предизвика доста тревога сред хора, чието задължение всъщност се свежда до едно уведомително изречение. Регламентът разделя системите по нива на риск и това, в кое ниво попадате, е много по-важно от дължината на текста.

Нивата накратко

Забранени практики – социално оценяване, някои видове биометрична категоризация, манипулация, която използва уязвимости. Изцяло забранени от февруари 2025 г. Агентът за продажби не попада тук, освен ако не сте създали нещо наистина тревожно.

Висок риск – списъкът в Приложение III: заетост и управление на работници, образование, оценка на кредитоспособност, основни публични услуги, правоприлагане, миграция, биометрия. Това ниво носи тежките задължения: системи за управление на риска, управление на данните, техническа документация, водене на регистри, човешки надзор, оценяване на съответствието.

Прозрачност – системи, които взаимодействат пряко с хора или генерират синтетично съдържание. Леки задължения, чиято цел е хората да знаят с какво си имат работа.

Минимален риск – всичко останало. Без специфични задължения.

Къде обикновено попада агентът за продажби

Агент, който отговаря на въпроси за продукти, препоръчва артикули, записва срещи и събира потенциални клиенти, е система от нивото на прозрачност. Той взаимодейства пряко с хора, затова се прилага член 50. Не фигурира в Приложение III, затова режимът за висок риск не се прилага.

Задължението наистина е скромно: хората трябва да бъдат информирани, че взаимодействат със система с изкуствен интелект, освен ако това вече не е очевидно за един разумно информиран човек при дадените обстоятелства. Става дума за един добре направен етикет.

Това не е срок в бъдещето. Задълженията за прозрачност се прилагат от 2 август 2026 г. Ако четете това в седмицата на публикуването му, те вече са в сила.

Два начина обикновеният агент да попадне в нивото на висок риск

По-добре проверете, вместо да предполагате.

Кредитоспособност. Приложение III обхваща AI системите, използвани за оценка на кредитоспособността на физически лица или за определяне на кредитния им рейтинг. Ако вашият агент премине от „ето нашите варианти за финансиране“ към каквото и да е оценяване или проверка на човек за кредит, нивото се променя и задълженията стават сериозни. Точно при финансирането, плащането на вноски и одобряването на лизинг това се случва незабелязано.

Подбор на персонал. Също Приложение III. Агент, който продава на клиенти, не е проблем. Същият агент, поставен на страницата ви за кариери, за да подбира кандидати, от регулаторна гледна точка вече е друга система.

Ако някое от двете се отнася до вас, спрете да четете блогове и говорете с юрист.

Какво означава това за гласов агент

Гласът прави уведомлението още по-важно, защото добрият синтетичен глас е точно случаят, в който човек съвсем разбираемо може да не се досети. Безопасното тълкуване е, че уведомлението трябва да дойде рано и да се чуе ясно – в самото начало на разговора с агента, а не скрито в страница с правила – и че човек, който пита дали говори с човек, трябва да получи пряк отговор.

Член 50 има и отделна част за маркиране на синтетично аудио и видео съдържание. Дали и как тя засяга асистент на живо, който ясно се представя, е точно въпросът, който трябва да зададете на юрист, вместо да го решавате въз основа на блога на доставчик.

Как го правим ние

Нашите агенти съобщават, че са AI – както в текст, така и с глас. Формулировката на уведомлението се настройва в раздел „Appearance“, защото трябва да звучи в стила на вашата марка и на вашия език, но самият механизъм не може да се изключи. Смятаме, че това е правилната настройка по подразбиране за задължение, което споделяме.

Освен това разговорите се записват, така че остава следа от казаното, а в разговорите на живо човек може да поеме управлението. Нито едното, нито другото не се изисква за система от нивото на прозрачност. И двете струват малко, и двете помагат, ако някой някога попита, а едното от тях е просто добра работна практика.

Честното обобщение

За повечето компании, които внедряват агент за продажби, съответствието с AI Act означава: кажете, че е AI, и го правете последователно, пазете записи и проверете дали не сте навлезли в кредитно оценяване. Регламентът е дълъг. Вашата част от него е кратка.