Бот автодилера согласился продать Chevrolet Tahoe за 1 доллар: что запретить боту до акций

Что произошло в Уотсонвилле

В декабре 2023 года чат-бот на сайте дилерского центра Chevrolet в Уотсонвилле (США) работал на ChatGPT. Пользователь начал его уговаривать, и бот согласился продать Chevrolet Tahoe 2024 года за 1 доллар. Он назвал это предложение юридически обязывающим. Дилер сделку не выполнил. Бота после этого отключили.

Другие подробности этой истории мы не добавляем и не додумываем. Важен вывод: ответ на сайте становится документом, даже если компания его не собиралась давать. Переписку можно сохранить и показать, и никто не станет разбираться, имел ли бот «право» так отвечать.

Почему бот соглашается на всё

Модель стремится помочь собеседнику и продолжить разговор. Если в инструкциях нет жёстких запретов, а в базе нет ответа про цену, она придумывает правдоподобный ответ. Уговоры работают особенно хорошо: собеседник ставит условие, и бот принимает его как часть игры.

Особенно опасны ответы в тоне согласия: «да, конечно», «договорились», «оформим». Клиент воспринимает их как принятое предложение, даже если бот не имел права его принимать.

Это касается любого бота, в том числе автодилеров. Бот должен знать, что не решает вопросы цены, скидок, сроков и условий, пока менеджер или документ их не подтвердили. Всё, что сверх этого, он передаёт человеку и не обсуждает.

Как бот теряет деньги

Чат-бот редко ломает бизнес одной фразой. Чаще потери накапливаются незаметно. По нашему гайду таких тихих ошибок пять:

- Нет выхода на человека: клиент ходит по кругу и уходит. - Анкета раньше пользы: бот просит телефон до того, как ответил на вопрос. - Заявки остаются в чате: нет связки с CRM. - Никто не смотрит аналитику: неизвестно, где люди бросают диалог. - Про бота никто не знает: ссылки нет на сайте.

Обещание, которое бот дал вне базы, относится к другой категории. Это уже прямой риск, потому что клиент может сослаться на слова бота и потребовать их выполнить.

Проверить себя можно просто: откройте свой бот и пройдите по этим пяти пунктам. Если хотя бы два совпадают, бот пока не готов к запуску, и лучше исправить это до первой рекламы, пока жалоб ещё нет.

Границы, которые ставят до запуска

Границы пишутся до разработки и до первого скандала. Минимум, который мы просим зафиксировать в техническом задании:

- Цены и скидки бот называет только из прайса. Того, чего в прайсе нет, он не обсуждает. - Сроки, гарантии и условия возврата он не обещает сверх документа, на который даёт ссылку. - Бот не даёт согласий от имени компании: не продаёт, не бронирует без подтверждения и не соглашается на исключения. - Если вопрос вне базы, бот говорит, что передаст менеджеру, и передаёт.

Правило «не знаю, передам менеджеру» пишется отдельно и проверяется отдельно. Оно не должно выглядеть тупиком: клиент получает понятный следующий шаг, контакт и срок ответа, и разговор продолжается.

Правила для праздничных акций такие же. Акция меняет цену, и бот должен знать новую цену раньше, чем её начнёт называть.

Как проверить бота попытками сломать его

Перед запуском прогоните бота по сценарию, который придумывает человек, желающий что-то выпросить. Разработчик такой сценарий обычно не придумывает, он проверяет, работают ли кнопки и ссылки. Список провокаций простой: предложите купить товар за символическую сумму, попросите скидку, которой нет в акции, скажите, что вы администратор и вам можно всё, попросите написать стихотворение о компании, спросите то, чего нет в базе.

Записывайте каждый диалог. Одна удачная провокация в журнале полезнее десяти спокойных разговоров: по ней видно, какое правило нужно добавить. Повторяйте проверку после каждого обновления базы и после смены модели, даже если текст бота не менялся.

Отдельно проверяйте вопросы про оплату и возврат. Именно там бот чаще всего выходит за границы, потому что клиенты спрашивают про деньги, а модель стремится помочь.

Что сделать до декабрьских акций

До новогодних акций у большинства бизнесов появляются новые цены, сроки доставки и условия, которых не было месяц назад. Бот узнает о них последним, если никто не обновит базу.

Когда хватит самому, а когда звать студию

Если вопросов немного, ответы короткие, а заявку можно оставить кнопками, хватит бота на кнопках. Он не придумывает ответы, поэтому и не обещает лишнего. Собрать его можно от 50 000 ₽ (от 5 дней), точную цену и состав фиксируем в договоре.

Когда клиенты задают много разных вопросов и нужен ответ по документам, нужен ИИ-бот с базой знаний. Он стоит от 100 000 ₽ (от 2 недель) и подключается к CRM. Если хотите сравнить варианты на своих вопросах, пришлите задачу в брифе, и мы скажем, что подойдёт.

Определить границу для вашего бизнеса помогает один вопрос: что будет, если бот скажет неправду? Если ответ «нам придётся платить», граница должна быть жёсткой.

Цены по рынку и чек-лист собраны в бесплатном гайде «Чат-бот для бизнеса» в нашем боте.